隨著各種創(chuàng)新技術(shù)的不斷涌現(xiàn)，消費(fèi)者對(duì)金融需求愈加多元化。同時(shí)，作為依賴數(shù)據(jù)決策的特殊行業(yè)，金融行業(yè)對(duì)新技術(shù)也有著諸多要求。作為一家創(chuàng)新驅(qū)動(dòng)型的金融科技企業(yè)，度小滿積極布局預(yù)訓(xùn)練模型等前沿技術(shù)領(lǐng)域，以創(chuàng)新技術(shù)助推金融行業(yè)發(fā)展。近期，CIKM公布錄用結(jié)果，度小滿三篇文章入選，展現(xiàn)了其在創(chuàng)新技術(shù)領(lǐng)域的雄厚實(shí)力。

度小滿深耕前沿技術(shù)，圍繞先進(jìn)技術(shù)撰寫文章被CIKM錄用

近日，第31屆ACM信息與知識(shí)管理國(guó)際會(huì)議(The 31th ACM International Conference on Information and Knowledge Management，CIKM 2022)公布錄用結(jié)果，度小滿AI Lab的三篇文章被錄用。這次被錄用的三篇論文，分別在預(yù)訓(xùn)練模型、用戶表示、序列建模等NLP任務(wù)相關(guān)算法上取得突破性進(jìn)展。

其中，用于專家發(fā)現(xiàn)任務(wù)的ExpertBert模型，彌合了預(yù)訓(xùn)練目標(biāo)與下游建模任務(wù)的差距，能夠精準(zhǔn)識(shí)別潛在的信貸需求;ENEF模型，基于非采樣策略進(jìn)行專家發(fā)現(xiàn)，增強(qiáng)了問題和用戶表示的魯棒性和穩(wěn)定性，成為CQA領(lǐng)域兼具性能與效率的最優(yōu)方法;DeepVT模型，全面有效地捕捉和融合視圖和時(shí)序模式，使小微客群的行為預(yù)測(cè)更精準(zhǔn)。

度小滿聚焦金融行業(yè)，三篇論文為行業(yè)發(fā)展提供新思路

以下是三篇論文內(nèi)容速覽：

ExpertBert：用戶粒度預(yù)訓(xùn)練框架，快速匹配高質(zhì)量回答

論文題目：ExpertBert: Pretraining Expert Finding

度小滿團(tuán)隊(duì)提出的專家發(fā)現(xiàn)預(yù)訓(xùn)練語言模型ExpertBert，在預(yù)訓(xùn)練階段有效地在統(tǒng)一了文本表示、用戶建模和下游任務(wù)，能夠使預(yù)訓(xùn)練目標(biāo)更接近下游任務(wù)，在CQA用戶表示方面做出了開創(chuàng)性貢獻(xiàn)。

據(jù)悉，ExpertBert是第一個(gè)在CQA領(lǐng)域探索專家發(fā)現(xiàn)預(yù)訓(xùn)練語言模型的方法，且在真實(shí)數(shù)據(jù)集上證明了模型的有效性和性能的優(yōu)越性。目前，該方法已在度小滿信貸獲客場(chǎng)景中開展使用，其頭部用信人數(shù)的召回相對(duì)提升了超10%。

ENEF：高性能、低計(jì)算復(fù)雜度的「非采樣」專家發(fā)現(xiàn)模型

論文題目：Efficient Non-sampling Expert Finding

ENEF可以從所有數(shù)據(jù)樣本中更新模型參數(shù)，增強(qiáng)問題和專家表示的穩(wěn)健性和準(zhǔn)確性。值得注意的是，與大多數(shù)復(fù)雜神經(jīng)網(wǎng)絡(luò)方法相比，ENEF使用基礎(chǔ)框架和少量參數(shù)，達(dá)到了更高的訓(xùn)練效率。經(jīng)對(duì)比實(shí)驗(yàn)驗(yàn)證，是當(dāng)前CQA非抽樣專家發(fā)現(xiàn)模型中，性能最好且訓(xùn)練效率更高的最優(yōu)方法。

DeepVT：視圖與時(shí)序模式交互，全面、精準(zhǔn)預(yù)測(cè)用戶畫像

論文題目：Deep View-Temporal Interaction Network for News Recommendation

DeepVT模型主要關(guān)注于用戶建模的視圖級(jí)信息，有效解決了用戶畫像建模中僅關(guān)單一的視圖交互或時(shí)序信息的問題。該模型構(gòu)建了2D半因果卷積神經(jīng)網(wǎng)絡(luò)(SC-CNN)和多算子注意力(MoA)兩個(gè)模塊。其中，前者可以同時(shí)高效地合成視圖級(jí)別的交互信息和項(xiàng)目級(jí)別的時(shí)間信息;而后者在自注意力函數(shù)中綜合不同的相似算子，可以避免注意力偏差，增強(qiáng)魯棒性。

度小滿不斷加強(qiáng)創(chuàng)新技術(shù)研究，在多個(gè)前沿技術(shù)領(lǐng)域持續(xù)取得新突破。本次三篇論文入圍CIKM，不僅展現(xiàn)了度小滿的技術(shù)實(shí)力，也為今后加快創(chuàng)新技術(shù)研究提供了有利基礎(chǔ)。未來，度小滿等企業(yè)將繼續(xù)瞄準(zhǔn)數(shù)字金融服務(wù)新藍(lán)海，以創(chuàng)新科技引領(lǐng)金融行業(yè)升級(jí)。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）