度小滿開源 千億參數(shù)金融大模型“軒轅”

來源：同花順財經(jīng)


(相關資料圖)

記者從度小滿獲悉，近日，度小滿正式開源國內(nèi)首個千億級中文金融大模型——“軒轅”。

據(jù)介紹，軒轅大模型是在1760億參數(shù)的Bloom大模型基礎上訓練而來，在金融名詞理解、金融市場評論、金融數(shù)據(jù)分析和金融新聞理解等任務上，效果相較于通用大模型大幅提升，表現(xiàn)出明顯的金融領域優(yōu)勢。在金融場景中的任務評測中，軒轅全面超越了市場上的主流開源大模型，贏得了150次回答中63.33%的勝率，充分凸顯了其在金融領域的顯著優(yōu)勢。在通用能力評測中，軒轅有10.2%的任務表現(xiàn)超越ChatGPT 3.5，61.22%的任務表現(xiàn)與之持平，涉及數(shù)學計算、場景寫作、邏輯推理、文本摘要等13個主要維度。

為了提升軒轅大模型對金融領域問題的理解能力，度小滿將自身業(yè)務中積累的金融領域的千億tokens的中文預訓練數(shù)據(jù)集用來訓練模型。該數(shù)據(jù)集涵蓋了金融研報、股票、基金、銀行、保險等各個方向的專業(yè)知識。經(jīng)過清洗和標注的高質(zhì)量數(shù)據(jù)集，不僅在通用性方面與ChatGPT達到持平成為可能，且顯著提升了模型在金融垂直領域的性能。

目前，千億級的軒轅模型已可以在Huggingface中申請下載，面向所有金融機構(gòu)開放。

“軒轅大模型是經(jīng)度小滿業(yè)務場景中積累的金融數(shù)據(jù)訓練而來的，對金融相關問題的理解比通用大模型更有優(yōu)勢。”度小滿CTO許冬亮說，我們把大模型能力開放給金融機構(gòu)，有利于推動大模型在金融行業(yè)的應用，降低大模型的應用門檻，提升金融行業(yè)智能化水平。

對于軒轅大模型開源后，對金融機構(gòu)的意義。許冬亮認為，生成式大模型在內(nèi)容生成與創(chuàng)作、信息摘要與總結(jié)、知識理解與問答、自然交互與對話等方面具備非常出色的能力，在金融場景中會有廣泛的應用。

標簽：

推薦

財富更多》

動態(tài)更多》

熱點