螞蟻集團公布自研金融大模型：算力集群可達萬卡規(guī)模

9月8日在上海舉辦的2023年Inclusion·外灘大會上，螞蟻集團發(fā)布了金融大模型，這一款大模型，是基于螞蟻資源基礎(chǔ)的大模型，專門對金融業(yè)定制，算力集群可達到萬卡的規(guī)模，當前螞蟻金融大模型在螞蟻集團財富保險平臺上已經(jīng)上限進行全面的測試。

據(jù)螞蟻集團官方的介紹，這一次公布的自研金融大模型有萬卡異構(gòu)的集群，千卡規(guī)模訓(xùn)練在利用率方面為40%，在有效集群的訓(xùn)練時長中占據(jù)了90%以上，而基于人類反饋強化學(xué)習方面，在相同模型效果之下訓(xùn)練吞吐性能比業(yè)界給出的方案有3.59倍的提升，在推理性能方面比業(yè)界方案給出的提升了約兩倍。

通用的大模型在專業(yè)嚴謹?shù)念I(lǐng)域是沒有辦法直接拿去商用的，尤其是在金融服務(wù)板塊，對于錯誤容忍率極低，兼容的大模型要有專業(yè)的知識，并且邏輯上面要極為嚴謹，還可以真正實現(xiàn)產(chǎn)業(yè)上帶來價值，其中專業(yè)力、知識力、語言力和安全力這四大能力是進行模型運用的前提條件。

螞蟻金融大模型處于萬億量級別token通用語料基礎(chǔ)之上，將千億級的token 金融知識注入，從300多真實的產(chǎn)業(yè)場景當中將60萬高質(zhì)量的指令數(shù)據(jù)提取出來，成為專屬于金融產(chǎn)業(yè)的數(shù)據(jù)資料庫。

目前螞蟻金融的大模型通過了保險從業(yè)資格，證券從業(yè)資格，執(zhí)業(yè)醫(yī)師資格，執(zhí)業(yè)藥師資格等眾多專業(yè)試題的檢測，當天螞蟻集團也將基于金融大模型能力的兩款產(chǎn)品做出發(fā)布，特別是作為智能金融助理的“支小寶2.0”，服務(wù)金融專業(yè)，智能業(yè)務(wù)助手“支小助”，支小寶的2.0版本已處于內(nèi)測階段，當完成有關(guān)備案工作之后，就會考慮上線。