螞蟻集團公布自研金融大模型：算力集群可達萬卡規模

2023-09-09 19:07:52 編輯：耿璐思來源：

導讀 9月8日在上海舉辦的2023年Inclusion·外灘大會上，螞蟻集團發布了金融大模型，這一款大模型，是基于螞蟻資源基礎的大模型，專門對金融業定...

9月8日在上海舉辦的2023年Inclusion·外灘大會上，螞蟻集團發布了金融大模型，這一款大模型，是基于螞蟻資源基礎的大模型，專門對金融業定制，算力集群可達到萬卡的規模，當前螞蟻金融大模型在螞蟻集團財富保險平臺上已經上限進行全面的測試。

據螞蟻集團官方的介紹，這一次公布的自研金融大模型有萬卡異構的集群，千卡規模訓練在利用率方面為40%，在有效集群的訓練時長中占據了90%以上，而基于人類反饋強化學習方面，在相同模型效果之下訓練吞吐性能比業界給出的方案有3.59倍的提升，在推理性能方面比業界方案給出的提升了約兩倍。

通用的大模型在專業嚴謹的領域是沒有辦法直接拿去商用的，尤其是在金融服務板塊，對于錯誤容忍率極低，兼容的大模型要有專業的知識，并且邏輯上面要極為嚴謹，還可以真正實現產業上帶來價值，其中專業力、知識力、語言力和安全力這四大能力是進行模型運用的前提條件。

螞蟻金融大模型處于萬億量級別token通用語料基礎之上，將千億級的token 金融知識注入，從300多真實的產業場景當中將60萬高質量的指令數據提取出來，成為專屬于金融產業的數據資料庫。

目前螞蟻金融的大模型通過了保險從業資格，證券從業資格，執業醫師資格，執業藥師資格等眾多專業試題的檢測，當天螞蟻集團也將基于金融大模型能力的兩款產品做出發布，特別是作為智能金融助理的“支小寶2.0”，服務金融專業，智能業務助手“支小助”，支小寶的2.0版本已處于內測階段，當完成有關備案工作之后，就會考慮上線。