百度演示大模型微調過程 “文心一言”調用成本下降近九成

2023-05-11 13:38:46 編輯：周堅睿來源：

導讀近期在技術交流會上百度帶來對文心千帆大模型平臺能力的現場演示。本次演示的主要目的是展現該模型的推理能力調用和模型微調兩部分。演示結

近期在技術交流會上百度帶來對“文心千帆大模型平臺”能力的現場演示。本次演示的主要目的是展現該模型的推理能力調用和模型微調兩部分。

演示結果為文心一言下屬的數據可視化應用Sugar可以對結構化的數據采集進行理解并快速輸出圖餅。面對模型無法理解的畫折線圖需求，工作人員則通過文心千帆大模型平臺的微調功能導入100條標注數據后對Prompt進行現場改寫，實現折線圖功能。百度集團副總裁侯震宇表示：即便從頭訓練模型的成本依然高昂，但使用大模型以及基于大模型底座訓練和微調模型的成本已經顯著降低，現在調用文心一言的成本已經降低到模型高發布時的10%。對于大模型，各個公司都在使出全力，已經從最初的研發到達競爭最激烈的中斷時期，未來低成本和高性能也會成為各個廠商追求的目標。