百度演示大模型微調過程 “文心一言”調用成本下降近九成

2023-05-11 13:38:46 編輯：周堅睿來源：

導讀近期在技術交流會上百度帶來對文心千帆大模型平臺能力的現(xiàn)場演示。本次演示的主要目的是展現(xiàn)該模型的推理能力調用和模型微調兩部分。演示結

近期在技術交流會上百度帶來對“文心千帆大模型平臺”能力的現(xiàn)場演示。本次演示的主要目的是展現(xiàn)該模型的推理能力調用和模型微調兩部分。

演示結果為文心一言下屬的數(shù)據(jù)可視化應用Sugar可以對結構化的數(shù)據(jù)采集進行理解并快速輸出圖餅。面對模型無法理解的畫折線圖需求，工作人員則通過文心千帆大模型平臺的微調功能導入100條標注數(shù)據(jù)后對Prompt進行現(xiàn)場改寫，實現(xiàn)折線圖功能。百度集團副總裁侯震宇表示：即便從頭訓練模型的成本依然高昂，但使用大模型以及基于大模型底座訓練和微調模型的成本已經(jīng)顯著降低，現(xiàn)在調用文心一言的成本已經(jīng)降低到模型高發(fā)布時的10%。對于大模型，各個公司都在使出全力，已經(jīng)從最初的研發(fā)到達競爭最激烈的中斷時期，未來低成本和高性能也會成為各個廠商追求的目標。