百度演示大模型微調(diào)過程 “文心一言”調(diào)用成本下降近九成

2023-05-11 13:38:46 編輯：周堅(jiān)睿來源：

導(dǎo)讀近期在技術(shù)交流會上百度帶來對文心千帆大模型平臺能力的現(xiàn)場演示。本次演示的主要目的是展現(xiàn)該模型的推理能力調(diào)用和模型微調(diào)兩部分。演示結(jié)

近期在技術(shù)交流會上百度帶來對“文心千帆大模型平臺”能力的現(xiàn)場演示。本次演示的主要目的是展現(xiàn)該模型的推理能力調(diào)用和模型微調(diào)兩部分。

演示結(jié)果為文心一言下屬的數(shù)據(jù)可視化應(yīng)用Sugar可以對結(jié)構(gòu)化的數(shù)據(jù)采集進(jìn)行理解并快速輸出圖餅。面對模型無法理解的畫折線圖需求，工作人員則通過文心千帆大模型平臺的微調(diào)功能導(dǎo)入100條標(biāo)注數(shù)據(jù)后對Prompt進(jìn)行現(xiàn)場改寫，實(shí)現(xiàn)折線圖功能。百度集團(tuán)副總裁侯震宇表示：即便從頭訓(xùn)練模型的成本依然高昂，但使用大模型以及基于大模型底座訓(xùn)練和微調(diào)模型的成本已經(jīng)顯著降低，現(xiàn)在調(diào)用文心一言的成本已經(jīng)降低到模型高發(fā)布時的10%。對于大模型，各個公司都在使出全力，已經(jīng)從最初的研發(fā)到達(dá)競爭最激烈的中斷時期，未來低成本和高性能也會成為各個廠商追求的目標(biāo)。