4月26日，“合肥造”認知大模型——訊飛星火大模型V3.5（以下簡稱“訊飛星火”）春季“上新”。面向用戶高效準確知識獲取的痛點，科大訊飛發(fā)布業(yè)界首個長文本、長圖文、長語音大模型，不僅能夠把各種信息來源的海量文本、圖文資料、會議錄音等進行快速學習、歸納總結(jié)，還能夠在各種行業(yè)場景中給出專業(yè)、準確回答。

為什么科大訊飛要推出長文本、長圖文、長語音的大模型？科大訊飛董事長劉慶峰介紹，通過訊飛星火APP收集到的用戶數(shù)據(jù)，大部分用戶在知識獲取和學習的過程中，拿到的資料往往是報刊書籍等長文本，還有各種會議的PPT、筆記、錄音和視頻等。

能不能把這些文本、圖片、語音等都上傳到訊飛星火中，快速地獲取知識？對此，科大訊飛推出首個支持長文本、長圖文、長語音的大模型，來解決用戶真實場景中多源信息的獲取需求。

本次訊飛星火長文本功能全新升級后，具備長文檔信息抽取、長文檔知識問答、長文檔歸納總結(jié)、長文檔文本生成等能力，總體已經(jīng)達到GPT-4 Turbo 4月最新長文本版本的97%水平。值得一提的是，在銀行、保險、汽車、電力等多個垂直領(lǐng)域的知識問答任務(wù)上，訊飛星火長文本總體水平已經(jīng)超過GPT-4 Turbo。

面對上百萬甚至上千萬的文字，長文本大模型消耗的運算資源非常大。為了解決大模型應(yīng)用效率和準確率問題，劉慶峰介紹，基于訊飛星火V3.5對長文本的理解、學習、回答能力，科大訊飛進行了重要的模型剪枝和蒸餾，從而推出業(yè)界性能最優(yōu)的130億參數(shù)的大模型，在效果損失僅3%以內(nèi)的情況下，使得星火在文檔上傳解析處理、知識問答的首響時間以及文字生成方面都獲得了極大的效率提升。

測試顯示，在保障長文本效果的情況下，無論是10K、64K、128K token，還是更長的文本上，星火大模型的性能都做到了業(yè)界最優(yōu)。

此外，這次訊飛星火的升級，還首發(fā)了多情感超擬人合成，具備情緒表達能力，并推出一句話聲音復刻功能，讓科技更有溫度。

合肥通客戶端—合報全媒體記者 劉小容