記者 俞陶然

  昨天，上海人工智能實(shí)驗(yàn)室與商湯科技聯(lián)合香港中文大學(xué)、復(fù)旦大學(xué)發(fā)布新一代大語(yǔ)言模型書(shū)生·浦語(yǔ)2.0（InternLM2）。這個(gè)大模型包含70億和200億兩種參數(shù)規(guī)格，以及基座、對(duì)話等版本，向全社會(huì)開(kāi)源并提供免費(fèi)商用授權(quán)。

  與第一代大模型相比，第二代書(shū)生·浦語(yǔ)在數(shù)理、代碼、對(duì)話、創(chuàng)作等各方面都有長(zhǎng)足進(jìn)步，綜合性能達(dá)到同量級(jí)開(kāi)源模型的領(lǐng)先水平。

  上海人工智能實(shí)驗(yàn)室聯(lián)合團(tuán)隊(duì)認(rèn)為，大模型各項(xiàng)性能提升的基礎(chǔ)在于語(yǔ)言建模能力的增強(qiáng)，對(duì)大模型的研究應(yīng)回歸語(yǔ)言建模本質(zhì)，通過(guò)更高質(zhì)量的語(yǔ)料和更高的信息密度，筑牢大模型能力基礎(chǔ)。為此，聯(lián)合團(tuán)隊(duì)開(kāi)發(fā)了第三代數(shù)據(jù)清洗過(guò)濾技術(shù)，發(fā)展了多維度數(shù)據(jù)價(jià)值評(píng)估、高質(zhì)量語(yǔ)料驅(qū)動(dòng)的數(shù)據(jù)富集、針對(duì)性的數(shù)據(jù)補(bǔ)齊等技術(shù)方法，大幅提升了模型訓(xùn)練效率。

  InternLM2能夠一次性處理約30萬(wàn)漢字的輸入內(nèi)容，從中準(zhǔn)確提取關(guān)鍵信息，實(shí)現(xiàn)對(duì)長(zhǎng)文本的“大海撈針”。為測(cè)試InternLM2在長(zhǎng)文本處理任務(wù)中的能力，研究人員將一份時(shí)長(zhǎng)3小時(shí)的會(huì)議錄音轉(zhuǎn)錄稿輸入模型，要求它從中提取出關(guān)鍵信息。測(cè)試結(jié)果顯示，雖然在未校對(duì)的文本中有較多錯(cuò)別字，但I(xiàn)nternLM2仍從中準(zhǔn)確提煉出關(guān)鍵信息，并總結(jié)了發(fā)言人的主要觀點(diǎn)。

  在55個(gè)主流評(píng)測(cè)集上，InternLM2與多個(gè)同量級(jí)模型接受了綜合評(píng)測(cè)，結(jié)果顯示：InternLM2的輕量級(jí)（70億參數(shù)）和中量級(jí)（200億參數(shù)）版本性能處于領(lǐng)先水平；200億參數(shù)版本盡管只是中等規(guī)模，但在整體表現(xiàn)上達(dá)到了與ChatGPT比肩的水平。

  書(shū)生·浦語(yǔ)2.0不僅在客觀性能指標(biāo)上提升顯著，在主觀體驗(yàn)上也有明顯改善，可以為用戶提供更好的對(duì)話和交互體驗(yàn)。研究測(cè)試表明，InternLM2-Chat能精準(zhǔn)地理解和遵循用戶意圖，具備較強(qiáng)的“共情”能力和豐富的結(jié)構(gòu)化創(chuàng)作能力。它還具有想象力，根據(jù)用戶輸入的電影《流浪地球1》和《流浪地球2》劇情梗概，編寫《流浪地球3》的劇本。

  “我們實(shí)驗(yàn)室在黃浦江畔，希望成為我國(guó)人工智能產(chǎn)業(yè)的源頭，為產(chǎn)業(yè)生態(tài)提供基座和支撐。”上海人工智能實(shí)驗(yàn)室領(lǐng)軍科學(xué)家林達(dá)華教授告訴記者。在他看來(lái)，國(guó)內(nèi)企業(yè)可以利用開(kāi)源的書(shū)生·浦語(yǔ)2.0，更低成本、更高效開(kāi)發(fā)各種大模型應(yīng)用產(chǎn)品。

  為推動(dòng)大模型應(yīng)用落地，書(shū)生·浦源大模型挑戰(zhàn)賽同日啟動(dòng)。首期賽事包含行業(yè)應(yīng)用和創(chuàng)新創(chuàng)意兩個(gè)賽道，面向全球進(jìn)行場(chǎng)景和賽隊(duì)征集。