??記者 孟群舒

??“人工智能語音克隆令人難辨真假，名人視頻遭偽造而‘被帶貨’，統(tǒng)計顯示2023年基于人工智能的深度偽造欺詐暴增3000%……”市人大代表、上海合合信息科技股份有限公司董事、董事會秘書劉忱表示，生成式人工智能加速迭代，在帶來便利的同時，如果缺乏科技倫理的規(guī)范引導(dǎo)，容易滋生出諸多安全隱患，成為不法分子實施網(wǎng)絡(luò)犯罪的新工具。

??劉忱分析說，生成式人工智能技術(shù)短短兩年便實現(xiàn)從文生文、文生圖到深度偽造、文生視頻的跨越，引發(fā)電信詐騙技術(shù)升級，嚴重威脅公眾財產(chǎn)安全。根據(jù)專業(yè)安全技術(shù)公司對全球7個國家7000多名被訪者的調(diào)查，四分之一的成年受訪者經(jīng)歷過人工智能語音克隆騙局，70%的人難以分辨克隆聲音與真實人聲。

??劉忱建議，必須多管齊下，從構(gòu)建治理機制、加強技術(shù)研究、優(yōu)化倫理訓(xùn)練與數(shù)據(jù)集，到強化知識產(chǎn)權(quán)保護等多方面入手，方能引導(dǎo)科技向善，有效應(yīng)對生成式人工智能帶來的安全挑戰(zhàn)，推動行業(yè)良性發(fā)展。

??“要鼓勵企業(yè)研發(fā)人工智能防御與鑒偽技術(shù)，開展主動防御和主動監(jiān)測?！眲⒊捞岢?，應(yīng)鼓勵科技企業(yè)運用技術(shù)手段，強化對人工智能造假信息的甄別。比如，利用數(shù)字水印技術(shù)實現(xiàn)對合成內(nèi)容的追蹤溯源，文本、圖像、音頻、視頻等均可作為數(shù)字水印載體，驗證者通過算法對數(shù)字水印進行驗證，快速識別機器生成文本內(nèi)容，實現(xiàn)“主動防御”。又如，引入人工智能欺詐檢測與鑒偽技術(shù)，精準識別偽造內(nèi)容，實時監(jiān)測并應(yīng)對生成式人工智能欺詐行為，以技術(shù)防御和人工干預(yù)相結(jié)合的方式，實現(xiàn)“主動監(jiān)測”，筑牢安全防線。

??此外，劉忱建議明確生成式人工智能的知識產(chǎn)權(quán)歸屬，細化侵權(quán)責(zé)任認定，加強數(shù)據(jù)知識產(chǎn)權(quán)保護。“執(zhí)法過程中可引入技術(shù)手段，對人工智能生成的視頻、圖像進行版權(quán)標(biāo)識和追蹤，為原創(chuàng)作品提供確權(quán)服務(wù)，維護創(chuàng)作者合法權(quán)益，促進生成式人工智能技術(shù)在尊重知識產(chǎn)權(quán)的前提下健康發(fā)展?！?/p>