??記者 孟群舒

??“人工智能語音克隆令人難辨真假，名人視頻遭偽造而‘被帶貨’，統(tǒng)計顯示2023年基于人工智能的深度偽造欺詐暴增3000%……”市人大代表、上海合合信息科技股份有限公司董事、董事會秘書劉忱表示，生成式人工智能加速迭代，在帶來便利的同時，如果缺乏科技倫理的規(guī)范引導，容易滋生出諸多安全隱患，成為不法分子實施網(wǎng)絡犯罪的新工具。

??劉忱分析說，生成式人工智能技術短短兩年便實現(xiàn)從文生文、文生圖到深度偽造、文生視頻的跨越，引發(fā)電信詐騙技術升級，嚴重威脅公眾財產(chǎn)安全。根據(jù)專業(yè)安全技術公司對全球7個國家7000多名被訪者的調查，四分之一的成年受訪者經(jīng)歷過人工智能語音克隆騙局，70%的人難以分辨克隆聲音與真實人聲。

??劉忱建議，必須多管齊下，從構建治理機制、加強技術研究、優(yōu)化倫理訓練與數(shù)據(jù)集，到強化知識產(chǎn)權保護等多方面入手，方能引導科技向善，有效應對生成式人工智能帶來的安全挑戰(zhàn)，推動行業(yè)良性發(fā)展。

??“要鼓勵企業(yè)研發(fā)人工智能防御與鑒偽技術，開展主動防御和主動監(jiān)測。”劉忱提出，應鼓勵科技企業(yè)運用技術手段，強化對人工智能造假信息的甄別。比如，利用數(shù)字水印技術實現(xiàn)對合成內容的追蹤溯源，文本、圖像、音頻、視頻等均可作為數(shù)字水印載體，驗證者通過算法對數(shù)字水印進行驗證，快速識別機器生成文本內容，實現(xiàn)“主動防御”。又如，引入人工智能欺詐檢測與鑒偽技術，精準識別偽造內容，實時監(jiān)測并應對生成式人工智能欺詐行為，以技術防御和人工干預相結合的方式，實現(xiàn)“主動監(jiān)測”，筑牢安全防線。

??此外，劉忱建議明確生成式人工智能的知識產(chǎn)權歸屬，細化侵權責任認定，加強數(shù)據(jù)知識產(chǎn)權保護?！皥?zhí)法過程中可引入技術手段，對人工智能生成的視頻、圖像進行版權標識和追蹤，為原創(chuàng)作品提供確權服務，維護創(chuàng)作者合法權益，促進生成式人工智能技術在尊重知識產(chǎn)權的前提下健康發(fā)展。”