如何保證人工智能的安全可控?什么是可信人工智能? 12月3日，第二屆江蘇省人工智能大會開幕式在南京舉行，會議聚集了省內(nèi)外人工智能屆的最強“智慧大腦”，省內(nèi)外人工智能技術(shù)領(lǐng)域知名科學(xué)家瞄準(zhǔn)人工智能技術(shù)和產(chǎn)業(yè)發(fā)展，分享最新技術(shù)、產(chǎn)品、應(yīng)用和解決方案。
中國科學(xué)院院士何積豐教授帶來主旨報告《可信人工智能》，他介紹，“可信”是計算機領(lǐng)域的一個概念，“可信”主要強調(diào)的是計算機系統(tǒng)和其處理過程的可預(yù)測性、可驗證性。近年來，“可信”的概念也被引入到人工智能領(lǐng)域，許多國家或組織在制定人工智能發(fā)展指南時，都強調(diào)了“可信”的重要性。
在何積豐看來，人工智能的安全發(fā)展面臨著“內(nèi)憂外患”，對內(nèi)要處理數(shù)據(jù)偏差、系統(tǒng)失誤等情況，對外則要應(yīng)對黑客攻擊、場景受限等問題。他解釋說，人工智能系統(tǒng)與傳統(tǒng)的軟件系統(tǒng)有很大區(qū)別，這使得其安全發(fā)展面臨一系列新挑戰(zhàn)。
例如，科學(xué)家訓(xùn)練人工智能算法時會設(shè)置獎勵函數(shù)，以幫助算法學(xué)得更好。但在實踐中，人工智能也鬧出了不少笑話：一個機械手被要求把木塊挪到桌子的指定地點，于是機械手學(xué)會了挪桌子;讓程序?qū)W習(xí)檢測皮膚癌，程序卻發(fā)現(xiàn)惡性皮膚病變的照片里往往放著一把尺子，便以尺子來作為判斷標(biāo)準(zhǔn)。
“獎勵函數(shù)選擇合理性在哪里?什么情況下可以擴展人工智能的功能和使用范圍?怎么實現(xiàn)安全監(jiān)管?”何積豐說，獎勵函數(shù)的錯誤解讀，就是人工智能“內(nèi)憂”問題中的一個典型。“傳統(tǒng)軟件里面有目標(biāo)系統(tǒng)，系統(tǒng)的可能行為一般是能夠進行描述的。換句話說，用戶有明確的要求，系統(tǒng)應(yīng)該給我完成什么任務(wù)?但是機器學(xué)習(xí)的目標(biāo)系統(tǒng)行為與樣本選擇有關(guān)，沒辦法驗證，也沒辦法進行有效的分析。”
歐洲科學(xué)院外籍院士、南京大學(xué)人工智能學(xué)院院長周志華教授作主題報告《機器學(xué)習(xí)展望》，他為人工智能提出了“學(xué)件”的概念。“學(xué)件”類同于計算機的硬件、軟件。人工智能最基本的支撐是機器學(xué)習(xí)，涉及算法復(fù)雜、數(shù)據(jù)隱私雜多。那怎么在技術(shù)分享的同時保護信息安全，這時候“學(xué)件”應(yīng)運而生。“‘學(xué)件’只分享模型，不再分享數(shù)據(jù)，從根源上保護了信息的安全。提供的是模型和使用說明，使用者結(jié)合需求進行二次加工，就變成了自己的應(yīng)用。”
對于“學(xué)件”的必要性，周志華舉了“一把刀”的例子。“一把刀的制作廠商，不可能從頭去打鐵，而是把心思用到后面的環(huán)節(jié)?，F(xiàn)在人工智能是搜集數(shù)據(jù)、管理數(shù)據(jù)以及算法訓(xùn)練模型全部都要從頭開始，‘學(xué)件’正是解決了前方的許多技術(shù)難點，人工智能將和其他產(chǎn)業(yè)一樣，只需要做自己最關(guān)注的事情。同時改進后的模型，更能夠適應(yīng)環(huán)境的變化。”周志華耐心的解釋道。
對于“學(xué)件”的市場需求，周志華很有信心。“我們希望通過10—15年的研究，能夠?qū)?lsquo;學(xué)件’走向市場化。當(dāng)信息安全，會有更多人愿意分享，從而會有專門的廠商做‘學(xué)件’。如果一款‘學(xué)件’被更多的用戶用，用在更多的領(lǐng)域，這個‘學(xué)件’就會擁有更高的定價，‘學(xué)件’市場也會成為新的產(chǎn)業(yè)。”這一展望，已經(jīng)在慢慢變?yōu)楝F(xiàn)實。據(jù)了解，這一概念在工業(yè)界很受歡迎，已經(jīng)有許多公司“動起來”，為人工智能制起“凈菜盤”。
會上，省人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟揭牌，并啟動了“征圖杯”校園機器視覺算法大賽和首屆人工智能摜蛋算法大賽。 不僅有大咖的前沿分享，各種AI“黑科技”來襲，一批優(yōu)秀人工智能產(chǎn)品亮相大會。2018年江蘇省人工智能學(xué)會開展首屆《江蘇省優(yōu)秀人工智能產(chǎn)品》評選活動，活動評選出30項十佳優(yōu)秀人工智能產(chǎn)品并編印《江蘇省優(yōu)秀人工智能產(chǎn)品及應(yīng)用匯編》，受到業(yè)界廣泛關(guān)注。今年，省人工智能學(xué)會繼續(xù)組織開展第二屆江蘇省優(yōu)秀人工智能產(chǎn)品和示范項目評選活動，入選的優(yōu)秀產(chǎn)品在第二屆江蘇省人工智能大會頒獎晚會上公布并頒發(fā)獲獎證書。此次評選活動對貫徹落實《江蘇省新一代人工智能產(chǎn)業(yè)發(fā)展實施意見》，打造江蘇省優(yōu)秀人工智能產(chǎn)品“金名片”，推動人工智能高質(zhì)量發(fā)展具有重要作用。 此外，本次大會還將成為省內(nèi)外人工智能園區(qū)、企業(yè)洞察先進技術(shù)、展現(xiàn)自身實力、招攬優(yōu)秀人才、開放招商引智的契機，大會舉辦的3場同期活動包括校企人才對接、優(yōu)秀AI產(chǎn)品展和頒獎晚會。秉承“智聚江蘇脈動全球”的宗旨，本屆大會將助力推動江蘇加快成為國際一流、國內(nèi)領(lǐng)先的人工智能科技創(chuàng)新中心和產(chǎn)業(yè)創(chuàng)新高地。(張宣)
