如何保證人工智能的安全可控?什么是可信人工智能? 12月3日，第二屆江蘇省人工智能大會(huì)開幕式在南京舉行，會(huì)議聚集了省內(nèi)外人工智能屆的最強(qiáng)“智慧大腦”，省內(nèi)外人工智能技術(shù)領(lǐng)域知名科學(xué)家瞄準(zhǔn)人工智能技術(shù)和產(chǎn)業(yè)發(fā)展，分享最新技術(shù)、產(chǎn)品、應(yīng)用和解決方案。

　　中國(guó)科學(xué)院院士何積豐教授帶來(lái)主旨報(bào)告《可信人工智能》，他介紹，“可信”是計(jì)算機(jī)領(lǐng)域的一個(gè)概念，“可信”主要強(qiáng)調(diào)的是計(jì)算機(jī)系統(tǒng)和其處理過(guò)程的可預(yù)測(cè)性、可驗(yàn)證性。近年來(lái)，“可信”的概念也被引入到人工智能領(lǐng)域，許多國(guó)家或組織在制定人工智能發(fā)展指南時(shí)，都強(qiáng)調(diào)了“可信”的重要性。

　　在何積豐看來(lái)，人工智能的安全發(fā)展面臨著“內(nèi)憂外患”，對(duì)內(nèi)要處理數(shù)據(jù)偏差、系統(tǒng)失誤等情況，對(duì)外則要應(yīng)對(duì)黑客攻擊、場(chǎng)景受限等問(wèn)題。他解釋說(shuō)，人工智能系統(tǒng)與傳統(tǒng)的軟件系統(tǒng)有很大區(qū)別，這使得其安全發(fā)展面臨一系列新挑戰(zhàn)。

　　例如，科學(xué)家訓(xùn)練人工智能算法時(shí)會(huì)設(shè)置獎(jiǎng)勵(lì)函數(shù)，以幫助算法學(xué)得更好。但在實(shí)踐中，人工智能也鬧出了不少笑話：一個(gè)機(jī)械手被要求把木塊挪到桌子的指定地點(diǎn)，于是機(jī)械手學(xué)會(huì)了挪桌子;讓程序?qū)W習(xí)檢測(cè)皮膚癌，程序卻發(fā)現(xiàn)惡性皮膚病變的照片里往往放著一把尺子，便以尺子來(lái)作為判斷標(biāo)準(zhǔn)。

　　“獎(jiǎng)勵(lì)函數(shù)選擇合理性在哪里?什么情況下可以擴(kuò)展人工智能的功能和使用范圍?怎么實(shí)現(xiàn)安全監(jiān)管?”何積豐說(shuō)，獎(jiǎng)勵(lì)函數(shù)的錯(cuò)誤解讀，就是人工智能“內(nèi)憂”問(wèn)題中的一個(gè)典型。“傳統(tǒng)軟件里面有目標(biāo)系統(tǒng)，系統(tǒng)的可能行為一般是能夠進(jìn)行描述的。換句話說(shuō)，用戶有明確的要求，系統(tǒng)應(yīng)該給我完成什么任務(wù)?但是機(jī)器學(xué)習(xí)的目標(biāo)系統(tǒng)行為與樣本選擇有關(guān)，沒(méi)辦法驗(yàn)證，也沒(méi)辦法進(jìn)行有效的分析。”

　　歐洲科學(xué)院外籍院士、南京大學(xué)人工智能學(xué)院院長(zhǎng)周志華教授作主題報(bào)告《機(jī)器學(xué)習(xí)展望》，他為人工智能提出了“學(xué)件”的概念。“學(xué)件”類同于計(jì)算機(jī)的硬件、軟件。人工智能最基本的支撐是機(jī)器學(xué)習(xí)，涉及算法復(fù)雜、數(shù)據(jù)隱私雜多。那怎么在技術(shù)分享的同時(shí)保護(hù)信息安全，這時(shí)候“學(xué)件”應(yīng)運(yùn)而生。“‘學(xué)件’只分享模型，不再分享數(shù)據(jù)，從根源上保護(hù)了信息的安全。提供的是模型和使用說(shuō)明，使用者結(jié)合需求進(jìn)行二次加工，就變成了自己的應(yīng)用。”

　　對(duì)于“學(xué)件”的必要性，周志華舉了“一把刀”的例子。“一把刀的制作廠商，不可能從頭去打鐵，而是把心思用到后面的環(huán)節(jié)。現(xiàn)在人工智能是搜集數(shù)據(jù)、管理數(shù)據(jù)以及算法訓(xùn)練模型全部都要從頭開始，‘學(xué)件’正是解決了前方的許多技術(shù)難點(diǎn)，人工智能將和其他產(chǎn)業(yè)一樣，只需要做自己最關(guān)注的事情。同時(shí)改進(jìn)后的模型，更能夠適應(yīng)環(huán)境的變化。”周志華耐心的解釋道。

　　對(duì)于“學(xué)件”的市場(chǎng)需求，周志華很有信心。“我們希望通過(guò)10—15年的研究，能夠?qū)?lsquo;學(xué)件’走向市場(chǎng)化。當(dāng)信息安全，會(huì)有更多人愿意分享，從而會(huì)有專門的廠商做‘學(xué)件’。如果一款‘學(xué)件’被更多的用戶用，用在更多的領(lǐng)域，這個(gè)‘學(xué)件’就會(huì)擁有更高的定價(jià)，‘學(xué)件’市場(chǎng)也會(huì)成為新的產(chǎn)業(yè)。”這一展望，已經(jīng)在慢慢變?yōu)楝F(xiàn)實(shí)。據(jù)了解，這一概念在工業(yè)界很受歡迎，已經(jīng)有許多公司“動(dòng)起來(lái)”，為人工智能制起“凈菜盤”。

　　會(huì)上，省人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟揭牌，并啟動(dòng)了“征圖杯”校園機(jī)器視覺(jué)算法大賽和首屆人工智能摜蛋算法大賽。 不僅有大咖的前沿分享，各種AI“黑科技”來(lái)襲，一批優(yōu)秀人工智能產(chǎn)品亮相大會(huì)。2018年江蘇省人工智能學(xué)會(huì)開展首屆《江蘇省優(yōu)秀人工智能產(chǎn)品》評(píng)選活動(dòng)，活動(dòng)評(píng)選出30項(xiàng)十佳優(yōu)秀人工智能產(chǎn)品并編印《江蘇省優(yōu)秀人工智能產(chǎn)品及應(yīng)用匯編》，受到業(yè)界廣泛關(guān)注。今年，省人工智能學(xué)會(huì)繼續(xù)組織開展第二屆江蘇省優(yōu)秀人工智能產(chǎn)品和示范項(xiàng)目評(píng)選活動(dòng)，入選的優(yōu)秀產(chǎn)品在第二屆江蘇省人工智能大會(huì)頒獎(jiǎng)晚會(huì)上公布并頒發(fā)獲獎(jiǎng)證書。此次評(píng)選活動(dòng)對(duì)貫徹落實(shí)《江蘇省新一代人工智能產(chǎn)業(yè)發(fā)展實(shí)施意見(jiàn)》，打造江蘇省優(yōu)秀人工智能產(chǎn)品“金名片”，推動(dòng)人工智能高質(zhì)量發(fā)展具有重要作用。 此外，本次大會(huì)還將成為省內(nèi)外人工智能園區(qū)、企業(yè)洞察先進(jìn)技術(shù)、展現(xiàn)自身實(shí)力、招攬優(yōu)秀人才、開放招商引智的契機(jī)，大會(huì)舉辦的3場(chǎng)同期活動(dòng)包括校企人才對(duì)接、優(yōu)秀AI產(chǎn)品展和頒獎(jiǎng)晚會(huì)。秉承“智聚江蘇脈動(dòng)全球”的宗旨，本屆大會(huì)將助力推動(dòng)江蘇加快成為國(guó)際一流、國(guó)內(nèi)領(lǐng)先的人工智能科技創(chuàng)新中心和產(chǎn)業(yè)創(chuàng)新高地。(張宣)