生活中，不時(shí)出現(xiàn)這樣一幕：孩子們雙眼緊盯手機(jī)，上下來回滑動(dòng)屏幕，只在長輩叮囑時(shí)心不在焉地抬頭回應(yīng)。

　　青少年深陷于各類App無法自拔，這類現(xiàn)象并不鮮見。從事教育工作多年的市人大代表張治捕捉到根本誘因——社交媒體的算法成了“幫兇”。以某視頻類社交媒體為例，為提升用戶黏性，該平臺(tái)不斷通過數(shù)據(jù)挖掘構(gòu)建更精準(zhǔn)的用戶畫像，通過持續(xù)“投喂”用戶可能感興趣的視頻內(nèi)容。心智尚未成熟的青少年很容易就此上癮。

　　眼下，上海正加快建設(shè)更具國際影響力的人工智能高地。強(qiáng)化制度供給，推動(dòng)完善人工智能倫理規(guī)范是關(guān)鍵一環(huán)。恰逢《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》施行滿一年，張治等代表建議，加強(qiáng)面向中小學(xué)生的人工智能算法倫理審查承諾，守住安全邊界，讓算法發(fā)揮更積極的社會(huì)價(jià)值。

　　近日，市經(jīng)濟(jì)信息化委對代表建議作出回應(yīng)，將在今年年底前計(jì)劃出臺(tái)人工智能示范應(yīng)用清單，并鼓勵(lì)支持企業(yè)、高校、基礎(chǔ)教育機(jī)構(gòu)等圍繞智能教育倫理審核開展交流合作，營造更清朗的網(wǎng)絡(luò)空間。

　　“信息繭房”困住井底之蛙

　　“投其所好”的算法推薦，不僅令大量青少年沉溺其中，更加速形成“信息繭房”。在不少專家看來，其背后直指信息窄化現(xiàn)象。因?yàn)閭€(gè)性定制的算法推薦，部分公共信息難以穿透個(gè)人的“繭房”。張治引用互聯(lián)網(wǎng)版的“井底之蛙”故事來生動(dòng)闡釋：“個(gè)性算法推薦下，看過互聯(lián)網(wǎng)的青蛙，其認(rèn)知中的世界依然只有井口這么大?！?/p>

　　有網(wǎng)友曾親身實(shí)驗(yàn)，針對同一則視頻內(nèi)容，媽媽和孩子看到的評論天差地別。孩子看到的評論大多在抱怨原生家庭，而媽媽看到的大多是家長在自訴不易。

　　“無法看到不同的消息、聽到不同的觀點(diǎn)，人們?nèi)菀紫萑肫姷匿鰷u，逐漸失去辨別真相的能力?！痹趶堉慰磥恚@對于身心尚未成熟的青少年來說會(huì)有不可估量的負(fù)面影響。

　　國家網(wǎng)信辦等四部門此前曾聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，明確提出算法知情權(quán)、算法選擇權(quán)。具體包括平臺(tái)要公示服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等，用戶可選擇關(guān)閉算法推薦服務(wù)。

　　不過，有用戶測評后反饋，關(guān)閉各平臺(tái)的算法推薦服務(wù)猶如剝洋蔥，少則5步，多則7步。且這項(xiàng)功能通常被藏在“隱私設(shè)置”菜單中，用戶稍不留意就容易錯(cuò)過。專家認(rèn)為，接下來要進(jìn)一步壓實(shí)平臺(tái)責(zé)任，把算法推薦的“開關(guān)”選擇權(quán)交給用戶。

　　為算法倫理守住安全邊界

　　頻繁“投喂”的定制內(nèi)容，不僅擠占了青少年的學(xué)習(xí)生活時(shí)間，也刷出了滿滿焦慮。

　　有研究認(rèn)為，持續(xù)瀏覽視頻等會(huì)加劇青少年的“上行社會(huì)比較”，導(dǎo)致青少年偏好與比自己強(qiáng)的人作比較，造成心理落差，帶來負(fù)面情緒。

　　“智能算法要匹配青少年的心理成長規(guī)律，互聯(lián)網(wǎng)企業(yè)在推出產(chǎn)品時(shí)首先要在算法上‘自證清白’?！痹趶堉慰磥?，企業(yè)加強(qiáng)內(nèi)部約束機(jī)制，針對算法實(shí)行合規(guī)管理并制定倫理準(zhǔn)則是當(dāng)務(wù)之急。

　　在此基礎(chǔ)上，政府還要建立算法備案機(jī)制。此前，國家網(wǎng)信辦已開設(shè)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)。截至今年1月，共有102家企業(yè)的223項(xiàng)算法通過了備案。“政府+企業(yè)”的合力監(jiān)管，為算法治理構(gòu)筑了基礎(chǔ)框架。

　　“光是備案算法和進(jìn)行安全評估還不夠，更需從算法設(shè)計(jì)和應(yīng)用的源頭入手，建立可信的標(biāo)準(zhǔn)規(guī)則，讓設(shè)計(jì)者、使用者厘清邊界。”華東政法大學(xué)助理研究員向秦說。

　　上海政法學(xué)院教授張繼紅也認(rèn)為，倫理審查應(yīng)貫穿于算法設(shè)計(jì)事前、事中?！叭说挠^念會(huì)伴隨設(shè)計(jì)進(jìn)入算法，若僅實(shí)施算法的事后審查，不僅效果不佳、整改成本高，且重大風(fēng)險(xiǎn)一旦發(fā)生也將很難逆轉(zhuǎn)?！?/p>

　　事實(shí)上，算法追責(zé)在實(shí)操層面并不容易。比如，因算法模型導(dǎo)致青少年暴力行為、抑郁情緒，就很難在現(xiàn)實(shí)中取證認(rèn)定。張繼紅更進(jìn)一步提出，針對高風(fēng)險(xiǎn)和中低風(fēng)險(xiǎn)的人工智能產(chǎn)品和服務(wù)，算法問責(zé)也應(yīng)實(shí)現(xiàn)差異化、精細(xì)化，避免問責(zé)過度、過寬從而限制產(chǎn)業(yè)的健康發(fā)展和創(chuàng)新。

　　專家學(xué)者一致認(rèn)為，算法審查不能單一強(qiáng)調(diào)監(jiān)管，過程中還應(yīng)充分體現(xiàn)公眾參與。比如，根據(jù)《條例》要求夯實(shí)人工智能倫理專家委員會(huì)機(jī)制，吸納教育、心理等各領(lǐng)域?qū)＜?，并對算法可能造成的社?huì)心理影響進(jìn)行長期動(dòng)態(tài)的多維度考量，更好地為算法“立規(guī)矩”。