養(yǎng)生類謠言為何像長(zhǎng)了眼睛，專挑老年人推送?剛搜索了某方面內(nèi)容，類似推送為何源源不斷向你“投喂”?似乎有一只看不見、摸不著的“手”，采集行為、歸納習(xí)慣、掌握愛好，這就是我們常說(shuō)的“算法推薦”。

　　去年11月，中央網(wǎng)信辦等多部門開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)，行動(dòng)開展以來(lái)，針對(duì)網(wǎng)民反映強(qiáng)烈的算法推薦加熱低俗信息、加劇“信息繭房”、加重觀點(diǎn)極化等問(wèn)題風(fēng)險(xiǎn)，中央網(wǎng)信辦督促指導(dǎo)重點(diǎn)平臺(tái)針對(duì)性優(yōu)化信息推薦算法功能、調(diào)整信息推薦算法規(guī)則。

　　目前，算法推薦最常見的問(wèn)題是什么?相關(guān)重點(diǎn)平臺(tái)圍繞哪些方面進(jìn)行了優(yōu)化調(diào)整?成效如何?

　　什么是“算法推薦技術(shù)”?

　　算法的專業(yè)名詞叫作“算法推薦技術(shù)”。它通過(guò)抓取用戶日常的使用數(shù)據(jù)，分析得出人們的行為、習(xí)慣和喜好，進(jìn)而精準(zhǔn)化地提供信息、娛樂(lè)、消費(fèi)等各類服務(wù)。

　　2022年3月1日，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行?！兑?guī)定》明確，應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過(guò)濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。

　　各類提供算法推薦服務(wù)的互聯(lián)網(wǎng)公司幾乎都在監(jiān)管范圍內(nèi)，比如說(shuō)各類短視頻平臺(tái)、電商平臺(tái)、社交平臺(tái)以及餐飲外賣平臺(tái)等。

　　算法推薦技術(shù)導(dǎo)致

　　“信息繭房”等突出問(wèn)題

　　個(gè)性化推薦技術(shù)出現(xiàn)的本意是幫人們應(yīng)對(duì)信息過(guò)載，過(guò)濾掉不需要的信息，提高信息獲取的效率，但是隨著技術(shù)的廣泛應(yīng)用，卻暴露出一些突出問(wèn)題。

　　武漢大學(xué)信息管理學(xué)院信息管理科學(xué)系教授：首要問(wèn)題就是“信息繭房”，內(nèi)容同質(zhì)化。個(gè)性化推薦算法以用戶既有偏好為導(dǎo)向，不斷強(qiáng)化內(nèi)容選擇，這會(huì)使用戶反復(fù)接觸相似觀點(diǎn)和信息，從而將自身困于“信息繭房”當(dāng)中。這種封閉的信息環(huán)境會(huì)限制用戶對(duì)復(fù)雜社會(huì)現(xiàn)實(shí)的全面認(rèn)知，影響其對(duì)社會(huì)多樣性的理解和包容。

　　第二個(gè)方面就是“劣幣驅(qū)逐良幣”，內(nèi)容質(zhì)量下降。推薦算法往往根據(jù)用戶的點(diǎn)擊率、停留時(shí)間這樣的一些行為數(shù)據(jù)進(jìn)行優(yōu)化，這會(huì)導(dǎo)致部分創(chuàng)作者趨向于生產(chǎn)迎合眼球、情緒煽動(dòng)甚至是帶有誤導(dǎo)性的內(nèi)容。這樣不僅導(dǎo)致優(yōu)質(zhì)信息被邊緣化，也會(huì)使得平臺(tái)內(nèi)容生態(tài)趨向膚淺、碎片化。

　　第三個(gè)方面就是“算法黑箱”，缺乏透明度。目前大多數(shù)個(gè)性化推薦系統(tǒng)的運(yùn)作機(jī)制對(duì)用戶來(lái)說(shuō)是不可見的，所以用戶有的時(shí)候并不知道自己為什么會(huì)接收到特定內(nèi)容。這種“黑箱”操作不僅削弱了用戶對(duì)平臺(tái)的信任，也使得算法有可能被用于操縱輿論、控制熱搜，從而影響信息的公正傳播。

　　第四個(gè)方面是誘導(dǎo)沉迷，導(dǎo)致倫理失范。有一些技術(shù)弱勢(shì)群體，像未成年人和老年人，他們由于缺乏辨識(shí)能力和自控能力相對(duì)較弱，更容易受到算法推薦的影響。比如說(shuō)未成年人可能在算法的引導(dǎo)下沉迷于短視頻或游戲，影響學(xué)習(xí)和身心健康。

　　第五個(gè)方面是隱私侵犯和數(shù)據(jù)濫用的問(wèn)題。為了實(shí)現(xiàn)精準(zhǔn)推薦，平臺(tái)通常會(huì)收集大量用戶敏感數(shù)據(jù)來(lái)構(gòu)建用戶畫像，包括位置、瀏覽記錄、消費(fèi)記錄、社交關(guān)系等數(shù)據(jù)。這些數(shù)據(jù)很容易被用于商業(yè)操控、價(jià)格歧視或者第三方非法交易，這樣會(huì)威脅用戶的數(shù)字安全與信息自主權(quán)。

　　重點(diǎn)平臺(tái)圍繞

　　哪些方面進(jìn)行優(yōu)化調(diào)整?

　　針對(duì)前面提到的系列問(wèn)題，中央網(wǎng)信辦督促指導(dǎo)重點(diǎn)平臺(tái)針對(duì)性優(yōu)化信息推薦算法功能、調(diào)整信息推薦算法規(guī)則。近日，相關(guān)重點(diǎn)平臺(tái)圍繞正能量?jī)?nèi)容加權(quán)推薦、用戶自主選擇權(quán)保障、推薦內(nèi)容多樣性優(yōu)化、提升算法透明度等核心環(huán)節(jié)，系統(tǒng)性優(yōu)化完善多項(xiàng)功能。平臺(tái)具體都進(jìn)行了哪些優(yōu)化調(diào)整?

　　在提升算法透明度方面：公開算法運(yùn)行規(guī)則，推進(jìn)透明展示工作，保障用戶知情權(quán)。

　　抖音通過(guò)開設(shè)“安全與信任中心”網(wǎng)站、舉辦開放日活動(dòng)等方式，向公眾闡釋推薦邏輯、干預(yù)機(jī)制及治理成效；

　　微博提升熱搜算法透明度，公示上榜規(guī)則、數(shù)據(jù)規(guī)則，上線熱搜熱度標(biāo)簽，標(biāo)示熱度背后的推動(dòng)因素；

　　微信視頻號(hào)通過(guò)通俗易懂的圖文、視頻方式向用戶公示，發(fā)布《一圖讀懂微信視頻號(hào)算法推薦》《算法破繭系列》。

　　在破除“信息繭房”方面：創(chuàng)新推出“繭房評(píng)估”“一鍵破繭”等功能，幫助用戶防范“信息繭房”風(fēng)險(xiǎn)。

　　抖音全面升級(jí)“使用管理助手”，創(chuàng)新內(nèi)容偏好評(píng)估功能，以可視化形式呈現(xiàn)用戶近期瀏覽內(nèi)容。

　　小紅書設(shè)置“內(nèi)容偏好評(píng)估與調(diào)節(jié)”“探索更多”功能，方便用戶一鍵操作，瀏覽更多元豐富的推薦內(nèi)容；

　　快手依托正能量算法增加對(duì)“正向”“有用”“溫暖”“信任”等內(nèi)容挖掘，在算法推薦中充分呈現(xiàn)。

　　在完善推薦內(nèi)容審核方面：不斷健全推薦內(nèi)容審核機(jī)制，加強(qiáng)正能量?jī)?nèi)容推送，防范算法推薦低俗不良信息。

　　微信視頻號(hào)完善“好友推薦”和“算法推薦”雙重機(jī)制，不斷迭代升級(jí)識(shí)別打擊模型，嚴(yán)禁低俗惡俗等典型不良信息進(jìn)入推薦池。

　　抖音創(chuàng)新推出熱點(diǎn)當(dāng)事人核實(shí)機(jī)制，防止擺拍造假、仿冒蹭熱、拼湊剪接等惡意傳播行為。

　　在用戶賦權(quán)方面：持續(xù)優(yōu)化興趣偏好管理、內(nèi)容負(fù)反饋等功能設(shè)置，便于用戶自主調(diào)節(jié)優(yōu)化算法推薦內(nèi)容。

　　快手為用戶提供便捷、精細(xì)的興趣偏好管理功能，用戶可根據(jù)自身喜好，滑動(dòng)對(duì)應(yīng)興趣標(biāo)簽，調(diào)節(jié)不同內(nèi)容推送強(qiáng)度。

　　微博設(shè)置不感興趣、不看此博主、內(nèi)容質(zhì)量差等多種負(fù)反饋選項(xiàng)供用戶選擇，精準(zhǔn)響應(yīng)用戶需求。

　　平臺(tái)應(yīng)完善內(nèi)容審核機(jī)制

　　跳出“唯流量論”

　　針對(duì)信息繭房、推薦低俗不良信息等突出問(wèn)題，在治理方面如何能取得更好的成效?專家認(rèn)為，關(guān)鍵在于提升算法的多樣性和開放性。

　　武漢大學(xué)信息管理學(xué)院信息管理科學(xué)系教授 姜婷婷：在治理低俗不良信息方面，需加強(qiáng)算法的價(jià)值引導(dǎo)。一些平臺(tái)為追求流量，利用算法技術(shù)片面滿足人們的獵奇心理，推送那些無(wú)原則迎合的內(nèi)容，導(dǎo)致內(nèi)容質(zhì)量下降，影響輿論生態(tài)。

　　對(duì)此，平臺(tái)應(yīng)該完善內(nèi)容審核機(jī)制，結(jié)合人工審核與AI識(shí)別，嚴(yán)格控制低俗、暴力、血腥等內(nèi)容的傳播。通過(guò)技術(shù)手段提升優(yōu)質(zhì)、權(quán)威、正能量?jī)?nèi)容的可見度，構(gòu)建多元、健康、有序的信息生態(tài)，實(shí)現(xiàn)社會(huì)效益與平臺(tái)發(fā)展的雙贏。

　　同時(shí)，監(jiān)管部門應(yīng)該加強(qiáng)事中、事后的過(guò)程監(jiān)管，依法嚴(yán)厲打擊相關(guān)違法違規(guī)行為，增強(qiáng)網(wǎng)絡(luò)執(zhí)法威懾力。

　　此外，平臺(tái)企業(yè)作為算法推薦的實(shí)施者，必須承擔(dān)起主體責(zé)任。從商業(yè)邏輯中跳脫“唯流量論”的短視思維，在內(nèi)容審核、算法優(yōu)化、用戶保護(hù)等方面主動(dòng)作為。

　　不被技術(shù)“塑形”

　　主動(dòng)跳出“信息舒適圈”

　　打破信息繭房，平臺(tái)又該如何為用戶提供便捷、精細(xì)的興趣偏好管理功能?專家提醒，在面對(duì)海量信息推薦流時(shí)，用戶也要增強(qiáng)主體意識(shí)，主動(dòng)跳出“信息舒適圈”。

　　武漢大學(xué)信息管理學(xué)院信息管理科學(xué)系教授 姜婷婷：我們發(fā)現(xiàn)要促進(jìn)用戶主動(dòng)“破繭”，還需要采取一些更精細(xì)化的用戶賦權(quán)方式。我們目前重點(diǎn)關(guān)注的是推薦算法的“示能性”，具體到推薦系統(tǒng)中，就是讓用戶看得見、理解得了、用得上的界面設(shè)計(jì)元素，幫助他們參與到推薦邏輯中。比如，清晰標(biāo)注內(nèi)容的主題、開放興趣標(biāo)簽的編輯入口，或是提供可視化的偏好設(shè)置等。

　　最后，這些精細(xì)化興趣偏好管理功能的有效實(shí)施離不開用戶自身的算法素養(yǎng)。我們需要進(jìn)一步加強(qiáng)對(duì)公民的智能素養(yǎng)教育，讓大家意識(shí)到自身的信息消費(fèi)正在被技術(shù)“塑形”，在面對(duì)海量的信息推薦流時(shí)，大家應(yīng)該增強(qiáng)主體意識(shí)，主動(dòng)跳出“信息舒適圈”，在多元視角中去辨析是非。