算法在便利數(shù)字時(shí)代生活的同時(shí)，也是備受詬病的“黑箱”。8月27日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見稿)》(以下簡稱《意見稿》)并公開征求意見。

《意見稿》明確提出，不得實(shí)施流量造假、控制熱搜等影響網(wǎng)絡(luò)輿論;外賣及網(wǎng)約車平臺(tái)對勞動(dòng)者、消費(fèi)者的雙重算法需規(guī)范，保證勞動(dòng)者算法的公正透明，抵制算法對消費(fèi)者“大數(shù)據(jù)殺熟”等。相關(guān)規(guī)定給算法推薦服務(wù)戴上“緊箍咒”。

牽住“主體責(zé)任”這一牛鼻子

“這個(gè)規(guī)定不是突然出臺(tái)的，它是針對當(dāng)下公眾反映強(qiáng)烈、問題突出的算法治理問題做出的先導(dǎo)性回應(yīng)，體現(xiàn)了對算法領(lǐng)域焦點(diǎn)問題進(jìn)行系統(tǒng)全面治理的思路。”北京師范大學(xué)網(wǎng)絡(luò)法治國際中心執(zhí)行主任、中國互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括對科技日報(bào)記者表示，《意見稿》有兩個(gè)突出特點(diǎn)：更強(qiáng)調(diào)生態(tài)治理、更突出主體責(zé)任，其規(guī)范核心主體是“算法推薦服務(wù)提供者”，以之為“牛鼻子”推出和落實(shí)相關(guān)行為規(guī)則。

據(jù)中央財(cái)經(jīng)大學(xué)中國互聯(lián)網(wǎng)經(jīng)濟(jì)研究院副院長歐陽日輝介紹，“大數(shù)據(jù)殺熟”就是企業(yè)通過平臺(tái)用戶的數(shù)字畫像，利用用戶的信息不對稱以及對價(jià)格波動(dòng)的不敏感這一特點(diǎn)對不同的消費(fèi)者進(jìn)行差別化定價(jià)，暴露了相關(guān)企業(yè)對思想道德建設(shè)的忽視。

吳沈括同樣表示，一些互聯(lián)網(wǎng)企業(yè)的算法應(yīng)用造成的偏見、歧視與差別待遇，實(shí)際上對國家的互聯(lián)網(wǎng)內(nèi)容治理生態(tài)和網(wǎng)絡(luò)安全等方面造成很大的消極影響。

“相關(guān)企業(yè)要增強(qiáng)社會(huì)責(zé)任感與思想道德建設(shè)，完善自我約束機(jī)制。”歐陽日輝說，“要強(qiáng)化數(shù)據(jù)采集的合規(guī)化，降低算法歧視發(fā)生的概率，也要賦予網(wǎng)絡(luò)數(shù)據(jù)主體被遺忘權(quán)，完善數(shù)據(jù)退出機(jī)制。另外，對敏感數(shù)據(jù)進(jìn)行數(shù)據(jù)脫敏也是從數(shù)據(jù)角度減少算法歧視的一個(gè)手段。”

對算法進(jìn)行全生命周期治理

近日表決通過的個(gè)人信息保護(hù)法中要求，通過自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營銷，應(yīng)當(dāng)同時(shí)提供不針對其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式。

這也體現(xiàn)在《意見稿》的要求中：算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。

在吳沈括看來，這體現(xiàn)了《意見稿》與現(xiàn)行法律法規(guī)的配合，如網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等，現(xiàn)實(shí)指向意義很強(qiáng)，“新規(guī)是對上位法的落實(shí)，它有助于拉齊整個(gè)行業(yè)的治理水平，整個(gè)算法應(yīng)用生態(tài)的治理水平取決于行業(yè)內(nèi)的短板企業(yè)，只有用法規(guī)向上拉齊，才能避免行業(yè)的劣幣驅(qū)逐良幣。”

“目前我們已經(jīng)進(jìn)入算法社會(huì)，這是無可阻擋的潮流，關(guān)鍵就是要怎么治理和規(guī)范好。”吳沈括說，著眼于與國際良好實(shí)踐的比較，治理的核心焦點(diǎn)是透明度，包括機(jī)制透明度、規(guī)則透明度等，最大限度實(shí)現(xiàn)多層次的透明。

他建議，相關(guān)企業(yè)需要建立健全用于識(shí)別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸，防止信息擴(kuò)散，保存有關(guān)記錄，并向相關(guān)部門報(bào)告。同時(shí)也要保持和監(jiān)管機(jī)構(gòu)常態(tài)、良性的互動(dòng)，保持溝通，實(shí)現(xiàn)風(fēng)險(xiǎn)管理需求。

此外，《意見稿》對包括用戶注冊、信息發(fā)布審核、算法機(jī)制機(jī)理審核、安全評估監(jiān)測、安全事件應(yīng)急處置、數(shù)據(jù)安全保護(hù)和個(gè)人信息保護(hù)等在內(nèi)的方方面面作出規(guī)定，吳沈括表示，這體現(xiàn)出了全流程、全生命周期治理的思路，“相信未來在新規(guī)的落實(shí)中，也會(huì)是一個(gè)生態(tài)治理和共同參與，共同構(gòu)筑社會(huì)公共信任的過程。”