2022年3月1日實(shí)施的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡稱《規(guī)定》),,作為第一個正式出臺的規(guī)制算法推薦運(yùn)用的部門規(guī)章,,既是互聯(lián)網(wǎng)信息服務(wù)算法推薦管理的法律依據(jù),又為推薦算法發(fā)展樹立了法治路標(biāo),。
落實(shí)“以主流價值導(dǎo)向駕馭算法”的有力體現(xiàn)
二十一世紀(jì)第二個十年推薦算法越來越廣泛深入介入移動傳播,,這也使傳播進(jìn)入智能傳播時代。算法是基于數(shù)據(jù),,用系統(tǒng)方法描述,、解決問題的策略機(jī)制,在經(jīng)濟(jì),、社會生活多領(lǐng)域廣泛應(yīng)用的同時,,基于累積數(shù)據(jù)、不斷迭代,,成為影響信息分發(fā),、服務(wù)提供、機(jī)會分配,、資源配置的基礎(chǔ)性機(jī)制和力量,。中國龐大用戶群為算法發(fā)展提供了堅(jiān)實(shí)基礎(chǔ),在海量增長用戶數(shù)據(jù)支撐下,,算法不斷迭代,,智能水平也在逐次提升?!兑?guī)定》的正式實(shí)施,,不僅有利于規(guī)范算法發(fā)展與使用、抑制算法濫用等現(xiàn)象,、回應(yīng)社會關(guān)切,,更是落實(shí)“以主流價值導(dǎo)向駕馭算法”堅(jiān)實(shí)有力的體現(xiàn)。
“以主流價值導(dǎo)向駕馭算法”成為《規(guī)定》核心規(guī)則的重要體現(xiàn),是針對具有“輿論屬性或者社會動員能力”的算法推薦服務(wù)明確了建立算法分級分類安全管理制度和針對性監(jiān)管要求,?!兑?guī)定》第二十三條規(guī)定:“根據(jù)算法推薦服務(wù)的輿論屬性或者社會動員能力、內(nèi)容類別,、用戶規(guī)模,、算法推薦技術(shù)處理的數(shù)據(jù)重要程度、對用戶行為的干預(yù)程度等對算法推薦服務(wù)提供者實(shí)施分級分類管理”,。作為分級分類管理制度的組成部分,,《規(guī)定》第二十四條專門規(guī)定“具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式,、應(yīng)用領(lǐng)域,、算法類型、算法自評估報告,、擬公示內(nèi)容等信息,,履行備案手續(xù)?!辈⒘硇幸?guī)定了“具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者通過隱瞞有關(guān)情況,、提供虛假材料等不正當(dāng)手段取得備案的”,應(yīng)當(dāng)承擔(dān)的法律責(zé)任,。
《規(guī)定》第二十七條還規(guī)定:“具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估”,,從而進(jìn)一步織密了規(guī)則,從基礎(chǔ)上保證有效監(jiān)管,。
創(chuàng)設(shè)新規(guī)則,、構(gòu)建新機(jī)制,維護(hù)良好內(nèi)容生態(tài)
二十一世紀(jì)以來,,算法技術(shù)發(fā)展迅速,,自動化決策在經(jīng)濟(jì)生活、社會生活中日益獲得更大影響力和主導(dǎo)權(quán),。在信息服務(wù)算法推薦運(yùn)用領(lǐng)域?qū)嵤┯行ПO(jiān)管,,既能依據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規(guī),,也能依據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》創(chuàng)設(shè)的一系列新規(guī)則,,它構(gòu)建了有效監(jiān)管的新機(jī)制,有利于在維護(hù)良好內(nèi)容生態(tài)的前提下實(shí)現(xiàn)信息服務(wù)算法的發(fā)展和運(yùn)用,。
《規(guī)定》創(chuàng)設(shè)了一系列新規(guī)則,,包括第一次在部門規(guī)章界定了“生成合成類、個性化推送類,、排序精選類,、檢索過濾類,、調(diào)度決策類”五類算法。相比單純使用“自動化決策”更進(jìn)一步,。2021年11月1日起正式施行的《中華人民共和國個人信息保護(hù)法》首次在法律文本中定義了“自動化決策”一詞的含義為“通過計算機(jī)程序自動分析,、評估個人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì),、健康、信用狀況等,,并進(jìn)行決策的活動”,,但沒有界定“自動化決策”所使用算法技術(shù)的不同類型。而在信息服務(wù)領(lǐng)域,,不同類型算法技術(shù)的運(yùn)用,,所產(chǎn)生的內(nèi)容形態(tài)、服務(wù)形態(tài)有很大不同,,監(jiān)管重點(diǎn)也有所不同,。要實(shí)施有力監(jiān)管,就必須清晰界定所應(yīng)用不同類型算法技術(shù),?!兑?guī)定》對這五類算法技術(shù)的界定,為實(shí)施有效監(jiān)管奠定了基礎(chǔ),。
《規(guī)定》創(chuàng)設(shè)的新規(guī)則,,還包括進(jìn)一步確立了用戶所具有的算法服務(wù)選擇權(quán)、拒絕權(quán)和對個人權(quán)益是否有重大影響的說明要求權(quán),?!吨腥A人民共和國個人信息保護(hù)法》在規(guī)范法律文本中賦予個人對于算法推薦服務(wù)的三個重要權(quán)利:一是個人對算法推薦的選擇權(quán),即算法推薦服務(wù)提供者應(yīng)當(dāng)“同時提供不針對其個人特征的選項(xiàng)”,;二是個人對算法推薦服務(wù)的拒絕權(quán),,即算法推薦服務(wù)提供者應(yīng)當(dāng)“向個人提供便捷的拒絕方式”;三是對個人權(quán)益是否有重大影響的說明要求權(quán),,即算法推薦服務(wù)提供者“通過自動化決策方式作出對個人權(quán)益有重大影響的決定,,個人有權(quán)要求個人信息處理者予以說明”,并明確規(guī)定個人“有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定”,?!兑?guī)定》第十七條規(guī)定“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個人特征的選項(xiàng),或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng),?!痹撘?guī)定把《中華人民共和國個人信息保護(hù)法》的相關(guān)規(guī)定應(yīng)用到信息算法領(lǐng)域,并使其更具有易實(shí)現(xiàn)性和可核驗(yàn)性,?!兑?guī)定》第十七條還明確:“用戶選擇關(guān)閉算法推薦服務(wù)的,,算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)?!薄傲⒓赐V埂钡拿鞔_規(guī)定,,既是社會所關(guān)切,也便于算法推薦服務(wù)提供者自我核查,、管理到位,。同時,《規(guī)定》第十七條還進(jìn)一步規(guī)定:“算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標(biāo)簽的功能”,。這使得用戶不僅可以行使算法服務(wù)選擇權(quán),、拒絕權(quán),還可以延伸到對于與個人隱私有關(guān)的“針對其個人特征的用戶標(biāo)簽”等方面,。這些規(guī)定是對信息服務(wù)算法推薦面前個人權(quán)利和尊嚴(yán)的法律保護(hù),,對于已深度使用算法推薦進(jìn)行信息分發(fā)和傳播的互聯(lián)網(wǎng)平臺,是清晰而明確的法律規(guī)制要求,,是對個人所擁的法律賦予權(quán)利的保護(hù),。
更重要的是,《規(guī)定》構(gòu)建了有效監(jiān)管的新機(jī)制,,有利于在維護(hù)良好內(nèi)容生態(tài)的前提下實(shí)現(xiàn)信息服務(wù)算法的發(fā)展和運(yùn)用,。《規(guī)定》詳細(xì)地規(guī)定了使用信息服務(wù)算法的互聯(lián)網(wǎng)平臺的備案,、公示,、告知等義務(wù),以保護(hù)個人信息等權(quán)益和國家安全,。
《規(guī)定》第二章“信息服務(wù)規(guī)范”共有十條,,分別規(guī)定算法推薦算法服務(wù)者所應(yīng)遵守的基本原則和所履行的義務(wù)?!兑?guī)定》第六條規(guī)定了基本原則:“算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價值導(dǎo)向,,優(yōu)化算法推薦服務(wù)機(jī)制,積極傳播正能量,,促進(jìn)算法應(yīng)用向上向善,。”《規(guī)定》也明確了相應(yīng)底線,,第六條規(guī)定:“算法推薦服務(wù)提供者不得利用算法推薦服務(wù)從事危害國家安全和社會公共利益,、擾亂經(jīng)濟(jì)秩序和社會秩序、侵犯他人合法權(quán)益等法律,、行政法規(guī)禁止的活動,,不得利用算法推薦服務(wù)傳播法律、行政法規(guī)禁止的信息,,應(yīng)當(dāng)采取措施防范和抵制傳播不良信息,?!边@與我國相關(guān)法律法規(guī)的要求是一致的。
《規(guī)定》明確規(guī)定了算法推薦服務(wù)提供者的主體責(zé)任,,包括第七條所規(guī)定的“算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)算法安全主體責(zé)任”等,,并在每一方面都規(guī)定了具體明確、可操作,、可驗(yàn)證的要求,。如在“落實(shí)算法安全主體責(zé)任”方面,《規(guī)定》第七條規(guī)定,,算法推薦服務(wù)提供者應(yīng)當(dāng)“建立健全算法機(jī)制機(jī)理審核,、科技倫理審查、用戶注冊,、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護(hù),、反電信網(wǎng)絡(luò)詐騙,、安全評估監(jiān)測、安全事件應(yīng)急處置等管理制度和技術(shù)措施”,;為此還需“制定并公開算法推薦服務(wù)相關(guān)規(guī)則,,配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐”。
作為對落實(shí)主體責(zé)任要求的具體化體現(xiàn),,《規(guī)定》第八條要求“算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核,、評估、驗(yàn)證算法機(jī)制機(jī)理,、模型,、數(shù)據(jù)和應(yīng)用結(jié)果等,不得設(shè)置誘導(dǎo)用戶沉迷,、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型”,。第九條要求:“算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)信息安全管理”,并通過“建立健全用于識別違法和不良信息的特征庫,,完善入庫標(biāo)準(zhǔn),、規(guī)則和程序”來落實(shí)加強(qiáng)信息安全管理?!兑?guī)定》要求“發(fā)現(xiàn)未作顯著標(biāo)識的算法生成合成信息的,,應(yīng)當(dāng)作出顯著標(biāo)識后,方可繼續(xù)傳輸”,,“發(fā)現(xiàn)違法信息的,,應(yīng)當(dāng)立即停止傳輸,采取消除等處置措施”,。
為保護(hù)個人信息,、維護(hù)良好社會秩序,,《規(guī)定》第十條還明確規(guī)定:“算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)用戶模型和用戶標(biāo)簽管理,完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則”,,以從基礎(chǔ)上保證主體責(zé)任的履行,。《規(guī)定》并明確要求:“不得將違法和不良信息關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽并據(jù)以推送信息”,。
為維護(hù)良好內(nèi)容生態(tài),,《規(guī)定》明確要求:“算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)算法推薦服務(wù)版面頁面生態(tài)管理,建立完善人工干預(yù)和用戶自主選擇機(jī)制,,在首頁首屏,、熱搜、精選,、榜單類,、彈窗等重點(diǎn)環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息?!薄肮膭钏惴ㄍ扑]服務(wù)提供者綜合運(yùn)用內(nèi)容去重,、打散干預(yù)等策略,并優(yōu)化檢索,、排序,、選擇、推送,、展示等規(guī)則的透明度和可解釋性,,避免對用戶產(chǎn)生不良影響,預(yù)防和減少爭議糾紛,?!?/span>
《規(guī)定》新增內(nèi)容中體現(xiàn)的價值取向與監(jiān)管指向
《規(guī)定》共35條,與征求意見稿的30條對比,,不僅通過分為六章更明確了各部分的功能,,而且增加了一些重要條款,體現(xiàn)了重要價值取向,、清晰立法意圖和明確引導(dǎo),、監(jiān)管指向。
一是明確互聯(lián)網(wǎng)新聞信息服務(wù)底線要求,。如《規(guī)定》第十三條要求“算法推薦服務(wù)提供者提供互聯(lián)網(wǎng)新聞信息服務(wù)的”,,不僅“應(yīng)當(dāng)依法取得互聯(lián)網(wǎng)新聞信息服務(wù)許可,規(guī)范開展互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù),、轉(zhuǎn)載服務(wù)和傳播平臺服務(wù)”,,而且特別明確要求“不得生成合成虛假新聞信息”。
二是與現(xiàn)有管理規(guī)定的銜接,?!兑?guī)定》第十三條明確要求“不得傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息”,。這與國家網(wǎng)信辦現(xiàn)行管理規(guī)定緊密銜接,并通過《規(guī)定》進(jìn)一步固化,。
三是體現(xiàn)與其他法律法規(guī)的銜接,。《法規(guī)》第十五條規(guī)定“算法推薦服務(wù)提供者不得利用算法對其他互聯(lián)網(wǎng)信息服務(wù)提供者進(jìn)行不合理限制,,或者妨礙,、破壞其合法提供的互聯(lián)網(wǎng)信息服務(wù)正常運(yùn)行,實(shí)施壟斷和不正當(dāng)競爭行為”,。這既與反不當(dāng)競爭相關(guān)法律法規(guī)緊密銜接,,又彌補(bǔ)了相關(guān)法律法規(guī)在算法運(yùn)用規(guī)則方面強(qiáng)化反不正當(dāng)競爭規(guī)制的不足。
四是體現(xiàn)鮮明價值取向和引導(dǎo)要求,?!兑?guī)定》第十九條對算法推薦服務(wù)提供者“向老年人提供服務(wù)”專門明確了一系列規(guī)則,包括“應(yīng)當(dāng)保障老年人依法享有的權(quán)益,,充分考慮老年人出行,、就醫(yī)、消費(fèi),、辦事等需求,按照國家有關(guān)規(guī)定提供智能化適老服務(wù),,依法開展涉電信網(wǎng)絡(luò)詐騙信息的監(jiān)測,、識別和處置,便利老年人安全使用算法推薦服務(wù),?!边@既體現(xiàn)了對社會關(guān)切的回應(yīng),也體現(xiàn)了明確的引導(dǎo)要求,,即通過推薦算法提供智能化適老服務(wù),,為防范出現(xiàn)電信網(wǎng)絡(luò)詐騙等問題提供支持。
五是強(qiáng)化了算法推薦服務(wù)者在解決用戶投訴方面的主體責(zé)任,?!兑?guī)定》第二十二條明確規(guī)定:“算法推薦服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷有效的用戶申訴和公眾投訴、舉報入口,,明確處理流程和反饋時限,,及時受理、處理并反饋處理結(jié)果,?!边@有助于解決用戶向平臺投訴難以得到及時有效解決等問題。