編者按：中央網(wǎng)信辦日前發(fā)布通知，牽頭開(kāi)展“清朗·2022年算法綜合治理”專(zhuān)項行動(dòng)，開(kāi)展時(shí)間為2022年4月8日至12月初。此次專(zhuān)項行動(dòng)聚焦網(wǎng)民關(guān)切，深入排查整改互聯(lián)網(wǎng)企業(yè)平臺算法安全問(wèn)題，評估算法安全能力，重點(diǎn)檢查具有較強輿論屬性或社會(huì )動(dòng)員能力的大型網(wǎng)站、平臺及產(chǎn)品，督促企業(yè)利用算法加大正能量傳播、處置違法和不良信息、整治算法濫用亂象、積極開(kāi)展算法備案，推動(dòng)算法綜合治理工作常態(tài)化和規范化，營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò )空間。
此前，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等九部委聯(lián)合發(fā)布《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見(jiàn)》，要求利用三年左右時(shí)間，逐步建立治理機制健全、監管體系完善、算法生態(tài)規范的算法安全綜合治理格局。接著(zhù)，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場(chǎng)監督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》，規制內容包括監督管理執法部門(mén)、行業(yè)組織、算法推薦服務(wù)提供者等主體應當遵循的原則規范，重點(diǎn)是對個(gè)人權益、市場(chǎng)秩序、公共利益、國家安全等造成危害的算法應用進(jìn)行規制，自2022年3月1日起施行，預示著(zhù)國家對網(wǎng)絡(luò )空間的治理已經(jīng)從數據治理邁向算法治理。如何對算法推薦服務(wù)的頂層設計進(jìn)行立法規制？如何依法規制算法推薦服務(wù)行為，全面助力企業(yè)重塑算法合規體系建設？這些成為業(yè)界關(guān)注的話(huà)題。
隨著(zhù)數字經(jīng)濟的發(fā)展，數據規模急劇擴大、運算能力快速提升，算法推薦服務(wù)作為企業(yè)、個(gè)人及政府定位新坐標、把握新動(dòng)向、選擇新目標的基礎工具，日益滲透進(jìn)社會(huì )各領(lǐng)域。算法推薦服務(wù)在推動(dòng)數字經(jīng)濟發(fā)展的同時(shí)，算法歧視、大數據殺熟、流量造假、電商平臺強制“二選一”、誘導沉迷等算法黑箱問(wèn)題也給社會(huì )帶來(lái)嚴峻挑戰，迫切需要對算法推薦服務(wù)的頂層設計進(jìn)行立法規制，確立公平、透明、非歧視的算法開(kāi)發(fā)和運用的價(jià)值觀(guān)取向，依法規制算法推薦服務(wù)行為，全面助力企業(yè)重塑算法合規體系建設，促進(jìn)算法相關(guān)行業(yè)規范有序發(fā)展。
算法推薦服務(wù)納入依法規制范圍
算法推薦服務(wù)，屬于信息自動(dòng)化篩選、個(gè)性化分發(fā)的行為，需要以信息采集及分析等處理為基礎，是思維模式與技術(shù)實(shí)現的組合。算法已經(jīng)歷多次變化，從開(kāi)始的技術(shù)產(chǎn)品變?yōu)楝F在的網(wǎng)絡(luò )平臺工具，被用于向用戶(hù)提供網(wǎng)絡(luò )服務(wù)，承擔網(wǎng)絡(luò )空間的日常治理任務(wù)；算法推薦服務(wù)從最初的股票自動(dòng)交易、搜索鏈接等發(fā)展為現在的外賣(mài)平臺調度算法等。尤其是人工智能技術(shù)的發(fā)展，算法具備自主性和認知特征，從工具逐漸上升為決策者，對社會(huì )秩序和個(gè)體權益的影響很大。
數字經(jīng)濟時(shí)代，算法已廣泛應用于社會(huì )生活和公共管理的各種場(chǎng)景，目前整個(gè)社會(huì )信息分發(fā)市場(chǎng)中，智能算法推薦型分發(fā)模式占比已超過(guò)70%，依法對算法推薦服務(wù)的規制及法律責任承擔，已成為全社會(huì )關(guān)注的熱點(diǎn)話(huà)題。3月1日起施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》（以下簡(jiǎn)稱(chēng)《算法規定》）規制的范圍包括：生成合成類(lèi)，主要規范內容聚合、內容自動(dòng)化生成及內容合成服務(wù)；個(gè)性化推送類(lèi)，主要規范基于用戶(hù)畫(huà)像而進(jìn)行的內容、商品或服務(wù)的個(gè)性化推送服務(wù)；排序精選類(lèi)，主要規范內容服務(wù)提供者的版面頁(yè)面管理，諸如首屏、熱搜、精選、榜單、彈窗等；檢索過(guò)濾類(lèi)，主要規范搜索引擎、內容檢索、內容干預等服務(wù)或行為；調度決策類(lèi)，主要規范工作調度服務(wù)，如快遞平臺、出行平臺等。
《算法規定》明確了算法推薦服務(wù)提供者的信息服務(wù)規范，涵蓋當前社會(huì )普遍關(guān)注的算法推薦熱點(diǎn)問(wèn)題，如用戶(hù)模型、流量造假、個(gè)性化推送、未成年人身心健康保護、互聯(lián)網(wǎng)平臺勞動(dòng)者權益保障、大數據殺熟等，并且對上述行為應當承擔的法律責任進(jìn)行明確規定。算法推薦技術(shù)是算法推薦服務(wù)提供者提供個(gè)性化服務(wù)的重要基礎，對應用算法推薦技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)的各類(lèi)行為進(jìn)行規范，是維護互聯(lián)網(wǎng)信息服務(wù)行業(yè)良好市場(chǎng)秩序、促進(jìn)數字經(jīng)濟高質(zhì)量發(fā)展的關(guān)鍵。算法推薦服務(wù)提供者應當堅持主流價(jià)值導向，積極傳播正能量，不得利用算法推薦服務(wù)從事違法活動(dòng)或者傳播違法信息，采取措施防范和抵制傳播不良信息，著(zhù)力防范化解算法推薦服務(wù)帶來(lái)的政治安全、意識形態(tài)安全、社會(huì )秩序等方面重大風(fēng)險。
構建多元主體協(xié)同共治的治理格局
目前，網(wǎng)絡(luò )平臺損害消費者的知情權、選擇權的現象突出，依法規范網(wǎng)絡(luò )平臺行為成為數字經(jīng)濟法治化建設亟待解決的問(wèn)題。最近，《國家發(fā)展改革委等部門(mén)關(guān)于推動(dòng)平臺經(jīng)濟規范健康持續發(fā)展的若干意見(jiàn)》明確提出，探索數據和算法安全監管，從嚴管控非必要采集數據行為，依法依規打擊黑市數據交易、大數據殺熟等數據濫用行為。在嚴格保護算法等商業(yè)秘密的前提下，支持第三方機構開(kāi)展算法評估，引導平臺企業(yè)提升算法透明度與可解釋性，促進(jìn)算法公平。嚴肅查處利用算法進(jìn)行信息內容造假、傳播負面有害信息和低俗劣質(zhì)內容、流量劫持以及虛假注冊賬號等違法違規行為。國務(wù)院反壟斷委員會(huì )印發(fā)的《關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南》，對于經(jīng)營(yíng)者通過(guò)數據、算法、平臺規則等新型手段達成壟斷協(xié)議，實(shí)施拒絕交易、限定交易或者大數據殺熟等行為，規定了壟斷行為的認定方法，明令禁止平臺通過(guò)算法來(lái)實(shí)施壟斷行為。
在平臺經(jīng)濟領(lǐng)域出現的新型違法競爭行為，可能既有排除、限制競爭的濫用市場(chǎng)支配地位行為，也有不正當競爭行為，還有屬于不合理交易行為，需要綜合運用《反壟斷法》《反不正當競爭法》《電子商務(wù)法》《消費者權益保護法》等多部法律法規予以規范和治理。面對算法推薦服務(wù)運行場(chǎng)景多維性、商業(yè)模式多樣性及競爭行為復雜性，依靠單一主體監管很難滿(mǎn)足平臺經(jīng)濟健康發(fā)展的治理需求，算法治理應該充分發(fā)揮多元主體的作用，讓各個(gè)主體參與其中，形成治理合力。這些多元主體包括政府相關(guān)部門(mén)、平臺企業(yè)、消費者及團體、經(jīng)營(yíng)者及團體、行業(yè)協(xié)會(huì )等組織，以更好地形成治理合力。《算法規定》鼓勵相關(guān)行業(yè)組織加強行業(yè)自律，建立健全自律制度和行業(yè)準則，組織制定行業(yè)標準。通過(guò)行業(yè)自律和制定行業(yè)標準的方式可以將各個(gè)參與主體納入其中，利于形成多元主體共治的格局，充分發(fā)揮社會(huì )公眾的監督作用。
重塑企業(yè)算法推薦服務(wù)合規體系
良好的數據治理體系是開(kāi)展算法治理的基礎，我國出臺的《網(wǎng)絡(luò )安全法》《數據安全法》和《個(gè)人信息保護法》三部法律，著(zhù)力構建個(gè)人信息和數據保護的基本法律框架，明確要求企業(yè)建立合規制度體系，可以說(shuō)，建立個(gè)人信息及數據合規體系已經(jīng)成為現代企業(yè)的一項重要法律義務(wù)，按照《算法規定》新要求重塑企業(yè)算法推薦服務(wù)合規體系顯得十分重要。
全面梳理和整改算法應用存在的問(wèn)題。按照《算法規定》新要求，對企業(yè)內部算法應用的機制、模型、數據和應用內容進(jìn)行全面梳理，發(fā)現相關(guān)制度規定和業(yè)務(wù)流程及合同條款存在問(wèn)題的應當盡快整改。建立用戶(hù)申訴渠道和制度，主動(dòng)配合監管部門(mén)進(jìn)行檢查、備案和安全評估，及時(shí)排除違法違規的不良信息、誘導性算法模型、偏見(jiàn)性用戶(hù)標簽及其他不符合法律法規、公序良俗和主流價(jià)值導向的情形，確保算法推薦服務(wù)行為的依法合規。
建立和完善算法應用合規體系。網(wǎng)絡(luò )平臺企業(yè)應當高度重視最高人民檢察院牽頭開(kāi)展的企業(yè)合規不起訴的監督考察制度改革試點(diǎn)，認真研判法律法規、監管規定、行業(yè)準則、國際標準對依法合規的強制性要求，依據國際標準化組織發(fā)布的ISO 37301《合規管理體系要求及使用指南》，重點(diǎn)完善算法應用合規體系建設內容，對相關(guān)制度流程進(jìn)行立改廢，明確企業(yè)合規體系建設新目標。按照《算法規定》的規定，建立健全企業(yè)算法機制機理審核、科技倫理審查、用戶(hù)注冊、信息發(fā)布審核、數據安全和個(gè)人信息保護、反電信網(wǎng)絡(luò )詐騙、安全評估監測、安全事件應急處置等管理制度和技術(shù)措施，制定并公開(kāi)算法推薦相關(guān)服務(wù)規則。尤其是使用算法技術(shù)進(jìn)行推薦服務(wù)的企業(yè)，需要承擔個(gè)人信息保護和數據安全主體責任的合規義務(wù)，注重履行“通知-刪除”責任，采取有效措施保護用戶(hù)個(gè)人的合法權利，切實(shí)做到將服務(wù)內容審查納入算法運行的全流程中，完善考核問(wèn)責追責機制。強化企業(yè)自律，積極踐行社會(huì )責任，關(guān)注因未履行合規義務(wù)帶來(lái)的民事訴訟、行政及刑事處罰風(fēng)險，形成集事前防范、事中控制和事后救濟于一體的閉環(huán)管控機制。
健全企業(yè)審計監督制度。作為網(wǎng)絡(luò )平臺企業(yè)的法定義務(wù)，《個(gè)人信息保護法》第五十四條要求個(gè)人信息處理者應當定期對其處理個(gè)人信息遵守法律、行政法規的情況進(jìn)行合規審計。主要內容包括：審查內部管理制度和個(gè)人信息備忘錄的完備性和合規性；個(gè)人信息處理和管理工作；審計履行個(gè)人信息查閱復制、修正、移轉及刪除義務(wù)情況；審核個(gè)人信息相關(guān)的合同及其他法律文書(shū)；根據個(gè)人信息及數據相關(guān)法律法規的更新，及時(shí)調整內部制度的情況。《算法規定》要求算法推薦服務(wù)提供者定期審核、評估、驗證算法機制機理、模型、數據和應用結果等。審計制度既包括制度審計也包括技術(shù)安全審計，通過(guò)審計過(guò)程發(fā)現算法應用或制度執行的缺陷，并解決問(wèn)題，可以幫助企業(yè)形成一個(gè)正向激勵的合規提升機制。
探索建立算法合規在線(xiàn)監管系統。全面數字化轉型對合規管理手段提出更高要求，企業(yè)需要加快提升信息化、數字化、智能化水平，合規管理系統向各級子企業(yè)、分支機構和重要項目系統延伸，確保全面覆蓋、落地見(jiàn)效。加快推進(jìn)合規管理信息化、數字化建設，探索建立算法合規管理在線(xiàn)監管系統，加強對重點(diǎn)領(lǐng)域、關(guān)鍵節點(diǎn)的內控管理。將算法推薦服務(wù)的法律審核嵌入重大決策、重要業(yè)務(wù)管理流程，通過(guò)大數據等手段，實(shí)現算法合規風(fēng)險在線(xiàn)識別、分析、評估和防控。密切關(guān)注相關(guān)立法動(dòng)態(tài)，使合規體系更好地適應法律的變化，有針對性地采取措施防范算法推薦服務(wù)的法律風(fēng)險，助推企業(yè)數字化轉型和高質(zhì)量發(fā)展。