全球微頭條丨“算法新規(guī)”施行四個(gè)月后，我在“算法透明”上看到兩個(gè)問題

如果新浪微博并未在去年公布熱搜管理的算法規(guī)則，那么它可能將一直處在 “花錢買熱搜”、“花錢撤熱搜”的質(zhì)疑與揣測(cè)狀態(tài)中。

(資料圖片)

如果美團(tuán)并未在去年公開外賣訂單分配算法，那么社會(huì)輿論將一直停留在“算法系統(tǒng)，是剝削騎手的機(jī)器”上。

放眼全球，近年來多個(gè)國家和地區(qū)的監(jiān)管部門都在落實(shí)“算法透明化”，“算法向善”、“莫讓算法變算計(jì)”等口號(hào)被強(qiáng)調(diào)；多個(gè)互聯(lián)網(wǎng)平臺(tái)都在嘗試公布自身具備巨大社會(huì)影響力業(yè)務(wù)的算法邏輯，交予監(jiān)管部門和公眾監(jiān)督。

盡管公眾或許并不能看懂平臺(tái)在公布算法的公告中提到的一些算法術(shù)語、計(jì)算公式，但也能清晰地預(yù)料到這是一件好事：公布后，既可以作為討論的話題，也可以作為日后的憑據(jù)。一項(xiàng)基于技術(shù)創(chuàng)新的業(yè)務(wù)，如果無法具備評(píng)估標(biāo)準(zhǔn)，那么也很難有優(yōu)化的具體路徑。

在各國關(guān)于算法監(jiān)管的立法路徑中，也有重要趨勢(shì)開始凸顯：綜合化治理和精細(xì)化治理在齊頭并進(jìn)，法律在不斷向深、向細(xì)，“算法透明”正從一個(gè)暢想走向現(xiàn)實(shí)。

《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》中提出利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。時(shí)至今日，我國《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》已經(jīng)施行四個(gè)月，業(yè)界依然存在著某些平臺(tái)“響應(yīng)了相關(guān)規(guī)定但沒完全響應(yīng)”，或相關(guān)響應(yīng)流于形式的情況，還有賴于后續(xù)相關(guān)法規(guī)的完善。

“個(gè)性化廣告”開關(guān)是否流于形式

此前在網(wǎng)上曾經(jīng)看到一個(gè)評(píng)論：要追求算法透明，要求相關(guān)平臺(tái)開放源代碼不就可以了？

這樣的舉動(dòng)既不安全也不透明。首先，公布源代碼后，便意味著有被攻擊的風(fēng)險(xiǎn)，相關(guān)企業(yè)的商業(yè)機(jī)密也有被竊取的可能。其次，源代碼的認(rèn)知度因人而異、因團(tuán)隊(duì)而異，往往一個(gè)工程師的代碼不加注釋，同團(tuán)隊(duì)都未必看懂，更遑論公眾。

那鼓勵(lì)算法透明，應(yīng)該鼓勵(lì)平臺(tái)做到何種程度？

英國是世界上首個(gè)推出政府算法標(biāo)準(zhǔn)的國家。2021年11月，英國內(nèi)閣辦公廳中央數(shù)字和數(shù)據(jù)辦公室（Central Digital and Data Office，CDDO）發(fā)布算法透明度標(biāo)準(zhǔn)（Algorithmic Transparency Standard）。該標(biāo)準(zhǔn)由兩個(gè)層次構(gòu)成。第一層次主要是對(duì)算法工具的簡要介紹，包括如何使用、為何使用等；第二層次涉及算法工具具體如何工作的信息、訓(xùn)練模型的數(shù)據(jù)集以及對(duì)人力監(jiān)測(cè)的要求等。

雖然只區(qū)分了兩個(gè)層級(jí)，但基本涵蓋了數(shù)據(jù)的采集方式與分析方法、模型的設(shè)計(jì)邏輯與變量優(yōu)化、各項(xiàng)參數(shù)權(quán)重、生成決策的判斷依據(jù)、算法運(yùn)行的正常與報(bào)錯(cuò)、人力干預(yù)的公開與公正等環(huán)節(jié)，貫穿算法的業(yè)務(wù)流程。

一個(gè)多月后，中國國家網(wǎng)信辦會(huì)同工信部、公安部、市場監(jiān)管總局出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（已于2022年3月1日正式施行），對(duì)算法推薦服務(wù)做出全面規(guī)范。該規(guī)定覆蓋多領(lǐng)域、多場景：不僅適用于社交媒體、電商場景、搜索平臺(tái)的個(gè)性化推送算法、排序精選算法、檢索過濾算法，也適用于包括網(wǎng)約車、外賣場景下的調(diào)度決策類算法，還包括用于游戲和虛擬環(huán)境中生成內(nèi)容的生成合成類算法。

在用戶權(quán)益保護(hù)上，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十六條規(guī)定，算法推薦服務(wù)提供者應(yīng)當(dāng)以顯著方式告知用戶其提供算法推薦服務(wù)的情況，并以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。

一個(gè)顯著、一個(gè)適當(dāng)，彰顯了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的監(jiān)管思路靈活性。

顯著方式主要體現(xiàn)在哪？各平臺(tái)采取的主要方式是，體現(xiàn)在自身的隱私政策中。

比如 “抖音”在隱私政策中進(jìn)行了說明：為了預(yù)測(cè)用戶的偏好，可能會(huì)收集、使用用戶的設(shè)備信息、位置信息以及在使用抖音時(shí)的行為信息，并根據(jù)用戶使用抖音過程中內(nèi)容瀏覽相關(guān)行為對(duì)推薦模型進(jìn)行實(shí)時(shí)反饋，不斷調(diào)整優(yōu)化推薦結(jié)果。用戶可關(guān)閉個(gè)性化內(nèi)容的推送，關(guān)閉后，抖音將不會(huì)基于個(gè)性化推送處理用戶個(gè)人信息，僅會(huì)推送與用戶偏好無關(guān)的具有普遍性的內(nèi)容或廣告。

“微信”中的描述是，平臺(tái)可能將通過某些功能所收集的信息用于平臺(tái)的其它服務(wù)。例如，平臺(tái)可能將用戶使用平臺(tái)某一功能或服務(wù)時(shí)收集到的信息，在另一功能或服務(wù)中用于提供特定內(nèi)容，包括但不限于展示廣告（可以關(guān)閉“個(gè)性化廣告”）、對(duì)用戶閱讀過的內(nèi)容進(jìn)行信息安全類提示、基于特定標(biāo)簽進(jìn)行間接人群畫像并提供更加精準(zhǔn)和個(gè)性化的服務(wù)內(nèi)容，以及保護(hù)用戶權(quán)益或保護(hù)微信生態(tài)安全等。

邏輯很好理解，當(dāng)用戶打開個(gè)性化廣告的開關(guān)，平臺(tái)展示的廣告更精準(zhǔn)，更“投其所好”。而當(dāng)個(gè)性化廣告關(guān)閉后，平臺(tái)所展示的僅為程序化廣告，類似于電視時(shí)代的廣告展示給所有人，不會(huì)迎合用戶的個(gè)人特征。

但一些問題往往出在很簡單的邏輯中。舉個(gè)例子，在日常使用“微信”過程中，總會(huì)涉及到平臺(tái)對(duì)用戶地理位置的獲取。但當(dāng)用戶關(guān)閉了“個(gè)性化廣告”后，平臺(tái)對(duì)于用戶理應(yīng)一視同仁，用戶地理位置在北京亦或在福建，對(duì)于廣告投放而言應(yīng)當(dāng)沒有區(qū)別。明確關(guān)閉了“個(gè)性化廣告”的用戶，卻能看到非常精準(zhǔn)的本地車展廣告，這與平臺(tái)隱私政策中的個(gè)性化廣告邏輯相悖。

不同于互聯(lián)網(wǎng)廣告，本地衛(wèi)視有較為集中的收視群體，廣告主方便進(jìn)行本地化推廣。但就“微信”產(chǎn)品而言，當(dāng)用戶明確關(guān)閉了“個(gè)性化廣告”，除了必要的位置服務(wù)外，在廣告展示方面，用戶理應(yīng)不具備地域?qū)傩浴；谶@樣的邏輯，身在福建的用戶看到廣東的線下活動(dòng)屬于正常情況，而當(dāng)該用戶屢次看到福建本地的活動(dòng)推廣，不免有“我關(guān)閉了個(gè)性化廣告，我的地理位置信息仍舊被用于廣告”的擔(dān)憂。

“個(gè)性化廣告”的開關(guān)按鈕是形式化授權(quán)還是“令行禁止”，在平臺(tái)實(shí)際運(yùn)營中有沒有過界行為，其實(shí)很難界定。假如用戶抱有對(duì)個(gè)性化廣告的疑問，想要了解平臺(tái)在廣告展示上的主要運(yùn)行機(jī)制，平臺(tái)則應(yīng)采取“適當(dāng)方式”告知，便于用戶實(shí)現(xiàn)知情權(quán)和選擇權(quán)。至于平臺(tái)的“適當(dāng)方式”能否讓用戶完全知情，還須專事專論。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第十七條要求，用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。

就《我們離“可解釋AI”還有多遠(yuǎn)？》中提到的案例而言，用戶在不明晰緣由的情況下被滴滴以安全隱患暫停叫車功能，后續(xù)的申訴環(huán)節(jié)平臺(tái)也并未展示“安全隱患”從何而來，用戶并沒有完全實(shí)現(xiàn)知情權(quán)，握在手中的只有“用與不用”的選擇權(quán)。

“隱性標(biāo)簽”何時(shí)能選擇？

除個(gè)性化廣告外，第二個(gè)問題是用戶關(guān)于平臺(tái)所貼標(biāo)簽的選擇。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》提到 “算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能”。用戶需要知道“平臺(tái)給我打了什么樣的標(biāo)簽”，而“我能夠?qū)@個(gè)標(biāo)簽進(jìn)行選擇和刪除”，這一條文尚未得到明確的市場反饋。除了某些論壇、博客、微博客、網(wǎng)絡(luò)直播等類別平臺(tái)存在用戶自主選擇的興趣領(lǐng)域外（即顯性標(biāo)簽），平臺(tái)依據(jù)大數(shù)據(jù)對(duì)用戶進(jìn)行畫像的“隱性標(biāo)簽”的選擇與刪除事項(xiàng)上，還需要逐步深入。

就短視頻領(lǐng)域舉例，一個(gè)視頻推薦在用戶首頁，如果多次展示，用戶均未點(diǎn)擊，平臺(tái)算法是否應(yīng)覺察用戶的喜好，無需用戶親自手動(dòng)點(diǎn)擊“不喜歡”，方可不再展示。用戶往往只有在首次注冊(cè)短視頻平臺(tái)時(shí)，才能手動(dòng)選擇興趣領(lǐng)域，之后的喜好，只能任由算法推薦。而根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》關(guān)于標(biāo)簽的要求，在長期使用中，用戶也應(yīng)當(dāng)具有修改個(gè)人“隱性標(biāo)簽”的權(quán)利。

這個(gè)標(biāo)簽往往來源于用戶行為產(chǎn)生的數(shù)據(jù)，是平臺(tái)通過收集用戶社會(huì)屬性、消費(fèi)習(xí)慣、偏好特征等各個(gè)維度數(shù)據(jù)，進(jìn)而對(duì)用戶或者產(chǎn)品特征屬性的刻畫。

算法與數(shù)據(jù)從來不分家。如果將算法視為發(fā)動(dòng)機(jī)，那數(shù)據(jù)則相當(dāng)于支撐其運(yùn)行的能源。若用戶無法對(duì)數(shù)據(jù)層擁有充足的知情與選擇，算法治理很難出現(xiàn)大跨步發(fā)展，透明也就無從談起。

被動(dòng)披露→主動(dòng)備案

在過去，平臺(tái)的算法披露原則是被動(dòng)披露，“非必要不披露”，當(dāng)社會(huì)、個(gè)體用戶需要平臺(tái)就某個(gè)算法運(yùn)行機(jī)制產(chǎn)生疑問后，平臺(tái)才會(huì)根據(jù)具體的需要，進(jìn)行“適當(dāng)”地解釋。

但在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》提出了“算法備案”的要求后，這種被動(dòng)披露需要更換為事前備案。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十四條規(guī)定，具有輿論屬性或者社會(huì)動(dòng)員能力的算法提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評(píng)估報(bào)告、擬公示類型等信息，履行備案手續(xù)，且在備案后，每次備案信息發(fā)生變更都應(yīng)在變更之日起十個(gè)工作日內(nèi)辦理變更手續(xù)。這意味著監(jiān)管需要平臺(tái)就算法提供更多的解釋空間，以及對(duì)算法的解釋與說明需要跟隨著算法的變動(dòng)而不斷深化。

算法治理的監(jiān)管方式分為事前規(guī)范與事后彌補(bǔ)，任何一種治理方式都可能因?yàn)樗惴ū旧淼男再|(zhì)、應(yīng)用場景、監(jiān)管權(quán)力分配等因素存在一定的局限性或滯后性。事前對(duì)算法進(jìn)行影響評(píng)估的監(jiān)管方式正逐漸成為各國探索的方向之一，但規(guī)定算法備案相關(guān)制度的國家仍然較少，主要經(jīng)濟(jì)體采取事前備案方式的只有歐盟和我國。在算法治理上，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》是一個(gè)階段性成果，我國從《電子商務(wù)法》到《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》再到《個(gè)人信息保護(hù)法》、《反壟斷法（修正草案）》等相關(guān)立法對(duì)算法問題已作出相關(guān)規(guī)定，對(duì)于算法治理的規(guī)則與評(píng)估還在不斷完善中。

總而言之，盡管算法治理目前仍存在各種各樣的問題，但長期來看，當(dāng)下時(shí)間節(jié)點(diǎn)在三年算法治理周期內(nèi)只是起始，隨著監(jiān)管機(jī)制逐步完善、監(jiān)管體系逐步健全，一些小問題終究會(huì)消散在歷史長河中。

多方努力、社會(huì)監(jiān)督下，算法應(yīng)用終將更公平、更透明、更正義。