原創 AI財經社 AI財經社

盡管算法新規明確規定了，平臺必須要在顯著位置上線算法關閉鍵，但從目前各平臺算法關閉的繁瑣程序來看，互聯網巨頭們短期內并不愿意將選擇權真的交給用戶。

撰文/ 《財經天下》周刊作者 曾廣 薛永瑋

編輯/ 董雨晴

如果說“推薦算法”是一個潘多拉魔盒，那么這個盒子正是由互聯網公司們親手打開的。

現在，推薦算法被濫用帶來的一系列負面效應正在被遏制。2022年3月1日，工信部、網信辦等多部門聯合發布的《互聯網信息服務算法推薦管理規定》正式施行，在全球范圍內開啟算法規范先例。

截至3月28日，據《財經天下》周刊不完全統計，抖音、微信、淘寶、美團、大眾點評、今日頭條、百度、微博、小紅書、騰訊新聞、嗶哩嗶哩、快手等App，均上線了個性化內容推薦和個性化廣告推薦的關閉按鍵。

這意味著，人們可以自主選擇告別這種被算法支配的恐懼。

不過，目前各主流App的執行情況卻并不理想。互聯網大廠顯然不愿就此交出魔盒，而是全力將算法關閉鍵“隱藏”了起來，讓用戶無法輕易關閉，以最大程度減少算法新規對平臺的影響。

離不開算法的不僅是互聯網大廠。站在用戶角度來說，被精確的推薦算法訓練了多年，很多用戶也并不愿意就此關閉個性化推薦，以接受“不夠精確”的服務。

推薦算法被關進了籠子，但它的觸角卻依舊無處不在。

算法難戒

大廠員工范婷，在一個工作日的午后百無聊賴地刷著自己的朋友圈。手指僅滑動了兩下，就看到了一家瑞典設計師品牌的廣告。這個服飾品牌她有印象，因為自己曾經在淘寶下單過兩次。不過，一個漁夫帽就賣到了350元，價格稍貴，她因此消費得不多。

“微信朋友圈推的廣告，一般都比我的日常消費要高一檔次。”范婷說，“最離譜的一次，是刷到了蘭博基尼的廣告”。

做產品測試的王琦琦，前一天剛和同事們說完“你們想要王者榮耀聯名款護舒寶嗎”，第二天中午，她就在抖音上刷到了這款產品的視頻。她驚嘆，“我被監控了？”更讓王琦琦疑惑的是，有時候只是日常聊天談到的某個東西，下一秒抖音就會推給自己。

做前端技術的迪琳對推薦算法更為敏感。她是抖音的老用戶，最近因為搜了幾次健身相關的內容，抖音便開始天天給她推薦健身課程。她還發現，因為經常和男朋友在抖音上分享視頻，慢慢地，她和男朋友刷到的視頻池也愈發趨同，“他刷到的有些視頻，我一看，就是我前一天刷到的。”

這些不是個別現象，而是真切地被算法改變的大眾生活。

伴隨著推薦算法近十年來被大規模應用，個人隱私、社會倫理、推薦效果等問題也開始受到重視。事實上，2021年8月，國家互聯網信息辦公室就發布了《互聯網信息服務算法推薦管理規定》，提出算法推薦服務提供者應當向用戶提供不針對個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。該規定于2022年3月1日起正式施行。

盡管算法新規明確規定了，平臺必須要在顯著位置上線算法關閉鍵，但從目前各平臺算法關閉的繁瑣程序來看，互聯網巨頭們短期內并不愿意將選擇權真的交給用戶。

作為國內推薦算法最知名的代表應用，抖音關閉個性化內容推薦需要整整7個步驟：打開App、點擊“我”、點擊導航欄、點擊“設置”、點擊“通用設置”、點擊“管理個性化內容推薦”、點擊“個性化內容推薦”右側的關閉按鈕。整個過程非常繁瑣。

除了內容的興趣推薦，還有“個性化廣告”，有從業者告訴《財經天下》周刊，通常這兩塊業務在公司內部分屬不同業務條線，但體現在用戶端口上，有時候這兩個功能的關閉鍵可能會設置在一起，方便用戶管理。不過，抖音的并沒有在一起。

《財經天下》周刊同樣測試了小紅書、淘寶、微博等平臺，想要順利關閉推薦算法，操作步驟幾乎都在5個以上。

不同平臺的推薦算法關閉按鈕。圖/抖音、小紅書、淘寶

對于這種高度復雜化的操作，其初衷到底是什么？《財經天下》周刊據此向抖音官方詢問，截至發稿前尚未得到回復。

但是可以肯定的是，關閉推薦算法將給互聯網巨頭的商業化帶來直接的影響。據2014年Fcaebook的一份內部報告顯示，關閉推薦算法會直接導致用戶瀏覽時間變短、發布信息的頻率降低、返回和登錄平臺的頻率降低等一系列后果。

實際上，資深算法工程師俊豪向《財經天下》周刊透露，目前只要是互聯網大廠，現在對算法都極其依賴，而不同App算法關閉鍵的隱藏深度，一定程度上也代表了它們對推薦算法的依賴的程度。

“流量大的內容類、社區類App，推薦算法這一塊做得都不會差”，測試過多款競品的王琦琦說道。一直在大廠做技術的迪琳則提到，對于一個互聯網公司來說，搜索和推薦部門往往是最核心的部門，其招聘要求、人員配置都保持著較高的水準，“精確地推薦、有效的增長，是一個公司最重要的事情。”

但是搜索和推薦在業務邏輯上有著本質不同。搜索的用戶往往帶有明顯的目的性，需要根據用戶鍵入的內容去抵達新的內容，而推薦的用戶可能沒有目的，平臺不一定需要完全按照用戶的興趣推薦，同時也可以引導人的興趣。

當然，并非所有的互聯網企業都依賴推薦算法，尤其是一些體量不大的公司和產品。對于這些公司或者產品而言，因為數據量并沒有龐大到必須依賴算法的地步，采用簡單過濾反而效率更高。

一位大廠產品運營人士告訴《財經天下》周刊，她之前運營的一款榜單類平臺產品，并沒有使用推薦算法，只需要人為推薦一些榜單內容到頁面，“這類產品本身就不可能占用用戶太多時間”。她還運營過一個信息分發平臺，出于技術成本和內容專業性的考慮，往往也更多選擇使用“人工推薦”。

但是對于用戶數以億為單位計量的頭部App而言，算法就變得必不可少了。尤其是當整個行業的數據量呈指數級攀升，頭部互聯網平臺都有數億用戶。海量的數據與龐大的用戶規模，必須要借助算法進行過濾和效率提升。

算法已經成為互聯網必不可少的基礎設施，成為互聯網戒不掉的“蜜與糖”。

被“推薦”欄統治

推薦算法在國內的廣泛使用，離不開移動互聯網的普及和字節跳動的崛起。在移動互聯網高歌猛進的十年內，推薦算法也一步步統治了中國互聯網。

2012年3月，字節跳動成立，主力產品今日頭條于當年8月上線。作為國內首個以機器推薦為主要分發方式的新聞資訊App，今日頭條上線僅90天，便橫掃1000萬用戶，并首次在國內帶火了“推薦算法”這一概念。

在今日頭條之前，國內的資訊平臺都是編輯中心制，以人工分發為主，而今日頭條則開啟了機器分發內容的先河。

俊豪向《財經天下》周刊透露，字節跳動并不是國內最早開始做推薦算法的互聯網企業，比百度、阿里都要晚。但是憑借著“今日頭條”，字節跳動迅速打響名聲，成為了推薦算法的后起之秀，以至于在很長一段時間內，這家公司的名字都被叫做“今日頭條”。

此后伴隨著抖音和TikTok的崛起，字節在推薦算法領域的實力進一步增強，甚至一定程度上成為了推薦算法的代名詞。

2016年9月，抖音1.0上線，兩年之后，這個短視頻平臺迅速席卷國內，成為國內最受歡迎的兩大短視頻App之一。

和今日頭條相比，抖音在算法推薦上更加激進和大膽。在抖音，用戶通過重復的“下劃”操作觀看短視頻，在不斷下劃的過程中，算法不斷“學習”用戶的喜好，根據用戶點贊、收藏、關注等行為特征，不斷訓練模型，讓系統推薦的短視頻更加符合用戶的喜好。

圖/視覺中國

在抖音席卷國內的同時，抖音國際版TikTok也迅速崛起。2017年8月，字節在海外創建了TikTok，后來收購Musical.ly并將雙方整合，從2019年開始，TikTok迅速席卷全球。

和抖音一樣，TikTok同樣深度依賴推薦算法。在麻省理工學院（MIT）2021年發布的十大突破技術中，TokTok的推薦算法名列其中，因為它能夠使普通人的內容有機會受到名人一樣的待遇并流行起來，實現了一定程度的內容公平性。

2018年之后，伴隨著抖音的迅速崛起，算法推薦逐漸成為國內信息分發的主流方式，資訊平臺、電商平臺、種草平臺紛紛押注于推薦算法，不同類型的App都被“推薦”欄統治。

到2020年的中國互聯網，推薦算法實際上已經無處不在，除了千人千面的短視頻平臺以外，各大電商平臺的“猜你喜歡”、搜索App的結果排序、瀏覽器中的推送消息，基本都運用了推薦算法。

作為短視頻生態的另一大巨頭，快手同樣很早就開始借助算法進行短視頻分發，但是和抖音單列信息流的沉浸式推送相比，此前的快手更加偏向傳統信息流，賦予了用戶一定的選擇權，將系統推薦的不同視頻平鋪于首頁，用戶可以二次點擊。

不過在2020年9月，伴隨著快手8.0的上線，快手迎來單列與雙列并行的時代，“越來越像”抖音的同時，用戶的自主權也進一步被算法收回。

即便是那些不以算法為強項的互聯網企業，大多也在移動端首頁上線了推薦系統，例如愛奇藝、嗶哩嗶哩首頁為“推薦”欄，優酷首頁為“猜你在追”。

和傳統的PC端相比，場景化的移動端天然更適合推薦算法。以嗶哩嗶哩為例，如今網頁版嗶哩嗶哩首頁依舊采取了傳統的信息陳列，而嗶哩嗶哩App首頁則是典型的個性化推薦。

在推薦算法逐步普及的過程中，字節跳動（抖音、今日頭條）、快手、小紅書、阿里巴巴（淘寶）成為其中最典型的代表，尤其是字節跳動的推薦算法，被行業公認為強大。

“字節的算法強大在于產品力和學習能力強大”，一位不愿具名的前小紅書產品經理告訴《財經天下》周刊，從產品力來說，字節的算法比較難做，信息流提取的用戶行為特征有限，在有限的特征中預測用戶的喜好更難。從學習能力來說，字節的數據并發量高，需要同時對大量用戶的行為特征進行在線學習。

推薦算法的強大反映到產品端，體現為字節系產品的龐大DAU（日活躍用戶數）和超高的用戶時長。一組數據曾顯示，抖音在2021年的日活峰值超過了 7 億，用戶日平均使用時長已經超過了 1 小時。

推薦算法的初衷，是實現更高效、更公平的信息分發。但是伴隨著算法對移動互聯網的統治，由于大公司掌握了算法背后的分發權，過度追求收益，導致推薦算法陷入了巨大爭議。

細思恐極的“監視”

推薦算法從誕生之初便存在爭議，對于用戶喜好的過分迎合，可能會導致用戶長期接收單一種類的信息，形成所謂“信息繭房”。而企業對商業化的過度追求，則可能導致大量用戶特征被濫用、用戶利益被侵犯。

但是這種爭議的最大化，源于2020年以后，新冠疫情下高速增長的宅經濟讓互聯網行業加速擴張，大量用戶在短視頻平臺上消耗海量時間，兩大短視頻平臺在國內的用戶數接近網民總數，TikTok在海外橫掃全球。

在此過程中，推薦算法所導致的“信息繭房”問題開始被大量討論，大數據殺熟、飯圈文化等問題也被與推薦算法關聯起來，算法成為眾矢之的。2020年9月，一篇《外賣騎手，困在系統里》刷屏全網，將外賣平臺的算法推到臺前，助推外賣平臺后續公開了其部分算法。

一切爭議的源泉在于，推薦算法的普及過程，逐步背離了它的初衷。

在互聯網行業，算法本身屬于一個廣義詞匯，除了推薦算法以外，還包括匹配算法、廣告增長算法、策略算法等各個類別。但是從底層邏輯來看，不管是匹配外賣和網約車訂單的匹配算法、精準推薦廣告給用戶的廣告算法、分配優惠券的策略算法，亦或是最受關注的推薦算法，其核心均在于人與信息的高效抵達。

簡而言之，算法就是設定一套規則，讓人和信息根據這套規則來建立聯系。但是隨著算法背后的規則越來越復雜，算法對于大部分用戶而言變成了一個“黑箱”，同時也引發了監管和用戶對于算法濫用的擔憂。

這種擔憂背后的問題是實際存在的。以推薦算法為例，早期模型不精準的時候，算法背后的很多特征還是可識別的，一些內容可能會被打上簡單的標簽，但是如今伴隨著深度學習、神經網絡、云計算能力的不斷提升，算法已經變得“不可視”了。

推薦算法的“不可視”，源于模型本身和特征變得越來越復雜。

推薦算法的一大基礎在于，人們在互聯網上的一切行為都可以歸納為“特征”，并根據“特征”構建模型，然后基于這個模型進行算法推薦。特征是多種多樣的，例如人們在刷短視頻時的點贊、關注、收藏，都可以被歸納為特征，通過這些特征去不斷地訓練模型，就能使算法越來越精準。

“其實現在的模型特征，甚至都不是性別、年齡這種顯性特征，而是更細微的特征，比如你的停留時長、直播打賞記錄、播放視頻的倍速、甚至拖動進度條都可以被歸納為特征，然后用這些特征去做模型。”俊豪告訴《財經天下》周刊。

據俊豪透露，現在很多模型都直接做成了“嵌入”（一種系統類型），甚至就連算法工程師們都不知道其中具體包含了什么特征。這是細思恐極的，意味著，就連使用技術的當事人，也無法具體清楚他們用技術對人們做了什么。

“很多嵌入連我們也不知道是什么意思，很多推薦模型已經不可視化了。對于懂技術的人來說，這也是個黑匣子，只不過我們知道往哪里調，知道它怎樣起作用，但具體代表什么就不知道了。”俊豪告訴《財經天下》周刊。

俊豪更進一步解釋，“即使你不告訴我你是誰，家在哪，只是通過你的瀏覽記錄、點贊記錄，算法也能挖掘出很多它想要的特征，然后根據這些特征去做推薦。”

在這樣的背景下，對于用戶乃至很多的從業者而言，算法本身已經成為了黑箱。而這也意味著，算法是否被濫用，往往也是不可知的：算法到底收集了人們的哪些特征？背后如何應用？是否侵犯了隱私？例如在許多大數據殺熟的案例中，一些用戶行為特征被運用在差別定價。

圖/視覺中國

對于互聯網公司而言，應用推薦算法有兩個明確的目的，第一是幫助用戶更高效地找到內容/商品，提高用戶的忠誠度。第二是提高交叉銷售能力，提升成交轉化率。所以算法推薦的準確度，直接影響到平臺的收益。

“你推薦10個短視頻，要是用戶都不喜歡，他就直接退出了。但你要是一直能給他推薦喜歡的，他可能連續看倆小時，順便看幾個廣告，再買點東西，這收益差遠了。”俊豪說。

所以在進行內容/商品推薦的時候，平臺有極大的動機更多地給用戶推薦那些具有更高收益的內容/商品。伴隨著對用戶的不斷訓練，推薦算法從一開始的“追隨用戶”，變為“引導用戶”。自制力好的人可以抵抗算法，但自制力差的群體面對這樣的“引導”，會產生何種影響不得而知。

主動權來到了算法這一邊。

困于算法

不管是互聯網企業還是公眾，當下都已無法離開算法。

“算法在社會中的方方面面的滲入，已經成為一個既定事實。”暨南大學新聞與傳播學院副教授師文對科學傳播有多年研究，“人們終究是生活在一個社會中，而不是生活在一個實驗室里。當算法技術進入社會之后，就會產生它的社會意義。”

這種算法作用于社會的情況表現在日常的每一個環節：當你每次瀏覽微博、豆瓣、知乎的時候，都在被算法識別、篩選，每個瀏覽痕跡，都會變成可量化的數據。最后你的社交圈越來越趨同，刷到的動態越來越是自己“本來就想看到”的。于是你開始以為這就是社會“本來的樣貌”，并對不同的聲音無法容忍。

清華大學2018年的一篇研究文獻就指出，在算法分發時代，互聯網巨頭通過技術優勢將分發和傳播的權力從人類轉移到機器，“事實上收回了信息的把關權”。算法對社交領域的侵入，實際上是互聯網企業和算法權力的進一步擴張。

“算法一開始只是一種效率工具，但現在成了一種規則，一種權力”，師文對《財經天下》周刊說，集成用戶的大數據，支配人們的信息流向，這是推薦算法對人們更大、更為持續的影響。

如今，伴隨著世界各國紛紛將算法監管提上日程，一個共識是，算法的“權力”必須被約束，而算法規范的一大目標就在于，讓算法不被濫用。據俊豪透露，算法新規實施以后，現在一切關于個人特征的信息基本上都不能用了，而且伴隨著相關部門中懂技術的人越來越多，規范水平也在不斷提升。

“現在監管部門很多人也很懂技術，他們會直接翻代碼，看你是否侵犯用戶隱私、過度收集權限等。”俊豪告訴《財經天下》周刊。

除了以上努力，平臺和公眾自身也需要在社會中建立起更好的適應機制。在師文看來，對于公眾而言，需要思考如何與算法相處，與算法相處的時候應該擁有哪些權利，“比如抖音用戶那么多，但算法素養依然欠缺，未必人人都意識到抖音是存在推薦算法的，那就無從談起更進一步認識到這種算法的運作機理，更不用說意識到這將對我們的信息環境產生什么影響。”

分發信息的互聯網企業們，則需要針對算法做出更為透明和充分的引導。師文提到，平臺在保護商業秘密的前提下，首先需要讓其算法更加的可見、易懂，增強算法的透明性，讓公眾對其算法有所意識和了解。在保障用戶的選擇權時，也應該給予其更充分的選擇，采取更加用戶友好型的設置。

“不能搞一個算法披露出來，但是公眾看不懂，搞一個關閉按鈕出來，但是公眾找不到——這種做法只是看上去有了選擇權，而不是一種充分的選擇權。”師文說。

英國學者杰米·薩斯坎德在《算法的力量》一書中還強調到，互聯網公司內部幾乎沒有工程師會思考其工作導致的系統性后果，他們中的大部分只需要解決某些分散的技術問題就可以交差了。這也要求，整個互聯網行業要拋棄所謂“技術無罪”的擋箭牌，真正對推薦算法的過程和結果負起相應責任。

但硬幣的另一面是，多年的用戶培養已經導致不少用戶難以戒掉推薦算法，新規對平臺的實質影響有多大還很難說。

“商業化效率是一定會下降的，但是推測不會下降很多，甚至不會有影響，因為用戶可能找不到關閉鍵、不愿意關閉或者不在乎關閉。”上述前小紅書產品經理提到。

沒有選擇關掉推薦算法的用戶確實不在少數。一位抖音資深用戶表示，自己不會選擇關閉個性化推薦，“關了之后還是會到處推廣告，不關還能篩掉一些我奶奶才看的視頻。”迪琳越來越不愛刷抖音了，但如果真要關閉個性化推薦，“那還不如不玩了，刷到的就完全不是想看的了”。

王琦琦早就聽說可以關閉個性化推薦，但似乎還是出于一種依賴，想知道“系統到底會給我推薦什么”。像范婷一樣對技術無感的普通用戶，則是習慣了這一切，疲于查找關閉入口也無暇考慮更多，“看一看也無妨”。

（應受訪者要求，文中范婷、迪琳、王琦琦、俊豪為化名。）

我們從《財經天下》周刊出發，以新媒體的形式和節奏、

以傳統媒體求實的精神，致力于傳播真正有價值的報道。

AI財經社原創內容，未經授權，禁止任何轉載

原標題：《算法有癮，大廠難戒》

閱讀原文