原創(chuàng) AI財(cái)經(jīng)社 AI財(cái)經(jīng)社

盡管算法新規(guī)明確規(guī)定了，平臺(tái)必須要在顯著位置上線算法關(guān)閉鍵，但從目前各平臺(tái)算法關(guān)閉的繁瑣程序來(lái)看，互聯(lián)網(wǎng)巨頭們短期內(nèi)并不愿意將選擇權(quán)真的交給用戶。

撰文/ 《財(cái)經(jīng)天下》周刊作者 曾廣 薛永瑋

編輯/ 董雨晴

如果說“推薦算法”是一個(gè)潘多拉魔盒，那么這個(gè)盒子正是由互聯(lián)網(wǎng)公司們親手打開的。

現(xiàn)在，推薦算法被濫用帶來(lái)的一系列負(fù)面效應(yīng)正在被遏制。2022年3月1日，工信部、網(wǎng)信辦等多部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行，在全球范圍內(nèi)開啟算法規(guī)范先例。

截至3月28日，據(jù)《財(cái)經(jīng)天下》周刊不完全統(tǒng)計(jì)，抖音、微信、淘寶、美團(tuán)、大眾點(diǎn)評(píng)、今日頭條、百度、微博、小紅書、騰訊新聞、嗶哩嗶哩、快手等App，均上線了個(gè)性化內(nèi)容推薦和個(gè)性化廣告推薦的關(guān)閉按鍵。

這意味著，人們可以自主選擇告別這種被算法支配的恐懼。

不過，目前各主流App的執(zhí)行情況卻并不理想。互聯(lián)網(wǎng)大廠顯然不愿就此交出魔盒，而是全力將算法關(guān)閉鍵“隱藏”了起來(lái)，讓用戶無(wú)法輕易關(guān)閉，以最大程度減少算法新規(guī)對(duì)平臺(tái)的影響。

離不開算法的不僅是互聯(lián)網(wǎng)大廠。站在用戶角度來(lái)說，被精確的推薦算法訓(xùn)練了多年，很多用戶也并不愿意就此關(guān)閉個(gè)性化推薦，以接受“不夠精確”的服務(wù)。

推薦算法被關(guān)進(jìn)了籠子，但它的觸角卻依舊無(wú)處不在。

算法難戒

大廠員工范婷，在一個(gè)工作日的午后百無(wú)聊賴地刷著自己的朋友圈。手指僅滑動(dòng)了兩下，就看到了一家瑞典設(shè)計(jì)師品牌的廣告。這個(gè)服飾品牌她有印象，因?yàn)樽约涸?jīng)在淘寶下單過兩次。不過，一個(gè)漁夫帽就賣到了350元，價(jià)格稍貴，她因此消費(fèi)得不多。

“微信朋友圈推的廣告，一般都比我的日常消費(fèi)要高一檔次。”范婷說，“最離譜的一次，是刷到了蘭博基尼的廣告”。

做產(chǎn)品測(cè)試的王琦琦，前一天剛和同事們說完“你們想要王者榮耀聯(lián)名款護(hù)舒寶嗎”，第二天中午，她就在抖音上刷到了這款產(chǎn)品的視頻。她驚嘆，“我被監(jiān)控了？”更讓王琦琦疑惑的是，有時(shí)候只是日常聊天談到的某個(gè)東西，下一秒抖音就會(huì)推給自己。

做前端技術(shù)的迪琳對(duì)推薦算法更為敏感。她是抖音的老用戶，最近因?yàn)樗蚜藥状谓∩硐嚓P(guān)的內(nèi)容，抖音便開始天天給她推薦健身課程。她還發(fā)現(xiàn)，因?yàn)榻?jīng)常和男朋友在抖音上分享視頻，慢慢地，她和男朋友刷到的視頻池也愈發(fā)趨同，“他刷到的有些視頻，我一看，就是我前一天刷到的。”

這些不是個(gè)別現(xiàn)象，而是真切地被算法改變的大眾生活。

伴隨著推薦算法近十年來(lái)被大規(guī)模應(yīng)用，個(gè)人隱私、社會(huì)倫理、推薦效果等問題也開始受到重視。事實(shí)上，2021年8月，國(guó)家互聯(lián)網(wǎng)信息辦公室就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，提出算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對(duì)個(gè)人特征的選項(xiàng)，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。該規(guī)定于2022年3月1日起正式施行。

盡管算法新規(guī)明確規(guī)定了，平臺(tái)必須要在顯著位置上線算法關(guān)閉鍵，但從目前各平臺(tái)算法關(guān)閉的繁瑣程序來(lái)看，互聯(lián)網(wǎng)巨頭們短期內(nèi)并不愿意將選擇權(quán)真的交給用戶。

作為國(guó)內(nèi)推薦算法最知名的代表應(yīng)用，抖音關(guān)閉個(gè)性化內(nèi)容推薦需要整整7個(gè)步驟：打開App、點(diǎn)擊“我”、點(diǎn)擊導(dǎo)航欄、點(diǎn)擊“設(shè)置”、點(diǎn)擊“通用設(shè)置”、點(diǎn)擊“管理個(gè)性化內(nèi)容推薦”、點(diǎn)擊“個(gè)性化內(nèi)容推薦”右側(cè)的關(guān)閉按鈕。整個(gè)過程非常繁瑣。

除了內(nèi)容的興趣推薦，還有“個(gè)性化廣告”，有從業(yè)者告訴《財(cái)經(jīng)天下》周刊，通常這兩塊業(yè)務(wù)在公司內(nèi)部分屬不同業(yè)務(wù)條線，但體現(xiàn)在用戶端口上，有時(shí)候這兩個(gè)功能的關(guān)閉鍵可能會(huì)設(shè)置在一起，方便用戶管理。不過，抖音的并沒有在一起。

《財(cái)經(jīng)天下》周刊同樣測(cè)試了小紅書、淘寶、微博等平臺(tái)，想要順利關(guān)閉推薦算法，操作步驟幾乎都在5個(gè)以上。

不同平臺(tái)的推薦算法關(guān)閉按鈕。圖/抖音、小紅書、淘寶

對(duì)于這種高度復(fù)雜化的操作，其初衷到底是什么？《財(cái)經(jīng)天下》周刊據(jù)此向抖音官方詢問，截至發(fā)稿前尚未得到回復(fù)。

但是可以肯定的是，關(guān)閉推薦算法將給互聯(lián)網(wǎng)巨頭的商業(yè)化帶來(lái)直接的影響。據(jù)2014年Fcaebook的一份內(nèi)部報(bào)告顯示，關(guān)閉推薦算法會(huì)直接導(dǎo)致用戶瀏覽時(shí)間變短、發(fā)布信息的頻率降低、返回和登錄平臺(tái)的頻率降低等一系列后果。

實(shí)際上，資深算法工程師俊豪向《財(cái)經(jīng)天下》周刊透露，目前只要是互聯(lián)網(wǎng)大廠，現(xiàn)在對(duì)算法都極其依賴，而不同App算法關(guān)閉鍵的隱藏深度，一定程度上也代表了它們對(duì)推薦算法的依賴的程度。

“流量大的內(nèi)容類、社區(qū)類App，推薦算法這一塊做得都不會(huì)差”，測(cè)試過多款競(jìng)品的王琦琦說道。一直在大廠做技術(shù)的迪琳則提到，對(duì)于一個(gè)互聯(lián)網(wǎng)公司來(lái)說，搜索和推薦部門往往是最核心的部門，其招聘要求、人員配置都保持著較高的水準(zhǔn)，“精確地推薦、有效的增長(zhǎng)，是一個(gè)公司最重要的事情。”

但是搜索和推薦在業(yè)務(wù)邏輯上有著本質(zhì)不同。搜索的用戶往往帶有明顯的目的性，需要根據(jù)用戶鍵入的內(nèi)容去抵達(dá)新的內(nèi)容，而推薦的用戶可能沒有目的，平臺(tái)不一定需要完全按照用戶的興趣推薦，同時(shí)也可以引導(dǎo)人的興趣。

當(dāng)然，并非所有的互聯(lián)網(wǎng)企業(yè)都依賴推薦算法，尤其是一些體量不大的公司和產(chǎn)品。對(duì)于這些公司或者產(chǎn)品而言，因?yàn)閿?shù)據(jù)量并沒有龐大到必須依賴算法的地步，采用簡(jiǎn)單過濾反而效率更高。

一位大廠產(chǎn)品運(yùn)營(yíng)人士告訴《財(cái)經(jīng)天下》周刊，她之前運(yùn)營(yíng)的一款榜單類平臺(tái)產(chǎn)品，并沒有使用推薦算法，只需要人為推薦一些榜單內(nèi)容到頁(yè)面，“這類產(chǎn)品本身就不可能占用用戶太多時(shí)間”。她還運(yùn)營(yíng)過一個(gè)信息分發(fā)平臺(tái)，出于技術(shù)成本和內(nèi)容專業(yè)性的考慮，往往也更多選擇使用“人工推薦”。

但是對(duì)于用戶數(shù)以億為單位計(jì)量的頭部App而言，算法就變得必不可少了。尤其是當(dāng)整個(gè)行業(yè)的數(shù)據(jù)量呈指數(shù)級(jí)攀升，頭部互聯(lián)網(wǎng)平臺(tái)都有數(shù)億用戶。海量的數(shù)據(jù)與龐大的用戶規(guī)模，必須要借助算法進(jìn)行過濾和效率提升。

算法已經(jīng)成為互聯(lián)網(wǎng)必不可少的基礎(chǔ)設(shè)施，成為互聯(lián)網(wǎng)戒不掉的“蜜與糖”。

被“推薦”欄統(tǒng)治

推薦算法在國(guó)內(nèi)的廣泛使用，離不開移動(dòng)互聯(lián)網(wǎng)的普及和字節(jié)跳動(dòng)的崛起。在移動(dòng)互聯(lián)網(wǎng)高歌猛進(jìn)的十年內(nèi)，推薦算法也一步步統(tǒng)治了中國(guó)互聯(lián)網(wǎng)。

2012年3月，字節(jié)跳動(dòng)成立，主力產(chǎn)品今日頭條于當(dāng)年8月上線。作為國(guó)內(nèi)首個(gè)以機(jī)器推薦為主要分發(fā)方式的新聞資訊App，今日頭條上線僅90天，便橫掃1000萬(wàn)用戶，并首次在國(guó)內(nèi)帶火了“推薦算法”這一概念。

在今日頭條之前，國(guó)內(nèi)的資訊平臺(tái)都是編輯中心制，以人工分發(fā)為主，而今日頭條則開啟了機(jī)器分發(fā)內(nèi)容的先河。

俊豪向《財(cái)經(jīng)天下》周刊透露，字節(jié)跳動(dòng)并不是國(guó)內(nèi)最早開始做推薦算法的互聯(lián)網(wǎng)企業(yè)，比百度、阿里都要晚。但是憑借著“今日頭條”，字節(jié)跳動(dòng)迅速打響名聲，成為了推薦算法的后起之秀，以至于在很長(zhǎng)一段時(shí)間內(nèi)，這家公司的名字都被叫做“今日頭條”。

此后伴隨著抖音和TikTok的崛起，字節(jié)在推薦算法領(lǐng)域的實(shí)力進(jìn)一步增強(qiáng)，甚至一定程度上成為了推薦算法的代名詞。

2016年9月，抖音1.0上線，兩年之后，這個(gè)短視頻平臺(tái)迅速席卷國(guó)內(nèi)，成為國(guó)內(nèi)最受歡迎的兩大短視頻App之一。

和今日頭條相比，抖音在算法推薦上更加激進(jìn)和大膽。在抖音，用戶通過重復(fù)的“下劃”操作觀看短視頻，在不斷下劃的過程中，算法不斷“學(xué)習(xí)”用戶的喜好，根據(jù)用戶點(diǎn)贊、收藏、關(guān)注等行為特征，不斷訓(xùn)練模型，讓系統(tǒng)推薦的短視頻更加符合用戶的喜好。

圖/視覺中國(guó)

在抖音席卷國(guó)內(nèi)的同時(shí)，抖音國(guó)際版TikTok也迅速崛起。2017年8月，字節(jié)在海外創(chuàng)建了TikTok，后來(lái)收購(gòu)Musical.ly并將雙方整合，從2019年開始，TikTok迅速席卷全球。

和抖音一樣，TikTok同樣深度依賴推薦算法。在麻省理工學(xué)院（MIT）2021年發(fā)布的十大突破技術(shù)中，TokTok的推薦算法名列其中，因?yàn)樗軌蚴蛊胀ㄈ说膬?nèi)容有機(jī)會(huì)受到名人一樣的待遇并流行起來(lái)，實(shí)現(xiàn)了一定程度的內(nèi)容公平性。

2018年之后，伴隨著抖音的迅速崛起，算法推薦逐漸成為國(guó)內(nèi)信息分發(fā)的主流方式，資訊平臺(tái)、電商平臺(tái)、種草平臺(tái)紛紛押注于推薦算法，不同類型的App都被“推薦”欄統(tǒng)治。

到2020年的中國(guó)互聯(lián)網(wǎng)，推薦算法實(shí)際上已經(jīng)無(wú)處不在，除了千人千面的短視頻平臺(tái)以外，各大電商平臺(tái)的“猜你喜歡”、搜索App的結(jié)果排序、瀏覽器中的推送消息，基本都運(yùn)用了推薦算法。

作為短視頻生態(tài)的另一大巨頭，快手同樣很早就開始借助算法進(jìn)行短視頻分發(fā)，但是和抖音單列信息流的沉浸式推送相比，此前的快手更加偏向傳統(tǒng)信息流，賦予了用戶一定的選擇權(quán)，將系統(tǒng)推薦的不同視頻平鋪于首頁(yè)，用戶可以二次點(diǎn)擊。

不過在2020年9月，伴隨著快手8.0的上線，快手迎來(lái)單列與雙列并行的時(shí)代，“越來(lái)越像”抖音的同時(shí)，用戶的自主權(quán)也進(jìn)一步被算法收回。

即便是那些不以算法為強(qiáng)項(xiàng)的互聯(lián)網(wǎng)企業(yè)，大多也在移動(dòng)端首頁(yè)上線了推薦系統(tǒng)，例如愛奇藝、嗶哩嗶哩首頁(yè)為“推薦”欄，優(yōu)酷首頁(yè)為“猜你在追”。

和傳統(tǒng)的PC端相比，場(chǎng)景化的移動(dòng)端天然更適合推薦算法。以嗶哩嗶哩為例，如今網(wǎng)頁(yè)版嗶哩嗶哩首頁(yè)依舊采取了傳統(tǒng)的信息陳列，而嗶哩嗶哩App首頁(yè)則是典型的個(gè)性化推薦。

在推薦算法逐步普及的過程中，字節(jié)跳動(dòng)（抖音、今日頭條）、快手、小紅書、阿里巴巴（淘寶）成為其中最典型的代表，尤其是字節(jié)跳動(dòng)的推薦算法，被行業(yè)公認(rèn)為強(qiáng)大。

“字節(jié)的算法強(qiáng)大在于產(chǎn)品力和學(xué)習(xí)能力強(qiáng)大”，一位不愿具名的前小紅書產(chǎn)品經(jīng)理告訴《財(cái)經(jīng)天下》周刊，從產(chǎn)品力來(lái)說，字節(jié)的算法比較難做，信息流提取的用戶行為特征有限，在有限的特征中預(yù)測(cè)用戶的喜好更難。從學(xué)習(xí)能力來(lái)說，字節(jié)的數(shù)據(jù)并發(fā)量高，需要同時(shí)對(duì)大量用戶的行為特征進(jìn)行在線學(xué)習(xí)。

推薦算法的強(qiáng)大反映到產(chǎn)品端，體現(xiàn)為字節(jié)系產(chǎn)品的龐大DAU（日活躍用戶數(shù)）和超高的用戶時(shí)長(zhǎng)。一組數(shù)據(jù)曾顯示，抖音在2021年的日活峰值超過了 7 億，用戶日平均使用時(shí)長(zhǎng)已經(jīng)超過了 1 小時(shí)。

推薦算法的初衷，是實(shí)現(xiàn)更高效、更公平的信息分發(fā)。但是伴隨著算法對(duì)移動(dòng)互聯(lián)網(wǎng)的統(tǒng)治，由于大公司掌握了算法背后的分發(fā)權(quán)，過度追求收益，導(dǎo)致推薦算法陷入了巨大爭(zhēng)議。

細(xì)思恐極的“監(jiān)視”

推薦算法從誕生之初便存在爭(zhēng)議，對(duì)于用戶喜好的過分迎合，可能會(huì)導(dǎo)致用戶長(zhǎng)期接收單一種類的信息，形成所謂“信息繭房”。而企業(yè)對(duì)商業(yè)化的過度追求，則可能導(dǎo)致大量用戶特征被濫用、用戶利益被侵犯。

但是這種爭(zhēng)議的最大化，源于2020年以后，新冠疫情下高速增長(zhǎng)的宅經(jīng)濟(jì)讓互聯(lián)網(wǎng)行業(yè)加速擴(kuò)張，大量用戶在短視頻平臺(tái)上消耗海量時(shí)間，兩大短視頻平臺(tái)在國(guó)內(nèi)的用戶數(shù)接近網(wǎng)民總數(shù)，TikTok在海外橫掃全球。

在此過程中，推薦算法所導(dǎo)致的“信息繭房”問題開始被大量討論，大數(shù)據(jù)殺熟、飯圈文化等問題也被與推薦算法關(guān)聯(lián)起來(lái)，算法成為眾矢之的。2020年9月，一篇《外賣騎手，困在系統(tǒng)里》刷屏全網(wǎng)，將外賣平臺(tái)的算法推到臺(tái)前，助推外賣平臺(tái)后續(xù)公開了其部分算法。

一切爭(zhēng)議的源泉在于，推薦算法的普及過程，逐步背離了它的初衷。

在互聯(lián)網(wǎng)行業(yè)，算法本身屬于一個(gè)廣義詞匯，除了推薦算法以外，還包括匹配算法、廣告增長(zhǎng)算法、策略算法等各個(gè)類別。但是從底層邏輯來(lái)看，不管是匹配外賣和網(wǎng)約車訂單的匹配算法、精準(zhǔn)推薦廣告給用戶的廣告算法、分配優(yōu)惠券的策略算法，亦或是最受關(guān)注的推薦算法，其核心均在于人與信息的高效抵達(dá)。

簡(jiǎn)而言之，算法就是設(shè)定一套規(guī)則，讓人和信息根據(jù)這套規(guī)則來(lái)建立聯(lián)系。但是隨著算法背后的規(guī)則越來(lái)越復(fù)雜，算法對(duì)于大部分用戶而言變成了一個(gè)“黑箱”，同時(shí)也引發(fā)了監(jiān)管和用戶對(duì)于算法濫用的擔(dān)憂。

這種擔(dān)憂背后的問題是實(shí)際存在的。以推薦算法為例，早期模型不精準(zhǔn)的時(shí)候，算法背后的很多特征還是可識(shí)別的，一些內(nèi)容可能會(huì)被打上簡(jiǎn)單的標(biāo)簽，但是如今伴隨著深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、云計(jì)算能力的不斷提升，算法已經(jīng)變得“不可視”了。

推薦算法的“不可視”，源于模型本身和特征變得越來(lái)越復(fù)雜。

推薦算法的一大基礎(chǔ)在于，人們?cè)诨ヂ?lián)網(wǎng)上的一切行為都可以歸納為“特征”，并根據(jù)“特征”構(gòu)建模型，然后基于這個(gè)模型進(jìn)行算法推薦。特征是多種多樣的，例如人們?cè)谒⒍桃曨l時(shí)的點(diǎn)贊、關(guān)注、收藏，都可以被歸納為特征，通過這些特征去不斷地訓(xùn)練模型，就能使算法越來(lái)越精準(zhǔn)。

“其實(shí)現(xiàn)在的模型特征，甚至都不是性別、年齡這種顯性特征，而是更細(xì)微的特征，比如你的停留時(shí)長(zhǎng)、直播打賞記錄、播放視頻的倍速、甚至拖動(dòng)進(jìn)度條都可以被歸納為特征，然后用這些特征去做模型。”俊豪告訴《財(cái)經(jīng)天下》周刊。

據(jù)俊豪透露，現(xiàn)在很多模型都直接做成了“嵌入”（一種系統(tǒng)類型），甚至就連算法工程師們都不知道其中具體包含了什么特征。這是細(xì)思恐極的，意味著，就連使用技術(shù)的當(dāng)事人，也無(wú)法具體清楚他們用技術(shù)對(duì)人們做了什么。

“很多嵌入連我們也不知道是什么意思，很多推薦模型已經(jīng)不可視化了。對(duì)于懂技術(shù)的人來(lái)說，這也是個(gè)黑匣子，只不過我們知道往哪里調(diào)，知道它怎樣起作用，但具體代表什么就不知道了。”俊豪告訴《財(cái)經(jīng)天下》周刊。

俊豪更進(jìn)一步解釋，“即使你不告訴我你是誰(shuí)，家在哪，只是通過你的瀏覽記錄、點(diǎn)贊記錄，算法也能挖掘出很多它想要的特征，然后根據(jù)這些特征去做推薦。”

在這樣的背景下，對(duì)于用戶乃至很多的從業(yè)者而言，算法本身已經(jīng)成為了黑箱。而這也意味著，算法是否被濫用，往往也是不可知的：算法到底收集了人們的哪些特征？背后如何應(yīng)用？是否侵犯了隱私？例如在許多大數(shù)據(jù)殺熟的案例中，一些用戶行為特征被運(yùn)用在差別定價(jià)。

圖/視覺中國(guó)

對(duì)于互聯(lián)網(wǎng)公司而言，應(yīng)用推薦算法有兩個(gè)明確的目的，第一是幫助用戶更高效地找到內(nèi)容/商品，提高用戶的忠誠(chéng)度。第二是提高交叉銷售能力，提升成交轉(zhuǎn)化率。所以算法推薦的準(zhǔn)確度，直接影響到平臺(tái)的收益。

“你推薦10個(gè)短視頻，要是用戶都不喜歡，他就直接退出了。但你要是一直能給他推薦喜歡的，他可能連續(xù)看倆小時(shí)，順便看幾個(gè)廣告，再買點(diǎn)東西，這收益差遠(yuǎn)了。”俊豪說。

所以在進(jìn)行內(nèi)容/商品推薦的時(shí)候，平臺(tái)有極大的動(dòng)機(jī)更多地給用戶推薦那些具有更高收益的內(nèi)容/商品。伴隨著對(duì)用戶的不斷訓(xùn)練，推薦算法從一開始的“追隨用戶”，變?yōu)椤耙龑?dǎo)用戶”。自制力好的人可以抵抗算法，但自制力差的群體面對(duì)這樣的“引導(dǎo)”，會(huì)產(chǎn)生何種影響不得而知。

主動(dòng)權(quán)來(lái)到了算法這一邊。

困于算法

不管是互聯(lián)網(wǎng)企業(yè)還是公眾，當(dāng)下都已無(wú)法離開算法。

“算法在社會(huì)中的方方面面的滲入，已經(jīng)成為一個(gè)既定事實(shí)。”暨南大學(xué)新聞與傳播學(xué)院副教授師文對(duì)科學(xué)傳播有多年研究，“人們終究是生活在一個(gè)社會(huì)中，而不是生活在一個(gè)實(shí)驗(yàn)室里。當(dāng)算法技術(shù)進(jìn)入社會(huì)之后，就會(huì)產(chǎn)生它的社會(huì)意義。”

這種算法作用于社會(huì)的情況表現(xiàn)在日常的每一個(gè)環(huán)節(jié)：當(dāng)你每次瀏覽微博、豆瓣、知乎的時(shí)候，都在被算法識(shí)別、篩選，每個(gè)瀏覽痕跡，都會(huì)變成可量化的數(shù)據(jù)。最后你的社交圈越來(lái)越趨同，刷到的動(dòng)態(tài)越來(lái)越是自己“本來(lái)就想看到”的。于是你開始以為這就是社會(huì)“本來(lái)的樣貌”，并對(duì)不同的聲音無(wú)法容忍。

清華大學(xué)2018年的一篇研究文獻(xiàn)就指出，在算法分發(fā)時(shí)代，互聯(lián)網(wǎng)巨頭通過技術(shù)優(yōu)勢(shì)將分發(fā)和傳播的權(quán)力從人類轉(zhuǎn)移到機(jī)器，“事實(shí)上收回了信息的把關(guān)權(quán)”。算法對(duì)社交領(lǐng)域的侵入，實(shí)際上是互聯(lián)網(wǎng)企業(yè)和算法權(quán)力的進(jìn)一步擴(kuò)張。

“算法一開始只是一種效率工具，但現(xiàn)在成了一種規(guī)則，一種權(quán)力”，師文對(duì)《財(cái)經(jīng)天下》周刊說，集成用戶的大數(shù)據(jù)，支配人們的信息流向，這是推薦算法對(duì)人們更大、更為持續(xù)的影響。

如今，伴隨著世界各國(guó)紛紛將算法監(jiān)管提上日程，一個(gè)共識(shí)是，算法的“權(quán)力”必須被約束，而算法規(guī)范的一大目標(biāo)就在于，讓算法不被濫用。據(jù)俊豪透露，算法新規(guī)實(shí)施以后，現(xiàn)在一切關(guān)于個(gè)人特征的信息基本上都不能用了，而且伴隨著相關(guān)部門中懂技術(shù)的人越來(lái)越多，規(guī)范水平也在不斷提升。

“現(xiàn)在監(jiān)管部門很多人也很懂技術(shù)，他們會(huì)直接翻代碼，看你是否侵犯用戶隱私、過度收集權(quán)限等。”俊豪告訴《財(cái)經(jīng)天下》周刊。

除了以上努力，平臺(tái)和公眾自身也需要在社會(huì)中建立起更好的適應(yīng)機(jī)制。在師文看來(lái)，對(duì)于公眾而言，需要思考如何與算法相處，與算法相處的時(shí)候應(yīng)該擁有哪些權(quán)利，“比如抖音用戶那么多，但算法素養(yǎng)依然欠缺，未必人人都意識(shí)到抖音是存在推薦算法的，那就無(wú)從談起更進(jìn)一步認(rèn)識(shí)到這種算法的運(yùn)作機(jī)理，更不用說意識(shí)到這將對(duì)我們的信息環(huán)境產(chǎn)生什么影響。”

分發(fā)信息的互聯(lián)網(wǎng)企業(yè)們，則需要針對(duì)算法做出更為透明和充分的引導(dǎo)。師文提到，平臺(tái)在保護(hù)商業(yè)秘密的前提下，首先需要讓其算法更加的可見、易懂，增強(qiáng)算法的透明性，讓公眾對(duì)其算法有所意識(shí)和了解。在保障用戶的選擇權(quán)時(shí)，也應(yīng)該給予其更充分的選擇，采取更加用戶友好型的設(shè)置。

“不能搞一個(gè)算法披露出來(lái)，但是公眾看不懂，搞一個(gè)關(guān)閉按鈕出來(lái)，但是公眾找不到——這種做法只是看上去有了選擇權(quán)，而不是一種充分的選擇權(quán)。”師文說。

英國(guó)學(xué)者杰米·薩斯坎德在《算法的力量》一書中還強(qiáng)調(diào)到，互聯(lián)網(wǎng)公司內(nèi)部幾乎沒有工程師會(huì)思考其工作導(dǎo)致的系統(tǒng)性后果，他們中的大部分只需要解決某些分散的技術(shù)問題就可以交差了。這也要求，整個(gè)互聯(lián)網(wǎng)行業(yè)要拋棄所謂“技術(shù)無(wú)罪”的擋箭牌，真正對(duì)推薦算法的過程和結(jié)果負(fù)起相應(yīng)責(zé)任。

但硬幣的另一面是，多年的用戶培養(yǎng)已經(jīng)導(dǎo)致不少用戶難以戒掉推薦算法，新規(guī)對(duì)平臺(tái)的實(shí)質(zhì)影響有多大還很難說。

“商業(yè)化效率是一定會(huì)下降的，但是推測(cè)不會(huì)下降很多，甚至不會(huì)有影響，因?yàn)橛脩艨赡苷也坏疥P(guān)閉鍵、不愿意關(guān)閉或者不在乎關(guān)閉。”上述前小紅書產(chǎn)品經(jīng)理提到。

沒有選擇關(guān)掉推薦算法的用戶確實(shí)不在少數(shù)。一位抖音資深用戶表示，自己不會(huì)選擇關(guān)閉個(gè)性化推薦，“關(guān)了之后還是會(huì)到處推廣告，不關(guān)還能篩掉一些我奶奶才看的視頻。”迪琳越來(lái)越不愛刷抖音了，但如果真要關(guān)閉個(gè)性化推薦，“那還不如不玩了，刷到的就完全不是想看的了”。

王琦琦早就聽說可以關(guān)閉個(gè)性化推薦，但似乎還是出于一種依賴，想知道“系統(tǒng)到底會(huì)給我推薦什么”。像范婷一樣對(duì)技術(shù)無(wú)感的普通用戶，則是習(xí)慣了這一切，疲于查找關(guān)閉入口也無(wú)暇考慮更多，“看一看也無(wú)妨”。

（應(yīng)受訪者要求，文中范婷、迪琳、王琦琦、俊豪為化名。）

我們從《財(cái)經(jīng)天下》周刊出發(fā)，以新媒體的形式和節(jié)奏、

以傳統(tǒng)媒體求實(shí)的精神，致力于傳播真正有價(jià)值的報(bào)道。

AI財(cái)經(jīng)社原創(chuàng)內(nèi)容，未經(jīng)授權(quán)，禁止任何轉(zhuǎn)載

原標(biāo)題：《算法有癮，大廠難戒》

閱讀原文