·根據(jù)起訴書，Meta拒絕關(guān)閉上百萬未成年人的賬戶，故意在Facebook和Instagram中加入成癮性功能，觸發(fā)年輕用戶間歇性釋放多巴胺，導(dǎo)致其上癮性消費。Meta明知算法可能會放大負(fù)面的社交比較，導(dǎo)致用戶對自己的身體或外表感覺更糟，仍拒絕更改算法。

·“包括Meta在內(nèi)的社交媒體公司造成了全國青少年的心理健康危機，他們必須承擔(dān)責(zé)任。”紐約州總檢察長利蒂西亞·詹姆斯在聲明中稱。

Meta旗下?lián)碛蠪acebook和Instagram兩大社交平臺，涉及數(shù)百萬青少年和兒童用戶。

美國大多數(shù)州組成的聯(lián)盟起訴社交媒體巨頭Meta公司，指控其非法收集兒童賬戶信息，并堅持采用傷害未成年人精神健康的算法。

根據(jù)最新公布的法庭文件，至少從2019年開始，Meta就故意拒絕關(guān)閉13歲以下兒童的大部分賬戶，同時在未經(jīng)父母同意的情況下收集他們的個人信息。

此外，Meta明知其算法損害未成年人心理健康，但拒絕更改其算法，表示這會觸發(fā)年輕用戶間歇性釋放多巴胺，導(dǎo)致其在平臺上的上癮性消費循環(huán)。該公司還被指控淡化了平臺上錯誤信息、仇恨言論、歧視和其他有害內(nèi)容的發(fā)生率。

這項起訴要求法院下令禁止Meta從事上述違法行為。Meta旗下?lián)碛蠪acebook和Instagram兩大社交平臺，涉及數(shù)百萬青少年和兒童用戶，因此民事處罰可能高達(dá)數(shù)億美元。大多數(shù)州對每次違規(guī)行為處以1000至50000美元的罰款。

不尋常的大規(guī)模起訴

10月24日，美國33個州提起聯(lián)合訴訟，指控Meta故意在Facebook和Instagram中加入傷害未成年用戶的成癮性功能。哥倫比亞特區(qū)和另外8個州當(dāng)天分別對Meta提起訴訟，其中大部分起訴內(nèi)容相同。如此多的州聯(lián)合起來起訴一家科技巨頭損害消費者利益，這是不尋常的舉動，顯示美國各州正在優(yōu)先考慮兒童和網(wǎng)絡(luò)安全問題。

“Meta故意在其平臺上設(shè)計具有操控性的功能，讓兒童沉迷于其平臺，同時降低他們的自尊，從而從兒童的痛苦中獲利。”紐約州總檢察長利蒂西亞·詹姆斯（Letitia James）在一份聲明中表示，“包括Meta在內(nèi)的社交媒體公司造成了全國青少年的心理健康危機，他們必須承擔(dān)責(zé)任。”

這波范圍廣泛的訴訟基于2021年以來美國兩黨、多州調(diào)查的結(jié)果，此前Facebook舉報人弗朗西斯·豪根（Frances Haugen）提供了數(shù)以萬計的公司內(nèi)部文件，顯示該公司如何知道其產(chǎn)品可能會對年輕人的精神健康產(chǎn)生負(fù)面影響。

盡管起訴書長達(dá)兩百多頁，但各州引用的大部分證據(jù)都因最初提交的文件中的刪改而被刪除。當(dāng)?shù)貢r間11月26日晚，新提交的未密封起訴書提供了各州訴訟的新細(xì)節(jié)，讓外界得以了解更多詳情。

來自33個州的總檢察長指控Meta在2019年初至2023年中從父母、朋友和在線社區(qū)成員那里收到了超過100萬起Instagram上存在13歲以下用戶的投訴，但“Meta僅禁用了其中一小部分帳戶”。

根據(jù)起訴書，Meta違反了一系列州級消費者保護法規(guī)以及《兒童在線隱私保護規(guī)則》（COPPA），該規(guī)則禁止公司在未經(jīng)父母同意的情況下收集13歲以下兒童的個人信息。每次違反該法律的罰款最高可達(dá)50000 美元以上。

“在公司內(nèi)部，Meta實際知道數(shù)百萬Instagram用戶年齡在13歲以下，這是一個公開的秘密，并會定期記錄、嚴(yán)格分析和確認(rèn)，并積極保護不向公眾披露。”起訴書稱。

根據(jù)法庭文件，Meta自己的記錄顯示，數(shù)十萬青少年用戶每天花費超過5個小時時間在Instagram上。一位Meta產(chǎn)品設(shè)計師在一封內(nèi)部電子郵件中寫道，“年輕人是最好的”，“希望人們在年輕時盡早為你服務(wù)”。

在2019年的一個案例中，Meta員工在電子郵件中討論了為什么公司沒有刪除屬于一名 12歲女孩的4個賬戶，盡管女孩的母親提出了要求，并且“投訴說她女兒只有12歲”。員工得出的結(jié)論是，這些賬戶被“忽略”，部分原因是Meta代表“無法確定用戶是否未成年”。

“Instagram的使用條款禁止13歲以下（在某些國家或地區(qū)為13歲以上）的用戶，我們已采取措施，在發(fā)現(xiàn)這些賬戶后將其刪除。然而，驗證網(wǎng)絡(luò)上人們的年齡是一項復(fù)雜的行業(yè)挑戰(zhàn)。”Meta在11月26日的一份聲明中告訴CNN，“例如，許多人——尤其是13歲以下的人——沒有身份證件。這就是 Meta支持聯(lián)邦立法的原因，該立法要求應(yīng)用商店在16歲以下的青少年下載應(yīng)用程序時必須獲得父母的批準(zhǔn)。通過這種方法，不需要讓父母和青少年向數(shù)百個單獨的應(yīng)用程序提供政府發(fā)放的身份證件等敏感信息來驗證他們的年齡。”

“對商業(yè)模式有價值”

起訴書還稱，Meta知道其算法可能會引導(dǎo)兒童接觸有害內(nèi)容，從而損害他們的健康。根據(jù)文件中引用的公司內(nèi)部通訊，員工寫道，他們擔(dān)心“IG（Instagram）上的內(nèi)容會引發(fā)青少年的負(fù)面情緒并影響他們的心理健康（以及）我們的排名算法將（他們）帶入負(fù)面的螺旋和反饋循環(huán)，很難退出。”

例如，起訴書稱，Meta研究人員在2021年7月進行了一項研究，得出的結(jié)論是Instagram的算法可能會放大負(fù)面的社交比較，并且“內(nèi)容可能會導(dǎo)致用戶對自己的身體或外表感覺更糟”。在訴訟中引用的2021年2月的內(nèi)部電子郵件中，Meta員工據(jù)稱認(rèn)識到社交比較與在Meta的社交媒體平臺上“花費更多時間有關(guān)”，并討論了這種現(xiàn)象如何“對Instagram的商業(yè)模式有價值，同時對少女造成傷害。”

在2021年3月針對飲食失調(diào)內(nèi)容的內(nèi)部調(diào)查中，Meta團隊對賬戶名提及饑餓、瘦弱和飲食失調(diào)的用戶進行了跟蹤。起訴稱，Instagram的算法隨后開始生成推薦帳戶列表，“其中包括與厭食癥相關(guān)的帳戶”。

然而，Meta全球安全主管安提戈涅·戴維斯（Antigone Davis）于2021年9月在國會作證時稱，Meta不會“引導(dǎo)人們觀看宣揚飲食失調(diào)的內(nèi)容。這實際上違反了我們的政策，我們會在發(fā)現(xiàn)后刪除該內(nèi)容。我們實際上使用人工智能來查找此類內(nèi)容并將其刪除。”

起訴書稱，Instagram的高級領(lǐng)導(dǎo)層也知道有問題的內(nèi)容對該平臺來說是一個關(guān)鍵問題。據(jù)稱，Instagram的負(fù)責(zé)人亞當(dāng)·莫塞里（Adam Mosseri）在一封內(nèi)部電子郵件中寫道，“社交比較之于Instagram，就像選舉干預(yù)之于Facebook。”

然而，盡管該公司的內(nèi)部研究證實了對其平臺上的社交比較的擔(dān)憂，但起訴書稱Meta拒絕改變其算法。一名員工在訴訟中引用的內(nèi)部通訊中指出，煽動負(fù)面外觀比較的內(nèi)容“是（在探索頁面上）最具吸引力的內(nèi)容之一，因此這個想法與許多其他團隊的首要措施背道而馳。”與此同時，“Meta的外部溝通否認(rèn)或掩蓋了其推薦算法向年輕用戶推廣極負(fù)面的外觀比較內(nèi)容的事實。”起訴書稱。

根據(jù)訴訟中引用的內(nèi)部文件，Meta還意識到其推薦算法“會觸發(fā)年輕用戶間歇性的多巴胺釋放”。其演示文稿稱，“當(dāng)涉及到‘感覺良好’的多巴胺效應(yīng)時，青少年是永不滿足的”，該公司的現(xiàn)有產(chǎn)品已經(jīng)非常適合提供能夠觸發(fā)這種強效神經(jīng)遞質(zhì)的刺激。“每當(dāng)我們的青少年用戶發(fā)現(xiàn)一些意想不到的東西時，他們的大腦就會分泌出多巴胺。”

Meta在一份聲明中回應(yīng)稱：“我們希望青少年能夠獲得安全、適合年齡的在線體驗，我們有30多種工具來支持他們及其父母。”“我們花了十年的時間來解決這些問題，并聘請了致力于保護年輕人安全和在線支持的人員。該起訴使用選擇性引用和精心挑選的文件來歪曲我們的工作。”

淡化錯誤信息、仇恨言論發(fā)生率

起訴書還稱，Meta可能大大淡化了其平臺上錯誤信息、仇恨言論、歧視和其他有害內(nèi)容的發(fā)生率。

起訴書指控Meta創(chuàng)建了名為“社區(qū)標(biāo)準(zhǔn)執(zhí)行報告”（CSER）的季度報告，該報告宣稱其平臺上社區(qū)標(biāo)準(zhǔn)違規(guī)率較低，但排除了用戶體驗調(diào)查中的關(guān)鍵數(shù)據(jù)，這些數(shù)據(jù)證明用戶遇到有害內(nèi)容的比率要高得多。

例如，Meta表示，根據(jù)其CSER報告中2020年7月至9月的數(shù)據(jù)，其平臺上每10000次內(nèi)容瀏覽中只有10或11次包含仇恨言論，即比例約為0.10%至0.11%。

但起訴書稱，幾個月前Meta的一項名為“誠信問題追蹤范圍調(diào)查”（TRIPS）的內(nèi)部用戶調(diào)查報告的仇恨言論水平明顯更高。根據(jù)2020年5月的TRIPS報告，平均有19.3%的Instagram用戶和17.6%的Facebook用戶投訴稱，在平臺上目睹了仇恨言論或歧視。平均有12.2%的Instagram用戶和16.6%的Facebook用戶投訴稱，在這些平臺上看到過暴力圖片，超過20%的用戶目睹了欺凌和騷擾。

Meta將圖片暴力定義為“在Facebook和Instagram上美化暴力或慶祝他人遭受痛苦或羞辱的內(nèi)容”，并指出欺凌和騷擾“本質(zhì)上是高度個人化的”，因此“使用技術(shù)主動檢測這些行為可能比檢測其他類型的違規(guī)行為更具挑戰(zhàn)性”。

Meta的一位發(fā)言人通過電子郵件告訴“商業(yè)內(nèi)幕”，從這些調(diào)查中收集的數(shù)據(jù)并沒有真正衡量“流行度”（Meta將其定義為違規(guī)內(nèi)容的觀看次數(shù)占總觀看次數(shù)的百分比）。相反，該公司利用這些調(diào)查中的信息來開發(fā)新功能，例如有關(guān)傷害性評論或內(nèi)容的通知或善意提醒，鼓勵人們在與不認(rèn)識的人接觸時保持尊重態(tài)度。