《彭博商業(yè)周刊》封面

去年，斯里蘭卡的一名Facebook用戶發(fā)布了一條憤怒的消息。這名用戶用僧伽羅語寫道：“殺死所有穆斯林嬰兒，一個也別放過。”僧伽羅語是該國占多數(shù)的佛教人口所使用的語言。

這條消息發(fā)布于2018年初，發(fā)布時文字是白色，背景是粉紫色。這是Facebook從2016年開始提供的一種設(shè)計(jì)，目的是鼓勵用戶更多地分享。在有其他用戶感到不妥，點(diǎn)擊舉報按鈕之前，這條內(nèi)容已經(jīng)獲得了30次點(diǎn)贊。舉報者選擇了“仇恨言論”選項(xiàng)，這是Facebook平臺列出的九類令人反感的內(nèi)容之一。

多年來，斯里蘭卡的非營利性組織一直警告稱，F(xiàn)acebook正在加劇僧加羅人佛教徒和泰米爾人穆斯林之間的種族緊張關(guān)系，但該公司并未重視這個問題。Facebook過了6天時間才對這次仇恨言論報告作出回應(yīng)。該公司對舉報者說，“感謝你的反饋”，但這些內(nèi)容“并不違反我們具體的社區(qū)標(biāo)準(zhǔn)”。舉報者將這個回復(fù)發(fā)布到了Twitter。

這條內(nèi)容一直都沒被刪除。去年，網(wǎng)上出現(xiàn)了一波針對穆斯林的暴力攻擊，而這條內(nèi)容也是其中一部分。謠言在Facebook上流傳，聲稱穆斯林在佛教徒的食物里放絕育藥。2018年2月底，一群暴徒襲擊了斯里蘭卡東部小鎮(zhèn)Ampara一家穆斯林餐廳的老板。他僥幸逃生，但在接下來的一周時間里，在中等規(guī)模城市Kandy發(fā)生了更多騷亂，導(dǎo)致了兩人死亡。隨后政府介入采取措施，其中包括要求Facebook下線3天。

下線的要求終于引起了Facebook的關(guān)注。該公司指派曾在奧巴馬政府任職的律師杰西卡·萊恩萬德（Jessica Leinwand）調(diào)查問題。她的結(jié)論是：Facebook需要重新思考對假信息的縱容態(tài)度。在斯里蘭卡的騷亂發(fā)生之前，該公司的政策對假新聞和假信息持容忍態(tài)度。萊恩萬德總結(jié)說：“讓一家私營公司判斷信息是否屬實(shí)真的令人擔(dān)憂。”

然而，當(dāng)萊恩萬德開始調(diào)查斯里蘭卡發(fā)生的事件時，她意識到，這項(xiàng)政策需要引起警惕。從那年夏天開始，F(xiàn)acebook開始在一些高風(fēng)險國家，例如斯里蘭卡，刪除某些內(nèi)容，但前提是這些帖子被當(dāng)?shù)氐姆菭I利組織報道，并可能導(dǎo)致“迫在眉睫的暴力活動”。當(dāng)6月份關(guān)于“絕育藥”的流言再次出現(xiàn)時，F(xiàn)acebook的新政策開始起效果。

萊恩萬德表示，她個人都對此感到滿意，這也證明Facebook有能力監(jiān)管其平臺。

但情況是否真的如此？

大約一年前媒體曝料，F(xiàn)acebook允許數(shù)千萬用戶的個人數(shù)據(jù)被分享給咨詢公司劍橋分析，后者參與了美國總統(tǒng)特朗普2016年的競選活動。這個消息引發(fā)了美國司法部對Facebook數(shù)據(jù)分享行為的調(diào)查，調(diào)查隨后甚至還引入了大陪審團(tuán)的參與。

侵犯隱私信息并不像種族暴力那么嚴(yán)重，但這起事件表明，公眾對Facebook巨大影響力的認(rèn)知發(fā)生了明顯轉(zhuǎn)變。然而Facebook仍在遵循慣用模式：該公司知道問題存在，但在過去多年中一直視而不見，在被曝光后則發(fā)表不痛不癢的說辭，想要大事化小。

例如，F(xiàn)acebook CEO扎克伯格在去年4月出席國會聽證會時不斷重復(fù)：“我們正從更廣泛的視角來看待我們的責(zé)任。”

他于3月初發(fā)表了長達(dá)3000字的博文，表達(dá)了類似看法，承諾Facebook將專注于通信隱私，以解決受信任問題，同時承認(rèn)該公司的應(yīng)用中仍然存在“可怕的事件，例如兒童被侵犯，恐怖主義和敲詐勒索”。

如果Facebook想要阻止這些事情，那么就必須以更好的方式與27億用戶來打交道。這些用戶生產(chǎn)的內(nèi)容促進(jìn)了Facebook廣告引擎的發(fā)展，給該公司帶來了豐厚的利潤。Facebook業(yè)務(wù)依賴于對這些內(nèi)容進(jìn)行分析，向用戶展示他們可能喜歡的其他內(nèi)容。這種機(jī)制帶來了副作用，導(dǎo)致假新聞和極端主義被放大。

Facebook讓萊恩萬德和其他高管接受了《彭博商業(yè)周刊》的采訪，希望證明該公司正在取得進(jìn)展。

27頁“社區(qū)標(biāo)準(zhǔn)”

然而不幸的是，他們介紹的問題報告系統(tǒng)非常依靠低工資的人工管理員和軟件，處理速度緩慢，資源不足。Facebook有能力付更多錢給這些管理員，或招募更多管理員，或是對用戶發(fā)布的內(nèi)容作出更嚴(yán)格的規(guī)定。然而，這樣做都會不利于該公司的利潤和營收。因此，F(xiàn)acebook選擇采取被動姿態(tài)，想要在問題出現(xiàn)后再制定規(guī)則。這些規(guī)則確實(shí)帶來了幫助，但批評人士直言，F(xiàn)acebook需要更加積極主動。

Facebook的早期投資人羅杰·麥克奈米（Roger McNamee）指出：“當(dāng)問題出現(xiàn)在系統(tǒng)中之后再嘗試發(fā)現(xiàn)和修復(fù)，這樣的理念存在缺陷。從數(shù)學(xué)上來說，這是不可能做到的。”

麥克奈米目前是發(fā)聲最激烈的Facebook批評者之一。他近期出版了新書《Zucked》。

書中認(rèn)為，由于Facebook提供精準(zhǔn)廣告的能力取決于對大量用戶數(shù)據(jù)的收集和處理，因此該公司缺乏天然的動力去限制有問題內(nèi)容。他表示：“他們看待這些的方式實(shí)際上只是為了避免修復(fù)商業(yè)模式中的固有問題。”

目前，用來管理Facebook的是只有27頁紙的“社區(qū)標(biāo)準(zhǔn)”。這個標(biāo)準(zhǔn)于2018年首次公布，其中的規(guī)則包括，除非用于科學(xué)和教育目的，否則不允許出現(xiàn)“制作爆炸物”的教學(xué)內(nèi)容。此外，“可以看見屁眼”和“全裸臀部特寫”的照片也是被禁止，除非這些圖片用于公眾人物。在這種情況下，作為評論，這樣的圖片是被允許的。

個別來看，這些標(biāo)準(zhǔn)很是荒謬可笑。然而Facebook高管們表示，他們正努力嘗試以可擴(kuò)展的方式，系統(tǒng)性地解決網(wǎng)站上最糟糕的問題。這意味著，這些規(guī)則需要有足夠的普適性，適用于全球任何地方；此外也要足夠明確，讓Facebook在菲律賓、愛爾蘭和其他遠(yuǎn)程內(nèi)容審核中心的低薪員工可以在幾秒鐘內(nèi)判斷，如何處理被標(biāo)記的內(nèi)容。

與此同時，對于在Facebook從事這方面工作的1.5萬名全職和外包員工，他們的勞動條件也引起了爭議。

今年2月，美國科技網(wǎng)站The Verge報道稱，美國的管理員每年收入只有2.88萬美元，同時被頻繁要求查看含有暴力、色情和仇恨言論的圖像和視頻。有些人因此患上了創(chuàng)傷后應(yīng)激障礙。

Facebook回應(yīng)稱，正在對外包勞務(wù)提供商進(jìn)行審核，與它們保持更密切的聯(lián)系，以確保更好的勞動條件標(biāo)準(zhǔn)，支付最低工資。

扎克伯格表示，F(xiàn)acebook用來識別裸體和恐怖主義內(nèi)容的人工智能算法最終能過濾大部分此類內(nèi)容。然而目前，即使最復(fù)雜的人工智能軟件也無法很好處理需要聯(lián)系上下文進(jìn)行判斷的內(nèi)容類別。

Facebook全球政策管理負(fù)責(zé)人莫妮卡·比科特（Monica Bickert）認(rèn)為：“仇恨言論就是此類內(nèi)容之一。霸凌和騷擾也是如此。”

在接受采訪當(dāng)天，比科特正在處理Facebook對前一天馬里蘭州安納波利斯Capital Gazette大規(guī)模槍擊案的回應(yīng)。在這起槍擊案發(fā)生后，比科特指示內(nèi)容審核員關(guān)注贊揚(yáng)槍手的內(nèi)容，并阻止炒作者以槍手或受害者名義注冊虛假帳號。這起槍擊案導(dǎo)致了5人死亡。

隨后，她的團(tuán)隊(duì)下線了槍手的帳號，并將受害者個人頁面轉(zhuǎn)換為Facebook所謂的“紀(jì)念賬號”。這些帳號看起來與Facebook普通頁面沒有差別，但在逝者姓名上方添加了“銘記”一詞。

類似這樣的危機(jī)每周都在發(fā)生。

比科特表示：“不僅僅是槍擊案，還可能是飛機(jī)墜毀。我們要等待調(diào)查清楚飛機(jī)上有什么人，以及事故是否是恐怖襲擊?？赡軙l(fā)生抗議活動，也可能有人受傷。”

這些算是比較容易處理的情況。在這些事件中，對與錯的界線是清晰的，并且Facebook已經(jīng)有現(xiàn)成的應(yīng)對方案。比科特用自己的筆記本電腦展示了Facebook社區(qū)標(biāo)準(zhǔn)團(tuán)隊(duì)會議上用到的一張幻燈片。

該團(tuán)隊(duì)每周四上午會碰頭，制定新規(guī)則。多達(dá)80名員工會在線上線下參與討論。

幻燈片顯示，去年某個周四，關(guān)于女用戶在創(chuàng)建的#Metoo內(nèi)容中實(shí)名曝光騷擾者的情況，該團(tuán)隊(duì)討論了應(yīng)該如何應(yīng)對。如果這些內(nèi)容不屬實(shí)，那么可以被解釋為對無辜者的騷擾。在同一次會議上，團(tuán)隊(duì)還評估了出現(xiàn)病毒式傳播的一類活動，例如“避孕套鼻孔挑戰(zhàn)”。

在這種活動中，挑戰(zhàn)者從鼻孔吸入潤滑過的避孕套，隨后嘗試從嘴里拉出來。類似的挑戰(zhàn)還有十幾個，例如智利辣椒挑戰(zhàn)、Tide Pod吃洗衣劑挑戰(zhàn)等等。年輕人會想要這樣奪人眼球的嘗試，吸引他人的關(guān)注。然而，如果這樣的挑戰(zhàn)會造成人身傷害，F(xiàn)acebook是否應(yīng)該主動阻止？

行動太慢？

去年12月，經(jīng)過幾個月討論，F(xiàn)acebook加入了新規(guī)則。在#MeToo內(nèi)容中出現(xiàn)的批評是可以的，只要沒有鼓勵報復(fù)。挑戰(zhàn)同樣沒問題，只要挑戰(zhàn)活動不鼓勵人身傷害。然而，“避孕套鼻孔挑戰(zhàn)”似乎處于灰色地帶。比科特說：“對這些問題的判斷并不是非黑即白。”

在國會證詞和其他地方，關(guān)于對平臺內(nèi)容政策的批評，F(xiàn)acebook準(zhǔn)備了一整套回應(yīng)說辭。如果被問到某些已被社區(qū)標(biāo)準(zhǔn)禁止的網(wǎng)站內(nèi)容，F(xiàn)acebook高管會再次向公眾保證，這樣的內(nèi)容是“不被允許的”，或者是“沒有容身之處的”。

如果規(guī)則尚未制定，那么Facebook通常會解釋說，正著手解決這個問題，該公司之前“動作太慢”沒有意識到問題，目前正在承擔(dān)起自身的責(zé)任。

Facebook多次表示，此前“行動太慢”，未能注意到2016年俄羅斯操縱美國大選，緬甸的種族滅絕，以及斯里蘭卡的種族暴力。然而，“太慢”也是一種委婉的說法，真實(shí)的情況是Facebook有意忽視問題，直到有重要人物開始發(fā)表意見。

科技行業(yè)高管、社會活動家艾琳·凱莉（Eileen Carey）表示：“他們不想為任何事情承擔(dān)責(zé)任。”自2013年以來，她一直在記錄藥販子在網(wǎng)上發(fā)布違禁藥物照片的情況，其中某些藥物被標(biāo)記為“奧施康定”或“維柯丁”。許多這類內(nèi)容中都包含電話號碼和地址，感興趣的用戶可以選擇當(dāng)面交易或郵遞。實(shí)際上，這些是非法阿片類藥物的分類廣告。

凱莉?qū)@方面的關(guān)注始于她在一家咨詢公司任職期間，這家咨詢公司幫助普渡制藥打擊假藥。大部分科技公司，包括阿里巴巴、Craigslist和eBay在凱莉發(fā)出警示后，很快就同意刪除這些圖片，但Facebook及其旗下Instagram卻是例外。

與扎克伯格類似，凱莉來自紐約州Dobbs Ferry，居住在舊金山灣區(qū)。她有時會和Facebook高管一起參加派對。在派對上，她對這些問題的抱怨也常常讓氣氛變得尷尬。

她說：“自從開始嘗試清理網(wǎng)上的假藥以來，我在參加派對時就很尷尬。”從2013年開始，凱莉就一直在關(guān)注這方面問題，她每天花幾分鐘時間，搜索并報告在Facebook和Instagram出售的藥物。

通常情況下，她會獲得不痛不癢的自動回復(fù)。某些時候，她甚至完全得不到回復(fù)。當(dāng)時，科技公司正在各類會議和研究報告中表態(tài)，支持對匿名暗網(wǎng)上的藥物銷售進(jìn)行更嚴(yán)厲地打擊。

然而在現(xiàn)實(shí)中，凱莉注意到，大部分非法藥物購買都發(fā)生在普通網(wǎng)絡(luò)、社交媒體和其他線上平臺。她說：“有人因此喪命，而Facebook根本不關(guān)心。”

2018年，凱莉開始發(fā)布Twitter消息，向記者和Facebook員工進(jìn)行投訴。

4月份，負(fù)責(zé)人工智能軟件訓(xùn)練的Facebook副總裁蓋伊·羅森（Guy Rosen）向她發(fā)消息，希望她能提供所說內(nèi)容的更多證據(jù)。

凱莉在發(fā)給羅森的郵件中寫道：“在Instagram上搜索#芬太尼和#oxys，都能看到許多藥品的照片，這些帳戶通常都來自藥販子。”她還發(fā)送了一些賣藥的Instagram內(nèi)容。“我早些時候已經(jīng)報告過這些情況。問題在#opiates（鴉片劑）的搜索中仍然存在，搜索結(jié)果多達(dá)4.3萬個。”

羅森回復(fù)她：“太好了，真是幫了大忙。”Facebook最終于4月份在Instagram上移除了可搜索的標(biāo)簽。就在一周前，美國食品藥品管理局（FDA）局長斯科特·戈特利布（Scott Gottlieb）對Facebook表示了批評。而一天前，扎克伯格參加了美國國會的聽證會。

自那時以來，凱莉就一直在關(guān)注來自肯塔基州、俄亥俄州和西弗吉尼亞的新聞報道。今年，這些地方因?yàn)榘⑵愃幬餅E用導(dǎo)致死亡的人數(shù)有所下降。一些文章推測，原因可能是社區(qū)治療中心或心理健康輔導(dǎo)資源的增加，但凱莉有著不同看法：“唯一真正改變的就是搜索標(biāo)簽。”

即便如此，F(xiàn)acebook上賣藥的問題依然存在。去年9月，《華盛頓郵報》將Instagram描述成為“一個推廣非法藥物的大市場”。作為回應(yīng)，比科特發(fā)表一篇博文，解釋稱Facebook已經(jīng)屏蔽了數(shù)百個相關(guān)標(biāo)簽和內(nèi)容，并且正在開發(fā)計(jì)算機(jī)圖像技術(shù)，更好地識別賣藥的內(nèi)容。她還使用了意料之中的一句話：“在我們的服務(wù)中，這些內(nèi)容沒有存身之地。”

機(jī)器審核員

作為CEO、董事長、創(chuàng)始人和控股股東，扎克伯格常常面臨的問題在于，他是否配得上掌握對公司產(chǎn)品近乎絕對的控制權(quán)。他強(qiáng)烈反對這樣的質(zhì)疑，唯一的例外是在內(nèi)容管理領(lǐng)域。

他于11月寫道：“我越來越相信，F(xiàn)acebook不應(yīng)該在自由表達(dá)和安全方面只依靠自己做出這么多重要決定。”據(jù)他介紹，該公司將建立“獨(dú)立機(jī)構(gòu)”，以“透明和有約束力”的方式，就Facebook上應(yīng)該提供哪些內(nèi)容的爭論做出最終決定。他表示，提議中的小組將包括40名“不同專業(yè)的專家”。“正如董事會對我們的股東負(fù)責(zé)一樣，這個機(jī)構(gòu)將只專注于我們的社區(qū)”。

與此同時，扎克伯格還計(jì)劃將盡可能多的內(nèi)容管理工作轉(zhuǎn)移給計(jì)算機(jī)。

比科特表示，內(nèi)容審核員正在對機(jī)器進(jìn)行訓(xùn)練。“審核員會說，‘機(jī)器，這件事你判斷對了。這是仇恨言論。’或者‘不對，機(jī)器，這次你弄錯了。這不是仇恨言論。’”Facebook表示，在被管理員下線的內(nèi)容中，有52%之前就已經(jīng)被算法標(biāo)記出來。此外，該公司也在嘗試用人工智能刪除與賣藥相關(guān)的內(nèi)容。

另一種讓渡責(zé)任的方式是鼓勵用戶嘗試該公司最新的加密消息服務(wù)。在這種設(shè)計(jì)下，就連Facebook也看不到用戶在說什么。扎克伯格在3月6日的博客中寫道：“我相信，一個注重隱私的交流平臺將比今天的開放平臺更重要。”

一些人認(rèn)為，這是劍橋分析丑聞發(fā)生后，F(xiàn)acebook批評者的勝利。然而就連扎克伯格也承認(rèn)，這只是一種權(quán)衡的策略。這種轉(zhuǎn)變可能會讓恐怖分子、毒販和狂熱宣傳者更加瘋狂。

Facebook旗下的WhatsApp已經(jīng)實(shí)現(xiàn)加密通信。然而在印度，WhatsApp上傳播的錯誤信息導(dǎo)致村莊對涉嫌綁架兒童的人發(fā)生恐慌，很多人對不速之客投擲石塊或處以私刑。WhatsApp無法刪除這些內(nèi)容，只能減少消息送達(dá)人數(shù)的上限。根據(jù)BBC的報道，印度隨后又發(fā)生了另一起“WhatsApp私刑”事件。

公關(guān)全世界

與此同時，F(xiàn)acebook的管理者們一直嘗試安撫全世界。去年9月，比科特前往斯里蘭卡，拜訪了60多個公民社會團(tuán)體，聽取他們對假帳號等問題的關(guān)切。討論的問題有很多。

斯里蘭卡政策替代研究中心高級研究員桑加納·哈托圖瓦（Sanjana Hattotuwa）表示：“他們的社區(qū)標(biāo)準(zhǔn)非常具體，例如什么樣的內(nèi)容會帶來迫在眉睫的威脅。”然而，“其中某些內(nèi)容的關(guān)鍵在于，在更長的一段時間里，內(nèi)容會變得激進(jìn)化。”

近期，哈托圖瓦的組織在一篇博客文章中警告稱，F(xiàn)acebook與該國政府關(guān)系過于密切，雙方交換禮物，并且獲得了一些官員的支持。這些官員也被指控出于政治目的傳播虛假信息。博文內(nèi)還引用了一名官員的Twitter消息，內(nèi)容是Facebook地區(qū)公共政策總監(jiān)安克伊·達(dá)斯（Ankhi Das）向斯里蘭卡前總統(tǒng)馬欣達(dá)·拉賈帕克薩（Mahinda Rajapaksa）贈送當(dāng)?shù)厮囆g(shù)家的大型畫作。

一些人指責(zé)，拉賈帕克薩的支持者策劃了反穆斯林的騷亂。Facebook則表示，這份禮物是“公共藝術(shù)”，沒有現(xiàn)金價值，此外該公司也向斯里蘭卡的其他領(lǐng)導(dǎo)人贈送了畫作。

哈托圖瓦、凱莉和全球各地批評者最關(guān)心的點(diǎn)在于，F(xiàn)acebook更感興趣的是修復(fù)人們對問題的看法，而不是解決問題本身?；麨锳lex的受訪者近期獲得了Facebook倫敦的一份工作邀請，這份工作專注于Facebook的政策計(jì)劃。

由于擔(dān)心遭到報復(fù)，他要求不使用真名。他曾在一家大型科技公司從事政府事務(wù)活動。在幾十場會議中的某一場，他曾與Facebook全球政策項(xiàng)目負(fù)責(zé)人維多利亞·格蘭德（Victoria Grand）進(jìn)行過交談。

根據(jù)他的回憶，由于Facebook發(fā)生的一系列丑聞，他曾問格蘭德這個職位的本質(zhì)：“你需要有人來實(shí)現(xiàn)持續(xù)的改變，還只是改變渠道？”格蘭德告訴他，從來沒有候選人問過這個問題。短暫停頓后，她繼續(xù)回答這個問題。

Alex表示，格蘭德當(dāng)時的說法是：“聽著，我認(rèn)為每個人都期待理想主義，并承諾要做的是前者。但如果我們只是疲于應(yīng)對負(fù)面信息，那么沒有人會去關(guān)心我們做的所有好事。”不過Facebook表示，根據(jù)格蘭德的回憶，“這場對話的內(nèi)容完全不同”。Alex拒絕了這份工作。（翻譯：陳樺）

【來源：騰訊科技】