新冠病毒讓互聯(lián)網(wǎng)變好了嗎？

在紐約的酒吧和餐館關(guān)門之前的那個周末，我跟三位朋友在公園里，席地而坐，大家圍成了一個詭異的圓圈，兩兩之間相距有六英尺之遙。大家當(dāng)時只是在閑聊一些最近自己被震驚到的事情。我說：“一周前我關(guān)心的任何事情現(xiàn)在我已經(jīng)不在乎了?！?“我現(xiàn)在愛上Instagram了！可是不愛Instagram才是我的工作?！蔽覒?yīng)該對基本上所有跟互聯(lián)網(wǎng)有關(guān)的事情都持批評態(tài)度，但是我認為現(xiàn)在我再也做不到了，因為這是唯一一樣將我和親人聯(lián)系在一起的東西，因為住在我的小公寓里面的只有我一個人。離開公園時我對著過去的室友說了聲：“碰下肘！回頭見！”我們的下一次見面已是在FaceTime 上。

現(xiàn)在人人都愛上互聯(lián)網(wǎng)了。由于大多數(shù)人已被傳統(tǒng)的大眾生活拒之門外，我們現(xiàn)在都跑到網(wǎng)上跟想念的人保持聯(lián)系，為有需要的人籌集資金，去協(xié)調(diào)可能不再會在實地發(fā)生的各種集體行動。自從美國開始實行居家令以來，在線平臺的使用已激增到了荒謬的地步：在最近的一篇博文中，Zoom CEO Eric Yuan說，這項服務(wù)每日的會議參加者數(shù)量已從去年12月的1000萬增加到3月的2億。Google的視頻會議平臺的每日使用量比1月份高出了25倍。據(jù)Facebook稱，截止到3月底，在受到新冠大流行影響最嚴重的國家/地區(qū)，其服務(wù)的聊天消息量增加了50％，在COVID-19大爆發(fā)地區(qū)，F(xiàn)acebook Messenger和WhatsApp的視頻通話量增加了一倍以上。

一開始的時候，Web給人的承諾是，這將是一個發(fā)揮獨創(chuàng)性和分享知識的地方，這個承諾一直在泛著每個人都能注意到的微光。雖說就在幾個月前我們連續(xù)幾年對大型科技巨頭的抵制潮還沒有結(jié)束的跡象，每一天都會對Facebook、Google和蘋果這樣的超現(xiàn)實強權(quán)提出新的質(zhì)疑，但在今天，我們對能夠擁有它們都感到非常感激，并很幸運能夠在大部分清醒的時候能夠使用它們的產(chǎn)品。

隨著美國各州指示各地居民不要離開家，《紐約時報》的Kevin Roose認為：“新冠病毒危機正在向我們展示如何在網(wǎng)上生活?！彼麑懙溃骸霸诨ㄙM了數(shù)年的時間使用那些似乎基本上是讓我們走向分裂的技術(shù)之后，新冠病毒危機卻向我們表明，互聯(lián)網(wǎng)仍然能夠把我們團結(jié)在一起?！薄靶鹿诓《臼遣皇亲尰ヂ?lián)網(wǎng)變得更好了呢？”幾周后，《紐約時報》的Jenna Wortham）提出了這個問題，并得出結(jié)論說，是的。

這是一個誘人的想法，但得出結(jié)論為時尚早。那些主要平臺都還在努力適應(yīng)大量的額外活動和奇怪的新用例。過去由人執(zhí)行的，在最好情況下也很難做出的網(wǎng)絡(luò)管理決定，現(xiàn)在已經(jīng)交給了人工智能。用戶規(guī)模巨大的平臺現(xiàn)在的用戶群已經(jīng)變得更加龐大，導(dǎo)致利用安全漏洞的價值也變得更大。在想要跟最親密的人聯(lián)系的焦慮和渴望的驅(qū)使下，當(dāng)我們每天把8小時的時間都花在了手機上的時候，背后的公司則在瘋狂地吸走我們的個人數(shù)據(jù)?；ヂ?lián)網(wǎng)之所以給人感覺變得更好了，那只是因為這就是我們現(xiàn)在所擁有的一切，但是我們給它施加的種種壓力最終可能會導(dǎo)致情況變得更糟。

更多的事情被交給了人工智能

隨著居家令在美國全國范圍內(nèi)的頒布，Facebook宣布會讓包括內(nèi)容審核員在內(nèi)的員工送回家中，同時解釋說，出于各種原因，他們當(dāng)中的很多人在家將無法工作：因為他們查看的數(shù)據(jù)很敏感，而且也不應(yīng)該在家庭網(wǎng)絡(luò)環(huán)境下使用，他們從事的工作很費精神，干活需要現(xiàn)場資源等。部分審核員仍在工作，但Facebook以及其他主要的互聯(lián)網(wǎng)平臺（比方說YouTube和Twitter等）已宣布，這段時間會把更多的任務(wù)交給人工智能，同時承認這可能會導(dǎo)致錯誤。

AI內(nèi)容審核有很多限制。對于一個可以有無盡排列的問題，并且可以產(chǎn)生誤報和漏報的問題來說，這是一把鈍器。計算機可以推斷出很多關(guān)于視頻或句子的信息：比如有多少人看過該視頻，被哪些IP地址分享，被標記為什么內(nèi)容，被舉報了多少次，是否跟已知的非法內(nèi)容相匹配等。加州大學(xué)洛杉磯分校（UCLA）互聯(lián)網(wǎng)治理研究人員Sarah T. Roberts說：“但是它不看內(nèi)容，就自行做出決定?？磧?nèi)容是人做的事情。” 所以審核算法可能“在某些情況下會尺度過嚴，在另外一些情況下優(yōu)惠過度寬松，而對于某些領(lǐng)域基本上連管都不管。由人力組成的審核隊伍是有好處的，除了那些明確設(shè)計進去的東西以外，機器不具備他們的認知能力，他們的內(nèi)容領(lǐng)會能力以及他們處置各種各樣內(nèi)容的能力?！?

她說：“實際上，事實證明，那些薪水不高，地位低下，一般都是不穩(wěn)定的合同制的工作也許是是互聯(lián)網(wǎng)最重要的工作之一。只有在失去的時候我們才會注意到這一點?！?

尤其是因為那些不應(yīng)該在網(wǎng)上消磨更多時間的人（那些容易受到陰謀論影響的人，那些容易因此產(chǎn)生焦慮的人，或者對平臺的使用不得當(dāng)?shù)娜耍┈F(xiàn)在把大量時間都用來上網(wǎng)了。我在跟Facebook策略團隊的公關(guān)經(jīng)理Sarah Pollack交談時，F(xiàn)acebook剛剛清理了為Northwest Front創(chuàng)建的一系列新網(wǎng)頁。后者是華盛頓州的一家白人至上主義者組織，一直在發(fā)播客宣傳此次危機過后白人將如何占上風(fēng)的論調(diào)。

目前為止Facebook上還沒有發(fā)生什么可怕的錯誤。但是一些裂縫已經(jīng)開始顯現(xiàn)：盡管該公司承諾，對于普通人來說，網(wǎng)站體驗不會有什么不同，但當(dāng)用戶嘗試舉報內(nèi)容時會收到彈出對話框：“請注意，我們現(xiàn)在沒那么多的審核員?！?上周，F(xiàn)acebook的自動化系統(tǒng)向發(fā)貼內(nèi)容含自制口罩的人發(fā)出警告，威脅要封號。這是因為人工智能把那些帖子當(dāng)成醫(yī)用口罩廣告了，而后者因為哄抬物價和供應(yīng)短缺的原因已經(jīng)被屏蔽。

就算上述情況沒有發(fā)生之前，Facebook在內(nèi)容審核方面就已經(jīng)遇到了很多麻煩，甚至人工審核員做出的決定幾乎都總會受到質(zhì)疑。更不用說對于一個擁有25億用戶的平臺來說，哪怕是“少數(shù)”錯誤，也將會是大量的錯誤。有可能是數(shù)百萬計！

Roberts說，這種規(guī)模正是我們應(yīng)該擔(dān)心的。Facebook本來就已經(jīng)非常龐大；但現(xiàn)在變得更大了。Roberts 說：“這種情況也是一個機會，一個共同承認和思考的機會，即我們把幾乎整個數(shù)字為我們提供了一個機會，使我們可以集體認可，然后考慮如何將我們的整個數(shù)字化存在都交到少數(shù)成為我們一手資料來源的公司手中，這究竟意味著什么？我們對這些系統(tǒng)的依賴只會加深。在這種不斷加深的過程中，我們有機會來指出哪些地方是他們做得不到位的?！?

隨著Facebook向著更多的AI審核轉(zhuǎn)變，這家公司已經(jīng)確定了降低某些事情的優(yōu)先級。最大的一個是垃圾郵件。盡管極端主義是目前該網(wǎng)站最關(guān)注的問題之一，但這里面又有了個新的子類了。根據(jù)Pollack（一個由350人組成的團隊，致力于處理危險的個人和有組織的仇恨言論）的說法，在新冠危機期間他們?nèi)栽诩抑羞M行全職工作，以打擊極端主義言論，但現(xiàn)在公司必須做出一些讓步——把更多精力集中在迫在眉睫的威脅以及被封號后設(shè)法想重返平臺的不良行為者，對于那些在個人頁面上對這些極端團體和想法表達的支持的個人就管不了那么多了。

難以駕馭的增長

這種火線換軌到以自動審核為主的手段只有最大型的科技巨頭才有可能做得到，只有他們才擁有最好的工程資源，而且內(nèi)部開發(fā)此類工具已多年。小一點新一點的平臺，現(xiàn)在只能眼睜睜看著新注冊用戶數(shù)的飆升，然后被用來干一些自己此前從未見過的事情。對于那些公司來說，情況會很艱難。

Discord CEO Jason Citron告訴我說，他的平臺注冊數(shù)比新冠危機前高了200％，用戶現(xiàn)在每天平均在該網(wǎng)站上呆四個小時。這個聊天平臺成立還不到五年的歷史。過去幾年來這個網(wǎng)站一直在處理入門級平臺問題，從2019年4月到2019年12月，網(wǎng)站就取締了520萬個帳戶，其中大部分是垃圾郵件或“不良內(nèi)容”。眾所周知，這里是白人至上主義者和其他極端主義者組織策劃的地方。

我跟Citron交流的時候，他談到了擴大規(guī)模從而服務(wù)于更多應(yīng)用案例更多的更大用戶群所面臨的技術(shù)挑戰(zhàn)——圣 經(jīng)小組和童子軍現(xiàn)在也加入到meme小組和游戲玩家的大軍，在網(wǎng)上進行組織內(nèi)聊天了。該公司的第一個重大變化是把可以同時參加直播的人數(shù)從10人增加到50人。Citron說：“我們現(xiàn)在只是擴充基礎(chǔ)設(shè)施，我們一直在努力確保Discord能夠正常運行，以好讓大家有地方可以跟朋友交流?！保ǜ鶵eddit 一樣，Discord也是靠社區(qū)級的審核。它有一個客戶安全小組，版主在需要的時候可以向他們求助）

難以駕馭的增長本身已經(jīng)成問題。迄今為止，在新冠病毒互聯(lián)網(wǎng)當(dāng)中一炮走紅的顯然是Zoom ，這個針對辦公環(huán)境而設(shè)計的視頻會議軟件，現(xiàn)在已經(jīng)被用到包括學(xué)校，約會及逾越節(jié)家宴在內(nèi)的一切場合。而且它還成為了一個研究案例，讓我們可以看看當(dāng)使用受限的平臺一下子涌入大量新用戶時會發(fā)生什么。

令撥入隨機呼叫變得容易的安全漏洞導(dǎo)致Google和SpaceX 等知名公司禁止了旗下員工使用Zoom。紐約市禁止將該平臺納入公立學(xué)校的遠程學(xué)習(xí)課堂。上周，一名股東起訴了該公司。FBI則發(fā)出了有關(guān)視頻會議安全性的警告，里面特別提到了Zoom。

“Zoombombing”（指個人因為平臺安全漏洞，無意間侵入其他視頻電話會議，然后把一些破壞性或者令人恐懼的內(nèi)容分享過去）的惡作劇已經(jīng)從臭名昭著的“兩女一杯”YouTube視頻升級成色情內(nèi)容，乃至于仇恨言論?！都~約時報》的一項調(diào)查發(fā)現(xiàn)，做壞事的人通過Instagram、Twitter、Reddit、4Chan，以及尤其Discord上進行組織，滲透到了Zoom Alcoholics Anonymous會議、教堂組織、跨性別與非雙性青年團體以及至少一所中學(xué)上。（過去一周的時間里，Discord已經(jīng)刪除了大約500臺服務(wù)器。但是一位發(fā)言人說，由于這些團體會迅速跨各個平臺來重連，所以很難追到他們。）

在過去一周里，Zoom已經(jīng)做出了很多的修改，包括默認情況下要求輸入會議密碼，以及將Facebook的軟件開發(fā)工具包從自己的iOS app里面移走等。這一重大舉措可阻止Facebook收集有關(guān)Zoom用戶的信息。

同時，該公司宣布將凍結(jié)新功能90天，從而騰出工程資源專注于隱私和安全問題，還永久性地刪除了一項功能，通過跟蹤與會者點入其他窗口的時長，這項功能可以判斷與會者是否注意收看會議，然后向會議主持人報告。為了應(yīng)對危機，所有這些變更都是在很短的時間內(nèi)完成的。

康奈爾大學(xué)法學(xué)院互聯(lián)網(wǎng)政策專家James Grimmelmann告訴我說：“在這之前這套系統(tǒng)也要不斷地臨時調(diào)整，只是現(xiàn)在這種臨時性的程度和對快速行動的需求變得更強了。它的規(guī)模擴大了。但是在開展工作的時候到位的人手卻不足?，F(xiàn)在有大量的話題內(nèi)容是他們此前缺乏足夠知識了解的東西。”

Grimmelmann認為，玩家門事件是對針對性和協(xié)同性的騷擾的入門，這導(dǎo)致了相關(guān)政策和功能的誕生，并積累了學(xué)院知識。2016年美國大選是其政治假信息和有組織的造假活動的速成班。去年在基督城現(xiàn)場直播的大規(guī)模槍擊事件是對暴力內(nèi)容迅速做出反應(yīng)的關(guān)鍵課程。

Grimmelmann說：“ 我認為，在公共衛(wèi)生信息的傳播方面我們也在面臨類似的規(guī)模擴大。一些平臺已經(jīng)很熟悉這些挑戰(zhàn)；但另外一些還在學(xué)習(xí)?！?

互聯(lián)網(wǎng)有發(fā)展成烏托邦的可能嗎？

盡管存在種種缺陷，但現(xiàn)在互聯(lián)網(wǎng)仍然有很多值得去愛的東西。重要的信息在流通。盡管美國政府的反應(yīng)響應(yīng)之后，但資源被聚攏然后被個人網(wǎng)絡(luò)重新分發(fā)。我們無法親自見到的人的數(shù)字化投影隨時可見。

互聯(lián)網(wǎng)歷史上最糟糕的事件往往會導(dǎo)致最大的改變：玩家門是社交媒體的第一個重大生存危機。一些跡象表明新冠病毒也許是又一個。研究人員Jo?oCarlosMagalh?es以及Christian Katzenbach上月底發(fā)表在《Internet Policy Review》上的一篇論文寫道：“這種流行病有助于凸顯出平臺治理的爭議性以及脆弱性之大?！?他們指出，自2009年以來，Twitter的社區(qū)準則已經(jīng)修改了300次，往往都是特定災(zāi)難性事件之后的結(jié)果?，F(xiàn)在，在當(dāng)前特定的壓力下，一些微小的改變會再次發(fā)生。就在幾天前，F(xiàn)acebook宣布會提高WhatsApp轉(zhuǎn)發(fā)消息的難度，據(jù)推斷Facebook之所以做出這一改變可能是為了給虛假信息的傳播增加阻力。現(xiàn)在，部分虛假信息鏈接只可以一次轉(zhuǎn)發(fā)一個人而不是數(shù)百人。

在接下來的幾個月的時間里，我們也許會看到成百上千的漸進性改變，所有這些改變都會讓互聯(lián)網(wǎng)在危機結(jié)束之后的很長一段時間內(nèi)變得更好。新冠病毒并未展現(xiàn)出互聯(lián)網(wǎng)有出通過集體的柔情和善意的絕對力量成為烏托邦的潛能。但是，這場危機為我們揭示了一個機會，一個更加積極地對那些希望成為我們整個世界，達成自己愿望的公司提出質(zhì)疑的機會?，F(xiàn)在，他們必須了解這種責(zé)任的真正含義究竟是什么。