安迪擔心自己染上嚴重特殊傳染性肺炎（COVID-19，簡稱新冠肺炎），但他沒辦法讀完自己找到的所有相關文章，所以參考他信任的朋友傳來的訊息。當其中一位好友在臉書上提出意見，認為新冠肺炎疫情遭誇大，但安迪一開始並沒有理會。這時安迪任職的飯店歇業了，他的工作岌岌可危，他開始懷疑這場疫情到底有多嚴重？畢竟，他認識的人之中沒有人染病死亡。一名同事貼了一篇文章，指稱新冠肺炎的恐慌是那些與腐敗政客勾結的大藥廠製造出來的，這與安迪不信任政府的觀點一致。
安迪在網路上搜尋訊息，迅速找到一些聲稱新冠肺炎並不比流感致命的文章。他參與了一個由失業或害怕裁員的人組成的線上群組，不久之後發現自己和其他人有相同的疑問：「什麼是大流行病？」當安迪知道好幾位新結交的朋友打算參加集會、要求解除封城，便決定到場。在大型抗議活動的現場幾乎所有人（包括安迪）都沒戴口罩。當安迪的姊妹問起集會的情形，他分享了自身認同的信念：新冠肺炎疫情是一場騙局。
上述故事說明了認知偏誤（cognitive bias）造成的嚴峻局面。我們偏好生活圈信賴的人所講述的資訊，會注意並更願意分享有關風險的資訊；對安迪來說，風險就是失去工作。我們會搜尋並記住與自身認知相符的事，這些偏誤是人類過去演化出來的產物，幾十萬年來發揮了良好的作用。根據這些偏誤採取行動的人更容易生存下來，例如聽說草木茂密的池塘邊有毒蛇出沒，就會遠離那塊區域。
然而，現代科技以有害方式放大了這些偏誤。搜尋引擎把安迪導向助長懷疑心態的網站，社群媒體讓他與想法類似的人產生連結，加深了他的恐懼。雪上加霜的是，社群媒體機器人程式（模仿人類發言的自動化社群媒體帳號，簡稱社群機器人）讓心懷不軌的人士藉機利用安迪的弱點。
線上資訊的暴增讓上述問題更加惡化。製作或觀看部落格、影片、推文以及迷因（meme）等資訊單位是如此低廉且容易，危害了資訊市場。我們無法處理所有的消息，所以運用認知偏誤決定哪些是值得注意的事。這些心理捷徑會影響我們搜尋、理解、記憶與複製資訊，而且已經達到有害的地步。
了解這些認知弱點，以及演算法利用它們的方式，成為當務之急。在英國瓦立克大學以及美國印第安納大學布隆明頓校區的社群媒體觀察站（Observatory on Social Media, OSoMe，音同awesome），我們團隊透過認知實驗、電腦模擬、資料探勘以及人工智慧，了解社群媒體使用者的認知弱點。瓦立克大學的團隊成員以心理學角度研究資訊的演變，所獲得的見解會傳送給印第安納大學研發電腦模型的成員，反之亦然。我們團隊研發分析工具以及機器學習輔助工具，來對抗社群媒體操弄。有些記者、公民社會組織和個人已經使用其中一些工具，來偵查心懷不軌的人士、描述錯誤資訊的傳播，以及培養新聞素養能力。
資訊消耗注意力
資訊供過於求，造成競逐人們注意力的局面。如同1978年諾貝爾經濟獎得主、經濟學家兼心理學家西蒙（Herbert A. Simon）所言：「資訊消耗的東西相當明顯：它消耗接收者的注意力。」所謂注意力經濟（attention economy）造成的第一個後果是高品質資訊流失。OSoMe團隊用一套簡單的電腦模擬示範了這種結果；像安迪這類社群媒體使用者稱為行動者（agent），在線上熟人組成的網路中以節點來表示。在這套模擬中的每個時步（time step），行動者可能創造迷因，或是轉貼動態消息裡的資訊。為了模擬有限的注意力，行動者只能看到動態消息頂端一定數量的消息。
執行了這套模擬的許多時步之後，OSoMe的翁荔（Lilian Weng）發現，當行動者的注意力越來越少時，迷因的傳播會反映實際社群媒體的冪次定律分佈：迷因分享次數的機率大約是分享次數的逆冪（inverse power），例如某個迷因分享出去三次的可能性比分享一次大約少九倍。
多數迷因幾乎沒有人注意，少數迷因能廣為傳播，這種贏家通吃的流行模式，無法用有些迷因比較容易記住，或是有些迷因比較有價值來解釋，因為這套模擬中的迷因沒有內在品質（intrinsic quality）。在這套由注意力有限的行動者構成的社群網絡中，廣傳度（virality）完全來自資訊暴增的統計結果。曾擔任OSoMe研究員的邱小燕（Xiaoyan Qiu）觀察到，比起最多人分享的迷因，即使行動者優先分享較高品質的迷因，整體品質的改善仍有限。我們的電腦模型顯示，即使人們想要看見並分享高品質的資訊，但因為無法看到動態消息裡的每條消息，無可避免會分享部份或完全不真實的事。
認知偏誤讓上述問題更加惡化。1932年一連串具突破性的研究中，心理學家巴特列（Frederic Bartlett）告訴受試者一則美國原住民傳說：一位年輕男子聽到一群人殺聲四起，他追了上去，闖入夢境般的戰爭，最後他真的死了。巴特列請受試者（並非美國原住民）反覆回憶這則令人迷惑的傳說，時間間隔越來越長，從幾分鐘直到好幾年。他發現隨著時間，受試者經常會扭曲傳說裡陌生的文化，以致於後來要嘛忘記傳說，要嘛轉變成自身熟悉的事物。現在科學家知道，人類心智一直在做這件事：調整對新資訊的理解，以符合已知的事物。這種所謂確認偏誤（confirmation bias）造成的後果，就是人們通常會找尋、回憶或理解自身信賴的資訊。
這個傾向極難矯正。持續有實驗顯示，即使人們看見含有不同觀點的平衡資訊，依舊會找尋證據支持深信的事物。在氣候變遷這類容易引發論戰的議題上，當我們把同一種資訊拿給立場歧異的人觀看，他們會更加堅信原本的立場。
火上加油的是，搜尋引擎和社群媒體平台取得了使用者過往偏好的大量資料，然後根據這些資料產生個人化推薦。他們在動態消息裡優先給予人們最有可能認同的資訊（不管有多偏激），不給予可能改變人們想法的資訊；這讓大眾很容易成為立場分歧的目標。東北大學的葛林伯格（Nir Grinberg）和同事最近指出，美國保守派容易接收錯誤資訊，但我們團隊分析了大眾在推特上接收低品質資訊的情形，結果顯示這個弱點適用於政治立場的兩派，任何一派都無法完全避免。甚至人們察覺線上操弄（online manipulation）的能力也受政治偏見的影響（雖然並不對稱）：共和黨員容易把倡導保守想法的機器人程式誤認為人類，民主黨員則容易把保守派誤認為機器人程式。
社會從眾現象
2019年8月某一天在美國紐約市，某處發出類似槍砲聲的巨大聲響，而大眾正在驚慌逃離，有些人則大喊：「有人開槍！」只不過後來他們得知，那個巨大聲響來自於一輛回火的摩托車。在這樣的情況下，人們先逃跑再提問可能有好處。當缺乏清楚訊息時，我們的大腦會藉由群眾的資訊來推論適當的行動，這種反應和魚群或鳥群的行為很類似。
這樣的社會從眾（social conformity）現象非常普遍。2006年，哥倫比亞大學的薩爾加尼克（Matthew Salganik）和同事進行了一項精采的研究，對象是1萬4000名透過網路參與的受試者，研究人員發現當受試者看見其他受試者在下載哪些音樂，也會下載類似的歌曲。接著，研究人員要求受試者加入孤立的「社交群組」，只能看見圈內人的偏好，對圈外人則一無所知，這時各群組的偏好會迅速分歧，但「非社交群組」（圈內任何人都不知道其他人的選擇）則較穩定。換句話說，社交群組產生的從眾壓力如此龐大，甚至可以改變個人的偏好，只要放大這些隨機的早期差異，就能讓孤立群組的偏好趨於極端。
社群媒體遵循類似的動態。當人們把流行與品質混為一談，日後也將會表現出自己觀察到的這些行為。丹麥科技大學的蒙斯特（Bjarke Monsted）等人和美國南加州大學共同進行的推特實驗顯示，資訊是透過複合傳染（complex contagion）的模式傳遞：當人們重複接收某個想法（通常來自許多源頭），就越有可能採信並分享這個想法。而這個社會偏誤（social bias）會因為所謂的單純曝光（mere exposure）效應進一步放大：當人們重複接收同樣的刺激（例如特定臉孔），對這些常接收的刺激會越來越有好感。
這些偏誤會轉化成無法抗拒的衝動，讓人不得不注意正在瘋傳的資訊；如果其他人都在討論這則消息，那麼這則消息一定很重要。臉書、推特、YouTube和Instagram這類社群媒體平台除了呈現符合人們觀點的消息，也會把熱門的內容置頂，讓人們看見已經有多少人按讚加分享。但很少人意識到，這些消息並沒有提供獨立的品質評估。
事實上，在社群媒體設計迷因排序演算法的程式設計師以為，「群眾智慧」會迅速找到高品質的消息；他們把流行度當做品質。我們團隊分析了大量與點擊有關的匿名資料，結果顯示包括社群媒體、搜尋引擎和新聞網站等所有平台優先給予的資訊，只來自一小部份流行資訊來源。為了探究原因，我們團隊依據這些平台在排序中結合品質與流行的資訊建立了模型。在這套模型裡，注意力有限的行動者（只看動態消息中置頂的特定數量消息）較常點擊平台排序較高的迷因，而且每條消息都有內在品質與流行等級（由點擊次數決定）；另一個變項則追蹤排序依賴流行而非品質的程度。結果顯示，即使沒有人類的認知偏誤存在其中，這類演算法的偏誤仍會降低迷因的品質。換句話說，儘管人們分享了品質最佳的資訊，演算法最終還是會誤導人們。
同溫層瘋傳
多數人並不認為自己會人云亦云。但確認偏誤會讓人們追蹤與自身類似的人，這種動態有時稱為同類交往（homophily），也就是想法類似的人有彼此連結的傾向。社群媒體讓使用者透過追蹤、解除好友等舉動，更動社群網絡結構，擴大了這種同類交往傾向。結果就是，大眾會各自加入充斥錯誤資訊的大型社群，這社群通常稱之為「回音室」（echo chamber，意近中文用語「同溫層」）......
