科學用於社會

YouTube雙面刃

這裡有你需要的影片,但其推薦演算法也有黑暗面。

撰文/涂費克奇(Zeynep Tufekci)
翻譯/潘震澤

科學用於社會

YouTube雙面刃

這裡有你需要的影片,但其推薦演算法也有黑暗面。

撰文/涂費克奇(Zeynep Tufekci)
翻譯/潘震澤


清晨3點,我家的煙霧感測器不停嗶嗶作響。家裡並未失火,我不必驚慌,只要壓抑怒氣,想辦法讓機器安靜下來。我取出電池、試了所有按鈕,但都沒用。幸好我在YouTube找到一部教學影片,裡頭列出了所有可能的解決之道,我跟著影片一步步嘗試各種方法。該影片有數十萬次點擊,讓我對它更有信心。


YouTube已經成為學習任何事的管道,從組合Ikea櫥櫃到連接藍牙耳機。該網站是教學影片的泉源,有些影片內容非常好,有些則粗製濫造;有些是由熟諳此道的老手製作,藉由賣廣告賺錢,但許多是由解決自身困擾的人所上傳,希望與所有人分享解決之道。


數位世界的母語可能是影片,而非文字,數位時代之前在公共論壇獨領風騷的知識份子錯失了這個趨勢。我發現許多年輕人進行網路搜尋是從YouTube開始。此外,Google(YouTube的母公司)搜尋引擎還特別凸顯影片的搜尋結果。「我要如何」組裝桌子、改善中風、判斷自己是不是女性主義者、選擇疫苗接種、化妝打亮臉頰、綁鞋帶、探究氣候變遷是否屬實……?YouTube上總有人提供答案。但極端份子、陰謀論者、反動份子也把目標指向YouTube,因為他們曉得這個網站扮演資訊流通門戶的角色,特別是對年輕一代。


這就是黑暗面所在:YouTube使用了最先進的推薦系統,由人工智慧支援,藉由讓使用者持續待在該網站觀看,好向使用者推播廣告,藉此牟利。的確,在Google Brain(Google人工智慧部門)於2015年接管YouTube的推薦系統後,網路上就出現推文,說它顯著增加了「黏著度」(engagement):這是矽谷用語,意思是引誘人在某個網站待上更長時間。


這些「推薦」影片會接連播放,看完如何磨利刀具後,下一部可能是為什麼女性主義正在摧毀男性雄風、疫苗接種為何有害、氣候變遷為什麼是騙局,或某位俏皮的解說員「證明」鐵達尼號從未撞上冰山。YouTube的演算法會推薦任何看起來具有吸引力的影片,內容越誇張就越吸引人,仇恨言論和散播惡行也同樣吸睛。


由於收到內容敗壞道德的推薦影片已是家常便飯,以致大眾出現強力反彈。Google確實禁止了一些不可原諒、令人生厭的高姿態「創作者」(只不過那是在幫忙這些人推廣其觀點給數以百萬計的人之後),最近Google還宣佈一項計畫:減少「遊走尺度邊緣以及可能誤導使用者並造成傷害」的內容,這些內容可能是「針對重症的不實神奇療法」或宣稱「地球是平的」。Google表示,只有不到1%的影片會受影響。


雖然看到Google有所反應是好事,但問題不但深層且具結構性。這種商業模式鼓勵吸引眼球的內容,而且YouTube的傳播無遠弗屆。Google便宜又有型的Chromebook佔了美國從小學到高中一半以上的電腦市場;這類電腦通常在出廠時就內建YouTube。許多家長和老師大概不曉得孩子到底花了多少時間在該網站上。


我們不能向孩子大喊:別踩草坪,或忽視孩子使用YouTube,因為那裡有他們想看的東西,一如我在凌晨迫切想知道如何關閉煙霧感測器。我們需要以規章、自律和教育來因應。一般人不曉得網站的推薦系統如何運作,如何使人目不轉睛地盯著螢幕。我們可以要求學校的Chromebook不裝YouTube或不提供推薦影片。


這是商業、全球化和人工智慧形成的危險連結,而且只是冰山一角。新時代的挑戰如鐵達尼號撞上的冰山一樣真實,無論影片中有什麼不同說法。