科學用於社會

AI辨識情緒還是監視情緒?

情緒辨識軟體若不能受到適當控制,將成為社會控制的主要工具。

撰文/涂費克奇(Zeynep Tufekci)
翻譯/潘震澤

科學用於社會

AI辨識情緒還是監視情緒?

情緒辨識軟體若不能受到適當控制,將成為社會控制的主要工具。

撰文/涂費克奇(Zeynep Tufekci)
翻譯/潘震澤


美國科幻影集「銀河飛龍」(Star Trek: The Next Generation)當中的角色百科(Data)是擁有高級人工智慧的仿生人,但缺乏情感,感受不到悲喜。百科想擁有更多,他想變成真正的人類,因此他的創造者一連幾季都在研發「情感晶片」,以實現百科的夢想。


觀看這部影集時,我們不免好奇結果如何:百科具有情感後第一件事會做什麼?安慰悲傷的人?與夥伴分享喜悅?聽到笑話會笑?還是會講笑話?如今現實中,具有機器學習能力的軟體已經能辨識人類情緒,比人類更善於偵測微表情,透過臉部掃描能猜出人在想什麼。


這些軟體剛問世,廣告客戶及市場行銷就迫不及待採用,例如可口可樂僱用一家銷售情緒辨識軟體的公司Affectiva來微調他們的廣告。一如既往,商業追求並不那麼崇高,金錢才是背後推手:研究顯示,與訴諸理性或資訊的廣告相比,越能驅動強烈情緒反應的廣告越能激起消費者的購買慾。理論上,情緒辨識也能用於定價與行銷,運用的是過去不可能辦到的做法:站在販賣機前的你看起來有多口渴,飲料價錢就可能跟著改變;你看起來很餓?熱狗的價錢可能變得更高。


這項技術免不了與臉部辨識軟體結合。當你走進一家商店,攝影機會捕捉你的臉部影像、辨認你的身分,並調出你的資料,店員可能藉此取得讓你購買某件毛衣的特定提示:也許是迎合你的自尊心、利用你的不安全感或附贈配件;同時你的手機也跳出吸引你購買的優惠券。資料庫裡可能有你明天要去面試的訊息,於是提供你西裝外套或領帶的優惠券。又或許你已被歸類為只看不買或財力有限的族群,店員要不忽視你,要不就是帶著懷疑的眼光跟著你。


情緒辨識軟體可用來辨識「行為不良」者。一如既往,這類軟體最有可能用於安全檢查,例如美國歌手泰勒絲(Taylor Swift)近期的演唱會就使用了臉部辨識系統,試圖找出可能搗亂的人;美國機場也開始使用這類軟體。除了辨識已知危及安全者或跟蹤者,這類軟體在不久後也可能用於辨識看來過於緊張或心懷不軌的人。


在較為專制極權的國家,這類軟體可能用來辨識網路上的不良內容。由中國共產黨推行的某款應用程式已有一億名註冊用戶,是蘋果數位商店在中國下載最多的應用程式。在以數位監控及「社會信用體系」(social credit system)著稱的中國,獎懲是根據黨所偏愛或不滿的行為而定,因此會有這麼多人下載這個《紐約時報》稱為「致力於推廣習近平主席理念」的軟體,也就不讓人驚訝。不用多久,中國人在使用該應用程式時,可能連眼珠子都不敢轉動,因為手機的攝影鏡頭可以捕捉到閱讀習近平最新語錄的人有多振奮;如果某人的表現沒有十分熱情,就會被扣分。


不只中國,歐盟正在各國邊境測試某些人稱為「人工智慧測謊儀」的虛擬代理系統,美國政府也在部署類似系統;私人公司也可能利用這類系統來檢視客服人員的笑容。從多賣可樂到強迫員工的情緒順從,似乎跨了一大步。這種科技一定有某些正面用途,只不過鼓吹者通常只強調好處,對可能的壞處輕描淡寫。讀者可還記得,早期的臉書讓人感到愉快的時光?


如果百科能感受人類情緒,可能會訝異貪婪與權力在人類社會所佔份量之重;除非受到適當控制,「有感情的人工智慧」將成為社會控制的主要工具。那將帶給每個人不快樂的臉孔。