AI產生仿真假文件-科學人雜誌
科學人新聞

AI產生仿真假文件

2021-08-01 布希維克(Sophie Bushwick)
AI撰寫大量文檔迷惑敵人,防範駭客竊取珍貴文件!
▲ 繪圖:Thomas Fuchs

駭客不斷改進突破資安防線的技巧來竊取珍貴文件,研究人員試圖利用人工智慧演算法來混淆他們:駭客入侵後會發現真正的資料隱藏在如假似真的大量檔案之中。

美國達特茅斯學院的電腦安全研究人員薩布拉曼尼恩(V.S. Subrahmanian)開發「詞嵌入假網絡儲存庫引擎」(WE-FORGE),他說這套演算法現在能為開發中的專利設置誘餌,但假以時日它將可「幫公司想保護的每份文件都建立許多不同版本的假文件。」

例如駭客想竊取一個新藥配方,他們得大海撈針般在一堆假資訊中找尋相關文件,這代表駭客需要仔細檢查每個配方,甚至得試做幾個錯誤的配方。薩布拉曼尼恩解釋:「這個方法的重點是讓偷竊變難,讓偷你東西的人痛苦。」

薩布拉曼尼恩說,他發展這計畫,是因為他發現許多公司在這種新型網路攻擊展開後312天內都渾然不知。他說:「壞人有將近一年的時間移轉所有文件及智慧財產。即使像輝瑞這樣的大公司,駭客都有充裕的時間幾乎偷走一切,他們竊取的不僅是皇冠上的絕世珍寶,就連女僕的首飾、秘書的手錶等一切有價值的物件。」

未參與該研究的網路安全顧問公司SocialProof Security執行長托巴克(Rachel Tobac)表示,WE-FORGE製造的假文件也能做為隱藏的「引線」,當有人讀取假文件時即啟動警報。過去公司靠人力製造假文件,托巴克說:「如果AI能幫忙做這件事,將能輕鬆製造很多讓攻擊者信以為真的假文件。」

該系統搜尋文件中的關鍵詞來產生可信的假文件,它為每一個關鍵詞計算一連串相關概念,從其中隨機選取另一個術語來取代原本的字詞。這能產生十幾個不含專業資訊、卻幾可亂真的文件。薩布拉曼尼恩團隊請電腦科學系和化學系研究生評估真假專利,研究生發現WE-FORGE生成的文件幾可亂真。研究成果發表在今年6月的《美國計算機學會資訊系統管理彙刊》。

未來可擴大WE-FORGE應用範圍,但薩布拉曼尼恩指出,建議行動程序的文件,將比技術性配方複雜許多。但他和托巴克認為該研究有商用潛力,托巴克說:「可以想見一些機構將仰仗這類型產品,若能在不透露任何敏感細節的情況下製造仿真的假文件,我相信我們已大獲全勝。」


# 關鍵字:科學人新聞資訊科學AI
更多文章
活動推薦更多
追蹤科學人