科創講堂

HPC與深度學習

講者/洪士灝(台灣大學資訊工程系教授兼副系主任)

撰文/整理/科學人

科創講堂

HPC與深度學習

講者/洪士灝(台灣大學資訊工程系教授兼副系主任)

撰文/整理/科學人


電影「模仿遊戲」中,盟軍為了破解德軍密碼機,找來專家花了很多時間和心力,終於建造出高效運算機器,幫忙贏得戰爭。同理,為了解決高價值的重要問題,例如:預測氣候變遷、打造人工智慧等,我們需要「高效能運算」(high-performance computing, HPC)機器。洪士灝開宗明義指出,HPC的精神是「沒有最好,只有更好」。


舉例來說,IBM花了七年打造專門下西洋棋的深藍(Deep Blue),在1996年打敗棋王。這台機器很貴,是由30台電腦組成,並加裝480顆加速重要運算的晶片。由此可見,晶片用在刀口上,可以創造價值,把不可能變成可能。


但晶片要如何達到高效能計算呢?首先要對軟體有充份了解,然後找到軟體瓶頸,依此設計加速器,而且還要優化軟體,達到軟硬整合。


AI發展的基礎


電腦的運算能力比人腦強,卻做不到一些人類能輕易做到的事,例如辨識驗證碼(CAPTCHA)。換句話說,在人腦擅長的視覺影像和認知方面(例如模糊邏輯),電腦比較弱,因為它無法透過普通的程式或規則模仿。


早在1950年代就有人想讓電腦模仿人類神經系統的運作。但多年來類神經網路並沒有成功,最主要的問題在於缺乏自動有效的訓練方法。


在1998年發表的一篇論文中,提到可利用卷積神經網路(CNN)來辨認CAPTCHA,這是深度學習的濫觴。但訓練電腦做這件事,也需要頗大的研究心力和計算能量,因此難以普及。


人類知識體系是模糊的,電腦要在益智問答節目中獲勝有難度,IBM為此花了七年打造出人工智慧系統華生(Watson),終於在2011年打敗人類。它獲勝的關鍵是利用了大數據。


GPU(圖形處理器)因為有大量核心、適合平行運算,加上電玩讓價格普及,遂成為深度學習的解決方案。Goolge的深度學習一開始也是用GPU,但發現太貴,在2014年設計了TPU(tensor processing unit),它比GPU快30倍,省電80倍。第二代TPU的速度倍增,四顆TPU2就能下贏圍棋冠軍。Google的資料中心已經部署TPU2,成為AI的軍火庫。


到了物聯網時代,這些AI都會部署出去。程序通常是這樣:先在資料中心訓練AI,了解其特性後進一步把它晶片化,就可以安裝在小型或行動裝置上。其中的重點在於根據應用特性打造系統,方法很多,例如:向量處理、平行處理、降低精準度、概算、利用稀疏矩陣等。每種方法的效率都增加十倍乃至百倍,乘起來可加速百萬倍,能大幅提高競爭力。


日本政府想以HPC和AI提升國家競爭力,台灣也是走同樣路線。洪士灝建議:「若要以HPC和AI發展產業,就必須結合商業模式、前瞻研究、軟硬整合。在技術方面,不只要有軟體,也要蒐集數據,再加上HPC助陣。」


AI與人類福祉


目前AI還在發展階段,要達到強AI(具有人類智慧等級),我們還有很長的路要走,但這也是我們的機會。


在這機會中,我們應該關心人類福祉。我們應該是跟機器合作而非競爭,就像人不應該跟車比快,又如工業革命,人工智慧也將創造更多工作機會。洪士灝期許:「新人類應該設法走出新的道路,讓人工智慧不只幫我們做事,也幫助我們把個人智慧帶向更高層次。」


AI發展的幕後功臣是軟硬整合優化,AI的應用面需要傳產的專家系統、知識庫、資料搜尋等。目前AI只是完整AI應用的一部份,未來還會有很多研發的挑戰。


《科學人》雜誌的延伸閱讀:

〈機器如何深度學習〉科學人2016年7月

〈能自我學習的機器〉科學人2016年1月



更多相關文章

2018年8月198期跨越量子 走進現實 雜誌訂閱

本期最新文章