今日人物／霍金：人工智慧會終結地球文明　要嚴加控制

:0:0

霍金：人工智慧會終結地球文明。大中小昨（27）天的GMIC大會，許多企業家、專家學者齊聚一堂，重點探討電腦科學創新和人工智慧議題。其中，物理學家霍金的出現令全場振奮，他還饒有興致地做了演講發言，長達20分鐘。根據驅動之家報導，霍金開篇就指出「我認為強大的人工智慧的崛起，要麼是人類歷史上最好的事，要麼是最糟的。但我們應該竭盡所能，確保其未來發展對我們和我們的環境有利。我們別無選擇。」霍金強調，由於技術不能完全保持中性，所以「超人類人工智慧可能帶來不可估量的利益，但是如果部署不當，則可能給人類帶來相反的效果」。所以「人工智慧也有可能是人類文明史的終結，除非我們學會如何避免危險。」以下為霍金演講全文：《讓人工智慧造福人類及其賴以生存的家園》在我的一生中，我見證了社會深刻的變化。其中最深刻的，同時也是對人類影響與日俱增的變化，是人工智慧的崛起。簡單來說，我認為強大的人工智慧的崛起，要麼是人類歷史上最好的事，要麼是最糟的。我不得不說，是好是壞我們仍不確定。但我們應該竭盡所能，確保其未來發展對我們和我們的環境有利。我們別無選擇。我認為人工智慧的發展，本身是一種存在著問題的趨勢，而這些問題必須在現在和將來得到解決。人工智慧的研究與開發正在迅速推進。也許我們所有人都應該暫停片刻，把我們的研究重複從提升人工智慧能力轉移到最大化人工智慧的社會效益上面。基於這樣的考慮，美國人工智慧協會（AAAI）於2008至2009年，成立了人工智慧長期未來總籌論壇，他們近期在目的導向的中性技術上投入了大量的關注。但我們的人工智慧系統須要按照我們的意志工作。跨學科研究是一種可能的前進道路：從經濟、法律、哲學延伸至電腦安全、形式化方法，當然還有人工智慧本身的各個分支。文明所提產生的一切都是人類智慧的產物，我相信生物大腦可以達到的和電腦可以達到的，沒有本質區別。因此，它遵循了「電腦在理論上可以模仿人類智慧，然後超越」這一原則。但我們並不確定，所以我們無法知道我們將無限地得到人工智慧的幫助，還是被藐視並被邊緣化，或者很可能被它毀滅。的確，我們擔心聰明的機器將能夠代替人類正在從事的工作，並迅速地消滅數以百萬計的工作崗位。在人工智慧從原始形態不斷發展，並被證明非常有用的同時，我也在擔憂創造一個可以等同或超越人類的事物所導致的結果：人工智慧一旦脫離束縛，以不斷加速的狀態重新設計自身。人類由於受到漫長的生物進化的限制，無法與之競爭，將被取代。這將給我們的經濟帶來極大的破壞。未來，人工智慧可以發展出自我意志，一個與我們衝突的意志。儘管我對人類一貫持有樂觀的態度，但其他人認為，人類可以在相當長的時間裡控制技術的發展，這樣我們就能看到人工智慧可以解決世界上大部分問題的潛力。但我並不確定。2015年1月份，我和科技企業家埃隆•馬斯克，以及許多其他的人工智慧專家簽署了一份關於人工智慧的公開信，目的是提倡就人工智慧對社會所造成的影響做認真的調研。在這之前，埃隆•馬斯克就警告過人們：超人類人工智慧可能帶來不可估量的利益，但是如果部署不當，則可能給人類帶來相反的效果。我和他同在「生命未來研究所」的科學顧問委員會，這是一個為了緩解人類所面臨的存在風險的組織，而且之前提到的公開信也是由這個組織起草的。這個公開信號召展開可以阻止潛在問題的直接研究，同時也收獲人工智慧帶給我們的潛在利益，同時致力於讓人工智慧的研發人員更關注人工智慧安全。此外，對於決策者和普通大眾來說，這封公開信內容翔實，並非危言聳聽。

[圖擷取自網路，如有疑問請私訊]