人工智能研究者會不會遺臭萬年

Word文檔

人工智能研究者會不會遺臭萬年

作為一名人工智能討論員，我經常會想到人類對人工智能的恐驚。然而，目

前我也很難想象我開發出來的計算機怎么樣才能成為將來世界的怪物。有時就會

像奧本海默在帶頭建筑世界上第一顆核彈之后哀嘆的那樣，我會想我是否也會成

為“世界的毀滅者”?下面就是我給大家帶來人工智能討論者會不會遺臭萬年，歡迎

大家閱讀!

對未知的恐驚

由科幻小說作家ArthurClarke設想并最終由電影導演StanleyKubrick制成的計

算機HAL9000就是一個很好的例子。在許多簡單的系統里，例如泰坦尼克號、

美國航空航天局的航天飛機、切爾諾貝利核電站，工程師們把很多不同的組件放

在一起。設計師們可能特別清晰每個單獨的元素是如何工作的，但是當這些元素

連接在一起時，他們就無法知之甚透，就會產生意外的后果。

所以不能完全了解的系統，往往會不受掌握并消失意外的后果。一艘輪船的沉

沒，兩架航天飛機的爆炸，遍布歐亞大陸的放射性污染，在每一場災難都是一系

列小差錯導致的大災難。

而在我看來，目前人工智能也落入了同樣的境地之中。我們從認知科學中學習

最新的討論結果，然后將其轉化為一種程序算法并添加到現有的系統中。我們在

還不了解智能認知的狀況下，便開頭對人工智能進行改造。

例如IBM的沃森和谷歌的Alpha系統，我們將強大的計算機力量和人造神經系

統結合在一起，關心他們取得了一系列令人贊嘆的成就。假如這些機器出了差錯，

可能消失的結果是沃森不會喊“危急”了或者Alpha不能戰勝圍棋大師了，但是這

些錯誤都不是致命的。

然而，隨著人工智能的設計變得更加簡單，電腦處理器變得更快，它們的技能

也會得到提升。消失意外的風險也在增加，我們的責任也更重。我們常常說“人

無完人”，那么我們制造的系統也確定存在缺陷。

對濫用的恐驚

目前我正在應用“神經進化法”來開發人工智能，在可能引發的意外后果這一方

面，我并不非常擔憂。我制造虛擬環境，開發數字生物從而使他們的大腦可以解

決日益簡單的任務。我們會評估這些智能生物的表現，表現最好的會被選擇出來

再次生產并研發下一代。這樣，經過幾代的進化，這些機器生物已經漸漸演化出

了認知力量。

現在，我們正在給這些機器生物設定一些特別簡但的任務，比如他們可以做簡

潔的導航任務，做一些簡潔的打算等，但很快我們就會設計出能夠執行更簡單任

務更智能的機器，最終，我們盼望可以達到人類的智力水平。

在這個過程中，我們會發覺問題并解決問題。每一代機器都能更好地處理前幾

代機器曾經消失的問題。這關心我們可以削減在將來他們真正進入世界時消失意

外結果的概率。

此外，這種代代相傳“的改良方法還可以關心我們進展人工智能的倫理道德。

最終我們想要演化出是有可信任性及利他主義這樣人類道德的人工智能。我們可

以設置一個虛擬環境，給那些表現出友善、誠懇和同理心的機器嘉獎。可能這也

是一種確保我們研發的是更聽話的仆人或值得信任的伙伴的方法。同時也可以削

減消失冷酷殺手機器人的幾率。

雖然這種“神經進化法”可能降低消失不行控結果的可能性，但它并不能防止濫

1

Word文檔

用。但這是一個道德問題，而不是科學問題。作為一名科學家，我有說出真相的

義務，我需要報告我在試驗中發覺的東西，不管這種結果我想不想說。我的重點

不是打算我想要什么，而是將結果展現出來。

對社會掌權者的恐驚

雖然我是一名科學家，但我仍舊是一個人。在某種程度上，我必需將盼望和恐

驚重新聯系到一起。不管從政治上考慮還是道德上，我必需好好思索我的工作可

能對整個社會產生的影響。

整個討論界或整個社會對于人工智能要做什么或者成為什么都沒有一個明確

的定義。當然，這可能是由于我們還不知道它的力量。但我們的的確確需要打算

先進人工智能的預期進展結果。

人們關注的一個重要問題便是就業。機器人目前已經在進行一些諸如焊接汽車

部件的體力勞動。不久的將來，他們可能也會做一些我們曾經認為是只有人類能

夠做到的認知工作。自動駕駛汽車的機器人可以取代出租車司機;自動駕駛的飛機

的機器人可以取代飛行員。

在將來，當我們需要看病時，我們不用始終排隊，然后等來一個可能已經特別

疲乏的醫生來給我們看病。我們可以通過一個已經獲得全部醫學學問的系統進行

檢查和診斷，并馬上由一個不知疲乏的機器人來完成手術。法律建議可能來自一

個全知的法律數據庫;投資建議可能來自市場猜測系統。

或許有一天，全部的人類工作都將由機器完成。就連我自己的工作也可以做得

更快，由于有大量機器不知疲乏地討論如何制造更智能的機器。

在我們當前的社會，自動化會使更多的人失去工作，那些擁有機器的人將會越

來越有錢而其他人則會越來越窮。這不是一個科學問題，而是一個亟待解決的政

治和社會經濟問題。

對噩夢場景的恐驚

還有最終一種恐驚：假如人工智能持續進展并最終超越人類智能，那么超智能

系統會發覺它不再需要人類了嗎?當一個超智能生物可以完成我們永久不能完成

的事情，我們人類將如何定義我們自己的位置?我們可以阻擋被我們自己制造的

機器人從地球抹去?

到那時候一個關鍵問題是：我們該如何勸說超級智能留我們在它們身邊?

我想我會說，我是一個好人，是我制造了你們。我要喚起超智能的憐憫心使它

把我留在身邊。而我則一個富有憐憫心的人類生存下去。多樣性本身就有其價值，

宇宙如此之大以至于人類在其中的存在可能根本不重要。

但我不能代表全人類，代表全人類提出一個統一的觀點太難了。而當我認真端

詳我們自己的時候。我們有一個致命的缺陷：我們彼此厭煩。我們相互開戰。我

們不公平安排食物、學問和醫療救濟。我們污染地球。世上有許多美妙的事情，

但是那些錯誤的，糟糕的都讓人類的存在漸漸變得不那么重要。

幸運的是，我們目前還不需要證明我們存在的理由。我們還有時間，大約在50

到250年之間，這取決于人工智能的進展速度。作為一個物種，我們應當團結在

一起，得出一個很好的答案來解釋為什么超級智能不應當把我們毀滅掉。但這很

難做到：我們嘴上說著我們歡迎多樣性，但實際上卻并非如此，就像我們說我們

想挽救地球生物，但最終并非能地做到。

我們每個人，無論是個人還是社會，都需要為這種噩夢般的場景做好預備，利

用我們剩下的時間來思索如何向我們制造出來的超智能證明我們人類的存在是

有價值的。或者，我們可以認為這種事情肯定不會發生，我們完全無需擔憂。但

2

Word文檔

是超智能除了可能會帶物理威逼外，它們也可能也會帶來政治和經濟上的危急。

假如我們不到更好的安排財寶的方法，人工智能勞動者就會推動資本主義，由

于它是只有極少數人才能擁有生產資料。

3