人工智能的倫理問題

人工智能的倫理問題的研究

西北工業(yè)大學(xué)

計算機學(xué)院

2016302358董正宇

文檔

人工智能的倫理問題研究

董正宇

(西北工業(yè)大學(xué)計算機學(xué)院，西安)

摘要：2016年3月，谷歌基于“深度學(xué)習(xí)”的圍棋人工智能程序AlphaGo

以總比分4：1戰(zhàn)勝“石佛”李世石，被譽為人類智慧王冠上的最后明珠的圍棋

也被人工智能“攻陷”。引發(fā)了全社會對于人工智能發(fā)展的空前關(guān)注。隨著人工

智能的快速發(fā)展，社會將如何應(yīng)對和接納這一新的社會元素也成為了擺在人們

眼前的重要問題。

本文將首先簡要的介紹人工智能的基本狀況、現(xiàn)今發(fā)展情況，再就人工智

能的可能發(fā)展做簡要探討，最后重點討論人工智能的倫理問題。

關(guān)鍵詞：人工智能、深度學(xué)習(xí)、倫理

Abstract：March2016，theGoogle’sartificialintelligenceprogramAlphaGobeat

famousgoplayerLeeSe-dolbythetotalscoreof4:1whichabsorbalotattentionto

edevelopmentofartificialintelligence,howtoface

thisnewelementinoursocietyisbecomingmoreandmoreimportant.

Theessaywillfirstlybriefintroducetheartificialintelligenceanditssituation,andthen

y,Iwillmainlyfocuson

theethicofartificialintelligence.

Keywords:artificialintelligence

文檔

1.人工智能技術(shù)簡介[1]

人工智能技術(shù)簡稱AI(Artificial

Intelligence)，AI作為一門學(xué)科，于1956年

問世，是由“人工智能之父”麥卡錫

(McCartney)及一批數(shù)學(xué)家、信息學(xué)家、心

理學(xué)家、神經(jīng)生理學(xué)家、計算機科學(xué)家在美

國Dartnouth大學(xué)召開的會議上首次提出來

的，它是在計算機科學(xué)、控制論、信息學(xué)、

神經(jīng)心理學(xué)、哲學(xué)、語言學(xué)等多種學(xué)科研究

的基礎(chǔ)上發(fā)展起來的一門綜合性的邊緣學(xué)

科。不過，關(guān)于人工智能技術(shù)的定義，至今

還沒有一個統(tǒng)一的表述，而且不同的學(xué)科以

及不同學(xué)科背景的學(xué)者對人工智能技術(shù)有

著不同的理解與認識。廣義地講，人工智能

技術(shù)是關(guān)于人造物的智能行為，這種智能行

為一般包括知覺、學(xué)習(xí)、推理、交流以及在

復(fù)雜環(huán)境中的行為(ilsson，1998年)。另外，

從工程的角度來說，人工智能技術(shù)就是通

過用人工的方法使機器具有與人類智慧有

關(guān)的功能，如判斷、推理、證明、感知、理

解、思考、識別、規(guī)劃、設(shè)計、學(xué)習(xí)和問題

求解等思維活動。它是人類智慧在機器上

的實現(xiàn)。

意識，且能夠?qū)@些變化和刺激進行分析、

推理及判斷。強人工智能技術(shù)通常分為兩種：

一種是類人的人工智能技術(shù)，即這類機器有

著與人類相似的推理能力和思維方式；另

一種是非類人的人工智能技術(shù)，即這類機器

具有自己的推理能力和思維方式，并有知覺

和自我意識。強人工智能技術(shù)具有極大的智

能可以從其行為方式上得到體現(xiàn)：要么會按

照人預(yù)先設(shè)定的指令具體去做什么，要么就

根據(jù)具體環(huán)境的需要去做什么，它通常能夠

主動完成任務(wù)，而且其表現(xiàn)出的行為可以不

按照人類事先設(shè)計好的程序來執(zhí)行。

對于弱人工智能技術(shù)的倫理討論是沒有意

義的，所以本文要討論的是強人工智能技術(shù)

的倫理問題。

1.2另一種人工智能的劃分方式

或者我們可以將人工智能劃分為三個

[2]基本層次以及更高的層次。

1．信息收集輔助與智能篩選

信息收集輔助與智能篩選是最基礎(chǔ)的

人工智能服務(wù)，現(xiàn)在已經(jīng)被廣泛使用。如目

前的各類搜索引擎，其內(nèi)在都是采用智能化

的搜索機器人算法，在廣域的網(wǎng)絡(luò)中不斷讀

取分析，并匯集而來。當(dāng)用戶在使用搜索引

擎時，根據(jù)用戶的搜索習(xí)慣，給出相對最有

可能滿足用戶需求的排序結(jié)果。不同的個體

在使用同樣的關(guān)鍵詞進行檢索時，會得到不

同的結(jié)果。因此，從這個意義而言，最基礎(chǔ)

的人工智能早已經(jīng)進入人類社會中。信息收

集輔助與智能篩選看似是最簡單的人工智

能領(lǐng)域，然而其難度和復(fù)雜度并不簡單。關(guān)

鍵的難度在于在大數(shù)據(jù)時代，如何有效地快

速獲取最有價值的信息。因此，如前所述，

大數(shù)據(jù)時代所產(chǎn)生的海量數(shù)據(jù)，是促生人工

智能領(lǐng)域的最初和最重要的驅(qū)動。在這一層

面，人工智能可以廣泛應(yīng)用于各類信息獲取

需要的服務(wù)和反饋。

2.識別應(yīng)答接受模糊任務(wù)并完成人工智能

的早期使用如搜索數(shù)據(jù)，其最基礎(chǔ)的命令輸

入依然是要用固定形式的格式化命令來實

1.1弱人工智能技術(shù)和強人工智

能技術(shù)

一般來說，可以將人工智能技術(shù)分為弱

人工智能技術(shù)和強人工智能技術(shù)。其中，弱

人工智能技術(shù)一般賦予機器的是某種既定

的、事先設(shè)定好了的程序指令，它只能對特

定的外界刺激做出相應(yīng)的反應(yīng)，而不能自己

去改變。弱人工智能技術(shù)“根本沒有意向狀

態(tài)，它只是受電路和程序支配簡單地來回運

動而已”，故其所表現(xiàn)出的智能及行為通常

能夠被人類控制，對人類并不會造成威脅。

弱人工智能技術(shù)不能使機器像人類那樣通

過自我學(xué)習(xí)來提高自己的智能，且缺乏自我

意識更沒有主動性而言。

強人工智能技術(shù)則不同，強人工智能技

術(shù)能夠?qū)ν饨绛h(huán)境的變化與刺激產(chǎn)生自我

文檔

現(xiàn)的。如搜索引擎的“關(guān)鍵字+搜索”就是

一種格式化命令。然而人工智能的進一步發(fā)

展，是要求機器能夠識別人類相對較為模

糊的自然語言命令并做出有效反應(yīng)和完成

工作。在接到命令后，可以調(diào)動之前的搜索

功能提供信息，或者驅(qū)動行為部件實現(xiàn)特

定動作。如人員可以命令“幫我到××信息”，

“幫我提供××方案”等，機器則自動實現(xiàn)有效

信息和動作的反饋。在這一層面上，人工智

能將更廣泛地替代傳統(tǒng)僵化的人與機器的

交互形式，以聲音、圖像、動作等多種交互

手段，并為人類提供更有效的決策與行為方

案參考并根據(jù)人的命令指示而完成工作。

3.自主的判斷與決策

人工智能的第三個層面是要實現(xiàn)機器

的自主判斷決策和相應(yīng)的行為。在這一層面

中，機器可以根據(jù)環(huán)境條件的變化自主決定

最優(yōu)的行動方案，從而在更大程度上模擬和

替代人的行為，并形成對前兩個層面能力實

現(xiàn)統(tǒng)合，形成完整的人工智能功能體。目前

廣泛所知的阿爾法狗程序就是在這一層面

的探索，其他如車載自動駕駛，自主無人機

以及更廣泛的人形機器人，都要在一定程度

上實現(xiàn)自主的判斷與決策。

以上就是人工智能的三個最基本的層

次，當(dāng)然，人工智能最高的層次是實現(xiàn)機器

自主意識的出現(xiàn)。這將遠超機器擁有自主的

判斷與決策能力層面，是否人能夠設(shè)計或

者機器將自我演化形成具有類似人的自我

意識乃至情緒、情感、好惡，將依然是一個

極為難以判斷的問題。也將產(chǎn)生更多的社會

影響，包括自主意識的機器智能體是否還是

機器和基本權(quán)利問題等等。

2.人工智能的發(fā)展現(xiàn)狀

人工智能技術(shù)作為一項綜合性很強的

技術(shù)，其發(fā)展到目前，主要應(yīng)用領(lǐng)域有：專

家系統(tǒng)、人工生命、模式識別、定理證明、

機器人學(xué)、機器學(xué)習(xí)、自動程序設(shè)計、自然

語言處理、問題求解、人工神經(jīng)網(wǎng)絡(luò)、智能

決策系統(tǒng)等。

人工智能正在經(jīng)歷由弱人工智能向著

強人工智能的轉(zhuǎn)變。

以谷歌的最新人工智能程序AlphaGO

為例，其依靠兩個“大腦“來進行整個圍棋中

的思維過程：落子選擇器（movepicker）和

棋局評估器（positionevaluator）。落子選擇

器基于大數(shù)據(jù)和云計算對于落子概率進行

評估，而棋局評估器針對落子選擇器所選擇

的可能結(jié)果進行分析評估雙方獲勝的可能

性在反饋給落子選擇器。通過這樣大量的運

算，來確定對自身最為有利的方案來進行棋

局。其本質(zhì)是利用了云計算的強大計算能力

來進行一種優(yōu)選后的窮舉運算，這種做法仍

然不足以稱為”思維“，但是優(yōu)選這一過程無

疑是向著這一方向邁出的重要一步。

總體來說，人工智能存在于現(xiàn)代生活的

方方面面，但是人工智能技術(shù)仍然沒有在

“能力“到”智力“的進程上取得突破性進展。

文檔

3.人工智能的未來發(fā)展

由于本文需要討論的是人工智能的倫

理問題，所以在這里只探討會產(chǎn)生倫理問題

的強人工智能的發(fā)展問題，尤其是使人工智

能擁有類似人類思維能力和情感的人工智

能的發(fā)展。

要做到擁有類似人類思維能力的人工

智能，現(xiàn)階段有兩種方式是最為可能的：

其一，是通過大量的電子元器件完全模

擬人類的腦神經(jīng)網(wǎng)絡(luò)，神經(jīng)的興奮和抑制恰

好可以與電路的高電頻和低電頻對應(yīng)即其

很好的對應(yīng)了計算機的以二進制為基礎(chǔ)的

語言。目前，人類已經(jīng)成功的模擬了小鼠的

大腦使得電子的小鼠腦產(chǎn)生了與實際小鼠

大腦相似的電波。這種方式理論上可以制造

出真正的人造人腦，但是，這種方式的問題

也是明顯的，即這樣的人造人腦在無法自行

建造的情況下，只能使其擁有人類某一特定

狀態(tài)的思維能力，沒有直接以神經(jīng)網(wǎng)絡(luò)模擬

的形式來獲取新知識的能力。

其二，是制造可以不斷自我更新自我進

化的人工智能，隨著人工智能的不斷的自我

進化，其可以產(chǎn)生基于機器自身的邏輯體系

和思維方式。這種思維方式會與人類的思維

方式是有區(qū)別的，但是由于這種形式的人工

智能是程序不斷自我完善的產(chǎn)物，所以，其

思維模式等特征是較難預(yù)估的，這便產(chǎn)生了

人類無法控制人工智能發(fā)展的可能性。而且，

零星的偏移就可能產(chǎn)生蝴蝶效應(yīng)式的巨量

偏移，其對人類社會的存在造成的影響是不

可預(yù)知的。

總的來說，擁有人類情感的人工智能是

可能的，但是仍面臨著技術(shù)難關(guān)和道德倫理

問題。

4.人工智能的道德倫理問題

這部分將就幾個隨著人工智能的發(fā)展

可能浮現(xiàn)出的問題進行討論。

4.1思維存在是否人就存在[3]

3D活動模擬圖在結(jié)構(gòu)上與人腦皮層相

同，如果復(fù)制后的“電子人腦”能夠產(chǎn)生思維

意識，思維的存在是否就是人的存在呢?

一方面認為思維的存在不等于人的存

在。人是一種自然存在物．自然屬性是人存

在的基本屬性．人的自然性首先是指人對

于生命的擁有。正如馬克思指出：“人直接地

是自然存在物。??而且作為有生命的自然存

在物。”一個人如果離開了對于自己生命的

擁有，那么他將不復(fù)存在。因此，人的存在

首先是對自身生命和身體的擁有。

其次，在自然存在的前提下，人是一種

社會存在物和精神存在物．社會屬性和精神

屬性是人類特有的屬性。人作為社會動物，

必然在相互交往的過程中發(fā)生人與人之間、

人與社會之間的聯(lián)系。馬克思說：“人的本質(zhì)

并不是單個人所固有的抽象物，在其現(xiàn)實性

上，它是一切社會關(guān)系的總和。”同時馬克思

實踐唯物主義強調(diào)實踐作為人的存在的基

本方式，是實踐創(chuàng)造人本身。人類的思維意

識在實踐活動中得到了豐富，并且實踐使人

的活動具有社會性。人的存在既是人的自然

屬性、社會屬性和精神屬性的統(tǒng)一又是認識

活動、實踐活動的統(tǒng)一。然而，“電子人腦”

僅僅復(fù)制的是人腦的承載思維的物質(zhì)基礎(chǔ)。

沒有了生命和身體，離開自然環(huán)境，脫離了

社會環(huán)境。即使存在思維意識也將變得孤立，

認識無從談起，實踐無從談起。更不能當(dāng)作

是人的存在。

另一方面，認為思維的存在即人的存在。

黑格爾認為人的本質(zhì)是一個能夠“思考自己”，

即具有自我意識的精神實體，是一個能夠擺

脫物質(zhì)必然性的束縛而實行獨立自決的自

由的精神實體，人即精神，精神即人。宗教

哲學(xué)中將人看做是有靈魂的生物，他們認為

每個人都是有靈魂的，靈魂所指就是人類的

思維意識。同樣，在醫(yī)學(xué)界有著“腦死亡”的

文檔

說法，思維活動的停止標志著生命的完結(jié)。

因此，在某種程度上來說，思維意識更是標

志一個人存在而永恒不變的東西，思維的存

在即人的存在。

“電子人腦”即使不能達到與人類相同程

度的思維意識。即使是低一級或者遲鈍的思

維意識，都同樣可以看做強AI研究的成功，

因為思維意識產(chǎn)生規(guī)律的發(fā)現(xiàn)將使人工智

能逐漸向著人類智能邁進，而且將來為“電

子人腦”安裝各種傳感設(shè)備來代替人類感

覺器官是極為容易的事情，接收外界環(huán)境的

感知也將不再是難題，那么高級智能的產(chǎn)生

也將僅僅是時間問題。其次，網(wǎng)絡(luò)技術(shù)的普

及和發(fā)展使得網(wǎng)絡(luò)對人們的影響不斷加深，

如今人們除了現(xiàn)實存在外，還在虛擬世界里

有著虛擬存在，通過網(wǎng)絡(luò)，人們能足不出戶

對客觀世界進行認識與實踐，或者說認識方

式與實踐方式隨著網(wǎng)絡(luò)技術(shù)的發(fā)展而改變。

第一，通過網(wǎng)絡(luò)。人們能夠?qū)ο胍私?/p>

的事物有一個基本的認識。網(wǎng)上交流、聊天

能獲得自己需要的信息，并建立起新的社會

關(guān)系。

第二，通過網(wǎng)絡(luò)。改變了人類的實踐方

式。人類的實踐活動是一種目的性活動。列

寧曾經(jīng)簡潔地提出一個公式：“人的實踐=要

求+外部現(xiàn)實性”問。網(wǎng)絡(luò)恰好滿足這種“要

求和外部現(xiàn)實性”，為虛擬實踐提供可能。因

此，我們可以設(shè)想如果“電子人腦”與網(wǎng)絡(luò)相

聯(lián)接．即使在缺少自然生命和身體的情況下。

其思維意識同樣能夠與現(xiàn)實社會的人溝通、

交流并在網(wǎng)上進行認識實踐活動，如在網(wǎng)上

實現(xiàn)現(xiàn)實物品的買賣、網(wǎng)絡(luò)視頻會議等。而

且認識實踐活動中將逐步建立起相應(yīng)的社

會關(guān)系。其社會屬性和精神屬性都將得到實

現(xiàn)，如果那樣我們還能將這些沒有生命的

“電子人腦”當(dāng)作機器看待嗎?

4.2有感情有意識的人工智能是

否應(yīng)該享有人權(quán)

假設(shè)某一人工智能可以擁有和人類一

樣的情感和意識，那么對于該人工智能體的

界定便面臨了巨大的挑戰(zhàn)。人類是否應(yīng)該僅

僅作為其創(chuàng)造者的身份與該人工智能相處？

該人工智能是否應(yīng)該享有同人類相同各種

權(quán)利？當(dāng)這樣的人工智能體的數(shù)量極其稀

少時這樣的問題并非明顯，但是一旦擁有自

我意識的人工智能數(shù)量達到一定限度時，矛

盾便凸顯了出來。對于擁有自我意識的人工

智能在社會中的地位界定是需要提前進行

的，只有擁有了正確的明確定位后，擁有自

我意識的人工智能體才不會給社會的健康

發(fā)展帶來不利影響。

什么才是對于人工智能正確的定位？

絕不是簡單的使其擁有和普通人類完全相

同的人權(quán)。做一個極端情況的假設(shè)，由于人

工智能在大量領(lǐng)域能力是遠遠超過人類所

具備的能力的，以個體的利己性進行考量，

人工智能體在擇偶市場上可能會擁有超過

大多數(shù)人類的競爭力，這種平等，極有可能

對人類自身的生存和發(fā)展造成不良的影響。

但是，直接將有情感的人工智能體放在低于

人類的地位上同樣是不可取的。無數(shù)的歷史

事實告訴我們，階級的不平等必定帶來反抗。

人類究竟應(yīng)該如何看待擁有人類情感的人

工智能，人類應(yīng)該如何與人工智能體共處，

這將是人類在人工智能發(fā)展道路上必須要

面對的問題。

文檔

4.3具備自我改造進化能力的人

工智能的危險性

在之前對于人工智能的未來發(fā)展的部

分中已經(jīng)提及了不斷自我進化的的人工智

能的不確定性。這種不確定性是危險的，其

危險性不僅在于在不進行人為干預(yù)的條件

下其自我進化的不可預(yù)知性，更在于人為對

機器自我進化干預(yù)的困難性和不可預(yù)知性。

在不進行人為干預(yù)下的不可預(yù)知性較容易

理解，它是由于在不斷的自我進化中，任何

微小的改變都有可能由于多次的自我改造

而造成巨大的差別。而人為干預(yù)的困難性主

要體現(xiàn)在人工智能體可能出現(xiàn)的對人為干

預(yù)的改造的抵觸以及其指數(shù)增長的進化速

度。而人為干預(yù)的不確定性主要在于干預(yù)后

人工智能體對于人為干擾的響應(yīng)不確定性。

5.結(jié)語

人工智能技術(shù)是人類智慧的體現(xiàn)，如果

應(yīng)用得當(dāng)，無疑可以有效的推動人類文明的

發(fā)展。但是，在發(fā)展人工智能技術(shù)時，需要

對其未來可能帶來的問題進行充分考量，這

樣才能更好的讓人工智能服務(wù)人類。

文檔

參考文獻：

[1]武漢理工大學(xué)李俊平

人工智能的倫理問題及其對策的研究.

[2]何哲人工智能時代的政府適應(yīng)

與轉(zhuǎn)型.

[3]武漢科技大學(xué)龔園

人工智能的哲學(xué)思考.

文檔