義一方面增加了概念要素，如目的；另一方面某些概念要素，如受事、材料的內涵更大。“澆淋”是“澆鑄”

過程中很重要的一道程序，這里是用凸顯的部分來代指整體。這一語義演變背后的機制是轉喻。

相似的語義關聯(lián)模式①在其他語言中也存在。根據(jù)“世界語言同詞化在線數(shù)據(jù)庫（ｈｔｔｐ：／／ｃｌｉｃｓ．ｃｌｌｄ．

ｏｒｇ／）”，“使（液體）流出”義和“澆鑄”義在 ８個語系 ４４種語言中被同詞化了（４４ｃｏｌｅｘｉｆｉｃａｔｉｏｎｓｆｏｒ

“ＰＯＵＲ”ａｎｄ“ＣＡＳＴ”）。

（三）從“澆灌”義到“淹”義

“灌”“沃”均有從“澆灌”義到“淹”義的語義演變。它們在后一義的用例如：《國語·晉語九》：“乃走

晉陽，晉師圍而灌

獉之?！薄妒酚洝じ咦姹炯o》：“引水灌

獉廢丘，廢丘降，章邯自殺?！薄段簳づ擞阑鶄鳌罚骸坝跁r

葛榮攻信都，長圍遏水以灌

獉州城?！薄俄n非子·初見秦》：“（秦）決白馬之口以沃

獉魏氏，是一舉而三晉亡?！?/p>

唐盧仝《月蝕詩》：“勃然發(fā)怒決洪流，立擬沃

獉殺九日妖。”《西游記》第二十二回：“這個揪住要往岸上拖，

那個抓來就將水里沃

獉?！庇酶拍钜胤治觥皾补唷绷x為：［施事：人］＋［受事：植物／田地］＋［材料：水］＋

［目的：供給］；用概念要素分析“淹”義為：［施事：人］＋［受事：城／人］＋［材料：過量的水］＋［目的：攻

克／攻擊］。對比兩者可知“淹”義改變了受事、材料、目的等概念要素。當然，“澆灌”與“淹”在本質上是

相似的，都是將水輸入進去，可以劃歸到一個概念域中。這一語義演變背后的機制是轉喻。

（四）從“澆灌”“澆淋”義到“洗濯”義

“灌”有從“澆灌”義到“洗濯”義的語義演變，“沃”有從“澆淋”義到“洗濯”義的語義演變。它們在后

一義的用例如：《素問·脈要精微論》：“其軟而散者，當病灌

獉汗?！蓖醣ⅲ骸肮啵^灌洗?！薄洞蟠鞫Y記》卷

一：“而民棄惡也如灌

獉?！笨讖V森注：“如灌，猶《傳》言灑濯其心。”《宋書·劉敬宣傳》：“四月八日，敬宣見

眾人灌

獉佛，乃下頭上金鏡以為母灌，因悲泣不自勝?！北彼瓮踝暋短普Z林·文學》：“（文宗）讀堯、舜、禹、湯

事，即灌

獉手斂衽?！薄稘h書·王莽傳下》：“諸欲依廢漢火劉，皆沃灌

獉雪除，殄滅無余雜矣?！碧贫鸥Α断猜劰佘?/p>

已臨賊境二十韻》：“誰云遺毒螫，已是沃

獉腥臊。”仇兆鰲注：“沃，以蕩滌其穢也?！庇⒄Z中的“ｉｒｒｉｇａｔｅ”兼有

“灌溉”和“沖洗”義，這可為“灌”的語義演變提供進一步佐證?！皾补唷薄皾擦堋蹦苓_到“洗濯”的效果，故

而有此引申。

（五）從“澆灌”“澆淋”義到“（使）喝”義

“灌”有從“澆灌”義到“強行使喝下”義的語義演變，其在后一義的用例如：《韓非子·說疑》：“數(shù)日

不廢御觴，不能飲者以筒灌

獉其口?！薄洱R民要術·養(yǎng)牛、馬、驢、騾》：“治馬卒腹脹，眠臥欲死方：用冷水五

升，鹽二升，研鹽令消，以灌

獉口中，必愈。”唐段成式《酉陽雜俎》卷二“壺史”：“數(shù)日，方憶老人丹事，乃毀齒

灌

獉之，微有暖氣，顏色如生?！薄都t樓夢》第六十三回：“探春那里肯飲，卻被史湘云、香菱、李紈等三四個人

強死強活灌

獉了下去?！庇酶拍钜胤治觥皬娦惺购认隆绷x為：［施事：人］＋［受事：人］＋［材料：水或其他液

體］＋［方式：強制］＋［目的：供給／懲罰］。對比“澆灌”義、“強行使喝下”義可知，后者改變了受事、材

料、目的等概念要素，增加了方式這一概念要素。宏觀上看，兩者都是將液體輸入進去，可以劃歸到一個

概念域中。這一語義演變背后的機制也是轉喻。

相似的語義關聯(lián)模式在其他語言中也存在。根據(jù)“世界語言語義轉移數(shù)據(jù)庫（ＤａｔａｂａｓｅｏｆＳｅｍａｎｔｉｃ

Ｓｈｉｆｔｓｉｎｌａｎｇｕａｇｅｓｏｆｔｈｅｗｏｒｌｄ）”②，英語中的“ｗａｔｅｒ”兼有“ｔｏｍｏｉｓｔｅｎ，ｔｏｗａｔｅｒ”和“ｔｏｇｉｖｅｔｏｄｒｉｎｋ，ｔｏ

ｗａｔｅｒ”兩義，古希臘語中的“α¨ρδω”兼有“ｔｏｍｏｉｓｔｅｎ，ｔｏｉｒｒｉｇａｔｅ”和“ｔｏｇｉｖｅｔｏｄｒｉｎｋ，ｔｏｗａｔｅｒ”兩義，阿塞拜疆

湯傳揚：漢語“澆灌”“澆淋”義詞的歷時演變 １９５

①

②

這里我們采用“語義關聯(lián)模式”而不是“語義演變模式”，因為根據(jù)“世界語言同詞化在線數(shù)據(jù)庫”，我們能看到的是共時的“一詞多

義”，卻得不出歷時語義演變方面的信息。吳福祥指出：“‘同詞化’（ｃｏｌｅｘｉｆｉｃａｔｉｏｎ／ｃｏｌｅｘｉｆｙ）這個術語是法國語言學家亞歷山大·弗朗

索瓦（ＡｌｅｘａｎｄｒｅＦｒａｎｏｉｓ）創(chuàng)造的，指的是兩個或兩個以上的意義（ｓｅｎｓｅ）被編碼（ｃｏｄｅ）或詞化（ｌｅｘｉｆｙ）為同一個詞匯形式（ｔｈｅｓａｍｅｌｅｘ

ｅｍｅ）。換言之，若意義 Ａ和意義 Ｂ在某個語言里用同一個詞匯形式來表達，那么就可以說，在這個語言里意義 Ａ和意義 Ｂ被同詞化

了。”“多義性是從形式到功能的投射，同詞化是功能到形式的投射?！眳⒖磪歉Ｏ椋骸岸嗔x性、同詞化與語義圖”，南京師范大學文學院

講座，２０１７年。

有關該數(shù)據(jù)庫可查詢 ｈｔｔｐ：／／ｄａｔｓｅｍｓｈｉｆｔ．ｒｕ／。

語中的“ｓｕｖａｒ”兼有“ｔｏｇｉｖｅｔｏｄｒｉｎｋ，ｔｏｗａｔｅｒ”和“ｔｏｗａｔｅｒ”兩義。與之相比，漢語中的“灌”則將“施動性”

發(fā)揮到極致。后來，“灌”又可指放開量喝，如《紅樓夢》第七十七回：“只見晴雯如得了甘露一般，一氣都

灌

獉下去了?！?/p>

“沃”有從“澆淋”義到“喝”義的語義演變，其在后一義的用例如：宋陶谷《清異錄·女行》：“戴連沃

獉 六七巨觥，吐嘔淋漓?！鼻逋跸Q《秋燈叢話》卷八：“不敢請酌以酒，連沃

獉數(shù)十觥。”用概念要素分析“喝”義

為：［施事：人］＋［受事：人］＋［材料：水或其他液體］。對比“澆淋”義、“喝”義，后者改變了受事等概念

要素。然而，“喝”也可以看作將“水或其他液體”放置到自己肚里，從這個意義上看，其與“澆淋”都是將

液體輸入進去，可以劃歸到一個概念域中。因此，這一語義演變背后的機制也是轉喻。

綜上所述，漢語“澆灌”“澆淋”義詞的語義演變情況如圖 １所示。

圖 １ “澆灌”“澆淋”義詞語義演變情況

四、結語

自張永言等《關于漢語詞匯史研究的一點思考》［７］發(fā)表以來，“漢語常用詞演變研究”成為漢語詞匯

史研究中的熱點。汪維輝指出 １０年來，“研究范圍不斷拓展，由斷代到通史，由實詞到虛詞，由單音詞到

復音詞；研究逐步向縱深推進，由注重事實描寫到描寫與解釋相結合，由單純的歷時演變研究到歷時演變

與共時分布相結合，由單個詞研究到語義場研究；相關的理論探討也有所加強”［８］

。目前，就概念場研究

范式來說，一般是對單個概念場進行研究，考察概念場主導詞在不同歷史時期中的變化。這當然是一項

基礎性工作，但卻忽略了概念場之間的關聯(lián)。蔣紹愚指出我們在考察漢語詞匯的歷史演變時，也要把詞

義的演變和概念場中詞匯分布的變化結合起來。他舉的例子如：“看”的“看視”義、“閱讀”義這兩個意義

牽涉到“觀看”“閱讀”兩個概念場；“睡覺”概念域和“躺臥”概念場有聯(lián)系，“睡覺”概念域的“寢”“臥”的

引申義進入“躺臥”概念場［９］

。本文所探討的“灌”“澆”“沃”也是兼跨“澆灌”“澆淋”兩個概念場。將兩

者結合起來研究，一方面可以看到每個概念場中主導詞的變化，另一方面可以看到概念場之間的聯(lián)系。

蔣紹愚指出以概念場為背景，考察其中成員及其分布在不同歷史時期的變化，是研究詞匯系統(tǒng)的歷

史演變的一種切實可行的方法［１０］

。本文第一節(jié)即采用這一方法考察“澆灌”“澆淋”義詞成員及分布的

歷時演變。但常用詞由于使用頻率高，其詞義也往往比較豐富。我們認為還可以將概念場成員及分布的

歷時考察與語義演變結合起來研究。處在同一概念場中的詞語有沒有相同的語義演變模式和路徑？如

果有，其背后的機制是什么？這些語義演變模式和路徑是人類語言普遍可見的還是漢語所獨有的？這也

是吳福祥所倡導的［１１］

。本文第三節(jié)即考察了發(fā)生在“澆灌”“澆淋”義詞中的一些有規(guī)律的語義演變路

徑。從［＋可操控］到［－可操控］、從“澆淋”義到“澆鑄”義、從“澆灌”義到“洗濯”義、從“澆灌”義到“給

……喝”義等語義演變路徑不唯漢語中有，在其他語言中也存在。至于從“澆灌”義到“淹”義、從“澆淋”

義到“洗濯”義、從“澆淋”義到“喝”義等語義演變路徑反映的是漢語獨有的演變特性還是某些語言具有

的類型特征還有待于進一步考察。

本專題還啟發(fā)我們在常用詞演變研究中要擴大語料調查范圍，考慮專業(yè)文獻。張美蘭指出：“常用詞

涉及面廣，以往的研究大都選擇口語氣息較濃、非專業(yè)性的語料，但這并不能完全代表漢語史上常用詞的

１９６ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ

發(fā)展情況。對一些語義比較專門的詞語，我們還要充分利用相關的資料……考慮到專門類語料，農(nóng)書、醫(yī)

書、食譜、茶書等?！保郏保玻?/p>

本文在考察“澆灌”義、“澆淋”義詞時便有意選擇了一些專業(yè)文獻，尤其是農(nóng)書。

以往學界在研究漢語詞匯史、語法史時，關注較多的農(nóng)書是《齊民要術》。但據(jù)化振紅說：“在數(shù)千年的中

國古代社會中，傳統(tǒng)農(nóng)業(yè)享有超越一切行業(yè)的優(yōu)勢地位，因而產(chǎn)生了卷帙浩繁的古代農(nóng)書：王毓湖《中國

農(nóng)學書錄》收錄與農(nóng)業(yè)生產(chǎn)直接有關的農(nóng)書 ５４１種，存留至今的 ３００余種；王達統(tǒng)計的明清農(nóng)書達 １３８３

種。數(shù)量眾多的歷代古農(nóng)書，比較準確地反映了漢語不同階段的面貌?！薄肮呸r(nóng)書語言整體上比較貼近現(xiàn)

實口語，語料的時代性容易把握?！保郏保常?/p>

本文第二節(jié)即選擇了唐、元、明、清等各時代的農(nóng)書，這樣更有助于

梳理“澆灌”義詞的發(fā)展脈絡。

參考文獻：

［１］ 王鳳陽．古辭辨［Ｍ］．長春：吉林文史出版社，１９９３．

［２］ 向熹．詩經(jīng)詞典［Ｍ］．成都：四川人民出版社，１９８６．

［３］ 許寶華，宮田一郎．漢語方言大詞典［Ｍ］．北京：中華書局，１９９９．

［４］ 李榮．現(xiàn)代漢語方言大詞典［Ｍ］．南京：江蘇教育出版社，２００２：３２３０－３２３１．

［５］ 劉宏，趙缺．河南方言詞語考釋［Ｍ］．鄭州：河南人民出版社，２０１２：７７．

［６］ 付建榮．漢語詞匯核心義研究［Ｄ］．杭州：浙江大學，２０１２：１０２．

［７］ 張永言，汪維輝．關于漢語詞匯史研究的一點思考［Ｊ］．中國語文，１９９５（６）：４０１－４１３．

［８］ 汪維輝．漢語常用詞演變研究的若干問題［Ｊ］．南開語言學刊，２００７（１）：８８－９４．

［９］ 蔣紹愚．漢語歷史詞匯學概要［Ｍ］．北京：商務印書館，２０１５：４１０－４１７．

［１０］蔣紹愚．漢語詞義和詞匯系統(tǒng)的歷史演變初探———以“投”為例［Ｊ］．北京大學學報（哲學社會科學版），２００６（４）：

８４－１０５．

［１１］吳福祥．漢語語義演變研究的回顧與前瞻［Ｊ］．古漢語研究，２０１５（４）：２－１３．

［１２］張美蘭．漢語常用詞演變研究與個性化語料選用［Ｊ］．閱江學刊，２０１７（６）：２９－３７．

［１３］化振紅．試論古代農(nóng)業(yè)俗語詞在漢語詞匯史研究中的地位［Ｊ］．社會科學戰(zhàn)線，２０１３（１１）：１２０－１２６．

Ｄｉａｃｈｒｏｎｉｃｅｖｏｌｕｔｉｏｎｏｆｔｈｅｗｏｒｄｓｗｉｔｈ

ｔｈｅｍｅａｎｉｎｇ“ｉｒｒｉｇａｔｅ”ａｎｄ“ｐｏｕｒ”ｉｎＣｈｉｎｅｓｅ

ＴＡＮＧＣｈｕａｎｙａｎｇ

（Ｉｎｓｔｉｔｕｔｅｏｆｌａｎｇｕａｇｅ，ＣｈｉｎｅｓｅＡｃａｄｅｍｙｏｆＳｏｃｉａｌＳｃｉｅｎｃｅｓ／ＤｉｃｔｉｏｎａｒｙＣｏｍｐｉｌａｔｉｏｎＲｅｓｅａｒｃｈＣｅｎｔｅｒ，Ｂｅｉｊｉｎｇ１００７３２，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：Ｗｏｒｄｓｗｉｔｈｔｈｅｍｅａｎｉｎｇ“ｉｒｒｉｇａｔｅ”“ｐｏｕｒ”ａｒｅｃｏｍｍｏｎｖｅｒｂｓｉｎｈｕｍａｎｄａｉｌｙｌｉｆｅ．ＩｎＣｈｉｎｅｓｅ

ｈｉｓｔｏｒｙ，ｔｈｅｌｅａｄｉｎｇｗｏｒｄｉｎｔｈｅ“ｉｒｒｉｇａｔｉｏｎ”ｃｏｎｃｅｐｔｆｉｅｌｄｇｏｅｓｔｈｒｏｕｇｈｃｈａｎｇｅｓｆｒｏｍ “Ｇｕａｎ（灌）”ｔｏ“Ｇａｉ

（溉）”ａｎｄｔｈｅｎｔｏ“Ｊｉａｏ（澆）”，ｔｈｅｌｅａｄｉｎｇｗｏｒｄｓｉｎｔｈｅ“ｐｏｕｒ”ｃｏｎｃｅｐｔｆｉｅｌｄｇｏｔｈｒｏｕｇｈｃｈａｎｇｅｓｆｒｏｍ“Ｗｏ

（沃）”ｔｏ“Ｊｉａｏ（澆）”ａｎｄｔｈｅｎｔｏ“Ｊｉａｏ（澆）ａｎｄＬｉｎ（淋）”．“Ｇｕａｎ（灌）”“Ｊｉａｏ（澆）”“Ｗｏ（沃）”ｄｏｕｂｌｅ

ｓｐａｎ“ｉｒｒｉｇａｔｅ”ａｎｄ“ｐｏｕｒ”ｃｏｎｃｅｐｔｆｉｅｌｄｓ，ｔｈｅｃｏｍｂｉｎａｔｉｏｎｏｆｔｈｅｔｗｏｉｓｍｏｒｅｈｅｌｐｆｕｌｔｏｇｒａｓｐｔｈｅｒｅｌｅｖａｎｔ

ｖｏｃａｂｕｌａｒｙｓｙｓｔｅｍａｔｉｃａｌｌｙ．Ｔｈｅｒｅａｒｅｓｏｍｅｒｅｇｕｌａｒｓｅｍａｎｔｉｃｅｖｏｌｕｔｉｏｎｐａｔｔｅｒｎｓａｎｄｐａｔｈｓｉｎｔｈｅｓｅｍａｎｔｉｃ

ｅｖｏｌｕｔｉｏｎｏｆｗｏｒｄｓｗｉｔｈｔｈｅｍｅａｎｉｎｇ“ｉｒｒｉｇａｔｅ”“ｐｏｕｒ”ｉｎＣｈｉｎｅｓｅ，ｔｈｅｍｅｃｈａｎｉｓｍｓｂｅｈｉｎｄｔｈｅｓｅｓｅｍａｎｔｉｃ

ｅｖｏｌｕｔｉｏｎｉｓｍｅｔｏｎｙｍｙ．Ｓｏｍｅｓｅｍａｎｔｉｃｒｅｌｅｖａｎｃｅｐａｔｔｅｒｎｓｃａｎａｌｓｏｂｅｓｅｅｎｉｎｏｔｈｅｒｌａｎｇｕａｇｅｓ，ｗｈｉｃｈｈａｖｅ

ｔｙｐｏｌｏｇｉｃａｌｃｈａｒａｃｔｅｒｉｓｔｉｃｓ．Ｔｈｉｓｔｏｐｉｃｈａｓｔｈｅｆｏｌｌｏｗｉｎｇｅｎｌｉｇｈｔｅｎｍｅｎｔｓｆｏｒｔｈｅｓｔｕｄｙｏｆｔｈｅｅｖｏｌｕｔｉｏｎｏｆｃｏｍｍｏｎ

ｗｏｒｄｓ．Ｉｎｒｅｓｅａｒｃｈｍｅｔｈｏｄｓ，ｔｈｅｄｉａｃｈｒｏｎｉｃｉｎｖｅｓｔｉｇａｔｉｏｎｏｆｔｈｅｍｅｍｂｅｒｓｈｉｐａｎｄｄｉｓｔｒｉｂｕｔｉｏｎｏｆｃｏｎｃｅｐｔｆｉｅｌｄｓ

ｃａｎｂｅｃｏｍｂｉｎｅｄｗｉｔｈｔｈｅｓｅｍａｎｔｉｃｅｖｏｌｕｔｉｏｎ．Ｉｎｒｅｓｅａｒｃｈｍａｔｅｒｉａｌｓ，ｔｈｅｓｃｏｐｅｏｆｔｈｅｃｏｒｐｕｓｓｕｒｖｅｙｃａｎｂｅ

ｅｘｐａｎｄｅｄｔｏｔａｋｅｉｎｔｏａｃｃｏｕｎｔｐｒｏｆｅｓｓｉｏｎａｌｌｉｔｅｒａｔｕｒｅ．

Ｋｅｙｗｏｒｄｓ：ｉｒｒｉｇａｔｅ；ｐｏｕｒ；ｄｉａｃｈｒｏｎｉｃｄｅｖｅｌｏｐｍｅｎｔ；ｓｙｎｃｈｒｏｎｉｃｄｉｓｔｒｉｂｕｔｉｏｎ；ｓｅｍａｎｔｉｃｅｖｏｌｕｔｉｏｎ

（責任編輯 張佑法）

湯傳揚：漢語“澆灌”“澆淋”義詞的歷時演變 １９７

ＪｏｕｒｎａｌｏｆＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ（ＳｏｃｉａｌＳｃｉｅｎｃｅ）

２０２２年 第 ３６卷 第 ４期

Ｖｏｌ．３６ Ｎｏ．４ ２０２２

收稿日期：２０２１－０３－２１

基金項目：國家社會科學基金西部項目“習近平建設社會主義現(xiàn)代化強國思想的‘中國邏輯’研究”（１８ＸＫＳ０１９）；重慶市

教委人文社科研究項目“全媒體時代高校網(wǎng)絡主流意識形態(tài)引導研究”（２０ＳＫＳＺ０４４）；重慶理工大學黨建與

思想政治課題項目“自媒體時代大學生網(wǎng)絡輿情引導研究”（２０１８ＤＪ２０４）

作者簡介：苗存龍，講師，華南師范大學博士研究生，主要從事馬克思主義基本原理與思想政治教育、倫理學研究。

本文引用格式：苗存龍，王瑞林．人工智能應用的倫理風險研究綜述［Ｊ］．重慶理工大學學報（社會科學），２０２２（４）：１９８－２０６．

Ｃｉｔａｔｉｏｎｆｏｒｍａｔ：ＭＩＡＯ Ｃｕｎｌｏｎｇ，ＷＡＮＧ Ｒｕｉｌｉｎ．Ａ ｓｕｍｍａｒｙｏｆｒｅｓｅａｒｃｈｏｎｅｔｈｉｃａｌｒｉｓｋｉｎｔｈｅｅｒａｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ［Ｊ］．Ｊｏｕｒｎａｌｏｆ

ＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ（ＳｏｃｉａｌＳｃｉｅｎｃｅ），２０２２（４）：１９８－２０６．

ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１６７４－８４２５（ｓ）．２０２２．０４．０１８ 語言學·哲學

人工智能應用的倫理風險研究綜述

苗存龍，王瑞林

（重慶理工大學 馬克思主義學院，重慶 ４０００５４）

摘要：人工智能技術的研發(fā)應用推動了社會快速發(fā)展，但也引發(fā)了倫理問題。當今世界圍繞人工智

能產(chǎn)生的倫理風險指數(shù)越來越高，逐步成為全球關注的焦點。學界對人工智能倫理風險研究已經(jīng)取得了

許多有價值的研究成果，但研究也存在不足之處。目前，關于人工智能倫理風險研究布局尚欠合理，研究

有待深化，研究立意稍顯悲觀，研究視角缺少整體性。展望研究前景：應綜合多學科知識開展研究，重視

人工智能倫理風險評估和管理研究，增強人工智能與人類智能協(xié)同發(fā)展研究。

關鍵詞：人工智能；人類智能；智能機器人；倫理風險

中圖分類號：Ｂ８２０５７ 文獻標識碼：Ａ 文章編號：１６７４－８４２５（２０２２）０４－０１９８－０９

人工智能介入人類社會生活，雖然促使勞動生產(chǎn)率有效提升，但是也顯露出顛覆傳統(tǒng)社會倫理秩序

的能力，破壞了傳統(tǒng)人倫關系，引發(fā)了倫理問題，甚至危及了人類社會的未來發(fā)展。人類不得不謹慎對待

人工智能的發(fā)展和應用，對人工智能的技術研發(fā)，做出合乎人類倫理價值的明智抉擇。據(jù)統(tǒng)計，截至

２０２１年 ３月 ８日，以“人工智能倫理風險”為相關主題的研究著作逐漸出版，例如，杜嚴勇的《人工智能倫

理引論》、郭銳的《人工智能的倫理和治理》、高奇琦的《人工智能：馴服賽維坦》、李倫的《人工智能與大數(shù)

據(jù)倫理》等，這些著作分別以專題和非專題的形式對“人工智能倫理風險”做了研究探討。通過 ＣＮＫＩ數(shù)

字資源平臺進行檢索發(fā)現(xiàn)，以“人工智能倫理風險”為主題的期刊論文 １２４篇，其中，博士碩士學位論文 ９

篇，報紙 ７篇，這些研究成果針對“人工智能倫理風險”作了專題研究。以“人工智能倫理”為主題的期刊

論文 ２９０４篇，這類論文中有部分文章也圍繞“人工智能風險”主題做了探討。現(xiàn)梳理 、評述人工智能倫

理風險的相關研究成果，總結經(jīng)驗、發(fā)現(xiàn)不足并展望未來的研究工作，以期推動后續(xù)研究。

一、人工智能引發(fā)倫理風險可能性的相關論證

人工智能的發(fā)展越來越迅速，其引發(fā)倫理風險的指數(shù)也越來越高。人工智能究竟緣何引發(fā)倫理問

題？學者們對此問題不斷展開追問和探賾。學界普遍認為人工智能引起倫理風險的可能性在于兩個邏

輯層面：一是人工智能作為道德主體主動介入引發(fā)倫理風險。二是人工智能作為道德客體被動參與引發(fā)

倫理風險。無論是主動還是被動地觸發(fā)倫理風險，就論證過程而言，兩種狀態(tài)都是研究人工智能倫理風

險可能性的基本邏輯起點。關于人工智能能否具備主動介入人類倫理領域的條件，學者們分別作了或直

接或間接的相關論證。最早提出相關研究假設的學者是艾倫·麥席森·圖靈。雖然圖靈沒有研究人工

智能是否能夠主動介入人類倫理領域，但是他著名的圖靈測試為人工智能在智能運行技術可能性上提供

了相關研究基礎。１９５０年，圖靈在論文《計算機器與智能》中預言了制造出具有真正智能機器的可能性。

拘囿于“智能”這一概念難以明確界定和闡述，他創(chuàng)造性地提出了著名的圖靈測試以作為“智能”佐證：如

果一臺機器能夠與人類展開對話而未被辨別出其機器身份，那么就認為這臺機器具有智能。這一簡化測

試使得圖靈能夠令人信服地說明“會思考的機器”是可能的［１］

。由此則可以判定機器智能是否能夠擺脫

人類智能而在機器與人的關系中發(fā)揮主動性。近年來，國內學界關于人工智能能否主動介入倫理領域的

研究逐漸增多，此處僅引入以下幾位代表學者觀點。杜嚴勇認為，為了使人工智能“為人類服務”，人類

可以為機器賦予“受限”的權利。如果把社會生活中的人稱之為“完全的道德主體”，那么機器人就是“有

限的道德主體”［２］

。郭銳認為，相比以往的傳統(tǒng)技術，人工智能的獨特之處就在于它的“自主性”?；蛴?/p>

于技術本身的特性、或由于其應用過程中社會賦予了它特定角色，當代人工智能技術已經(jīng)在深度“參與”

人的決策［３］

。張金鋼認為智能機器人在算法的支持下，能夠像人一樣進行自我思考，與人一樣有了自我

獨立意志，能自主支配自己外在機體，即成了行為自由的主體［４］

。有學者從人工智能核心的技術———算

法角度進行分析。王天恩認為“人工智能的倫理問題根源于從大數(shù)據(jù)處理到作為智能體自主行動整個過

程所涉及的智能算法”［５］

。他認為在相應的大數(shù)據(jù)處理過程中，倫理問題出現(xiàn)在 ３個時間點：一是當數(shù)據(jù)

移到一組選定的變量時；二是當選定的數(shù)據(jù)移到由算法或倫理研究產(chǎn)生的結果時；三是當這些結果移到

明確的行動計劃時。當這 ３個節(jié)點由算法控制時，智能算法便具有重要倫理意蘊。綜上所述，無論是將

人工智能視為“完全的道德主體”，還是“有限的道德主體”，以上學者均認為人工智能主動涉足了人類倫

理生活領域。

持不同意見的學者認為，人工智能只能被動參與人類社會倫理生活領域。學者們或直接或間接地做

了有價值的相關論證。涂良川從歷史唯物主義層面分析認為，人工智能奇點論主張人工智能獲得主體

性，并非邏輯地證明了機器真正獲得價值的自主性，而是現(xiàn)實地證明了人類智能的實踐性。人工智能物

的特性及其立基并充分展開的物性思維因其沒有社會歷史的存在論基礎，只是以對比性的方式突顯了人

作為實踐主體的創(chuàng)造性本質［６］

。戴益斌認為，只有當智能機器人主動地面向人類，或者某人與智能機器

人發(fā)生有意義的關聯(lián)時，智能機器人才能獲得道德接受者的地位。這樣的智能機器人必須具備對話能

力，會使用某種語言［７］

。還有學者從現(xiàn)象學角度分析，如劉永安認為，意識是制約道德主體是否可能的關

鍵維度。目前，人工智能體能在功能等價的意義上對意識的智力性認知層面予以模擬，但并不具備對于

一個道德主體來說至關重要的現(xiàn)象學意識。人工智能體缺乏現(xiàn)象學意識第一人稱的定性特征［８］

。學者

們普遍認為，因為人工智能不可能擁有人類所特有的心智狀態(tài)，所以人工智能無法成為真正的道德主體，

而只能以道德客體身份被動參與人類倫理生活領域。

顯然，人工智能能夠引發(fā)倫理問題已是不爭事實，學界觀點分歧主要在于：人工智能究竟是以道德主

體身份主動涉足人類倫理生活領域，還是以道德客體身份被動參與人類倫理生活領域。就目前學界研究

現(xiàn)狀和未來任務而言，關于人工智能引起倫理風險可能性的兩方面研究，均需要繼續(xù)深化論證，應更深層

次探賾：作為主動和被動兩種引發(fā)人類社會倫理風險的方式，其“意識”層面的邏輯理路有何不同？隨著

人工智能技術的發(fā)展，不同“智能進階”的弱人工智能、強人工智能、超人工智能的主體“意向性”“創(chuàng)造

苗存龍，等：人工智能應用的倫理風險研究綜述 １９９

性”會提升，其參與倫理方式、程度又如何變化？分別產(chǎn)生哪些方面的倫理影響？諸如此類研究將為進一

步探究人工智能引發(fā)的倫理風險內容和尋求倫理風險規(guī)制之道奠定理論基礎。

二、人工智能倫理風險的主要內容

人工智能已經(jīng)滲透到社會各個領域，造成的倫理影響是全方位的?，F(xiàn)對學界已經(jīng)開展的幾個主要倫

理風險進行梳理述評。

（一）人的主體性異化

在辯證唯物主義實踐觀中，人類能夠主動地認識并通過實踐活動改造自然界，從而使人類自身達到

自然性與社會性的和諧統(tǒng)一。人類依托獨特智慧，躬身實踐，創(chuàng)造了人類社會豐富燦爛的文明。傳統(tǒng)倫

理秩序中，機器依附于人，人決定著機器如何開展工作。在高度智能化的人工智能物面前，人顯得既笨拙

又呆板，反而成為智能機器的“零部件”，人與機器的關系正逐步發(fā)生翻轉，人的主體性已經(jīng)出現(xiàn)異化端

倪。控制論之父維納在其名著《人有人的用處：控制論與社會》中認為：“這些機器的趨勢是要在所有層

面上取代人類，而非只是用機器能源和力量取代人類的能源和力量。這種新的取代將對我們的生活產(chǎn)生

深遠影響?！保郏梗?/p>

孫偉平認為，作為人類社會的基本技術支撐，智能科技構成了對人類或公開的或隱蔽的宰

制，人正在淪為高速運轉的智能“附庸”和“奴隸”；智能機器人的快速發(fā)展模糊了人機界限，對人的本質、

人的主體地位等形成強烈的沖擊，使“人是什么？”“人機關系如何？”凸顯為挑戰(zhàn)哲學常識的時代難

題［１０］

。閆坤如進一步指出，人類在享受智能技術帶來的便捷與自由的同時，深陷被智能造物支配與控制

的危機之中，人的主體性逐漸被智能機器解構和占有，客體化危機嚴重，主體間的關系也日益疏離化、數(shù)

字化和物化，人的尊嚴和自由面臨著被侵蝕的風險［１１］

。美國學者約翰·普利亞諾則從人工智能使用引

起的勞動機會變化入手進行分析，認為人工智能基本上相當于免費的勞動力，這對勞動者不利［１２］

。而在

文學創(chuàng)作領域，人工智能也顯示出非凡的建構能力。劉欣認為，現(xiàn)代寫作已無法以“限度”之名逃避與人

工智能“作者”的競爭，寫作的主體性問題進入反思領域。透過主體論詩學的“人性”神話與后人類主義

的激進想象，人工智能寫作在人機交互的間性主體和機器的他者維度得到重新思考［１３］

。還有學者關注

到人的主體性會隨著弱人工智能、強人工智能、超人工智能的進階，而逐步進入更加弱化的時代。強人工

智能或超人工智能將代表人類“預測一切、決定一切、安排一切”，人的主體作用在下降，社會參與度在降

低，勢必產(chǎn)生客體主體化、主體客體化的邏輯混淆［１４］

。如果說康德的“人為自然界立法”論斷使人類覺醒

并擺脫對自然界的依賴和控制，破天荒地標識了人的主體性地位，那么人工智能的快速發(fā)展則正在對這

一論斷和現(xiàn)實帶來沖擊，對人類主體性地位帶來挑戰(zhàn)。人工智能正在依托擬人特質，逐步增強替代人類

體力勞動和腦力勞動的能力。如何既能享受人工智能技術發(fā)展帶來的收益，又能規(guī)避主體性異化的風

險？有無使人類智能和人工智能兩者功能皆通暢發(fā)揮的平衡之道？諸如此類研究是時代難題。

（二）隱私權遭受威脅

海量信息數(shù)據(jù)是人工智能發(fā)揮其智能性所不可缺少的“信息食糧”。人工智能越是智能，就越需要

收集和存儲更多的個人數(shù)據(jù)和信息。然而，獲取和存儲海量信息數(shù)據(jù)，就不可避免地涉及個人隱私泄露

的倫理問題。王璐認為，一些單位為了鍛煉出更加“聰明”的智能體，有意采取合法與非法、公開與隱蔽、

知情與不知情等多種信息渠道，肆意挖掘整理人們的身份信息、家庭信息、健康信息、消費喜好、日?；顒?/p>

軌跡等重要數(shù)據(jù)。這些數(shù)據(jù)在智能技術的強大驅動下，則可以映射出個人支付能力、社交關系等高價值

信息，進而生成或還原出一個人的“生活肖像圖”［１４］

。在萬物智聯(lián)的世界，人幾乎與“透明人”無異。金

東寒等學者認為，在人工智能的應用中，云計算被配置到智能架構中，許多企業(yè)、個人等將信息存儲至云

端，這很容易遭到威脅和攻擊；如果將這些數(shù)據(jù)整合一起，那么便可“讀出”他人秘密，如隱蔽的身體缺

２００ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ

陷、既往病史、犯罪前科、變性經(jīng)歷等。如果智能系統(tǒng)掌握的敏感的個人信息被泄露出去，會將人置于尷

尬甚至危險的境地，個人的隱私權會受到不同程度的侵害［１５］

。蔡立媛從人工智能在廣告方面的應用入

手進行分析，認為人工智能廣告的追蹤定位侵犯個人隱私，會引起個人信息安全失控、個人私事泄露、個

人財產(chǎn)失竊、心理失衡、心理焦慮甚至恐慌，而且個人行蹤泄露也危及人身自由和生命安全，影響社會秩

序的穩(wěn)定。用戶的既有隱私、將有隱私、當下隱私都可能被侵犯，都可能被無意地泄露［１６］

?？萍紕?chuàng)新推

動社會發(fā)展，人類雖不能由于隱私難題因噎廢食，但人工智能的發(fā)展也決不能以犧牲隱私權為代價。

２０１９年 ６月 １７日，我國新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則———發(fā)展負責

任的人工智能》，要求人工智能發(fā)展應尊重和保護個人隱私，充分保障個人的知情權和選擇權。人類未來

智慧生活中，如何兼顧“高度智能技術與高度隱私安全”，這是需要攻克的重點課題。

（三）挑戰(zhàn)家庭婚戀觀

目前，關于人工智能對家庭婚戀觀念產(chǎn)生影響的相關研究，多數(shù)聚焦于智能機器人具有家庭或婚戀

成員身份替代性的倫理領域，少數(shù)聚焦于人工智能參與相親匹配等大數(shù)據(jù)分析領域?？傮w而言，其風險

大于收益。人工智能研究專家大衛(wèi)·利維撰寫了一本書《與機器人的愛與性：人與機器人的關系進化

史》，他提出了一個引人注目的觀點：到 ２０５０年左右，人與機器人將建立真正的伴侶關系。人形智能機器

人的研制正在取得技術突破，更加助推了人工智能影響婚戀觀念的快速轉變。金東寒認為，人形智能機

器人越來越像人，越來越“善解人意”，也越來越“多愁善感”。人形智能機器人可能擁有完美的身材、漂

亮的五官、光潔的皮膚、溫柔的性情、堅貞的品格等，堪稱完美的擇偶對象。人形智能機器人能長情地陪

伴人類，甚至為人類懷孕、生子、養(yǎng)育子女［１５］

……駱安安認為，因人工智能而興起的伴侶機器人，正在快

速融入人類的情感生活。人機之戀正成為新型戀愛關系，伴侶機器人進入更多家庭甚至和人類結成法律

允許的婚姻關系也并非完全不可能［１７］

。王睿認為，性趣機器人作為高人機交互型機器人，其設計、生產(chǎn)

和廣泛研發(fā)應用將造成廣泛的社會倫理影響。他通過問卷調查、深度訪談和對網(wǎng)絡平臺的參與觀察，調

查男性、女性對性趣機器人的各項選擇意愿。針對選擇性趣機器人作為伴侶的意愿原因和對基礎設定、

主體地位的選擇意愿三項內容，分別根據(jù)韓炳哲“愛欲之死”思想、情感社會學中“情感異化”理論和女性

主義的社會性別觀點，對選擇意愿的共性和差異進行剖析，結果顯示人們對性趣機器人的喜好超乎想

象［１８］

。美國普利策獎得主戴夫·巴里曾說，他并沒有打算再婚，但如果非要結婚，他寧可娶個機器人。

巴里的話，顯然帶給我們的不全是幽默。人類不得不面臨一個重要倫理風險：人工智能的廣泛應用，將顛

覆傳統(tǒng)的婚戀關系、家庭模式，并使家庭結構和倫理架構陷入危機。

（四）造成算法偏見

２０１８年 ２月，麻省理工學院的 ＪｏｙＢｕｏｌａｍｗｉｎｉ發(fā)現(xiàn)，ＩＢＭ、微軟和北京曠視科技有限公司的三家公司

最新研發(fā)的性別識別人工智能，可以在 ９９％的情況下從照片中準確識別一個人的性別，但其識別人種范

圍僅限于白人。對于女性黑人來說，其準確率會大幅降至 ３５％。王天恩認為，人工智能算法導致的偏見

最初是從人類習得的。人工智能可以從人類語言信息中習得偏見，智能算法設計中的前提性預設，與智

能算法的人類理解密切相關［５］

。卜素也認為，人工智能技術在其實際應用過程中經(jīng)常出現(xiàn)偏差性結論或

反饋，其中最為典型的即為“算法歧視”問題?！八惴ㄆ缫暋钡某梢蚋瓷显谟谌祟惞逃械纳鐣?，經(jīng)由

人工智能背后的算法技術轉譯，具有難以預測、難以監(jiān)管以及責任主體多元化的特點；內部成因與外部成

因所導致的算法歧視又具有各自的獨特屬性［１９］

。仇筠茜以新聞生產(chǎn)為例，他認為技術的“黑箱”切斷了

算法結論與事實之間的關聯(lián)。算法所擅長的大數(shù)據(jù)整理、挖掘、分析的處理能力，是人類能力所不及的。

特別是對宏觀趨勢的預測及其自我學習的邏輯以及決策的過程，即使是人工智能程序設計者也不能完全

理解。這種方式將新聞生產(chǎn)過程推進更深的“黑箱”，產(chǎn)品即是“勿需推敲”的成品。這導致了對事實的

苗存龍，等：人工智能應用的倫理風險研究綜述 ２０１

核查、對真相的追尋將變得迷霧重重［２０］

。張恩典從算法特征方面分析認為，受算法決策自動性和模糊性

等因素影響，大數(shù)據(jù)算法歧視呈現(xiàn)出高度的隱蔽性、結構性、單體性與系統(tǒng)連鎖性特征，增加了歧視識別

判斷和規(guī)制的難度，并給傳統(tǒng)以差別待遇為標準的反分類歧視理論和以差別性影響為標準的反從屬歧視

理論帶來適用困境［２１］

。算法是人工智能技術的核心，在人工智能技術應用領域，算法是導致偏見的深層

次根源。人工智能時代，算法偏見早已深入了各個領域。

（五）軍事領域風險

伴隨著人工智能在軍事化領域的廣泛應用，人類對未來安全問題的憂慮正日漸加深。人工智能時

代，是否應該限制或禁止使用致命性自主武器系統(tǒng)（１ｅｔｈａｌａｕｔｏｎｏｍｏｕｓｗｅａｐｏｎｓｓｙｓｔｅｍｓ，簡稱 ＬＡＷＳ）的話

題備受熱議。２０１５年 ７月，一封要求停止研發(fā)致命性自主武器系統(tǒng)的公開信獲得了多達 ３萬人的簽名，

其中包括斯蒂芬·霍金、埃隆·馬斯克以及眾多人工智能領域的專家學者。專家學者們認為自主武器系

統(tǒng)具有極大的風險，一旦被研發(fā)成功并應用，就有可能被恐怖組織掌控，對無辜平民將產(chǎn)生巨大的生命安

全威脅［２２］

。軍事斗爭自古以來是人類社會的一個沉重命題，由人工智能主宰軍事決策，意味著這一命題

將變得簡單化、程序化。鑄戈認為，比這更嚴重的是，如果賦予人工智能武器系統(tǒng)“自主開火權”，人與武

器的關系將發(fā)生根本質變，“機器代理人戰(zhàn)爭”將會成為人類社會不可承受之重。而在智能化軍事體系

中，政治因素和理性因素已不存在，“戰(zhàn)爭是戰(zhàn)爭的繼續(xù)”［２３］

。從這個意義上說，武器系統(tǒng)的智能化程度

愈高，后果則愈嚴重。人工智能時代，“極速戰(zhàn)”是未來的戰(zhàn)爭走向。戰(zhàn)爭出發(fā)時間將縮短到幾乎是即時

反應。謝丹從軍事責任認定視角分析認為，智能武器的特殊性及其推廣應用，給現(xiàn)行軍事法特別是武裝

沖突法帶來諸多嚴峻的挑戰(zhàn)。在軍事沖突中，人類幾乎完全不能參與“觀察—定向—決策—行動”（ＯＯ

ＤＡ）的循環(huán)過程［２４］

。鑒于此，值得深刻思考的是：未來自主武器能否精確識別平民百姓和戰(zhàn)斗人員？能

否恪守國際人道主義規(guī)范？一旦自主武器脫離控制對人類造成大規(guī)模殺傷，誰將為自主武器的決策和行

為承擔責任和后果？是追究軍事指揮官的責任，還是人工智能的責任？責任認定將難以判定。生死攸關

的致命抉擇“讓渡”于機器定奪，是否意味著未來人類社會將終結？大部分學者依據(jù)人工智能發(fā)展技術，

從長遠審視未來戰(zhàn)爭，認為人工智能在軍事化領域的應用，對未來人類安全終將造成威脅。如果人工智

能超脫了人類智能的控制，勢必將給人類帶來滅頂之災。

三、人工智能倫理風險的防范規(guī)制

關于人工智能倫理風險防范規(guī)制問題，學界主要從策略原則、算法設計、責任追究和制度管理等方面

展開討論。

（一）策略原則方面

阿西莫夫在他的機器人科幻作品中定義了機器人的三大定律，這三大定律從宏觀層面對人工智能倫

理風險的防范規(guī)制進行了預想。第一，機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手

旁觀。第二，機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外。第三，機器人在不違反

第一、第二定律的情況下要盡可能保護自己的生存。三大定律對研究如何規(guī)制人工智能倫理風險具有借

鑒意義［２５］

。耶魯大學機器人學專家 ＪｏｎａｔｈａｎＨａｒｔｍａｎ建議把三大定律作為人工智能的適應性標準。Ｊｏｎ

ａｔｈａｎＨａｒｔｍａｎ認為不能像自上而下的應用定律那樣限制人工智能功能的發(fā)揮，定律應該是一個寬松的指

導原則，其后代將會根據(jù)他們的能力靠近這些目標。ＪｏｎａｔｈａｎＨａｒｔｍａｎ認為三大定律的優(yōu)勢是：機器人會

與定律形成一個更動態(tài)的關系，把定律當作是靈活的指導原則［２５］

。王璐認為，人工智能的設計應該重視

科技理性與價值理性，必須堅持科技服務人類的根本價值取向，突出以人為本，強調公平正義，遵守倫理

發(fā)展［１４］

。

２０２ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ

（二）算法設計方面

因算法是人工智能技術的核心，有學者從人工智能思維內核———算法層面，思考如何規(guī)避人工智能

引發(fā)的倫理風險。閆坤如主張，倫理學家與技術哲學家不能袖手旁觀，人工智能設計應該遵循“合乎倫理

設計”的規(guī)則。人工智能設計主體必須在設計之初把人類道德與規(guī)范嵌入到智能機器算法中，從而使得

人工智能系統(tǒng)的決策、行為具有可靠性與安全性［２６］

。丁曉東認為，要以實現(xiàn)負責任的算法為目標，采取

場景化的規(guī)制路徑，根據(jù)不同場景類型對算法采取不同的規(guī)制形式。在算法場景化規(guī)制原則的指引下，

可以構建算法公開、數(shù)據(jù)賦權與反算法歧視等算法規(guī)制的具體制度［２７］

。為了避免涉及性別、族裔和性向

等“敏感屬性”與中性特征無意關聯(lián)而觸碰紅線，羅梅和魯格吉里提出了 ４個策略：控制訓練數(shù)據(jù)集的失

真；通過將其與反歧視標準相結合，修改分類學習算法；提取分類模型后，對模型進行后處理；在應用時，

對預測進行更正，在受保護和不受保護的群體之間保持決策的相稱性［２８］

。

（三）責任追究方面

學者們認為加強追責問責也是規(guī)制人工智能倫理風險的有效方法。孫保學探究了算法層面追責的

策略，他認為，由于算法中間環(huán)節(jié)較多，確定某一具體操作失誤究竟是編程錯誤、系統(tǒng)故障或還是偏見干

擾往往異常困難，這意味著準確定位導致行為后果的直接責任主體更難［２９］

。顯然，從算法層面追責問責

是有難度的，而伯朗格（Ｂéｒａｎｇｅｒ）則提出謹慎創(chuàng)新思路，他認為可以在創(chuàng)新和謹慎之間找到平衡，這將導

致一個基于賦予行動者責任的雙贏體系。如果設計者沒有采取必要的預防措施來避免這種風險，那么設

計者應該對重大損害后果承擔責任。誠然，人工智能使用者也應充分考慮自己在使用人工智能過程和操

作中產(chǎn)生的倫理影響［３０］

。中國學者戴益斌的觀點與伯朗格相似，戴益斌認為新工具主義主張將智能機

器視為人類的奴隸，機器倫理的支持者傾向于賦予智能機器以道德主體地位，這兩種方案在處理人工智

能的倫理責任問題時都面臨困境。他認為應將道德主體擴展至他者以及非人類的實體。智能機器導致

的責任問題可以指派給所有與智能機器相關的責任方［７］

。

（四）制度管理方面

公共政策和管理治理機制可以為人工智能倫理規(guī)制提供基礎。田廣蘭認為，為了抵御人工智能的倫

理風險，“蓄水池式”的公共決策機制有助于形成融貫性的行動策略，以將人工智能的發(fā)展和應用盡可能

置放在人的意圖之下［３１］

。戴益斌從道德與法律兩方面分析規(guī)制策略，認為應堅持“以人為本”“以德為

先”“以法為界”的理性治理規(guī)則［７］

?；谌斯ぶ悄芫哂蟹芍黧w地位的前提認識，黃甫全探討人工智能

立法，在內容上聚焦于人工智能主體的規(guī)范，主要包括交通法、隱私法、醫(yī)療法和著作權法等領域；在特征

上突出表現(xiàn)為，以保障人類利益為本，以原有法律體系為主，以部分類型與領域立法為先［３２］

。針對人工

智能在新聞傳播領域引發(fā)的倫理風險，楊保軍提出 ４個規(guī)制原則：第一，透明原則；第二，風險可控原則；

第三，知情同意原則；第四，核查與公正原則［３３］

。

四、人工智能時代倫理風險研究的不足和展望

現(xiàn)有的人工智能時代倫理風險研究成果為進一步深化、拓展和完善研究奠定了基礎。同時，通過梳

理也發(fā)現(xiàn)，當前的研究正處在一個需要繼續(xù)深化的階段，這預示著人工智能倫理風險研究還有更廣闊的

空間。

（一）現(xiàn)有研究的不足

學界對人工智能倫理風險的研究雖然不乏真知灼見，但總體而言仍存有不足，擇其要者，茲述如下。

一是研究布局尚欠合理，研究有待深化。一方面，研究布局不夠合理。人工智能倫理研究包括人工

智能道德哲學、人工智能道德算法、人工智能設計倫理和人工智能應用倫理等 ４個領域。通過對現(xiàn)有研

苗存龍，等：人工智能應用的倫理風險研究綜述 ２０３

究成果梳理可知，現(xiàn)有研究成果多集中于人工智能道德算法、人工智能設計倫理和人工智能應用，而人工

智能道德哲學領域研究成果相對薄弱。人工智能道德哲學研究關乎人工智能的善與惡、對與錯、權利與

義務等思辨和論證。推動人工智能道德哲學研究，有利于我們審視人工智能的社會價值和倫理風險影

響，以哲思智慧引領人工智能其他領域研究。另一方面，研究還有待深入。人工智能設計倫理關乎人工

智能如何與人類生活融合的問題。鑒于人工智能本身固有的技術不確定性，研發(fā)設計環(huán)節(jié)究竟賦予其多

少“智能”，才能確保不會引發(fā)倫理風險？如何針對人工智能的決策“僭越”加以控制和防范？這些都是

值得繼續(xù)深入思考和研究的問題。

二是研究立意略顯消極悲觀。因為受到人工智能奇點論影響，所以學界有部分學者對人工智能倫理

風險研究持悲觀傾向。其實沒有必要持悲觀態(tài)度，應理性看待人工智能與人類智能的“較量”。因為人

工智能是隨人類意識創(chuàng)造而產(chǎn)生的，人工智能每前進一步都是建立在人類智能創(chuàng)新的基礎上的。人的

“意識代替他的本能，或者說他的本能是意識到了的本能”［３４］

。無論人工智能技術發(fā)展如何迅速，作為

“意識產(chǎn)物”的人工智能，不可能繞開人類意識，實現(xiàn)無“意識”內核驅動境況下的智能跨越?，F(xiàn)今，人工

智能引發(fā)的倫理風險不至于即刻給予人類“致命一擊”，人類仍然掌握著是否繼續(xù)研發(fā)和應用人工智能

各項技術的抉擇權。人類作為唯一能夠以智力引領人工智能的物種，完全可以通過自身智慧解決人工智

能倫理風險問題，從而實現(xiàn)人工智能工具理性和價值理性的有機統(tǒng)一。因此，研究應始終保持理性自持，

做到客觀不悲觀、預想不幻想。

三是研究視角缺少整體性。關于人工智能倫理風險規(guī)制方法的研究，多數(shù)缺少整體性視角。部分學

者提出的人工智能倫理風險的規(guī)制方法和措施較“碎片化”。部分研究出現(xiàn)“頭痛醫(yī)頭，腳痛醫(yī)腳”的現(xiàn)

象。例如，面對人工智能算法導致算法歧視的現(xiàn)象，部分研究者往往忽略心智維度，將算法歧視歸罪于人

工智能算法技術層面，以工具理性視角取代價值理性視角，這將阻礙人工智能技術發(fā)展，不利于科技發(fā)展

和社會進步。人工智能倫理風險研究與其他技術倫理風險研究不同，應當圍繞“機芯”和“人心”整體性

建構而展開研究，未來人工智能倫理研究應更多地賦予人工智能“善”的意蘊。

（二）未來研究的展望

鑒于上述人工智能時代倫理風險的總體研究存有不足，現(xiàn)對未來的研究提出幾點粗淺看法，僅供后

續(xù)研究參考。

一是綜合多學科知識開展研究。影響人工智能倫理風險研究的因素很復雜：一方面，人工智能的倫

理問題研究與傳統(tǒng)的倫理研究大有不同，其研究視域發(fā)生了較大的跨越，已經(jīng)超出了人類主義的倫理學

范圍。人工智能倫理風險研究討論的不再是人與人之間的關系問題，也不是人類與自然界的既定事實之

間的關系問題，而是人類與自己所創(chuàng)造的智能產(chǎn)品之間的關系問題。另一方面，人工智能倫理風險的研

究環(huán)境也在快速變化。例如人類對人工智能的接納程度正在發(fā)生變化。２０１７年 １０月 ２６日，沙特阿拉伯

已經(jīng)給予了美國漢森機器人公司生產(chǎn)的女性機器人索菲亞公民身份。因未來人工智能倫理風險研究所

需知識將橫跨多學科領域，所以研究過程中應與時俱進地綜合運用多學科知識。例如，可結合科學技術

哲學、人工智能哲學、倫理學、社會學、工程學、法學等學科知識，綜合審視人工智能倫理風險，切實謀劃有

效的風險防范策略。

二是重視人工智能倫理風險評估和管理研究。由于人工智能技術發(fā)展存在諸多不確定性，亟須加強

人工智能潛在倫理風險的評估研究，推動人工智能安全可控健康發(fā)展。人工智能倫理風險評估研究，既

需要頂層的宏觀哲思方面的研究，以保持人工智能發(fā)展和倫理秩序穩(wěn)定之間的平衡，同時也需要基礎的

微觀評估指標的研究，以保障風險評估的有效操作性。應著力建構人工智能風險評估體系，實現(xiàn)評價指

標具體化、可操作化，為人工智能研究及應用提供倫理風險評估反饋。要加強人工智能倫理風險管理研

２０４ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ

究，關注人工智能倫理風險管理中風險識別、數(shù)值評估、責任處理、預期監(jiān)控及匯報傳達等各環(huán)節(jié)，探討各

有關主體的風險管控責任。要堅持評估的預防性原則，將倫理風險評估前置于人工智能開發(fā)應用階段。

重視人工智能倫理風險評估研究，將有利于降低人工智能潛在倫理風險，為更好決策人工智能未來發(fā)展

奠定基礎。

三是增強人工智能與人類智能協(xié)同發(fā)展研究。馬克思認為“那些發(fā)展著自己的物質生產(chǎn)和物質交往

的人，在改變自己的這個現(xiàn)實的同時也改變著自己的思維和思維的產(chǎn)物”［３４］

。因為人的思維意識與生產(chǎn)

生活是協(xié)同發(fā)展的，所以我們對人工智能引發(fā)倫理風險進行歸因時，決不能局限于人工智能技術本身，還

應同時反觀人工智能創(chuàng)造者們的設計水準。人工智能和人類智能之間決不是“你死我活”的完全沖突關

系，我們應打破“非此即彼”的形而上學的思維模式的禁錮。未來研究應從人工智能倫理風險給人類生

存狀態(tài)、價值理念和人倫觀念帶來的各種沖擊中，逆向反思人類智能發(fā)展的現(xiàn)實困境，謀求人工智能與人

類智能協(xié)同共生之道。面向未來，既要推動人工智能不斷完善，實現(xiàn)技術層面?zhèn)惱盹L險規(guī)避，又要以此為

契機促使人類智能逐步提升，實現(xiàn)價值層面?zhèn)惱韽蜌w。

參考文獻：

［１］ ＴＵＲＩＮＧＡＭ．Ｃｏｍｐｕｔｉｎｇｍａｃｈｉｎｅｒｙａｎｄｉｎｔｅｌｌｉｇｅｎｃｅ［Ｊ］．Ｍｉｎｄ，１９５０，５９：４３３－４６０．

［２］ 杜嚴勇．人工智能倫理引論［Ｍ］．上海：上海交通大學出版社，２０２０：１０６．

［３］ 郭銳．人工智能的倫理和治理［Ｍ］．北京：法律出版社，２０２０：２６．

［４］ 張金鋼．人工智能時代的刑事風險———以智能機器人為切入點［Ｊ］．重慶理工大學學報（社會科學），２０１９（８）：９０．

［５］ 王天恩．人工智能算法的倫理維度［Ｊ］．武漢科技大學學報（社會科學版），２０２０（６）：６４５－６５３．

［６］ 涂良川．馬克思歷史唯物主義視閾中的人工智能奇點論［Ｊ］．東北師大學報（哲學社會科學版），２０２０（１）：７９－８４．

［７］ 戴益斌．試論人工智能的倫理責任［Ｊ］．上海大學學報（社會科學版），２０２０（１）：２７－３６．

［８］ 劉永安．人工道德主體是否可能的意識之維［Ｊ］．大連理工大學學報（社會科學版），２０２１（３）：９０．

［９］ 維納．人有人的用處：控制論與社會［Ｍ］．陳步，譯．北京：商務印書館，１９７８：６５．

［１０］孫偉平．人工智能與人的 “新異化”［Ｊ］．中國社會科學，２０２０（１２）：１１９－２０３．

［１１］閆坤如．人工智能時代主體性異化及其消解路徑［Ｊ］．華南理工大學學報（社會科學版），２０２０（４）：２６－３２．

［１２］約翰·普利亞諾．人工智能時代的人類生存法則［Ｍ］．胡泳，楊莉萍，譯．北京：文化發(fā)展出版社，２０１８：３０．

［１３］劉欣．人工智能寫作“主體性”的再思考［Ｊ］．中州學刊，２０１９（１０）：１５３－１５８．

［１４］王璐．論人工智能發(fā)展風險的認知與規(guī)避［Ｊ］．理論月刊，２０２０（１２）１４８－１５３．

［１５］金東寒．秩序的重構———人工智能與人類社會［Ｍ］．上海：上海大學出版社，２０１７：５０．

［１６］蔡立媛．人工智能廣告侵犯隱私的風險與防御［Ｊ］．青年記者，２０２０（１８）：９３－９４．

［１７］駱安安．伴侶機器人挑戰(zhàn)婚姻倫理的前瞻性研究［Ｄ］．武漢：武漢科技大學，２０２０．

［１８］王睿．對性趣機器人的選擇意愿及其社會后果分析［Ｄ］．哈爾濱：哈爾濱工業(yè)大學，２０２０．

［１９］卜素．人工智能中的“算法歧視”問題及其審查標準［Ｊ］．山西大學學報（哲學社會科學版），２０１９（４）：１２４－１２９．

［２０］仇筠茜，陳昌鳳．黑箱：人工智能技術與新聞生產(chǎn)格局嬗變［Ｊ］．新聞界，２０１８（１）：２８－３４．

［２１］張恩典．反算法歧視：理論反思與制度建構［Ｊ］．華中科技大學學報（社會科學版），２０２０（５）：６０－７１．

［２２］Ｆｕｔｕｒｅｏｆｌｉｆｅｉｎｓｔｉｔｕｔｅａｕｔｏｎｏｍｏｕｓｗｅａｐｏｎｓ：ＡｎｏｐｅｎｌｅｔｔｅｒｆｒｏｍＡＩ＆Ｒｏｂｏｔｉｃｓｒｅｓｅａｒｃｈｅｒｓ［ＥＢ／ＯＬ］．（２０１６－０２－０９）［２０２１

－０１－１６］ｈｔｔｐｓ：／／ｆｕｔｕｒｅｏｆｌｉｆｅ．ｏｒｇ／ｏｐｅｎｌｅｔｔｅｒａｕｔｏｎｏｍｏｕｓｗｅａｐｏｎｓ．

［２３］鑄戈．人工智能軍事化應用隱憂重重［ＥＢ／ＯＬ］．（２０１８－０９－１８）［２０２１－０１－２０］ｈｔｔｐ：／／ｗｗｗ．８１．ｃｎ／ｇｆｂｍａｐ／ｃｏｎｔｅｎｔ／

２０１８－０９／１８／ｃｏｎｔｅｎｔ＿２１６０９７．ｈｔｍｌ．

［２４］謝丹．智能武器的法律挑戰(zhàn)與規(guī)制［Ｊ］．國防，２０１９（１２）：２９－３４．

［２５］王東浩．機器人倫理問題研究［Ｄ］．天津：南開大學，２０１４．

苗存龍，等：人工智能應用的倫理風險研究綜述 ２０５

［２６］閆坤如．人工智能“合乎倫理設計”的實現(xiàn)路徑探析［Ｊ］．大連理工大學學報（社會科學版），２０１９（６）：１２３－１２８．

［２７］丁曉東．論算法的法律規(guī)制［Ｊ］．中國社會科學，２０２０（１２）：１３８－１５９．

［２８］ＲＯＭＥＩＡ，ＲＵＧＧＩＥＲＩＳ．Ａｍｕｌｔｉｄｉｓｃｉｐｌｉｎａｒｙｓｕｒｖｅｙｏｎｄｉｓｃｒｉｍｉｎａｔｉｏｎａｎａｌｙｓｉｓ［Ｊ］．ＴｈｅＫｎｏｗｌｅｄｇｅＥｎｇｉｎｅｅｒｉｎｇＲｅｖｉｅｗ，２０１４，

２９（５）：５８２－６３８．

［２９］孫保學．人工智能算法倫理及其風險［Ｊ］．哲學動態(tài)，２０１９（１０）：９３－９９．

［３０］Ｂ?ＲＡＮＧＥＲＪ．Ｔｈｅａｌｇｏｒｉｔｈｍｉｃｃｏｄｅｏｆｅｔｈｉｃｓ：Ｅｔｈｉｃｓａｔｔｈｅｂｅｄｓｉｄｅｏｆｔｈｅｄｉｇｉｔａｌｒｅｖｏｌｕｔｉｏｎ［Ｍ］．ＬｏｎｄｏｎａｎｄＨｏｂｏｋｅｎ：ＩＳＴＥ

ＬｔｄａｎｄＪｏｈｎＷｉｌｅｙ＆ＳｏｎｓＩｎｃ，２０１８：１３７－１４３．

［３１］田廣蘭．科技前沿的倫理挑戰(zhàn)———第十一次全國應用倫理學研討會綜述［Ｊ］．哲學動態(tài)，２０１９（３）：１２７－１２８．

［３２］黃甫全．人工智能立法：主體、內容與特征［Ｊ］．學術研究，２０２０（１１）：４９－５５．

［３３］楊保軍．智能新聞：倫理風險·倫理主體·倫理原則［Ｊ］．西北師大學報（社會科學版），２０１９（１）：２７－３６．

［３４］馬克思恩格斯全集：第 ３卷［Ｍ］．北京：人民出版社，１９６０：３０．

Ａｓｕｍｍａｒｙｏｆｒｅｓｅａｒｃｈｏｎｅｔｈｉｃａｌｒｉｓｋｉｎｔｈｅｅｒａ

ｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ

ＭＩＡＯＣｕｎｌｏｎｇ，ＷＡＮＧＲｕｉｌｉｎ

（ＳｃｈｏｏｌｏｆＭａｒｘｉｓｍ，ＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｃｈｏｎｇｑｉｎｇ４０００５４，Ｃｈｉｎａ）

Ａｂｓｔｒａｃｔ：Ｔｈｅｒｅｓｅａｒｃｈａｎｄａｐｐｌｉｃａｔｉｏｎｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅｔｅｃｈｎｏｌｏｇｙｈａｓｐｒｏｍｏｔｅｄｔｈｅｒａｐｉｄ

ｄｅｖｅｌｏｐｍｅｎｔｏｆｓｏｃｉｅｔｙ，ｂｕｔｉｔｈａｓａｌｓｏｃａｕｓｅｄｅｔｈｉｃａｌｉｓｓｕｅｓ．Ｉｎｔｏｄａｙ’ｓｗｏｒｌｄ，ｔｈｅｅｔｈｉｃａｌｒｉｓｋｉｎｄｅｘｇｅｎｅｒａｔｅｄ

ｂｙａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅｉｓｇｅｔｔｉｎｇｈｉｇｈｅｒａｎｄｈｉｇｈｅｒ，ａｎｄｉｔｈａｓｇｒａｄｕａｌｌｙｂｅｃｏｍｅｔｈｅｆｏｃｕｓｏｆｇｌｏｂａｌａｔｔｅｎｔｉｏｎ．

Ａｃａｄｅｍｉａｈａｓｍａｄｅｍａｎｙｖａｌｕａｂｌｅｒｅｓｅａｒｃｈｒｅｓｕｌｔｓｏｎｔｈｅｅｔｈｉｃａｌｒｉｓｋｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ，ｂｕｔｔｈｅｒｅａｒｅａｌｓｏ

ｓｏｍｅｄｅｆｉｃｉｅｎｃｉｅｓｉｎｔｈｅｒｅｓｅａｒｃｈ．Ａｔｐｒｅｓｅｎｔ，ｔｈｅｌａｙｏｕｔｏｆｒｅｓｅａｒｃｈｏｎｅｔｈｉｃａｌｒｉｓｋｓｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅｉｓ

ｓｔｉｌｌｕｎｒｅａｓｏｎａｂｌｅ，ｔｈｅｒｅｓｅａｒｃｈｎｅｅｄｓｔｏｂｅｄｅｅｐｅｎｅｄ，ｔｈｅｒｅｓｅａｒｃｈｉｎｔｅｎｔｉｏｎｉｓｓｌｉｇｈｔｌｙｐｅｓｓｉｍｉｓｔｉｃ，ａｎｄｔｈｅ

ｒｅｓｅａｒｃｈｐｅｒｓｐｅｃｔｉｖｅｌａｃｋｓｉｎｔｅｇｒｉｔｙ．Ｐｒｏｓｐｅｃｔｓｆｏｒｒｅｓｅａｒｃｈ：ｍｕｌｔｉｄｉｓｃｉｐｌｉｎａｒｙｋｎｏｗｌｅｄｇｅｓｈｏｕｌｄｂｅｉｎｔｅｇｒａｔｅｄｔｏ

ｃａｒｒｙｏｕｔｒｅｓｅａｒｃｈ； ａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ ｅｔｈｉｃａｌｒｉｓｋ ａｓｓｅｓｓｍｅｎｔａｎｄ ｍａｎａｇｅｍｅｎｔｒｅｓｅａｒｃｈ ｓｈｏｕｌｄ ｂｅ

ｅｍｐｈａｓｉｚｅｄ；ｒｅｓｅａｒｃｈｏｎｔｈｅｃｏｌｌａｂｏｒａｔｉｖｅｄｅｖｅｌｏｐｍｅｎｔｏｆａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅａｎｄｈｕｍａｎｉｎｔｅｌｌｉｇｅｎｃｅｓｈｏｕｌｄｂｅ

ｅｎｈａｎｃｅｄ．

Ｋｅｙｗｏｒｄｓ：ａｒｔｉｆｉｃｉａｌｉｎｔｅｌｌｉｇｅｎｃｅ；ｈｕｍａｎｉｎｔｅｌｌｉｇｅｎｃｅ；ｉｎｔｅｌｌｉｇｅｎｔｒｏｂｏｔ；ｅｔｈｉｃａｌｒｉｓｋ

（責任編輯 張佑法）

２０６ ｈｔｔｐ：／／ｃｌｇｓｋ．ｑｋｓ．ｃｑｕｔ．ｅｄｕ．ｃｎ