出席會(huì)議的專家們普遍認(rèn)為，人工智能研究和應(yīng)用的各個(gè)結(jié)構(gòu)性層面，有眾多問(wèn)題需要技術(shù)專家與人文學(xué)者一起來(lái)探討和解決。人工智能與人文學(xué)這一次歷史性的互動(dòng)和嵌合，對(duì)于雙方的發(fā)展而言都是一種歷史的機(jī)遇。

而筆者對(duì)這里的“發(fā)展”的理解是，它不只是指向更先進(jìn)的技術(shù)、更快的迭代速度等，也是一個(gè)讓人類停下來(lái)等一等倫理重建的問(wèn)題。正如一位與會(huì)者所言，人工智能作為一種歷史性的技術(shù)進(jìn)步，它的“仿人類性”特征，使得它從一開(kāi)始就不可避免地面臨了如何跨越人文價(jià)值種種界面的挑戰(zhàn)。

早在1978年9月，日本一家工廠的切割機(jī)器人突然“發(fā)瘋”，把正在值班的工人當(dāng)成鋼板切割了，這是歷史上首起機(jī)器人殺人事件。自那以后，人們就開(kāi)始不斷想象機(jī)器人失控的可能性。好萊塢大片《終結(jié)者》系列中，人類研制的高級(jí)計(jì)算機(jī)控制系統(tǒng)“天網(wǎng)”有了自己的意志，將人類視為仇敵，剝奪了數(shù)以億計(jì)的生命，就可以視為這方面的一種巔峰想象。

不久前，一則有關(guān)人工智能的消息引起了很多人的關(guān)注——韓國(guó)科學(xué)技術(shù)院(KAIST)研發(fā)“殺手機(jī)器人”的計(jì)劃遭到了多國(guó)人工智能(AI)及機(jī)器人工學(xué)的專家聯(lián)合抵制。在強(qiáng)大的壓力之下，KAIST隨后不得不宣布取消“殺手機(jī)器人”計(jì)劃。

其實(shí)，2015年，人工智能領(lǐng)域的1000多名專家就聯(lián)合發(fā)表一封公開(kāi)信，呼吁在世界范圍內(nèi)禁止“殺手機(jī)器人”。當(dāng)時(shí)還在世的著名科學(xué)家斯蒂芬·霍金，以及特斯拉首席執(zhí)行官埃隆·馬斯克和蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克都在這封信上簽了名。聯(lián)合國(guó)也曾耗時(shí)兩年完成了機(jī)器人倫理報(bào)告。

事實(shí)上，人工智能所面臨的科學(xué)倫理問(wèn)題不只是機(jī)器可能失控而對(duì)人類構(gòu)成威脅，隨著它與人類生活的深度重合，隨著機(jī)器人與人類的界限變得日益模糊，許多隱藏的倫理問(wèn)題都會(huì)逐漸暴露出來(lái)。

比如，人類能不能和機(jī)器人談戀愛(ài)?如果機(jī)器人能夠與人類互通心意，如何防止機(jī)器人深入個(gè)人生活、威脅人類隱私?多年前，有一道高考作文題叫《假如記憶可以移植》， 如果有一天，與人類身份界限打破了的、具有人類記憶的人工智能能夠進(jìn)行記憶移植，該如何避免倫理的混亂與失控?

一種普遍性共識(shí)是，無(wú)論技術(shù)如何發(fā)展，機(jī)器不能被賦予人的道德地位并且繼承人的尊嚴(yán)。近年來(lái)，多國(guó)科學(xué)家一直在呼吁，人們需要通過(guò)新的管理和監(jiān)管手段，為人工智能、機(jī)器人和“自主”系統(tǒng)的設(shè)計(jì)、生產(chǎn)、使用和治理，建立一個(gè)通用的、國(guó)際公認(rèn)的道德和法律框架。同樣，我們也需要在人文價(jià)值層面、科學(xué)倫理層面，建立對(duì)人工智能發(fā)展的必要審思，學(xué)會(huì)讓技術(shù)等一等人類的靈魂。