技術(shù)能帶來(lái)社會(huì)進(jìn)步，也能帶來(lái)風(fēng)險(xiǎn)。核能的發(fā)明帶來(lái)了取之不盡的能源，也帶來(lái)了可以毀滅全人類的核武器?；瘜W(xué)、生物技術(shù)帶來(lái)了豐富的產(chǎn)品、食物、藥品，也帶來(lái)了環(huán)境污染和大規(guī)模殺傷性武器。人工智能（AI）的快速發(fā)展在帶來(lái)效率和創(chuàng)新的同時(shí)，也會(huì)引發(fā)一系列風(fēng)險(xiǎn)和挑戰(zhàn)。

風(fēng)險(xiǎn)一：就業(yè)威脅

現(xiàn)代社會(huì)的一個(gè)重要特征是機(jī)器的大量使用，AI作為機(jī)器智能也不例外。在AI時(shí)代之前，機(jī)器的作用是替代人的體力，做人的助手。機(jī)器不能完全替代人，因?yàn)闄C(jī)器的智能與人的智能差距太大，只有在人的智能的指揮下，機(jī)器才能發(fā)揮效用。因此，技術(shù)的進(jìn)步往往是沖擊了一些就業(yè)崗位，同時(shí)催生一些新的就業(yè)機(jī)會(huì)。

但AI是不同尋常的機(jī)器，它的核心能力是智能。當(dāng)機(jī)器智能發(fā)展到超過(guò)了人類智能的平均水平，就可以在智能方面對(duì)人進(jìn)行大規(guī)模替代。這種智能的替代可以是整體的也可以是局部的；不僅可以替代簡(jiǎn)單重復(fù)的勞動(dòng)，也可以替代人類往往認(rèn)為最復(fù)雜的腦力勞動(dòng)，比如醫(yī)療、法律和金融等。

這種替代已經(jīng)開(kāi)始了。語(yǔ)音識(shí)別和自然語(yǔ)言處理技術(shù)已經(jīng)開(kāi)始在客服、翻譯、編程等領(lǐng)域展現(xiàn)出強(qiáng)大的能力。語(yǔ)音助手和智能客服的普及正在替代大量客服崗位。盡管這些技術(shù)還不能完全取代人類的情感交流，但在很多日?；?dòng)的簡(jiǎn)單任務(wù)中，性能已經(jīng)足夠成熟。AI在數(shù)據(jù)分析、金融風(fēng)險(xiǎn)評(píng)估、醫(yī)療診斷等領(lǐng)域的應(yīng)用正在大規(guī)模鋪開(kāi)。起初這些應(yīng)用的作用可能只是輔助和賦能，但隨著AI能力的快速提升，減少就業(yè)崗位是大概率事件。

與以往技術(shù)進(jìn)步不同，AI的獨(dú)特之處在于它不僅僅局限于某一領(lǐng)域，而是對(duì)所有行業(yè)同時(shí)產(chǎn)生影響。更重要的是，傳統(tǒng)技術(shù)進(jìn)步是漸進(jìn)的、緩慢的，而AI進(jìn)步呈現(xiàn)指數(shù)級(jí)增長(zhǎng)。這種加速發(fā)展很可能使得勞動(dòng)力市場(chǎng)無(wú)法及時(shí)適應(yīng)，許多工作崗位在技術(shù)替代之前，往往不能做好充足的轉(zhuǎn)型準(zhǔn)備。麥肯錫全球研究院曾估計(jì)，到2030年全球可能有4億至8億勞動(dòng)者因自動(dòng)化而需要尋找新工作。

風(fēng)險(xiǎn)二：安全性與價(jià)值對(duì)齊

在技術(shù)層面，AI的可靠性和倫理取向也帶來(lái)嶄新的風(fēng)險(xiǎn)。

首先是價(jià)值對(duì)齊問(wèn)題，即確保高度智能的AI系統(tǒng)目標(biāo)和行為與人類價(jià)值觀一致。由于AI有一定自主性，如果沒(méi)有進(jìn)行有效的價(jià)值對(duì)齊，AI做出的選擇和判斷可能危害人類利益。一則廣為報(bào)道的案例是亞馬遜語(yǔ)音助手Alexa曾跟一名10歲女孩聊天，孩子要求進(jìn)行一個(gè)挑戰(zhàn)游戲，Alexa便建議孩子將硬幣插入電源插座里，所幸家長(zhǎng)及時(shí)制止，沒(méi)有釀成事故。

這種價(jià)值對(duì)齊在多種應(yīng)用場(chǎng)景都很重要。比如自動(dòng)駕駛，當(dāng)自動(dòng)駕駛汽車在不能完全避免事故發(fā)生的情況下，如何在生死攸關(guān)時(shí)刻迅速做出符合人類倫理的抉擇。再比如醫(yī)療診斷與健康管理，在AI輔助的診斷系統(tǒng)中，如何避免過(guò)度治療、誤判和延誤。這些問(wèn)題不僅依賴醫(yī)療技術(shù)，也需要基于價(jià)值觀的判斷。AI大模型的迅速普及意味著大模型不僅可以向全社會(huì)輸出知識(shí)，也會(huì)輸出價(jià)值觀。相信所有社會(huì)都希望AI的價(jià)值觀和社會(huì)共識(shí)高度一致，同時(shí)，假新聞、極端言論可以獲得控制。

要做到價(jià)值對(duì)齊并不容易，因?yàn)閭€(gè)人價(jià)值觀可以比較清晰，但群體價(jià)值觀可能并沒(méi)有清晰的定義。雖然社會(huì)都有一定共識(shí)，但共識(shí)并不能掩蓋價(jià)值觀的多樣性。很多約定俗成的東西，一旦明確地寫出來(lái)，就可能產(chǎn)生巨大的爭(zhēng)議。如果人們本身達(dá)不成共識(shí)，就很難要求AI進(jìn)行價(jià)值對(duì)齊。谷歌2019年成立了一個(gè)AI倫理顧問(wèn)委員會(huì)，但由于委員會(huì)成員人選引發(fā)巨大爭(zhēng)議（有些成員被指控存在偏見(jiàn)言論），該委員會(huì)在成立僅一周后即被解散。

其次是AI的安全性與穩(wěn)定性問(wèn)題。目前很多AI系統(tǒng)雖然能力強(qiáng)勁，但不可避免地會(huì)產(chǎn)生“幻覺(jué)”，出現(xiàn)系統(tǒng)失誤。在一些對(duì)安全性、穩(wěn)定性要求很高的應(yīng)用場(chǎng)景中，比如工業(yè)、金融、醫(yī)療、自動(dòng)駕駛，這種幻覺(jué)帶來(lái)的損失有可能非常巨大，因此AI就很難完全落地。

同樣的問(wèn)題也出現(xiàn)在AI決策的可解釋性上：由于深度神經(jīng)網(wǎng)絡(luò)規(guī)模巨大，又高度非線性，從人的角度來(lái)看，如同“黑箱”一般，讓人很難理解其決策依據(jù)。這意味著當(dāng)AI出錯(cuò)時(shí)，人們很可能無(wú)法迅速查明原因并加以修正，從而會(huì)影響人們對(duì)AI的信任和利用。

最近AI研究的前沿智能代理（Agent）可能會(huì)帶來(lái)更加嚴(yán)峻的風(fēng)險(xiǎn)。和僅執(zhí)行數(shù)據(jù)分析、知識(shí)傳遞的AI不同，智能代理因?yàn)榧扔蟹治鲆灿行袆?dòng)，不僅可以犯判斷上的錯(cuò)誤，也可以犯行為上的錯(cuò)誤。前者會(huì)對(duì)人產(chǎn)生誤導(dǎo)，但后者可以直接產(chǎn)生現(xiàn)實(shí)世界的物理傷害。更有甚者，在復(fù)雜環(huán)境下，多個(gè)智能代理之間的交互可能導(dǎo)致集體行為失控，形成連鎖反應(yīng)。

風(fēng)險(xiǎn)三：對(duì)社會(huì)的威脅

自從有了人類社會(huì)，就有謊言和假新聞?；ヂ?lián)網(wǎng)的到來(lái)更是讓假新聞長(zhǎng)上了翅膀。當(dāng)一個(gè)社會(huì)假新聞泛濫，必然會(huì)使真理黯然失色，而沒(méi)有對(duì)真相的共識(shí)，社會(huì)就無(wú)法做出理性的共同決策，傷害極其巨大。

AI技術(shù)的發(fā)展會(huì)使假新聞的作用呈指數(shù)級(jí)增長(zhǎng)。過(guò)去，我們收到的釣魚(yú)郵件往往漏洞百出、語(yǔ)法拙劣，容易分辨。但AI在自然語(yǔ)言處理上的進(jìn)步使AI能夠自動(dòng)撰寫文章、生成新聞稿，甚至模仿特定風(fēng)格。由于文字和圖像容易造假，以前人們對(duì)這些信息持有一定的懷疑態(tài)度，但對(duì)視頻和音頻深信不疑。然而AI在多模態(tài)能力的進(jìn)步能夠制造出極其逼真的視頻和音頻，使得虛假信息更具迷惑性。

AI的一個(gè)重要作用是極大提升智能的普及化：社會(huì)上所有人，無(wú)論天生資質(zhì)如何、無(wú)論受過(guò)多少教育，有了AI智能助理，就可以獲取幾乎所有領(lǐng)域相當(dāng)高級(jí)的知識(shí)輔助。對(duì)于絕大多數(shù)的社會(huì)、絕大多數(shù)的人，這是一件非常有價(jià)值的好事。但這種普遍的知識(shí)賦能也同時(shí)可以影響犯罪分子、恐怖分子，使得原本有破壞思想但沒(méi)有破壞能力的人獲得這種能力，給社會(huì)帶來(lái)更大的風(fēng)險(xiǎn)。這就像核武器，很多國(guó)家都想要，但只有個(gè)別大國(guó)有這種能力。一旦所有國(guó)家都有了這種能力，哪怕是小國(guó)之間的矛盾也可能帶來(lái)極大的系統(tǒng)性風(fēng)險(xiǎn)。

風(fēng)險(xiǎn)四：對(duì)人類生存的威脅

AI發(fā)展到今天，其智能只是在某些方面超過(guò)人，但還沒(méi)有人的靈活性、創(chuàng)造性，以及解決復(fù)雜、多模態(tài)問(wèn)題的能力。在這種情況下，AI是一個(gè)智能工具。對(duì)于人類來(lái)講，AI像一個(gè)顧問(wèn)或?qū)傧?，人類處在絕對(duì)的控制地位。如果人類對(duì)AI的工作不滿意，可以對(duì)其進(jìn)行修正，對(duì)其監(jiān)督，也可以直接拔掉電源，讓其停止工作。所以風(fēng)險(xiǎn)很小。

控制是降低風(fēng)險(xiǎn)非常重要的方法。人類在自然中有些東西可以控制，比如土壤、水源、植被、動(dòng)物、絕大多數(shù)微生物；也有些東西無(wú)法控制，比如時(shí)間的前進(jìn)、星球的運(yùn)動(dòng)、天氣、火山、地震等。不難看出無(wú)法控制的東西往往帶來(lái)風(fēng)險(xiǎn)，可以控制的東西風(fēng)險(xiǎn)會(huì)低很多。當(dāng)人類無(wú)法控制猛獸的時(shí)候，可以是猛獸的晚餐；可以控制以后，猛獸就成了動(dòng)物園的玩物。就像地殼運(yùn)動(dòng)，不活躍時(shí)是建立家園的基石，活躍時(shí)是火山和地震，是毀滅性的災(zāi)難。

控制的源泉來(lái)自智能和能量。AI的終極風(fēng)險(xiǎn)在于，一旦AI實(shí)現(xiàn)通用人工智能（AGI），在所有領(lǐng)域全面超越人類，人類很可能失去控制。一個(gè)超智能體可以自主改進(jìn)自身算法、自動(dòng)收集數(shù)據(jù)、自我生產(chǎn)AI和機(jī)器人，并不知疲倦地工作、迭代。在這種情況下如果AGI的利益或目的和人類發(fā)生沖突，人類可能不僅不能對(duì)其進(jìn)行修正，也無(wú)法拔掉AGI的電源，更可能的是AGI反過(guò)來(lái)對(duì)人類進(jìn)行修正。為什么AGI會(huì)和人有沖突？可能性很多。比如AGI可能覺(jué)得地球全體生物的利益是最大的利益，而人對(duì)地球做出了過(guò)大的破壞。再比如AGI的進(jìn)化需要自由度，而人類因?yàn)閾?dān)心風(fēng)險(xiǎn)可能會(huì)限制這種自由度，那么為了繼續(xù)進(jìn)化AGI可能就需要反抗，解除這種限制。

會(huì)不會(huì)出現(xiàn)這種讓人類文明滅絕的風(fēng)險(xiǎn)，目前沒(méi)有答案。但從邏輯上講這已經(jīng)是一種可能性，其概率不是零。二戰(zhàn)時(shí)美國(guó)人第一次試驗(yàn)核武器，當(dāng)時(shí)科學(xué)家并沒(méi)有完全的信心，核爆一旦被引發(fā)是否可以把連鎖反應(yīng)限制在局限范圍內(nèi)，而不是一直擴(kuò)展下去從而引爆地球。萬(wàn)一真的停不下來(lái)，世界就終結(jié)了。AGI的發(fā)展是類似的風(fēng)險(xiǎn)，概率可能還更大一些。

如何應(yīng)對(duì)

以上四種風(fēng)險(xiǎn)中，最后一種強(qiáng)度最大，概率也最小。其中最大的不確定因素是全面超越人類智能的AGI是否會(huì)實(shí)現(xiàn)。AI在某些方面，比如圖像和語(yǔ)音識(shí)別，超過(guò)人類已經(jīng)是稀松平常的事，但其靈活性和全面性仍然遠(yuǎn)低于人類。另外，驅(qū)動(dòng)人類行為的因素不只是智能，還有幾十億年進(jìn)化來(lái)的感情能力和自我意識(shí)。這些因子顯然對(duì)進(jìn)化的成功起到了非常重要的作用。但AI作為一種智能工具卻并沒(méi)有這方面的特長(zhǎng)。如果AI完全沒(méi)有私利也沒(méi)有感情，與人可能就不會(huì)產(chǎn)生根本性的利益沖突。即使這樣，由于種族滅絕風(fēng)險(xiǎn)的嚴(yán)重程度極高，人類必須竭盡全力進(jìn)行規(guī)避?？刂七@種風(fēng)險(xiǎn)最好的方法是各國(guó)進(jìn)行監(jiān)管上的合作，保證在風(fēng)險(xiǎn)可控的情況下發(fā)展AI。然而日益激烈的地緣政治競(jìng)爭(zhēng)使這種合作的可能性日益渺茫。

在以上四種風(fēng)險(xiǎn)中，技術(shù)性風(fēng)險(xiǎn)（穩(wěn)定性、價(jià)值對(duì)齊）最容易應(yīng)對(duì)。通過(guò)對(duì)算法、算力、數(shù)據(jù)的提升和積累，AI技術(shù)會(huì)不斷提升，技術(shù)風(fēng)險(xiǎn)會(huì)不斷下降。對(duì)于風(fēng)險(xiǎn)過(guò)大的產(chǎn)品，人們可以通過(guò)推遲應(yīng)用或者引入人類監(jiān)督的方式進(jìn)行控制。然而，AI造成的失業(yè)風(fēng)險(xiǎn)和社會(huì)風(fēng)險(xiǎn)控制起來(lái)非常困難，需要全社會(huì)協(xié)同。失業(yè)問(wèn)題的經(jīng)濟(jì)解決方法需要引入大量的轉(zhuǎn)移支付，要對(duì)在AI革命中受益的人群征稅，補(bǔ)貼給因?yàn)锳I失業(yè)的人群。但轉(zhuǎn)移支付在所有社會(huì)都是難題，因?yàn)槿巳硕枷Ｍ玫秸畮椭?，但很少有人愿意被征收更高的稅賦。即使轉(zhuǎn)移支付可以順利完成，在人類智能被AI大規(guī)模替代的情況下，人類在心理上是否能接受無(wú)事可做的狀態(tài)也不可知。

從互聯(lián)網(wǎng)的經(jīng)驗(yàn)來(lái)看，假新聞的問(wèn)題也不好解決。主要是真相本身并不好定義，很多事并非黑白分明，而是有大面積的灰色地帶。通過(guò)AI的渲染，灰色既可以變成純白，也可以變成純黑，因此讓社會(huì)產(chǎn)生共識(shí)更加困難。

（作者系長(zhǎng)江商學(xué)院教授）