文 | 劉永謀（中國(guó)人民大學(xué)哲學(xué)院教授、國(guó)家發(fā)展與戰(zhàn)略研究院研究員）

　　最近，包括埃�。�馬斯克在內(nèi)的千名專(zhuān)家聯(lián)合簽署公開(kāi)信，呼吁暫停訓(xùn)練GPT-4后續(xù)AI模型至少6個(gè)月。消息一出，引爆全球網(wǎng)絡(luò)和媒體，很快引來(lái)吳恩達(dá)等“AI大�！钡姆磳�(duì)。

　　如何看待雙方的爭(zhēng)論？我們一層層分析問(wèn)題。

　　先說(shuō)競(jìng)爭(zhēng)失控問(wèn)題。

　　據(jù)公開(kāi)信所稱，提出“暫停ChatGPT研發(fā)”的提議，直接刺激是對(duì)“最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控競(jìng)賽”的擔(dān)憂。可實(shí)際上，短短幾日爭(zhēng)論，是往OpenAI公司和LLMs（Large Language Models，大語(yǔ)言模型）火上澆油，完成了又一波量子級(jí)別的免費(fèi)推廣。

　　這波“操作”的宣傳效應(yīng)，繼續(xù)擴(kuò)大該領(lǐng)域領(lǐng)先公司的領(lǐng)先優(yōu)勢(shì)。如此聲譽(yù)競(jìng)爭(zhēng)是不是失控的商業(yè)競(jìng)爭(zhēng)呢？

　　將目光拉到國(guó)內(nèi)，競(jìng)爭(zhēng)問(wèn)題會(huì)看得更清楚。GPT研發(fā)競(jìng)爭(zhēng)不限于幾個(gè)美國(guó)公司之間，更是關(guān)涉各國(guó)尤其是大國(guó)之間的AI科研競(jìng)爭(zhēng)。在LLMs領(lǐng)域，美國(guó)本來(lái)就領(lǐng)先一大截，其競(jìng)爭(zhēng)對(duì)手可能暫停ChatGPT研發(fā)嗎？馬斯克一聲呼吁，OpenAI公司真的會(huì)暫停，而不是轉(zhuǎn)向秘密研發(fā)嗎？

　　公開(kāi)信呼吁政府出面，實(shí)施暫停研發(fā)的措施。新科技領(lǐng)域問(wèn)題風(fēng)險(xiǎn)和倫理問(wèn)題層出不窮，政府全部都要大包大攬嗎？而且依據(jù)何在，又如何能合法合規(guī)地實(shí)施呢？如果強(qiáng)力暫停措施在一個(gè)應(yīng)對(duì)、治理和管控能力有著顯著優(yōu)勢(shì)的國(guó)家奏效，而在其他國(guó)家完全不頂用，結(jié)果是不是反而擴(kuò)大了后者對(duì)前者的LLMs競(jìng)爭(zhēng)優(yōu)勢(shì)呢？

　　再說(shuō)LLMs風(fēng)險(xiǎn)問(wèn)題。

　　AI風(fēng)險(xiǎn)早就被學(xué)界指出，被各國(guó)政府所重視，近年來(lái)更是成為全社會(huì)的關(guān)注焦點(diǎn)。近十年來(lái)，從物聯(lián)網(wǎng)到大數(shù)據(jù)、云計(jì)算、區(qū)塊鏈、元宇宙、ChatGPT，一波波的AI熱潮中，從來(lái)沒(méi)有缺少關(guān)注風(fēng)險(xiǎn)的呼聲。

　　本人專(zhuān)業(yè)關(guān)注新科技社會(huì)沖擊問(wèn)題，花了大量精力提醒大家注意AI可能導(dǎo)致的技術(shù)風(fēng)險(xiǎn)。比如，曾寫(xiě)過(guò)專(zhuān)著《物聯(lián)網(wǎng)與泛在社會(huì)的來(lái)臨》《技術(shù)有病我沒(méi)藥》《元宇宙陷阱》《科技與社會(huì)十四講》，面向非專(zhuān)業(yè)人士提示ICT（信息與通訊技術(shù)）的社會(huì)沖擊和技術(shù)風(fēng)險(xiǎn)。

　　可以說(shuō)，警惕AI發(fā)展，防止AI失控，正在成為全球范圍內(nèi)科技領(lǐng)域的“政治正確”。在此氛圍之下，公開(kāi)宣稱“AI無(wú)禁區(qū)”的聲音被極大地抑制。對(duì)此，作為技術(shù)控制的選擇論者，我完全贊同。

　　然而，公開(kāi)信指向的不是泛泛的AI風(fēng)險(xiǎn)，而是具體的、當(dāng)下的LLMs風(fēng)險(xiǎn)。那么，就目前的發(fā)展態(tài)勢(shì)而言，ChatGPT究竟存在什么嚴(yán)重的風(fēng)險(xiǎn)，必須以暫停至少六個(gè)月的方式加以應(yīng)對(duì)呢？

　　有人說(shuō)，ChatGPT是超級(jí)AI出現(xiàn)的征兆，如果現(xiàn)在不停止（注意：不僅是暫停），“潘多拉的魔盒”一旦打開(kāi)，人類(lèi)很快會(huì)被超級(jí)AI統(tǒng)治甚至滅絕。這種幻想色彩濃厚的念頭，很難讓人予以嚴(yán)肅的對(duì)待。尤其是，很多專(zhuān)業(yè)人員不承認(rèn)ChatGPT是通用AI，更別說(shuō)它是超級(jí)AI的雛形了。

　　超級(jí)AI可能是個(gè)問(wèn)題，但在嚴(yán)防人類(lèi)自我滅絕的問(wèn)題上，很多風(fēng)險(xiǎn)如核大戰(zhàn)、氣候變化、致命病毒傳播、生物科技濫用等要排在超級(jí)AI之前。我們是不是先把它們都停止了？就算停止不了，暫停一下也行，起碼可以呼吁暫停。對(duì)不對(duì)？

　　仔細(xì)想一想，LLMs對(duì)中國(guó)社會(huì)最重要的沖擊在于：1）失業(yè)問(wèn)題：ChatGPT未來(lái)會(huì)威脅很多人的“飯碗”，進(jìn)一步加劇“AI失業(yè)問(wèn)題”，即AI的推廣導(dǎo)致人們失業(yè)。2）教育問(wèn)題：ChatGPT對(duì)應(yīng)試教育造成巨大挑戰(zhàn)，要求中國(guó)的教育體制適應(yīng)AI輔助工作和生活的未來(lái)社會(huì)環(huán)境。3）信息安全問(wèn)題：ChatGPT很快生成海量的AIGC（計(jì)算機(jī)生成內(nèi)容），其中不乏錯(cuò)誤的、虛假的、有害的內(nèi)容，威脅主流價(jià)值觀、意識(shí)形態(tài)和健康的輿論思想環(huán)境。

　　如何應(yīng)對(duì)ChatGPT的沖擊？這是我們最后要討論的問(wèn)題。

　　暫停ChatGPT肯定不是應(yīng)對(duì)風(fēng)險(xiǎn)的好辦法。為什么？第一，暫停沒(méi)有道理。有人說(shuō)，ChatGPT風(fēng)險(xiǎn)應(yīng)對(duì)措施沒(méi)有想清楚，所以先暫停。錯(cuò)！不是沒(méi)想清楚，而是沒(méi)有落實(shí)到位。第二，暫停是不可能真正實(shí)現(xiàn)的，肯定會(huì)有AI公司違反禁令，結(jié)果是出現(xiàn)不公平的競(jìng)爭(zhēng)。第三，暫停解決不了問(wèn)題。就算所有AI公司都真的暫停ChatGPT科研，風(fēng)險(xiǎn)問(wèn)題就解決了嗎？沒(méi)有！除非徹底停止和取締LLMs，否則風(fēng)險(xiǎn)不會(huì)消失。重新啟動(dòng)之時(shí)，仍然得直面風(fēng)險(xiǎn)。

　　如今，新科技是人類(lèi)生存和發(fā)展最重要的不可須臾離開(kāi)的工具。ChatGPT對(duì)社會(huì)生產(chǎn)力的推動(dòng)作用已經(jīng)昭然若揭，我們?yōu)槭裁匆�因噎廢食，為什么不能控制地利用呢？20世紀(jì)就有人提出來(lái)，彼時(shí)的科技人類(lèi)已經(jīng)完全夠用了，繼續(xù)發(fā)展會(huì)導(dǎo)致很多新問(wèn)題，應(yīng)該讓科技靜止下來(lái)，科學(xué)家不要再搞研究了。此類(lèi)極端非理性想法，從來(lái)沒(méi)有被社會(huì)嚴(yán)肅對(duì)待過(guò)。

　　顯然，上述ChatGPT導(dǎo)致的三大沖擊都不是什么新問(wèn)題，早在ChatGPT爆火之間就已經(jīng)被學(xué)界和政府所關(guān)注、所研究，各種應(yīng)對(duì)建議早已被提出來(lái)。比如AI失業(yè)問(wèn)題，各種討論汗牛充棟。具體的應(yīng)對(duì)措施不一而足，如學(xué)生的職業(yè)規(guī)劃、勞動(dòng)者AI素養(yǎng)提升、失業(yè)人員社會(huì)保障和再就業(yè)、產(chǎn)業(yè)結(jié)構(gòu)升級(jí)改造等。長(zhǎng)遠(yuǎn)的戰(zhàn)略規(guī)劃亦蔚為大觀，如制度性地減少勞動(dòng)者工作時(shí)間（有些地方已經(jīng)在嘗試一周工作4天），征收AI稅（AI是全人類(lèi)智力結(jié)晶，向AI公司征收重稅全民共享），靈活退休制度（勞動(dòng)者一輩子可以短暫退休幾次）等。因此，現(xiàn)在的問(wèn)題是根據(jù)國(guó)情落實(shí)AI治理措施，而不是暫停ChatGPT研發(fā)。

　　總之，暫停ChatGPT研發(fā)的想法簡(jiǎn)單粗暴，作用不大，也實(shí)現(xiàn)不了，純屬無(wú)效的“嘴炮”。

本文地址：http://m.cx1133.com/info/2023/03/3113460886.html