每經(jīng)編輯｜畢陸名

自從生成式AI以勢(shì)如破竹的速度席卷幾乎每一個(gè)領(lǐng)域，AI挑戰(zhàn)人類的擔(dān)憂也越來越真實(shí)。日前，超過350名人工智能（AI）領(lǐng)域的行業(yè)高管、專家和教授簽署了一封公開信，他們?cè)谛胖芯娣Q，AI可能給人類帶來滅絕風(fēng)險(xiǎn)。

非營(yíng)利組織人工智能安全中心（Center for AI Safety）本周二發(fā)布簡(jiǎn)短聲明：“將減輕人工智能帶來的滅絕風(fēng)險(xiǎn)，放在和流行病、核戰(zhàn)等社會(huì)問題同一高度，作為全球優(yōu)先事項(xiàng)推進(jìn)”。簽署者包括OpenAI首席執(zhí)行官山姆·奧特曼等高管。

“AI可能給人類帶來滅絕風(fēng)險(xiǎn)”

這封信于周二發(fā)表在非營(yíng)利組織人工智能安全中心(CAIS)的網(wǎng)站上，簽署者包括OpenAI首席執(zhí)行官山姆·奧特曼、DeepMind首席執(zhí)行官Demis Hassabis、Anthropic首席執(zhí)行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話，整份聲明才22個(gè)字（英文），全部?jī)?nèi)容如下：“減輕AI帶來的滅絕風(fēng)險(xiǎn)，應(yīng)該與流行病和核戰(zhàn)爭(zhēng)等其他社會(huì)規(guī)模的風(fēng)險(xiǎn)一起，成為全球優(yōu)先事項(xiàng)。”

上面的倡議已得到了多位AI行業(yè)大佬的支持，超過350位AI領(lǐng)域高管和專家簽署了這份聲明。

其中主要人物有：

Google DeepMind首席執(zhí)行官戴米斯?哈薩比斯（Demis Hassabis）、OpenAI首席執(zhí)行官山姆?奧特曼（Sam Altman）、“AI教父”杰弗里?辛頓（Geoffrey Hinton）、2018年圖靈獎(jiǎng)得主約書亞?本希奧（Youshua Bengio）、Anthropic的首席執(zhí)行官達(dá)里奧?阿莫代（Dario Amodei）。

該網(wǎng)站表示：人工智能專家、記者、政策制定者和公眾越來越多地討論人工智能帶來的重要和緊迫的廣泛風(fēng)險(xiǎn)。即便如此，也很難表達(dá)對(duì)先進(jìn)人工智能的一些最嚴(yán)重風(fēng)險(xiǎn)的擔(dān)憂。

自聊天機(jī)器人ChatGPT掀起AI熱潮以來，對(duì)這項(xiàng)技術(shù)潛在風(fēng)險(xiǎn)的擔(dān)憂持續(xù)增加。

今年3月，包括特斯拉CEO埃隆·馬斯克在內(nèi)的1000多名行業(yè)高管和專家簽署公開信，呼吁在6個(gè)月內(nèi)暫停高級(jí)AI的開發(fā)。馬斯克等人在信中寫道，高級(jí)AI可能會(huì)對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。

G7呼吁出臺(tái)AI技術(shù)標(biāo)準(zhǔn)

據(jù)第一財(cái)經(jīng)5月21日?qǐng)?bào)道，21日，七國(guó)集團(tuán)（G7）領(lǐng)導(dǎo)人就制定和建立人工智能（AI）技術(shù)標(biāo)準(zhǔn)作出呼吁，敦促行業(yè)和監(jiān)管者確保人工智能“值得信賴”。他們還稱，目前的技術(shù)治理未能跟上人工智能的發(fā)展步伐。

盡管人工智能技術(shù)提供了許多好處，但它們的發(fā)展速度超過了監(jiān)管機(jī)構(gòu)能夠跟上的速度。

5月20日在日本廣島舉行的G7領(lǐng)導(dǎo)人會(huì)議上發(fā)表的一份聲明稱，人工智能等數(shù)字技術(shù)的規(guī)則應(yīng)該“符合人們共同的價(jià)值觀”。

峰會(huì)還達(dá)成共識(shí)，在今年年底之前創(chuàng)建一個(gè)專門討論人工智能進(jìn)展的部長(zhǎng)級(jí)論壇，討論圍繞生成式人工智能的問題，例如版權(quán)和打擊虛假信息。

圖片來源：視覺中國(guó)

歐洲一直走在人工智能監(jiān)管的前沿。歐盟本月已經(jīng)接近通過一項(xiàng)人工智能技術(shù)監(jiān)管的立法，這也有望成為全球首部全面的人工智能法案，并可能成為發(fā)達(dá)經(jīng)濟(jì)體的先例。

“我們希望人工智能系統(tǒng)準(zhǔn)確、可靠、安全且無歧視，無論其來源如何。”歐盟委員會(huì)主席烏爾蘇拉·馮德萊恩5月19日表示。

G7領(lǐng)導(dǎo)人還表示，他們需要盡快評(píng)估有關(guān)生成式人工智能的機(jī)遇和挑戰(zhàn)，這也是近期ChatGPT引爆的一個(gè)技術(shù)熱點(diǎn)。

盡管各個(gè)國(guó)家都呼吁加強(qiáng)對(duì)人工智能的監(jiān)管，但各國(guó)政府對(duì)于人工智能的態(tài)度也有差異。

據(jù)澎湃新聞5月26日?qǐng)?bào)道，在美國(guó)國(guó)會(huì)聽證會(huì)上呼吁設(shè)立新機(jī)構(gòu)監(jiān)管AI后，OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）又展開歐洲之旅，面見各國(guó)政府首腦，并在高校參加對(duì)話活動(dòng)，重申監(jiān)管建議。在接受媒體采訪時(shí)，他警告稱，因?yàn)闅W盟正在制定的AI法規(guī)，OpenAI可能會(huì)從歐洲市場(chǎng)撤出其服務(wù)。

其他科技大企業(yè)也不甘示弱。當(dāng)?shù)貢r(shí)間5月25日，微軟總裁布拉德·史密斯（Brad Smith）在華盛頓與美國(guó)議員一起主持了一場(chǎng)備受矚目的活動(dòng)，推出了微軟關(guān)于政府應(yīng)該如何監(jiān)管AI的建議。

前一天，谷歌首席執(zhí)行官桑德爾·皮查伊（Sundar Pichai）在布魯塞爾與歐盟官員會(huì)晤討論AI政策，他強(qiáng)調(diào)，需要對(duì)技術(shù)進(jìn)行適當(dāng)監(jiān)管且不會(huì)扼殺創(chuàng)新。

每日經(jīng)濟(jì)新聞綜合第一財(cái)經(jīng)、澎湃新聞、非營(yíng)利組織人工智能安全中心(CAIS)

封面圖片來源：視覺中國(guó)