每經(jīng)記者｜杜恒峰    

每經(jīng)評論員 杜恒峰

3月29日，由圖靈獎得主約書亞·本吉奧、埃隆·馬斯克、《人類簡史》作者尤瓦爾·赫拉利等人聯(lián)名發(fā)表公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統(tǒng)，為期至少6個月，以確保人類能夠有效管理其風險。暫停工作應(yīng)該是公開且可以證實的，如果AI實驗室不能快速暫停，各國政府應(yīng)該實行暫停令。目前，這份公開信已經(jīng)征集到1128份簽名，其中列出的AI風險包括：不實信息、對人類工作的替代、人類失去對文明的控制等。

AI由人創(chuàng)造而來，AI的風險不在AI，而在于人。以ChatGPT、Bard等大語言模型為代表的大型AI成本高昂，只有微軟、谷歌、Meta這樣的少數(shù)超大型企業(yè)才能燒得起錢，大型AI的風險目前也主要聚焦于這些大企業(yè)。占領(lǐng)先機的微軟，主動發(fā)起了一場AI的“軍備競賽”，不但將ChatGPT3.5迅速升級到4.0，還將其植入到bing、office等自己的核心產(chǎn)品中，還開放API接口，試圖做成“AI時代的App Store”。速度是商業(yè)競爭取勝的法寶，和微軟一樣，包括中國企業(yè)在內(nèi)的同行，也都在爭相布局大型AI。對于AI的倫理和風險問題，目前主要依靠企業(yè)自己來管理，但一個令人擔憂的現(xiàn)實是，由于過于強調(diào)速度，企業(yè)對倫理和風險的重視程度會下降，有的企業(yè)甚至可能“磨平輪胎”以減少行駛阻力，比如微軟在今年1月解散了所有的倫理與社會團隊，Twitter在馬斯克入主后裁掉了一個小型人工智能倫理團隊，去年9月Meta解散了其負責任的創(chuàng)新團隊。

在“磨平輪胎”的同時，大型企業(yè)掌控人財物等經(jīng)濟資源的能力更值得擔憂。麻省理工的研究人員本月發(fā)表的一篇論文顯示，在2020年，近70%的AI博士進入企業(yè)工作，2004年這一比例還只有21%；在最大型的AI模型計算中，企業(yè)擁有的份額從2010年的11%上升到2021年的96%；2021年私營部門的AI投資超過3400億美元，而來自政府的投入只有10多億美元。當企業(yè)掌握了絕對的資源優(yōu)勢，就有了主導行業(yè)發(fā)展方向的能力，人力和財力都處于絕對劣勢的政府和學界的影響力微乎其微，也就沒有給企業(yè)踩下剎車、降低風險的能力。

上述公開信要求“暫停訓練6個月”，其目的在于創(chuàng)造一個窗口期，為AI制定行業(yè)規(guī)則，包括共同制定和實施一套先進的人工智能設(shè)計和開發(fā)的共享安全協(xié)議，由獨立的外部專家進行嚴格的審查和監(jiān)督，成立專門針對人工智能的監(jiān)管機構(gòu)，建立強大的審查和認證生態(tài)系統(tǒng)等。且不論這些倡議能否成行，即便真能暫停6個月，鑒于AI本身的復雜性和公共部門掌握的資源的有限性，也不足以完成如此龐大的AI監(jiān)管體系的建設(shè)。

依賴企業(yè)的“道德感”實現(xiàn)自我監(jiān)管是不現(xiàn)實的，監(jiān)管機構(gòu)輕信企業(yè)的說辭進行形式上的監(jiān)管也是不可取的——波音737MAX事故背后的FAA（美國聯(lián)邦航空管理局）、普渡制藥奧施康定濫用案背后的FDA（美國食品藥品監(jiān)督管理局）都是慘痛的反面案例。

要將AI關(guān)進符合人類利益的籠子里，必然需要一個強大的監(jiān)管網(wǎng)絡(luò)，補齊政府、協(xié)會、學會方面的資源短板是關(guān)鍵的第一步，確保有足夠的人財物實現(xiàn)監(jiān)管目標。AI變革已經(jīng)開始，監(jiān)管方面的行動也必須盡快跟上，只有建立最嚴格有效的監(jiān)管體系，才能確保大型AI符合每個人的利益，避免其對社會造成巨大的傷害。