每經(jīng)記者｜可楊    每經(jīng)編輯｜梁梟    

今日（6月14日），AI行業(yè)盛會“2024北京智源大會”在中關(guān)村展示中心開幕。《每日經(jīng)濟新聞》在現(xiàn)場注意到，在全體大會中的“尖峰對話：通往AGI之路”環(huán)節(jié)，百川智能CEO王小川、智譜AI CEO張鵬、月之暗面CEO楊植麟、面壁智能CEO李大海展開對談。

在對談中，楊植麟談到，AI安全非常重要，它可能不一定是當(dāng)前最急迫，但是一個需要我們提前去準(zhǔn)備的事情。因為隨著模型不斷優(yōu)化和Scaling Law（尺度定律）的發(fā)展，每N個月算力乘十倍，智能水平也得到提升，這是一個逐漸適應(yīng)的過程。因此，AI安全不一定是當(dāng)前最大的矛盾或者最緊急的事情，但它肯定是長期儲備。

楊植麟認(rèn)為，在這之中最重要的是兩個方面，首先是模型會因為用戶本身有些惡意意圖，通過prompt（提示詞）讓模型去做一些本來不應(yīng)該做的事情。其次是模型本身是否有自己的motivation（動機），這與訓(xùn)練方式相關(guān)，包括能否在模型的底層去注入例如AI的“憲法”、功能去框定其行為，無論用戶給什么指示，都不會違背這個“憲法”。