6月14日下午消息，今日舉辦的2024智源大會上，百川智能CEO王小川、智譜AI CEO張鵬、月之暗面CEO楊植麟、面壁智能聯(lián)合創(chuàng)始人、CEO李大海共同出席《尖峰對話：通往AGI之路》環(huán)節(jié)。

對于AI安全問題，百川智能CEO王小川表示，安全有不同的內(nèi)涵和外延，他將其分為三層安全：

第一是意識形態(tài)安全，做to c公眾服務(wù)，要跟國家發(fā)展、國家意志保持一致，這是大家的一個基本功；

第二是比較遠的安全，模型是不是把人類毀滅了，以后人就沒了，然后機器掌握世界了，其實內(nèi)心來想不希望發(fā)生的，就像核彈一樣的把人類文明給搞沒了。但是至于這個模型它是否比人更聰明，能夠取代人做事情，這是個鼓勵的一件事情。這個技術(shù)能夠跟我們一塊去拓展人類文明，這件事情是有意義的。

第三是現(xiàn)實安全，現(xiàn)在的AI能力還很弱，就不要想什么顛覆人類這么復雜的事，現(xiàn)實中在近期還不存在安全的問題。