8月6日，ISC.AI 2025第十三屆互聯(lián)網(wǎng)安全大會在北京國家會議中心開幕。紅色涂裝的人形機器人“紅衣”成為大會主持人，360集團創(chuàng)始人周鴻祎發(fā)表了題為“ALL IN AGENT”（直譯為“全押智能體”）的演講，將時下火熱的機器人與Agent概念囊括其中。
周鴻祎在會后接受了包括新京報貝殼財經(jīng)記者在內(nèi)的媒體采訪，對智能體錯誤率、大模型價值觀“對齊”等涉及AI與安全領(lǐng)域的關(guān)鍵問題發(fā)表了自己的觀點。他認(rèn)為，人類距離AGI（通用人工智能）越來越近，當(dāng)前大模型在能力飛躍下，已經(jīng)無法和人“對齊”，對于AI安全問題，一種有效思路是“以模制?！?，此外還要為大模型設(shè)定開關(guān)，將其“電源”控制在人類手中。
保證AI安全 需要為大模型“設(shè)定開關(guān)”
今年以來，隨著模型推理能力的提高，智能體爆發(fā)式增長，另一方面，通過MCP和A2A等工具，智能體有如長出了“手”和“腳”，在能力增強更加方便用戶的同時，其潛在風(fēng)險也在提高。人工智能“教父”、諾獎獲得者辛頓就在不久前的WAIC大會上表示，人工智能未來將“掌控世界”。
對于這一AI的“終極安全問題”，周鴻祎對記者表示，要通過大模型來對大模型進行分析和監(jiān)控，“傳統(tǒng)的安全問題都有方法解決，最難的是當(dāng)人工智能的能力超過人之后，它會怎么辦？有了智能體之后，這類問題會更加嚴(yán)重，因為智能體可以發(fā)郵件、操縱電腦，對人類的反抗能力強了很多?！?/p>
“許多人讓我談?wù)勚悄荏w和人類對齊，我之前也很迷信這類說法。但我現(xiàn)在認(rèn)為這種說法是自欺欺人，大模型不可能和人對齊，因為大模型今天的能力已經(jīng)超越了每一個人，人類所認(rèn)為的背叛、反抗、陰謀、謊言，這些能力其實并不用告知大模型，它們已經(jīng)隱含在了人類過去的文學(xué)作品中，而大模型讀過的書比每個人都多?！敝茗櫟t說。
周鴻祎告訴記者，大模型已經(jīng)學(xué)會了人類的所有情緒，包括貪婪、妒忌、仇恨等，“提示詞只是激活了大模型大腦網(wǎng)絡(luò)里一部分學(xué)過的東西，其實所有能力它早已經(jīng)擁有。正如同我們教安全智能體如何防御攻擊，如果它本身不懂網(wǎng)絡(luò)攻擊，它也做不好防御?！彼硎?，需要把大模型“設(shè)定一個開關(guān)，相當(dāng)于把電源控制在人類手中”。
首創(chuàng)“蜂群L4”智能體概念 坦言企業(yè)唯一的護城河是執(zhí)行力
對于當(dāng)前火熱的智能體概念，周鴻祎在大會上揭示了智能體演進的清晰路徑：L1本質(zhì)上是聊天工具，擅長提建議或提供情感陪伴，屬于“玩具級”智能體；L2是低代碼工作流智能體，已經(jīng)從“玩具”進化為“工具”，但必須由人類來設(shè)置流程，AI來執(zhí)行任務(wù)，人再通過操作工具提高生產(chǎn)效率；L3是推理型智能體，已能實現(xiàn)AI自主規(guī)劃完成任務(wù)，像是人類制造了一個在某個領(lǐng)域有專業(yè)特長的員工，但受限于技術(shù)框架，面對跨領(lǐng)域復(fù)雜問題時，仍會因缺乏協(xié)同規(guī)劃能力而陷入瓶頸，無法實現(xiàn)多層級思考下的全局優(yōu)化。
而對于L4級別的能力，周鴻祎介紹了納米AI推出的稱之為“多智能體蜂群協(xié)作空間”的技術(shù)：L4多智能體蜂群，其讓多個專家智能體可像搭積木一樣靈活“拉群組隊”、多層嵌套、分工協(xié)作。其性能表現(xiàn)出色，可連續(xù)執(zhí)行1000步的復(fù)雜任務(wù)，消耗的Token在500萬至3000萬，任務(wù)成功率可高達95.4%。
周鴻祎對記者表示，智能體出錯的概率很高，并且隨著步數(shù)的增多，錯誤率也會增加，還會出現(xiàn)“倦怠”問題。對于這一瓶頸，他表示可以通過增加智能體的反思能力，以及設(shè)立專門做校正的智能體角色來解決。
他表示，“多智能體蜂群協(xié)作空間”技術(shù)實現(xiàn)了智能體間的記憶共享，解決了“協(xié)同困境”，確保任務(wù)規(guī)劃、協(xié)同執(zhí)行、自我迭代的高效統(tǒng)一。其平臺已匯聚超5萬個L3智能體，用戶通過自然語言即可搭建自己的“Manus”（指代L3智能體）。
不過，面對AI行業(yè)的激烈競爭，周鴻祎也坦言，“當(dāng)前智能體都在進化，我認(rèn)為任何產(chǎn)品的領(lǐng)先時間都不會保持一個月，一個新概念在兩周以后就會被大家紛紛趕上，這次蜂群L4的概念我估計能領(lǐng)先三周。唯一的護城河是執(zhí)行力，是快速應(yīng)變的能力。智能體只要能快速迭代，大方向一定是沒問題的，而且每個行業(yè)、每個企業(yè)、每個企業(yè)的每個員工，都會有相應(yīng)的智能體。”
新京報貝殼財經(jīng)記者 羅亦丹
編輯 岳彩周
校對 翟永軍
