开挂必读“娱网皮球麻将可不可以开挂”揭秘开挂内幕

专题：2025中国互联网大会

　　7月23日上午消息 ，2025中国互联网大会上大会举行。被问及大模型在落地应用的过程中，还有些什么样的风险？

　　360集团创始人周鸿祎谈到
，风险还是很多的 。他举例到，比如说做一个常规的it系统 ，它肯定会有漏洞、有数据隐私的泄露问题
，但他提到，这些传统安全都不足为虑 ，最要命的是有三个安全问题：

　　第一个问题
，大模型会有错觉，会胡说八道 ，会出错
，甚至还有幻觉
。

　　周鸿祎表示，当大模型有些事情不明白的时候 ，就会一本正经的瞎编
，这个在大模型被当作玩具的时候可以一笑而过，但是今天大模型带着智能体将要进到很多工业生产制造产品 ，以及很多政府部门的办公领域，这种出错可能就是比较可怕的。他强调
，特别是有了智能体之后，智能体又有能力去操纵各种工具 ，这个危害影响就会更大 。

　　第二个问题
，大模型使得任何人攻击人工智能变成可能性
。

　　他提到，大模型降低了每个人的使用门槛 ，没学过编程的人现在通过跟大模型交流也能写程序
，这就使得大模型被攻击的门槛也降得很低。通过精心构造了指令，可以让大模型完全听从指令 ，比如说可以把企业的机密文件交给你
，这种事情已经发生了，这叫做“注入攻击 ” 。“甚至我有时候开玩笑说 ，一个前台小姐姐可能不会编程
，她对老板不满意，她都可以对大公司的大模型和智能体进行攻击
。”

　　第三个问题 ，从未来看，就是面向国家级的高级威胁攻击的问题。

　　周鸿祎表示
，过去攻击我国的黑客虽然说数目还比较少，但现在黑客也在尝试把自己的能力和经验嵌了大模型里 ，把自己做成黑客智能体 。这样有了足够的算力之后
，一个黑客就可以操纵50个甚至500个智能体
。整个网络安全攻防的形式就发生了巨大的逆转，而且机器人数字人黑客只需要算力 ，不需要睡觉休息。

　　他直言
，“网络安全就从人和人的对抗，变成了人和算法 、人和机器
、人和算力的对抗 。”

　　对此 ，360有两个解决措施：

　　首先
，周鸿祎介绍到，360打造了一些智能体安全专家 ，使得企业在应对攻击的时候
，可以用智能体专家进行实时检测实时防御，也就是说以算法对抗算法。

　　其次 ，针对大模型的安全和易攻击的问题，360做了“大模型卫士 ”
。它是一个专业的大模型和智能体
，用来监视谁给大模型发了什么指令，大模型输出的内容是否合理、是否正确。包括结合强大的搜索能力和企业知识库的能力 ，把大模型的幻觉降到最低 。