关注两会丨全国政协委员、中国互联网协会副理事长、360集团创始人周鸿祎：不发展是最大的不安全，AI安全和业务发展要同步走
2025-03-054
“抓住AI工业革命的机会，提升生产力，让科技普惠在每个人身上。”“人工智能会重塑所有的行业。”全国两会召开前夕，全国政协委员、中国互联网协会副理事长、360集团创始人周鸿祎在接受记者采访时发表了对人工智能发展和人工智能安全的看法。
对于DeepSeek的火爆，周鸿祎表示，DeepSeek是真火，不是虚火，因为它确实推动了人工智能大模型从“不可用”“凑合用”到“完全可用”。同时，周鸿祎表示，人工智能要引发工业革命，最重要是把人工智能技术在企业、政府等场景中深入地用下去，让技术应用进入千家万户，进入千行百业。如何把人工智能应用到企业发展中？在周鸿祎看来，企业要紧紧抓住这一机遇，以科技创新引领产业创新，积极培育和发展新质生产力，推动大模型与千行百业深度、安全融合。首先要找场景，在场景中用大模型来解决原来存在的效率低、成本高、体验差的问题；之后要把这个大模型变得很专业，打造专业的知识库，把知识库和大模型结合起来，变成专业大模型，再基于大模型打造好智能体；最后再通过企业的工作流软件把智能体接到企业的OA办公流程里，这个企业应用才能做起来。在谈到中美人工智能的差距时，周鸿祎表示，“有人说是十年、几十年，那都太妄自菲薄了，其实差距肯定没有那么大，我认为最多就差两年，差一年，差三个月。”当前，我国的人工智能打造的是开源模式，而美国是闭源模式，对于这两种人工智能发展模式，周鸿祎表示，闭源模式必然打不过开源模式，剩下的就是时间问题，至少平分秋色是毫无问题的。“传统企业利用大模型来降本增效、打造新质生产力，这个杠杆作用是非常大的。”周鸿祎说，AI生态将带来更强的研发力量，带来更多的创新和改进，带来更多的标准，全世界的AI应用系统都可以架构在中国发起的根技术上。如何看待AI技术进步带来的新风险？周鸿祎表示，当前AI技术发展已进入关键窗口期，既要看到大模型带来的产业革命机遇，也要警惕其潜在的安全风险。目前许多人看DeepSeek的安全问题，还是把它当成一个传统IT设备看安全。这个思路是过时的，这种传统网络安全的解题方法解决不了人工智能的安全问题。不发展是最大的不安全，AI的安全和业务的发展，可以同步走。比如AI幻觉的问题，在周鸿祎看来，幻觉问题不完全是AI安全问题，因为幻觉是大模型固有的特点，没有幻觉的大模型就不聪明了，幻觉是大模型像人一样有智力的体现，是想象力和创造力的基础，用在文学创作上是优势，但如果用在医疗、法律、金融、证券或者用在生产、制造业这种不能出错的地方，幻觉就是非常严重的问题。在周鸿祎来看，智能体的安全、知识数据的安全、客户端的安全，还有基座模型的安全，构成了一个新的人工智能安全的新领域。对此，周鸿祎提出了“以模制模”的发展思路，即做安全大模型，用聪明的大模型智力能力管理知识库的使用，管理智能体的调用，管理基座模型的“胡说八道”和人对大模型的pua攻击（注入攻击）。“在大模型出来之前，人类老是希望用规则来指挥自动驾驶，来指挥机器人，可是发现人类写了10万条规则也不能穷尽机器人在现实中遇到的意外情况。”在谈到人形机器人的发展时，周鸿祎表示，机器人是未来产业，但如果没有大模型，人形机器人寸步难行。如今，大模型加到机器人身体上后，机器人就能够感知这个世界，它就创造了一种新的人工智能去感知世界的方式。剩下的就是成本问题了，但中国的产业化能力，就像生产无人机和智能车时一样，能把价格降到别的国家认为不可能的程度。“我估计还有几年，如果价格降到一个机器人几万元，进工厂、进家里就会比较实用了。”周鸿祎说。
来源：人民邮电报
点我访问原文链接
最新动态