刚过去的周末,全球科技、商业与政界巨头集体将目光聚焦于同一个词:AI安全。
9月10日,英伟达CEO黄仁勋在旧金山高盛科技大会上表示,“网络安全很可能成为AI下一个主要应用场景”。他随后的一句自我拆解更直白:“还有什么比制造一个问题更能创造需求的方式呢?”
黄仁勋对于网络安全的重视,也是所有人的共识。
“
9月12日,OpenAI首席执行官山姆.奥特曼在公开采访中表示,“考虑到目前围绕安全问题发生的一切,我认为现在上市并非明智之举”。
此前,Anthropic首席执行官达里奥.阿莫迪发文呼吁放缓AI模型能力提升速度,“仅仅投资于风险防控已经不够——我们必须放缓能力提升的速度,让安全研究有时间跟上”。
文章发出后数小时内,马斯克在X平台表态“达里奥说得对”,奥特曼随后也表示认同,并承诺向独立第三方评估机构开放“员工级别”的系统访问权限。
图 /行业聚焦AI安全
然而,大洋彼岸的政策分歧同样明显。白宫AI顾问David Sacks与部分政界人士主张美国不能停止AI竞赛,不应因安全担忧而放慢发展步伐。特朗普的表态更为直白,9月13日,他表示美国在AI领域领先,希望保持这一状态,“谁在AI上获胜,谁就赢了”。众议院议长约翰逊则在CNN节目中淡化紧急立法监管的必要性,警告若因监管放缓步伐,“中国将超过我们”。
这与科技巨头放缓的呼吁形成交锋。但无论“减速”还是“加速”,一个共识已经清晰:安全正在从AI发展的“可选项”变成“必答题”。
AI正在制造哪些“新问题”?
黄仁勋的判断与中国安全厂商的分析高度一致。奇安信人工智能公司认为,AI带来的“新问题”至少覆盖从代码开发、智能体部署、数据流转、业务应用等四个环节。
01/代码开发阶段。黄仁勋举了一个典型场景,AI正在加速编程自动化,代码生成速度的大幅提升意味着被利用和攻击的速度更快,需要修复的漏洞也在同步激增,这正从根本上改变网络安全行业的供需结构。奇安信安全专家也持同样观点,AI加速自动化编程,研发效率提升的同时,代码安全风险同步放大。AI生成代码的安全缺陷无人把守,成为新的风险敞口;企业研发中源码、密钥随AI工具外发的风险突出;各种Agent直连GitLab、Jira、Jenkins,权限混乱,出事无法追溯。
02/智能体落地阶段。据Gartner预测,2026年底40%的企业应用将集成AI Agent。奇安信指出,企业必须直面四个Agent安全挑战:看不见——影子AI全面失控,76%的组织对此表示担忧;管不住——Agent行为不可预测,超1/8安全事件涉及自主Agent;防不住——针对智能体的目标劫持等新型攻击,传统安全措施难以应对;说不清——日志不全、链路不完整,出问题无法追溯责任。
03/数据流转阶段。AI时代,数据泄密不一定需要黑客。模型后台转发、AI中转站截留、员工绕开企业直连网页版或API——三条链路都可能让一次提问变成一次不可撤回的数据出境。国家安全部党委书记、部长陈一新此前撰文指出,人工智能带来“规模性放大窃密泄密风险”,境外间谍情报机关深度运用智能网络爬虫等技术大肆搜集敏感信息数据。
04/AI应用阶段。AI深度融入业务应用后,攻击面从传统系统扩展到模型、数据、组件和业务流程。提示词注入、数据外泄、恶意诱导等风险已被大量真实案例验证,大模型安全评估与实战化攻防验证成为刚需。
这些新问题,究竟该如何破解?
针对上述四类风险,奇安信已形成覆盖“AI开发—智能体运行—数据流转—AI应用”全生命周期的产品矩阵,为AI时代的安全风险提供了应对之道。
■ 在AI开发侧,奇安信推出代码安全智能体Qcode Agents,以“专家级大脑+多智能体协同”为核心,将十余年一线攻防经验代码化,覆盖从编码、提交、合并请求到持续集成的全场景,打造“感知—分析—验证—修复—响应”的自动安全闭环。同时,奇安信推出的QAgent Fabric安全智能体研发框架将AI研发活动收进统一平台,通过统一空间、统一知识、统一流程、统一Agent,让模型、数据、代码留在内网,并用威胁情报在AI生成代码、引入依赖、构建、测试、发布等环节提前阻断风险。
■ 在智能体安全侧,奇安信推出智能体安全平台,定位为企业智能体运行时安全一体化平台,以“看得见、管得住、防得住、说得清”四大核心价值,实现智能体资产发现、策略管控、威胁检测与溯源审计,解决影子AI失控、行为不可预测、新型攻击难防、责任难以追溯等核心痛点。
■ 在数据安全侧,奇安信推出AI安全组合方案,通过AI安全网关、大模型卫士、SWG(安全Web网关)及QAgent Fabric安全智能体研发框架四道闸,从AI调用的入口、模型侧、出口到研发现场,构建数据不出域、泄密可阻断、行为可追溯的防护体系。
■ 在AI应用侧,奇安信提供大模型安全评估服务,覆盖大模型运行环境、自身安全、数据安全、内容安全、组件安全和智能体安全等全维度检测与防护能力,已为金融、制造、能源、政务等多个行业的数十家企业提供服务。面向实战化攻防需求,奇安信还推出AI加特林——全流程自动化渗透测试智能体,内置“任务规划—攻击执行—自主反思—报告生成”四大核心智能体,将复杂系统的渗透周期从数天压缩至T+1天级,像一支“不眠不休的AI红队”。
从代码开发到智能体运行股票配资官网开户,从数据流转到AI应用,奇安信正在将安全能力嵌入AI的每一个环节。当全球巨头集体为AI安全按下“重视键”,提前完成全生命周期布局的安全厂商,有望在这一轮产业机遇中占据先发位置。
元鼎证券_极速开户通道——让投资从此更高效,欢迎立即查看!提示:本文来自互联网,不代表本网站观点。