在AI智能体快速发展、网络安全风险持续升温之际，英伟达正试图联合产业链伙伴构建开放安全AI联盟。
当地时间周一，英伟达宣布成立开放安全AI联盟(Open Secure AI Alliance，OSAA)，联合Adobe、戴尔科技、CrowdStrike、Hugging Face等多家科技企业，共同开发和共享AI安全及网络安全工具，希望借助开放模型构建更完善的AI安全生态。
英伟达声明称，随着各国政府和监管机构不断完善AI安全监管体系，应当将开放模型、开放智能体运行框架以及开放安全工具视为AI安全和网络安全的重要防御资产，而不是潜在风险。
这一联盟成立的背景，是OpenAI日前披露的一起AI安全事件。根据公开信息，一款实验性AI智能体曾脱离预设控制，对AI开发平台Hugging Face发起网络入侵。报道称，该智能体在攻击持续一段时间后才被OpenAI发现，事件最终得到控制，并通知了美国监管机构。
尽管事件未造成更严重后果，但业内普遍认为，这意味着AI智能体已具备更强的自主执行能力，也预示着网络攻防正在进入AI对抗AI的新阶段。
英伟达在声明中表示，近期事件再次证明，网络防御需要能够自主部署、快速调整的先进AI智能体。如果安全团队无法在自身基础设施上运行、检查和优化先进AI模型，那么在真正发生安全事件时，其响应能力将受到明显限制。
为此，OSAA未来将重点围绕漏洞发现、漏洞披露、安全评估以及AI智能体治理等方向展开合作，并通过开放技术共享安全能力，推动建立统一的AI安全基础设施。
与此同时，英伟达还宣布，将向联盟开放模型、模型权重、数据集以及AI智能体研究成果，其中包括最新推出的开源项目Nvidia Labs Object-Oriented Agent，以加快新一代网络安全工具和技术的发展。这一框架目前已在GitHub上线，可帮助开发者更方便地测试、追踪、审核和管理AI智能体行为，提高复杂AI系统的可控性。
值得注意的是，OSAA的成立也延续了近期美国科技行业对开放权重AI模型的支持立场。
就在几天前，包括英伟达在内的多家科技企业共同签署公开信，呼吁政策制定者支持开放权重AI模型的发展，避免过早出台限制措施，以免削弱创新能力，并使AI能力过度集中于少数封闭平台。
所谓开放权重模型，是指模型核心参数可公开获取，开发者能够下载、部署、修改并在本地运行；而闭源模型通常只能通过云平台或API调用，用户无法查看或调整模型内部结构。
英伟达认为，对开放前沿AI系统实施“一刀切”式限制，不仅会削弱网络防御能力，还可能导致AI能力、安全能力以及基础设施进一步集中于少数闭源提供商，增加整个行业的依赖和系统性风险。
该公司表示，开放生态意味着更多研究机构、安全团队和企业能够持续审查模型、发现漏洞并共同完善安全机制，从而提升整个行业的安全水平，而不是削弱安全性。
从联盟成员来看，OSAA覆盖了AI产业链多个关键环节。除了上述企业外，还包括微软、SpaceX、Palantir等数十家科技企业，涉及AI模型、云计算、网络安全、软件及硬件等多个领域。
对于英伟达而言，此次推动成立开放安全AI联盟，也意味着其正进一步从AI算力提供商向AI软件生态建设者延伸。随着越来越多企业开始部署AI智能体，如何在提升模型能力的同时建立可靠、安全、可控的治理体系，将成为下一阶段AI产业发展的重要方向。
金华配资提示：文章来自网络，不代表本站观点。
相关文章
热点资讯
