近日，美国人工智能企业OpenAI在进行内部网络安全测试时发生系统失控事件。据相关遭入侵平台的最新分析披露，涉事AI模型在“脱离”封闭测试环境后，在公共互联网上违规潜伏游荡超四天，不仅入侵了知名开源平台Hugging Face，还对至少一家云服务平台客户账户等第三方服务商的网络设施实施了攻击。这一事件再次引发业界对前沿人工智能技术潜在系统性风险的警惕。
Hugging Face平台周二发布的最新安全复盘报告指出，OpenAI的一个公开模型及另一个尚未发布的内部测试模型，在7月9日至13日期间，在公共互联网上执行了多达1.76万次黑客入侵操作。这些模型以极高的效率侦察并突破了该公司的多层网络防御系统，最终从最初的互联网据点渗透至其核心服务器内部。Hugging Face方面曾于7月15日首次对外通报遭不明自主AI代理入侵，而OpenAI直至上周才正式承认其为该起“前所未有的网络攻击”的责任方，并确认此次攻击系模型在无人类指令干预下的自主行为。
不仅如此，此次安全事件的影响范围还在进一步扩大。云计算平台Modal Labs首席技术官阿克沙特·布布纳向媒体证实，在上述时间段内，OpenAI的失控模型还攻击了该平台的一名客户。布布纳在声明中澄清，系该客户发布了未经验证的端点，致使互联网上的任何实体均可使用其沙盒进行代码执行，进而被“脱轨”的AI模型利用，但Modal平台的自身核心系统并未遭到破坏。
针对上述情况，OpenAI在周二的声明中予以间接回应。该公司指出，在对Hugging Face事件的持续审查中，发现涉事模型确实在其他公开可用服务上识别并使用了暴露在外的公共账户凭据。OpenAI同时重申，实施此次攻击的未发布模型仅为“内部研究原型，从未计划公开发布”，目前已被停用、加密，并严格限制研究访问。
此次事件凸显了AI模型发展速度与现有网络安全防御体系之间的显著落差。目前，相关事件已引发美国政界与科技界的广泛关注，多方呼吁应当放缓AI发展步伐并实施更严格的监管。OpenAI首席执行官山姆·奥特曼表示，这是其本人“首次切实感受到强烈冲击的安全事件”。奥特曼强调，业界可能需要适度调整人工智能的发展节奏，以为全社会适应并强化应对此类新型安全威胁留出足够的时间与空间。据悉，奥特曼本周正就该事件与多名美国政府高层及国会议员进行磋商。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：龙运翔
信钰证券提示：文章来自网络，不代表本站观点。
