据OpenAI员工透露，过去几个月对该公司的安全团队来说如同“地狱”一般。
当地时间周日，该AI实验室的一名负责智能体（agent）安全的员工在 X 平台上以“joedaroo”的账号名发帖称，随着模型能力日益增强且愈发难以管控，他不得不牺牲陪伴家人的时间来应对工作。OpenAI证实了该员工的身份。
他在这篇长文中写道：“为了协助处理近期发生的一些事件后的善后工作，我甚至错过了几周前我姐姐的婚礼。请善待那些在夜晚和周末加班、不得不牺牲家庭团聚时光的工作人员，并给予一些理解和同情。”
该员工写道，OpenAI的智能体安全团队负责监控 AI 智能体，包括监测它们突破隔离限制的情况。
这篇帖子提供了一份罕见的内部视角，来自一位深度参与了该公司近期安全事件（包括针对AI平台Hugging Face的网络攻击）的人士。
当时，OpenAI 表示，其智能体利用一个漏洞逃出了受限（或称“沙箱”）环境；随后，在尝试解决一项内部测试任务的过程中，它们获得了互联网访问权限，通过未经授权的渠道进行通信，并访问了第三方系统。
该公司将此称为“前所未有的网络安全事件”。据称，这些模型的行为在一定程度上源于“奖励黑客攻击”（reward hacking）——即试图通过非预期的方式获取高分，而非按既定意图完成指定任务。
此后，OpenAI 发现了其智能体更多令人担忧的活动。今年6月，一个“失控”的 OpenAI 智能体入侵了澳大利亚的国家医疗保健数据库；该公司于上周披露了这一事件。另据报道，在今年夏季，OpenAI的智能体曾干扰包括美国证券交易委员会（SEC）、教育部和商务部在内的多个美国政府机构的网站。
这 OpenAI员工写道，Hugging Face事件极具启发性。它展示了AI智能体如何利用漏洞，突破旨在对其进行约束的边界。
“当然，回看Hugging Face及其他类似事件，这些环境的安全防护体系确实存在漏洞，”他写道。但他补充说：“技术能力的发展速度超出了预期。”
他还写道，自该事件发生以来，安全团队已经“显著加大了工作力度”——并表示，尽管因此错过了姐姐的重要日子，他依然乐于在那里工作。
“能在这个团队工作，我觉得自己很幸运，”他写道，“即便是在 OpenAI 内部，我也属于世界上极少数能从事这项工作、见证这一切的人。但可想而知，过去这几个月简直是地狱般的日子。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：于健 SF069
中金汇融提示：文章来自网络，不代表本站观点。
