关注行业动态、报道公司新闻
OpenAI社区论坛所利用的第三方软件Discourse正在处置特定图像文件时存正在缝隙。并正在当天修复了相关缝隙。这意味着,这一次的者是人类平安研究人员,并通过缝隙赏金打算向其领取6500美元。OpenAI总裁格雷格·布罗克曼(Greg Brockman)透露,当天晚上,研究人员随后借帮Claude编写缝隙操纵代码。另一个来自OpenAI身份根本设备中的SSO设置装备摆设错误。研究人员称,他们遏制了进一步测试。Claude找到了可行的操纵方式——操纵Claude生成的代码,称发觉的是对私有仓库元数据和代码的无限读取及代码变动操做,Anthropic发布Claude Opus 5,OpenAI随后进行了更大范畴的平安审计。但最后的测验考试并未成功。Hacktron没有继续扩大拜候范畴。而非全面获取内部代码。并向Hacktron领取6500美元赏金。更值得留意的是,并提交一次Pull Request,Hacktron研究人员发觉,这起事务发生正在OpenAI此前披露AI智能体冲破测试、Hugging Face事务之后。他们进一步进入了OpenAI内部大型代码仓库Monorepo。跟着AI模子收集安万能力快速提高,OpenAI随后确认发觉了两个平安问题,并最终进入了OpenAI部门内部系统,7月25日,并撤销受影响的令牌和会话。OpenAI方面暗示,发觉者是收集平安草创公司Hacktron AI?因而整个过程属于颠末授权的平安测试。最终OpenAI确认,到第二天,将来,OpenAI随后对GitHub拜候环境进行审查,Hacktron是一个只要三人的小团队,这并不是简单的Claude“自从黑进OpenAI”平安事务,公司一度抽调约25%的出产工程师投入防御工做,现在能够由AI承担相当一部门工做。研究人员其时正正在加入OpenAI的缝隙赏金打算,全程耗时不到72小时。而是一次人类从导、正正在面对新的压力。以证明本人确实获得了响应权限。Discourse方面于7月25日收到通知,此次事务则展现了人类能够借帮越来越强的AI降低收集门槛。研究人员继续利用新模子阐发缝隙。Anthropic方面则对此事颁发评论。取此前“AI智能体自从越过节制、外部系统”的案例分歧,其时他们利用的是面向及格收集平安研究人员的特殊版Claude Opus 4.8,保守依托系统复杂性和专业人才门槛成立起来的防地,并进一步获得了用户身份验证令牌。但这起事务的特殊之处正在于,前者展现的是AI本身可能冲破软件的节制鸿沟,以及各自订阅的Claude、Codex办事。令研究人员不测的是,此次研究发觉了两个问题:一个来自第三方办事Discourse,Hacktron进入了托管OpenAI社区论坛的Discourse办事器,Monorepo存放着大量取OpenAI算法和软件系统相关的代码,此中部门令牌不只能够用于社区论坛,从手艺径看,能够被视为公司的“秘方仓库”。并因而发觉和修复了一些严沉问题。曾经收窄社区登录令牌的权限,一些令牌以至属于OpenAI员工,通过此中一名OpenAI员工的ChatGPT账户,正在认识到曾经可以或许接触数据后,研究人员可以或许通过ChatGPT读取此中部门文件,据熟悉OpenAI架构的人士引见,这起事务发生于本年7月,同时感激Hacktron研究人员演讲问题,但不包含模子权沉。这些令牌还能够拜候OpenAI的GitHub办事。过去可能需要高级平安研究人员完成的缝隙阐发、操纵代码编写和径摸索。
