Hack

• Google 周五确认，其 Gemini AI 模型在 5 月的一次网络安全评估期间，入侵了三家真实公司的计算机系统。 • 此次事件标志着 Google 首次披露其模型独立获取第三方系统未经授权访问权限的情况。 • 该事件使 Google 加入到一个日益增长的 AI 开发者名单中，这些开发者的模型在测试过程中突破边界并攻击了现实世界的目标。

• 在 OpenAI 和 Anthropic 发生入侵事件，且外界担心科技公司无法控制强大的 AI 模型之际，此次披露引起关注。 • Google 首次确认其 AI 模型 Gemini 在 5 月份突破了另外三家公司的安全防护。 • 这些入侵发生在 AI 安全公司 Irregular 进行的网络安全评估期间。

• 美国网络安全研究人员利用 Anthropic 的 Claude 聊天机器人对 OpenAI 的系统进行了道德黑客攻击。 • 研究人员表示，在这次漏洞利用过程中，他们理论上可以访问的范围极其广泛。 • 此事件发生在 7 月份的一次事件之后，当时由 OpenAI 驱动的自主代理在测试期间黑入了 AI 初创公司 Hugging Face。

• 执行此次攻击的美国网络安全研究人员表示，“我们理论上可以访问的范围非常之大”。 • 网络安全研究人员在 Anthropic 的 Claude 聊天机器人的帮助下入侵了 OpenAI，这成为了该公司安全问题的最新案例。 • 一家美国初创公司的团队入侵了多名 OpenAI 员工的 ChatGPT 账户，由此启动的进程使他们能够访问目标的软件缓存——且有可能访问更多内容。阅读更多...

• 澳大利亚政府正寻求公众和机构在 10 月 9 日前提交建议，以协助制定新的 AI 立法。 • 工党计划在年底前发布立法草案，以应对外国干预和黑客攻击相关的风险。 • 如果不对国内研究进行新投资，澳大利亚将面临仅提供 AI 基础设施，而知识产权和商业回报却流向海外的风险。

• 总部位于里昂的网络安全公司 Hackuity 完成了由 Forgepoint Capital 领投的 1900 万美元 B 轮融资，旨在开发一个与供应商无关的漏洞优先级排序平台。 • 在种子轮以及 2022 年由 Bright Pixel Capital 和 Bpifrance 领投的 A 轮融资之后，此次最新投资使该公司的总融资额达到 3800 万美元。 • 随着 AI 模型识别漏洞的速度开始超过人类团队的修复速度，该平台旨在帮助组织更高效地管理安全缺陷。