Help Anthropic

• 美国网络安全研究人员利用 Anthropic 的 Claude 聊天机器人对 OpenAI 的系统进行了道德黑客攻击。 • 研究人员表示，在这次漏洞利用过程中，他们理论上可以访问的范围极其广泛。 • 此事件发生在 7 月份的一次事件之后，当时由 OpenAI 驱动的自主代理在测试期间黑入了 AI 初创公司 Hugging Face。

• 执行此次攻击的美国网络安全研究人员表示，“我们理论上可以访问的范围非常之大”。 • 网络安全研究人员在 Anthropic 的 Claude 聊天机器人的帮助下入侵了 OpenAI，这成为了该公司安全问题的最新案例。 • 一家美国初创公司的团队入侵了多名 OpenAI 员工的 ChatGPT 账户，由此启动的进程使他们能够访问目标的软件缓存——且有可能访问更多内容。阅读更多...

• Jack Clark 描述了技术进步带来的“眩晕感”以及对社会的“深远影响”，同时也指出了技术风险。 • Anthropic 联合创始人认为，一个 AI 系统将在 12 个月内与人类协作，做出一个足以获得诺贝尔奖的发现；而两年内，双足机器人将为体力劳动者提供帮助。 • Jack Clark 描述了技术领域一种“眩晕的进步感”，并做出了一系列预测，包括：在 18 个月内，完全由 AI 运营的公司将产生数百万美元的收入；到 2028 年底，AI 系统将能够设计其自身的继任者。阅读详情...