Help Anthropic

• 美國網路安全研究人員利用 Anthropic 的 Claude 聊天機器人對 OpenAI 的系統進行了道德駭客攻擊。 • 研究人員表示，在這次入侵過程中，他們在理論上可以訪問的範圍極其廣泛。 • 此事件發生在七月的一次事件之後，當時由 OpenAI 驅動的自主代理在測試期間駭入了 AI 初創公司 Hugging Face。

• 進行此次駭客攻擊的美國網路安全研究人員表示，「我們在理論上可以訪問的範圍非常巨大」。 • 網路安全研究人員在 Anthropic 的 Claude 聊天機器人的協助下，成功入侵了 OpenAI，這是該公司近期安全問題的最新案例。 • 一支來自美國新創公司的團隊入侵了多名 OpenAI 員工的 ChatGPT 帳戶，並由此啟動了一項流程，使他們能夠訪問目標的軟體快取（software cache）以及潛在的其他內容。閱讀更多...

• Jack Clark 描述了技術上「令人眩暈的進步感」以及對社會產生的「深遠影響」及其隨之而來的風險。 • 根據 Anthropic 共同創辦人的說法，AI 系統將在 12 個月內與人類合作完成一項足以獲諾貝爾獎的發現，且熟練技工將在兩年內得到雙足機器人的協助。 • Jack Clark 描述了科技進步之快令人眩暈，並提出一系列預測，包括：完全由 AI 運作的公司將在 18 個月內創造數百萬美元的收入，且到 2028 年底，AI 系統將能設計自己的後繼者。