Anthropic 呼吁“暂时暂停”人工智能开发以讨论风险
• 该美国公司宣布需要召集“政策制定者”,但部分专家认为这不过是营销噱头。 • Anthropic 在其推广产品能力的最新发布中,提出了在全球范围内“暂时暂停”AI 开发的想法,并表示将召集“政策制定者”讨论高级 AI 的危险性。 • 在周四的一篇长文中,Anthropic 详细介绍了其 AI 模型 Claude 在实现“递归自我改进”方面的进展——即能够创建更好、更强大的自身版本。递归自我改进是 AI 安全研究人员非常担忧的问题,被视为 AI 走向超级智能并进而对人类产生广泛影响的关键步骤。阅读更多...
theguardian.com