Anthropic, 위험 논의를 위한 AI 개발 '일시적 중단' 촉구
• 미국 기업 Anthropic이 AI 개발의 전 세계적인 '일시적 중단' 아이디어를 제시하며, 고도화된 AI의 위험성을 논의하기 위해 '정책 입안자'들을 소집하겠다고 발표했습니다. 일부 전문가들은 이를 자사 제품의 성능을 홍보하기 위한 마케팅 전략으로 보고 있습니다. • 목요일에 게시된 긴 글에서 Anthropic은 자사 AI 모델인 Claude가 '재귀적 자기 개선(recursive self improvement)', 즉 스스로 더 낫고 강력한 버전을 만들 수 있는 능력을 향해 나아가고 있다는 진행 상황을 상세히 설명했습니다. • 재귀적 자기 개선은 AI 안전 연구원들이 우려하는 핵심 요소로, AI가 초지능(superintelligent)으로 진화하여 인류에게 광범위한 영향을 미칠 수 있는 결정적인 단계로 간주됩니다.
theguardian.com