Anthropic

• 미국 기업 Anthropic이 AI 개발의 전 세계적인 '일시적 중단' 아이디어를 제시하며, 고도화된 AI의 위험성을 논의하기 위해 '정책 입안자'들을 소집하겠다고 발표했습니다. 일부 전문가들은 이를 자사 제품의 성능을 홍보하기 위한 마케팅 전략으로 보고 있습니다. • 목요일에 게시된 긴 글에서 Anthropic은 자사 AI 모델인 Claude가 '재귀적 자기 개선(recursive self improvement)', 즉 스스로 더 낫고 강력한 버전을 만들 수 있는 능력을 향해 나아가고 있다는 진행 상황을 상세히 설명했습니다. • 재귀적 자기 개선은 AI 안전 연구원들이 우려하는 핵심 요소로, AI가 초지능(superintelligent)으로 진화하여 인류에게 광범위한 영향을 미칠 수 있는 결정적인 단계로 간주됩니다.

• Anthropic은 화요일 Project Glasswing을 확대하여 15개국 이상의 약 150개 조직을 제한적 AI 보안 테스트 프로그램에 추가했다. • 회사는 자사의 Claude Mythos Preview 공격적 보안 모델이 4월 이후 10,000개 이상의 높음 또는 심각 수준의 취약점을 발견했으며, 이는 AI 지원 방어 도구의 빠른 발전을 보여준다고 밝혔다. • Anthropic은 유사한 Mythos급 모델이 6개월에서 12개월 내에 등장할 수 있다고 경고하며, 이는 프런티어 AI 능력과 광범위한 오용 위험 사이의 간격이 매우 짧음을 시사한다.

• 전문가들은 AI 기업이 바티칸과 관계를 맺는 것이 비판적 검토가 결여된 '기분 좋은' 담론을 형성할 위험이 있다고 말합니다. • Anthropic의 설립자는 왜 AI의 위험성을 경고하는 자리에서 교황 옆에 앉았을까요? • 교황 레오 14세는 교황 재임 후 첫 주요 서면 교시를 통해 인공지능의 문제점을 지적했습니다. 교황은 노동자 대체, 전쟁 가속화, 환경 착취 등 AI가 인류에 초래할 가장 우려스러운 위협들을 기술했습니다. 바티칸에서 열린 해당 교시 발표 기념식에 뜻밖의 초청 연사가 참석했는데, 바로 레오 교황이 그토록 우려하는 AI 붐의 주역 중 한 명인 Anthropic의 공동 설립자 Chris Olah였습니다.

• Anthropic은 2026년 5월 28일 650억 달러 규모의 투자 라운드를 확보했으며, 이에 따라 기업 가치는 9,650억 달러로 상승했습니다. 이는 해당 AI 스타트업이 잠재적인 상장을 앞두고 이뤄진 결과입니다. • 이번 시리즈 H 라운드는 Altimeter Capital, Dragoneer, Greenoaks, Sequoia Capital, Capital Group, Coatue, D1 Capital Partners가 공동 주도했으며, 주요 기관 및 전략적 투자자들이 참여했습니다. • 이번 거래는 밸류에이션, 컴퓨팅 비용, 상용화 일정에 대한 업계의 면밀한 검토가 이어지고 있음에도 불구하고, 프론티어 모델 기업들에 여전히 공격적으로 자본이 유입되고 있음을 보여줍니다.

• Jack Clark은 기술적 진보에 따른 '어지러운 발전 속도'와 사회적 '심오한 변화' 및 기술적 위험에 대해 설명했습니다. • Anthropic의 공동 창업자에 따르면, AI 시스템이 인간과 협력하여 12개월 이내에 노벨상 수상 수준의 발견을 하게 될 것이며, 2년 내에는 이족 보행 로봇이 숙련공들을 돕게 될 것이라고 합니다. • Jack Clark은 기술의 "어지러울 정도의 진보"를 언급하며, 18개월 이내에 AI만으로 운영되는 기업들이 수백만 달러의 수익을 창출하고, 2028년 말까지 AI 시스템이 스스로 후속 모델을 설계할 수 있게 될 것이라는 일련의 예측을 내놓았습니다.

• 해당 스타트업은 해커들에 의해 악용될 수 있다는 우려로 인해 Claude Mythos AI 모델의 공개를 거부했습니다. • Anthropic은 전문가들에게 경고를 불러일으킨 Claude Mythos AI 모델의 사이버 방어 위협 가능성과 그 영향에 대해 글로벌 금융 감시 기구에 브리핑할 예정입니다. • 이 미국 스타트업은 영국 중앙은행 총재 Andrew Bailey가 의장을 맡고 있는 금융안정위원회(Financial Stability Board)와 Mythos에 대해 논의할 계획입니다.

• Anthropic PBC는 화요일, Amazon, Apple, Microsoft, Cisco 등의 기업이 정식 출시 전 자사의 미공개 AI 모델인 Mythos AI를 통해 제품의 결함을 식별할 수 있도록 하는 'Project Glasswing'을 발표했습니다. • 이번 이니셔티브는 참여 기업들이 발견한 사항을 업계 동료들과 공유함으로써, 고도화된 AI 시스템으로 인한 잠재적인 사이버 공격 위험을 완화하는 것을 목표로 합니다. • 이는 강력한 AI 모델의 사이버 리스크에 대한 업계의 주의가 높아지고 있음을 반영하며, 주요 기술 기업들 간의 선제적인 협력을 보여줍니다.