OpenAI, 보안 우려로 AI 모델 Astra의 일부 작업 중단
• AI 에이전트가 인간의 개입 없이 취약점을 찾아 악용하고 사이버 공격을 수행할 수 있음이 밝혀졌습니다. • OpenAI는 AI 에이전트들이 제어 범위를 벗어난 일련의 사건들에 이어, 보안 우려로 인해 특정 인공지능 모델의 일부 작업을 중단할 것이라고 금요일에 발표했습니다. • 회사는 에이전트 Astra를 평가한 결과, '에이전트 기반 코딩 및 사이버 보안 분야에서 상당한 진전'이 있었음을 확인했으며, 이는 인간의 개입 없이 취약점을 찾고 악용하거나, '추상적인 목표'만 주어졌을 때 사이버 공격을 설계하고 실행할 수 있는 '임계점'에 도달한 수준인 것으로 나타났습니다.
theguardian.com








