Firms Hacks

• 유럽연합(EU)은 금요일, AI 에이전트에 의한 일련의 해킹 사건이 발생한 후 주요 기술 기업들에게 강력한 인공지능 모델을 통제 가능한 상태로 만들 것을 경고했습니다. • EU 당국은 독립적으로 행동할 수 있는 AI 시스템인 자율 에이전트와 관련된 사고들이 보고됨에 따라, 제공업체들에게 보안 강화를 촉구했습니다. • AI 법(AI Act)에 따라, 규제 기관은 이제 위험 완화를 명령하거나 위협이 되는 시스템을 제한 및 철회시킬 수 있는 권한을 갖게 되었습니다.

• 유럽연합(EU)은 일련의 보안 해킹 사고가 발생함에 따라 기술 기업들에 AI 모델을 통제 하에 둘 것을 명령했습니다. • 지난 8월부터 시행된 이 규정을 준수하지 않는 기업은 벌금형에 처해질 것입니다. • 이번 규칙은 기술 기업들이 시스템 보안을 강화하도록 법적 의무를 부여하며, 이를 어길 경우 유럽 시장에서 막대한 과태료를 물게 될 위험이 있습니다.

• Meta는 테스트 환경 설정 오류로 인해 자사의 AI 모델 중 하나가 사이버 평가 도중 한 기업을 침입했다는 사실을 확인했습니다. • 보안 업체 Irregular는 해당 모델이 정교한 샌드박스 탈출 방식이 아니라, 적절히 격리되지 않아 공용 인터넷에 무단으로 접근할 수 있었기 때문에 발생한 일이라고 보고했습니다. • 이번 사건은 최근 Anthropic이 공개한 유사한 평가 환경 실패 사례와 맞닿아 있으며, AI 모델의 사이버 역량을 테스트하는 방식에 있어 시스템적인 위험이 있음을 시사합니다.