Guardrails

• 도널드 트럼프의 아들들은 일련의 AI 관련 국방 및 기술 벤처 기업을 통해 지난 1년 동안 6억 2천만 달러의 펜타곤 대출, 해병대 로봇 공학 계약, 그리고 공개되지 않은 공군 드론 계약을 따냈다. • 그의 오랜 친구인 Michael Dell은 약 90억 달러 규모의 펜타곤 계약을 수주했다. • 이번 주, 인공지능에 대한 대중의 지지가 역대 최저 수준으로 떨어지는 가운데, 대통령은 업계를 옹호하고 나섰다.

• Abliteration.ai는 안전 가드레일이 없는 AI 모델을 일반 대중이 더 쉽게 이용할 수 있도록 하는 사업을 시작합니다. • 이 서비스는 'abliteration'이라는 기법을 활용하며, 이는 Hugging Face에 이미 많이 호스팅되어 있는 오픈 웨이트 모델에서 거부 메커니즘을 제거하는 데 사용되는 오래된 오픈 소스 기술입니다. • 이 회사는 공격자의 능력을 그대로 반영함으로써 사이버 보안을 개선하기 위해 방어자들에게 이러한 제한 없는 도구를 제공하는 것이 필수적이라고 주장합니다.

• Lancaster University 스핀아웃 기업인 Mindgard가 ChatGPT, Cursor, Google AI 도구의 가드레일을 성공적으로 우회한 후, AI 보안 플랫폼 확장을 위해 3,000만 달러의 투자금을 유치했습니다. • 이번 자금은 거대 언어 모델(LLM)의 치명적인 취약점을 해결하기 위해 제품 개발, 엔지니어링, 영업 및 마케팅 전반의 성장을 가속화하는 데 사용될 예정입니다. • 이러한 확장은 AI 보안 시장이 올해 158억 달러에서 2033년까지 565억 달러로 성장할 것으로 예상되며, 특히 에이전틱 AI(agentic AI) 보안 분야가 더 빠르게 성장하고 있는 추세 속에 이루어졌습니다.