발전을 늦추지 않으면서 더 안전한 AI를 구축해야 하는 이유 – Center for Data Innovation

• Experian은 소비자 절반 이상이 AI 에이전트가 자신을 대신해 신용 신청을 하는 것에 거부감이 없다는 연구 결과를 발표했습니다. • 'AI in Risk: The Rise of Agentic Commerce'라는 제목의 이번 연구는 EMEA 및 아시아 태평양 지역 13개 시장의 신용 활동 소비자 6,247명을 대상으로 설문 조사를 진행했습니다.

• 우르술라 폰데어라이엔 유럽연합 집행위원장은 오늘 연례 국정연설에서 AI가 의사를 대체하는 것이 아니라 지원하는 ‘유럽 방식’으로 의료 서비스에 통합되어야 한다고 밝혔습니다. • 현재 이 기술은 암 검진 혁신, 진단 개선 및 신약 개발 가속화를 위해 도입되고 있습니다.

• 우르줄라 폰데어라이엔 유럽위원회 위원장은 연례 국정연설(State of the Union)을 통해 프런티어 AI 모델 개발 속도를 늦출 것을 촉구했습니다. • 그녀는 이러한 파괴적 기술과 관련하여 영국, 캐나다 및 기타 뜻을 같이하는 국가들과 안전 협력을 강화하겠다고 약속했습니다.

• 우르줄라 폰데어라이엔 유럽연합 집행위원회 위원장은 AI 개발 속도와 감독 방안을 논의하기 위해 주요 AI 연구소들과의 회담을 계획하고 있습니다. • 이번 이니셔티브는 더 나은 규제와 안전 조치를 마련하기 위해 AI의 발전 속도를 늦추는 데 중점을 두고 있습니다.

• 우르줄라 폰데어라이엔 유럽연합 집행위원장은 최근 인공지능 개발의 일시 중단을 지지하며, 리스크와 새로운 EU 규제에 대해 논의하기 위해 프런티어 AI 랩들을 초청했다. • 폰데어라이엔 위원장은 차세대 모델들이 전례 없는 수준의 해킹을 가능하게 하며, 적대 세력에 의해 이용될 수 있다고 EU 입법가들에게 경고했다.

• Allianz Partners와 Waymo는 유럽 내 자율주행 차량의 보험, 보상 처리, 안전 연구 및 차량 회수 관리를 위한 전략적 파트너십을 체결했습니다. • 이번 협력은 독일을 시작으로 자율주행 기술의 단계적 상용 배포를 추진하는 Waymo의 계획을 지원합니다.

• Scania와 sennder의 합작법인인 JUNA는 2026년 9월 16일 기준 유럽 전역에서 운행 중인 전기 트럭 100대를 돌파했습니다. • 해당 기업은 2026년 말까지 전기 트럭 보유 대수를 약 150대까지 확대할 계획입니다.

• Moonshot AI, DeepSeek, Z.ai, Alibaba를 포함한 중국 기업들이 미국과의 인공지능 기술 격차를 빠르게 좁히고 있습니다. • 최근 Anthropic은 스타트업인 DeepSeek와 Moonshot이 자사의 Claude AI 모델로 사용자 요청을 라우팅하여 기능을 모방했다고 주장했습니다.

• OpenAI와 Anthropic을 포함한 AI 기업의 리더들은 최근 자신들의 기술이 잠재적으로 인류를 멸망시킬 수 있다고 경고했습니다. • Anthropic의 CEO Dario Amodei는 기술이 안전하게 제어될 수 있도록 주요 AI 기업들이 개발 속도를 늦춰야 한다고 촉구했습니다.

• OpenAI는 다른 거대 언어 모델 개발사들과 경쟁하며 2026년 기업 가치 9,650억 달러를 달성했습니다. • 샌프란시스코 기반의 이 연구 기업은 2015년 Sam Altman, Elon Musk, Greg Brockman 등 기술 애호가들에 의해 설립되었습니다.

• Trump 대통령은 프런티어 AI 개발 속도를 늦춰야 한다는 요구를 거부했으며, 현재의 혁신 속도를 유지하기 위해 Nvidia CEO Jensen Huang과 접촉했습니다. • EPA는 석탄 및 가스 발전소에 대한 Biden 시대의 온실가스 배출 제한 조치를 폐지했으며, 기관은 이 조치로 업계가 3,000억 달러 이상의 비용을 절감할 것으로 추산하고 있습니다.