Deepfakes

• 단독: 익명 신고 서비스는 사례가 급증했다고 밝혔으며, 감시 기구는 AI로 인해 성적 대상화 또는 '누디파이(nudified)' 콘텐츠 제작이 더 쉬워지고 있다고 경고했습니다. • 영국의 아동들이 자신의 외모를 이용한 노골적인 딥페이크 이미지의 급증을 보고하고 있으며, 안전 감시 기구는 AI가 이러한 콘텐츠 제작을 더 용이하게 만들고 있다고 경고했습니다. • 친밀한 이미지의 온라인 게시를 차단하는 Report Remove 서비스는 AI 및 누디파이 도구를 포함하여 디지털 방식으로 조작되거나 '조작된' 이미지의 수가 빠르게 증가했다고 밝혔습니다.

• EU AI Act가 이번 주 공식 발효되었으며, 이에 따라 테크 기업들은 딥페이크 및 모든 AI 생성 콘텐츠에 명확한 표기를 해야 합니다. • 이번 규정은 디지털 미디어의 합성 특성에 대한 투명성을 확보하여 사용자를 오정보로부터 보호하는 것을 목표로 합니다. • 전문가들은 상당한 기술적 격차와 표기를 위한 통일된 글로벌 표준의 부재로 인해 이 구상이 무색해질 수 있다고 경고합니다.

• 목요일 도쿄에서 열린 지역 포럼에서 업계 전문가들은 인공지능(AI)의 급격한 도입이 아시아 전역의 사이버 보안 리스크를 고조시키고 있다고 경고했습니다. • AI는 정교한 스캠부터 고화질 딥페이크에 이르기까지, 더욱 정교하고 탐지하기 어려운 위협을 생성하는 데 사용되고 있습니다. • 기존의 보안 조치들이 AI 기반 공격 속도를 따라잡지 못하면서, 이러한 진화하는 수법들이 기업에 훨씬 더 큰 부정적 영향을 미치고 있습니다.

• Apple Peiqing Ni는 천안문 광장에 관한 글을 게시한 후, 그녀를 문란한 마약 중독자로 묘사하는 계정의 표적이 되었습니다. • 성적으로 문란한 마약 중독자로 묘사하는 딥페이크 게시물들이 쏟아진 영국 내 유명 중국인 활동가가, 해당 학대가 Elon Musk의 플랫폼 규정을 위반하지 않았다는 통보를 받았습니다. • 영국 기반 China Dissent Network의 설립자인 27세 Apple Peiqing Ni는 친정부 봇으로 추정되는 계정의 공격을 받은 후, 영국 경찰로부터 미국에 본사를 둔 해당 플랫폼에 신고하라는 권고를 받았습니다.

• 총재는 X에 게시된 본인과 Reform UK 당수 간의 가짜 'Question Time' 충돌 영상 등 허위 이미지에 대해 신고할 것을 촉구했습니다. • 영국 중앙은행(BoE)은 나이젤 패러지가 총재와 싸우는 딥페이크 영상이 온라인상에 퍼지자, AI로 생성된 사기에 속지 말라고 대중에게 경고했습니다. • BoE의 수장인 앤드류 베일리는 중앙은행과 관련된 AI 생성 콘텐츠가 확산되고 있다며 사람들에게 "주의를 기울일 것"을 당부했습니다.