Deepfakes

• 獨家報導：匿名舉報服務表示相關案例激增，監管機構則指出 AI 使色情或「去衣化」內容更容易製作。 • 英國兒童報告其肖像被用於製作顯露色情 deepfake 圖像的情況大幅增加，安全監管機構警告 AI 正使此類內容的產出變得更加簡單。 • 旨在阻止親密圖像在網上傳播的 Report Remove 服務表示，經過數位操縱或以某種方式「偽造」的圖像（包括使用 AI 和去衣化工具）正迅速增加。

• 歐盟 AI Act 本週正式生效，要求科技公司必須清楚標記深偽內容及所有 AI 生成之內容。 • 該法規旨在透過確保數位媒體合成性質的透明度，保護使用者免於受到錯誤資訊的影響。 • 專家警告，由於顯著的技術差距以及缺乏統一的全球標記標準，該倡議可能會被削弱。

• 產業專家週四在東京舉行的一場區域論壇上警告，人工智慧（AI）的快速普及正導致整個亞洲的網路安全風險升級。 • AI 正被用於創造更複雜且更難被偵測的威脅，具體範圍從進階詐騙到高品質的 deepfakes（深偽技術）。 • 由於傳統的安全措施難以跟上 AI 驅動的攻擊速度，這些不斷演進的手段正對企業造成顯著更大的負面影響。

• Apple Peiqing Ni 在發文提及天安門廣場後，被某帳號以深偽技術將其描繪成私生活混亂的藥癮者而成為攻擊目標。 • 一名在英國具有影響力的華人活動人士在 X 上遭到大量深偽貼文轟炸，將其塑造成私生活混亂的藥癮者，但該平台（由 Elon Musk 領導）告知其此類虐待行為並未違反規則。 • 27 歲的 Apple Peiqing Ni 是總部位於英國的 China Dissent Network 創始人。在被她認為是親政權的機器人帳號盯上後，英國警方建議她向這家總部位於美國的平台提出投訴。

• 央行行長促請大眾舉報在 X 上發布的偽造圖像，該內容將他與 Reform UK 黨魁在偽造的《Question Time》節目中發生衝突。 • 英國央行（Bank of England）在 Nigel Farage 與其行長打架的深偽（deepfake）影片在網上傳播後，警告大公眾切勿上當 AI 生成的詐騙。 • 英國央行行長 Andrew Bailey 表示，與央行相關的 AI 生成內容正在傳播，並敦促人們保持「警覺」。