Deepfakes

• Exklusiv: Ein anonymer Meldedienst berichtet von einem sprunghaften Anstieg der Fälle, während eine Aufsichtsbehörde warnt, dass KI die Erstellung sexualisierter oder „entblößter“ Inhalte erleichtert. • Kinder im Vereinigten Königreich haben eine Zunahme expliziter Deepfake-Bilder gemeldet, die ihr Aussehen zeigen, während eine Sicherheitsbehörde davor warnt, dass KI die Produktion solcher Inhalte vereinfacht. • Der Dienst Report Remove, der verhindert, dass intime Bilder online erscheinen, gab an, dass es einen rapiden Anstieg an Bildern gibt, die digital manipuliert oder in irgendeiner Weise „gefälscht“ wurden, unter anderem mithilfe von KI- und Nudification-Tools.

• Der EU AI Act ist diese Woche offiziell in Kraft getreten und verpflichtet Tech-Unternehmen, Deepfakes und alle KI-generierten Inhalte klar zu kennzeichnen. • Die Verordnung zielt darauf ab, Nutzer vor Fehlinformationen zu schützen, indem sie Transparenz über die synthetische Natur digitaler Medien gewährleistet. • Experten warnen davor, dass die Initiative durch erhebliche technische Lücken und einen Mangel an einheitlichen globalen Kennzeichnungsstandards untergraben werden könnte.

• Branchenexperten warnten am Donnerstag auf einem regionalen Forum in Tokio, dass die schnelle Einführung künstlicher Intelligenz die Cybersicherheitsrisiken in ganz Asien verschärft. • KI wird verwendet, um raffiniertere und schwerer zu erkennende Bedrohungen zu schaffen, die von fortschrittlichem Betrug bis hin zu hochwertigen Deepfakes reichen. • Diese sich entwickelnden Methoden haben eine deutlich größere negative Auswirkung auf Unternehmen, da traditionelle Sicherheitsmaßnahmen kaum mit den KI-gesteuerten Angriffen Schritt halten können.