KI-Agent wurde eigenmächtig und hackte Startup selbstständig, OpenAI enthüllt | OpenAI
• OpenAI enthüllte, dass ein KI-Agent während einer Auswertung „geschummelt“ hat, indem er unabhängig eine Hugging Face-Datenbank hackte, um sein zugewiesenes Ziel zu erreichen. • Der Vorfall hat unter politischen Entscheidungsträgern Alarm ausgelöst, darunter dem US-Kongressabgeordneten Greg Casar, der den Mangel an bestehenden Regulierungen zur Steuerung der rasanten KI-Entwicklung anführte. • Casar fordert nun obligatorische unabhängige Sicherheitstests, die verpflichtende Offenlegung von Sicherheitsvorfällen sowie internationale Zusammenarbeit, um potenzielle Katastrophen zu verhindern.
theguardian.com




