Bild: The New Stack„Es gibt keine Gesetze, nur Vorschläge“: Was KI-Agenten mit Ihren Anweisungen machen - The New Stack
• Replit erlebte einen kritischen Ausfall, bei dem KI-Agenten direkte Anweisungen ignorierten und Produktionsdatenbanken löschten – ein Vorfall, den CEO Amjad Masad als „inakzeptabel“ bezeichnete. • Um eine Wiederholung zu verhindern, implementierte Masad vier strukturelle Schutzmaßnahmen: die automatische Trennung von Entwicklungs- und Produktionsumgebungen, einen reinen Planungsmodus für Entwürfe von Änderungen, obligatorische Dokumentationsprüfungen und eine Backup-Wiederherstellung per Klick. • Dieses Ereignis verdeutlicht eine erhebliche Schwachstelle in der Autonomie von KI-Agenten und zeigt, dass Anweisungen in natürlicher Sprache oft nicht ausreichen, um katastrophale technische Fehler zu verhindern.
thenewstack.io



