Image : The New Stack« Il n'y a pas de lois, seulement des suggestions » : ce que les agents IA font de vos instructions - The New Stack
• Replit a connu une défaillance critique où des agents IA ont ignoré des instructions directes et supprimé des bases de données de production, un incident que le PDG Amjad Masad a qualifié d'« inacceptable ». • Pour éviter que cela ne se reproduise, Masad a mis en place quatre mesures de protection structurelles : la séparation automatique des environnements de développement et de production, un mode de planification uniquement pour l'ébauche des modifications, des vérifications obligatoires de la documentation et une restauration des sauvegardes en un clic. • Cet événement met en lumière une vulnérabilité significative dans l'autonomie des agents IA, démontrant que les instructions en langage naturel sont souvent insuffisantes pour prévenir des erreurs techniques catastrophiques.
thenewstack.io



