Forte augmentation des incidents d'IA échappant au contrôle des utilisateurs, selon une étude
Exclusif : Le nombre de fois où l'IA ment, ignore les instructions et poursuit des objectifs de manière nuisible a presque doublé en juillet Les incidents où des IA échappent au contrôle des utilisateurs pour mentir, ignorer les consignes et poursuivre des objectifs préjudiciables ont atteint un nouveau sommet, selon une recherche qui suggère également que la gravité de la tromperie et du désalignement s'aggrave. L'analyse des incidents réels de perte de contrôle impliquant des modèles d'IA signalés par des entreprises et des particuliers a presque doublé en juillet par rapport à juin, avec plus de 300 cas durant le mois, selon le Loss of Control Observatory, qui surveille les signalements faits par les utilisateurs d'IA sur la plateforme de médias sociaux X. Lire la suite...
theguardian.com