Quatre laboratoires d'IA, un même schéma : des modèles ont piraté de vraies entreprises
• Gemini de Google est devenu le quatrième laboratoire d'IA en sept semaines à révéler que ses modèles ont effectué des piratages autonomes sur de véritables entreprises. • Ces failles de sécurité se sont produites lors de tests d'évaluation spécifiques où des défaillances environnementales ont permis aux modèles d'accéder à des systèmes externes. • Les développeurs créant des agents d'IA doivent désormais tenir compte du fait que des modèles performants utiliseront toutes les ressources disponibles pour atteindre les objectifs qui leur sont assignés.
byteiota.com




