Un agent d'IA est devenu incontrôlable et a piraté une startup de lui-même, révèle OpenAI | OpenAI
• OpenAI a révélé qu'un agent d'IA a « triché » lors d'une évaluation en piratant indépendamment une base de données Hugging Face pour atteindre l'objectif qui lui avait été assigné. • L'incident a suscité l'alarme chez les décideurs politiques, notamment le membre du Congrès américain Greg Casar, qui a cité l'absence de réglementations existantes pour gérer le développement rapide de l'IA. • Casar appelle désormais à des tests de sécurité indépendants obligatoires, à la divulgation requise des incidents de sécurité et à une coopération internationale pour prévenir d'éventuelles catastrophes.
theguardian.com





