Cybersecurity Researchers

• Les fournisseurs d'IA mettent en place des garde-fous stricts et des étapes de vérification pour limiter l'accès aux modèles de pointe, afin d'empêcher leur utilisation malveillante. • Ces restrictions entravent les chercheurs légitimes en cybersécurité, qui font désormais face à des retards importants pour mener des recherches défensives. • Ce changement force les experts à s'éloigner des systèmes propriétaires pour s'appuyer davantage sur des modèles d'IA locaux et open-source.

• Les chercheurs en cybersécurité offensive rapportent que les garde-fous de l'IA mis en place par des entreprises comme OpenAI et Anthropic entravent leur capacité à trouver et à exploiter des vulnérabilités inconnues. • Paolo Stagno, CTO de Crowdfense, a critiqué ces mesures de sécurité, affirmant que les fournisseurs d'IA traitent les chercheurs professionnels en sécurité comme des « enfants qui ont besoin d'une baby-sitter ». • Cette tension met en évidence un conflit entre les politiques de sécurité de l'IA conçues pour empêcher les abus et les besoins des experts en sécurité légitimes qui requièrent des outils sans restrictions pour la recherche de vulnérabilités.