Cybersecurity Researchers

• KI-Anbieter implementieren strenge Schutzmaßnahmen und Verifizierungsprozesse, um den Zugang zu Frontier-Modellen zu begrenzen und so einen Missbrauch durch böswillige Akteure zu verhindern. • Diese Einschränkungen behindern legitime Cybersecurity-Forscher, die nun mit erheblichen Verzögerungen bei der Durchführung defensiver Forschung konfrontiert sind. • Diese Entwicklung zwingt Experten dazu, sich von proprietären Systemen abzuwenden und verstärkt auf lokale Open-Source-KI-Modelle zu setzen.

• Offensive Cybersecurity-Forscher berichten, dass KI-Leitplanken von Unternehmen wie OpenAI und Anthropic ihre Fähigkeit behindern, unbekannte Schwachstellen zu finden und auszunutzen. • Paolo Stagno, CTO von Crowdfense, kritisierte diese Sicherheitsmaßnahmen und argumentierte, dass KI-Anbieter professionelle Sicherheitsforscher wie „Kinder behandeln, die beaufsichtigt werden müssen“. • Diese Spannung verdeutlicht einen Konflikt zwischen KI-Sicherheitsrichtlinien, die Missbrauch verhindern sollen, und den Bedürfnissen legitimer Sicherheitsexperten, die für die Schwachstellenforschung uneingeschränkte Werkzeuge benötigen.