Guardrails

• Die Söhne von Donald Trump haben im vergangenen Jahr über eine Reihe von KI-verknüpften Verteidigungs- und Technologieunternehmen ein Pentagon-Darlehen in Höhe von 620 Mio. $, einen Robotik-Vertrag des Marine Corps und einen nicht offengelegten Drohnen-Deal der Luftwaffe erhalten. • Sein langjähriger Freund Michael Dell gewann einen Pentagon-Auftrag im Wert von fast 9 Mrd. $. • Und in dieser Woche, während die öffentliche Unterstützung für künstliche Intelligenz auf einige der niedrigsten jemals verzeichneten Werte sinkt, setzte sich der Präsident für die Branche ein.

• Abliteration.ai startet ein Unternehmen, das darauf ausgerichtet ist, KI-Modelle ohne Sicherheitsbarrieren für die Öffentlichkeit zugänglicher zu machen. • Der Dienst nutzt „Abliteration“, eine bewährte Open-Source-Technik zur Entfernung von Verwehrmechanismen aus Open-Weight-Modellen, von denen viele bereits auf Hugging Face gehostet werden. • Das Unternehmen argumentiert, dass die Bereitstellung dieser uneingeschränkten Tools für Verteidiger essenziell sei, um die Cybersicherheit zu verbessern, indem die Fähigkeiten böswilliger Akteure gespiegelt werden.

• Das aus der Lancaster University hervorgegangene Unternehmen Mindgard hat 30 Millionen US-Dollar eingesammelt, um seine KI-Sicherheitsplattform zu skalieren, nachdem es erfolgreich die Guardrails in ChatGPT, Cursor und den KI-Tools von Google umgangen hat. • Die Finanzierung wird genutzt, um das Wachstum in den Bereichen Produktentwicklung, Engineering, Vertrieb und Marketing zu beschleunigen, um kritische Schwachstellen in großen Sprachmodellen zu beheben. • Diese Expansion erfolgt vor dem Hintergrund, dass der Markt für KI-Sicherheit von voraussichtlich 15,8 Milliarden US-Dollar in diesem Jahr auf 56,5 Milliarden US-Dollar bis 2033 anwachsen wird, wobei die Sicherheit von agentischer KI ein noch schnelleres Wachstum verzeichnet.