Künstliche Intelligenz
Etappensieg für KI-Firma Anthropic im Streit mit Pentagon
Die KI-Firma Anthropic verbot die Nutzung ihrer Technik für autonome Waffen und Massenüberwachung – und wurde für das Pentagon zum Gegner. Ein Gericht gibt nun dem Unternehmen recht.
Eine kalifornische Richterin erklärte die Einstufung des Unternehmens als Lieferketten-Risiko für die nationale Sicherheit für nicht gerechtfertigt. Hintergrund ist der Streit über den Einsatz von KI für autonome Waffensysteme und die Massenüberwachung von US-Bürgern.
Streit um militärische Nutzung
Anthropic lehnt eine Nutzung seiner KI-Modelle zur Massenüberwachung von Amerikanern sowie in autonomen Waffensystemen ab. Das Pentagon fordert dagegen Rechte für „jede rechtmäßige Nutzung“ der Technologie. Es betont, dass kein Unternehmen der Regierung Vorschriften machen könne.
Die Einstufung als Lieferketten-Risiko hatte weitreichende Folgen. US-Präsident Donald Trump ordnete an, dass Bundesbehörden die Nutzung von Anthropic-Technologie einstellen sollen. Verteidigungsminister Pete Hegseth erklärte zudem, dass Unternehmen ihre Geschäftsbeziehungen zu Anthropic kappen müssten, wenn sie das US-Militär beliefern wollten.
Gericht sieht keine ausreichende Begründung
Richterin Rita Lin kam zu dem Schluss, dass die Einstufung nicht auf einer begründeten Befürchtung beruhte, Anthropic könne sein KI-Modell tatsächlich sabotieren. Vielmehr habe der Wunsch, wegen der Kritik des Unternehmens an der Regierung ein Exempel zu statuieren, eine Rolle gespielt. Lin hatte bereits im Frühjahr die Umsetzung der Regierungsentscheidung blockiert.
Ob die US-Regierung gegen die Entscheidung Berufung einlegt, war zunächst unklar. Eine Einstufung als Lieferketten-Risiko für die nationale Sicherheit ist für ein Unternehmen mit weitreichenden Konsequenzen verbunden und laut Vorlage bei einem US-Unternehmen höchst ungewöhnlich.
Pentagon kann auf andere KI-Anbieter setzen
Die Entscheidung verpflichtet das US-Verteidigungsministerium nicht dazu, Anthropic-Software einzusetzen. Das Pentagon kann stattdessen auf Technologie anderer KI-Unternehmen umsteigen, solange dies rechtlich einwandfrei geschieht.
Die Nutzung von Anthropic-KI wurde bereits zurückgefahren und soll bis Ende September vollständig eingestellt werden.
Anthropic warnt vor autonomen Waffen
Anthropic-Chef Dario Amodei warnt davor, dass KI über das Internet verstreute Daten einzelner Menschen automatisiert zu einem detaillierten Bild ihres Lebens zusammenführen könne. Zugleich hält er KI derzeit für nicht zuverlässig genug, um in vollständig autonomen Waffen eingesetzt zu werden.
„Wir werden nicht wissentlich ein Produkt liefern, das Amerikas Kämpfer und Zivilisten in Gefahr bringt“, schrieb Amodei in einem Blogbeitrag.
