Google schließt sich der engeren Auswahl der Anbieter von KI-Modellen des US-Verteidigungsministeriums an für geheime Missionen. Die von The Information gemeldete und von Reuters weitergegebene Vereinbarung ermöglicht es dem Pentagon, die KI von Google zu nutzeninsbesondere sein Gemini-Modell, für „ irgendein legitimer staatlicher Zweck „.

Welcher Art ist dieses umstrittene Abkommen?

Laut Vertrag kann das Pentagon Google-KI-Modelle in seinen geheimen Netzwerken verwendendie sensible Informationen verwalten, die von der Missionsplanung bis zur Waffenzielerfassung reichen. Google ist bestrebt, die US-Regierung auf Anfrage bei der Anpassung ihrer KI-Sicherheitseinstellungen und -Filter zu unterstützen.

Das Dokument enthält jedoch eine Klausel, die besagt: „ Das KI-System ist nicht für die inländische Massenüberwachung oder autonome Waffen (einschließlich Zielauswahl) ohne angemessene menschliche Aufsicht und Kontrolle vorgesehen und sollte auch nicht verwendet werden „.

Eine eingeschränkte Garantieda Google nicht das Recht hat, „ legitime operative Entscheidungen der Regierung kontrollieren oder ihr Veto einlegen „.

Wie werden Google-Mitarbeiter reagieren?

Die Unterzeichnung dieses Vertrags stellt für einige Mitarbeiter von Google eine Niederlage dar. Mehr als 600 Mitarbeiter, darunter viele DeepMind-Mitglieder, hatten einen offenen Brief an CEO Sundar Pichai unterzeichnet. Sie äußern ihren entschiedenen Widerstand, weil sie befürchten, dass ihre Werkzeuge eingesetzt werden. auf unmenschliche oder äußerst schädliche Weise „.

“ Die einzige Möglichkeit, sicherzustellen, dass Google nicht mit einem solchen Schaden in Verbindung gebracht wird, besteht darin, jegliche klassifizierte Arbeitsbelastung abzulehnen. „Diese interne Bewegung spiegelt die von 2018 wider, als eine ähnliche Mobilisierung Google dazu drängte, sich aus dem Maven-Projekt zurückzuziehendas KI zur Analyse von Drohnenbildern einsetzte.

Nach dem Kampf mit Anthropic

Anthropic wurde vom Pentagon ins Abseits gedrängt, nachdem es sich geweigert hatte, Schutzmaßnahmen aus seiner KI zu entfernen, die den Einsatz für autonome Waffen oder Überwachung verbieten.

Nach dieser Affäre versuchte das Pentagon, seine Lieferanten zu diversifizieren. OpenAI unterzeichnete schnell einen Vertrag, nun folgte Google.

Ein Google-Sprecher teilte Reuters lediglich mit, dass die Bereitstellung eines API-Zugriffs auf seine Geschäftsmodelle „ stellt einen verantwortungsvollen Ansatz zur Unterstützung der nationalen Sicherheit dar „, und bekräftigt gleichzeitig das Engagement des Unternehmens gegen autonome Waffen ohne menschliche Aufsicht.