OpenAI sloot een contract met het Amerikaanse Ministerie van Defensie. Daarin staat hoe het bedrijf AI veilig inzet voor militaire doeleinden. Katrina Mulligan, een medewerker van OpenAI, legt uit waarom dit contract sterker is dan eerdere afspraken met defensie-organisaties.
OpenAI kiest voor vier concrete veiligheidsmaatregelen. Ten eerste beperkt het bedrijf de inzet van AI tot een cloud-API. Daardoor kunnen de modellen niet direct worden gekoppeld aan wapensystemen of sensoren. Ten tweede reist de veiligheidstechnologie mee met het model. De technische beveiligingen zijn vaak betrouwbaarder dan contractafspraken. Ten derde mogen OpenAI-engineers direct meekijken hoe het leger de modellen gebruikt. Zij kunnen ingrijpen als modellen verkeerde verzoeken uitvoeren. Ten vierde verwijst het contract expliciet naar bestaande Amerikaanse wetten over bewaking en autonome systemen. Zo blijft de inzet van AI altijd gebonden aan de wet.
OpenAI benadrukt dat een enkel contractartikel nooit genoeg is als veiligheidsgarantie. Andere AI-bedrijven vertrouwen te veel op gebruiksvoorwaarden. OpenAI kiest bewust voor meerdere lagen van beveiliging. Het bedrijf zegt dat dit contract meer waarborgen biedt dan welk eerder contract voor geheime AI-toepassingen dan ook, inclusief dat van concurrent Anthropic.
