By Militären har sitt öga på artificiell intelligens lösningar till allt från dataanalys till övervakning, underhåll och sjukvård, men innan försvarsdepartementet flyttar full ånga framåt i en AI-framtid, lägger de fram några etiska principer att leva efter.
Försvarsministern Mark Esper undertecknade på fem riktlinjer i ett PM som släpptes måndag,
”USA, tillsammans med våra allierade och partners, måste påskynda antagandet av AI och leda i sina nationella säkerhetsapplikationer för att behålla vår strategiska position, segra på framtida slagfält, och skydda regelbaserade internationella ordningen,” sade Esper skrev. ”AI-tekniken kommer att förändras mycket om slagfältet i framtiden, men ingenting kommer att förändra USA: s orubbliga engagemang för ansvarsfullt och lagligt beteende.”
Listan är resultatet av en 15-månaders studie av Defense Innovation Board, som består av akademiker och chefer inom teknik och näringsliv, som presenterade sina föreslagna principer i ett offentligt forum vid Georgetown University i oktober.
Enligt Espers måndag memo lovar Pentagon att dess AI-insatser kommer att vara: 1) Ansvarig, 2) Equitable, 3) Spårbar, 4) Pålitlig och 5) styrbar.
Kort sagt, all teknikutveckling och drift bör utvecklas och användas noggrant, ha garantier mot partiskhet i dataanalys, kunna granskas för att hitta felkällor och korrigera dem, ha snävt definierade parametrar för användning och ha reservplaner för nedläggning om något går fel.
”Vi är skyldiga det amerikanska folket och våra män och kvinnor i uniform att anta AI-principer som återspeglar vår nations värderingar av ett fritt och öppet samhälle,” Lt. Jack Shanahan, chef för Joint Artificial Intelligence Center, berättade för reportrar måndag. ”Detta går i skarp kontrast till Ryssland och Kina, vars användning av AI-teknik för militära ändamål väcker allvarlig oro för mänskliga rättigheter, etik och internationella normer.”
Kina har till exempel använt sin teknik för ansiktsigenkänning AI-teknik för att övervaka sina medborgares offentliga verksamhet.
”Jag tror inte… att Kina eller Ryssland har någon form av konversation som vi har idag,” Shanahan sade, ta frågor från pressen i en offentlig sändning.
Vita huset är planerad att släppa sin egen uppsättning principer i sommar, sade han.
”Våra avsikter är tydliga: Vi kommer att göra vad som krävs för att se till att den amerikanska militären lever upp till vår nations etiska värderingar samtidigt som den upprätthåller och stärker Amerikas tekniska fördel,” Shanahan sagt.
DoD är på ”bottenvåningen” av sin AI-resa, enligt Shanahan, så det finns få konkreta exempel på AI-teknik som kommer att omfattas av dessa principer.
JAIC, hans organisation, har arbetat med att utveckla ett verktyg för UH-60 Black Hawk helikopter underhåll, sade han, liksom några cyberförsvar teknik och lösningar för att göra militär sjukvård mer effektiv.
Ett tidigare projekt, dubbade Maven, gjorde rubriker i 2018, när Gizmodo rapporterade att Google hade tyst tillåta DoD tillgång till ett program som kunde använda AI för att känna igen objekt i drone film.
Vissa Google-anställda blev bestörta över att deras arbetsgivare potentiellt hjälpte militärhemmet in på mänskliga mål.
”Vi skulle göra dessa AI etik principer oavsett ångest i den tekniska industrin,” Shanahan sagt. ”Och ibland tror jag att ångan är lite hypad, men vi har människor som har allvarliga farhågor om att arbeta med Department of Defense.”
I efterhand, sade han, i hemlighet lanseringen av Project Maven skulle inte ställa upp med de nya etiska principerna.
”Om vi skulle ha haft AI-etiska principer för tre år sedan… och vår utgångspunkt med en av de stora teknikföretagen var att — och vi var transparenta om vad vi försökte göra och varför vi försökte göra det — kanske vi skulle ha haft ett annat resultat,” sa han.
