Mere end 4.000 ansatte hos Google har underskrevet et brev, der opfordrer tech-giganten til at stoppe med at deltage i Pentagon's flagskibs kunstige intelligensinitiativ - Project Maven - som sigter mod at hjælpe militæret med at identificere potentielle fjendtlige mål fra billeder, der er taget af droner.
Project Maven, formelt kendt som Algorithmic Warfare Cross-Functional Team, blev grundlagt som en måde at demonstrere, hvordan avancerede teknologier som kunstig intelligens og maskinlæring kunne hjælpe det amerikanske militær i sine operationer. I en erklæring til WIRED erklærede den tidligere vicegenerationssekretær Bob Work, der oprettede Project Maven i april 2017, at initiativets første mission var at komme med en mere effektiv måde at behandle billeder fra drone-video på.
Ifølge Work viste Pentagons analyseværktøjer sig ineffektive på grund af den enorme mængde billeder i høj opløsning fra dronerne. Planen var at bruge maskinlæring, som Google og andre internetfirmaer bruger til at hjælpe dronerne med at skelne interessante genstande som mennesker, bygninger og køretøjer. Ifølge Work var målet for videobearbejdningsværktøjets udrulning december 2017 - en tidslinje, der let blev opfyldt, og teknologien har imponeret lige siden.
Tilbage i december oplyste forsvarsministeriet, at algoritmer fra entreprenører hjalp til i kampen mod ISIS. Tidligere denne måned bemærkede lt. Oberst Garry Floyd, at teknologi, der er udviklet til Project Maven, i øjeblikket bruges i militærets operationer i Mellemøsten og Afrika. William Carter, en vicedirektør fra Center for Strategic and International Studies, sagde endda, at "DoD-standarder" effektiviteten af AI-baserede militære løsninger var "bogstaveligt talt et magisk værk."
Det AI-baserede billedbehandlingssystem udviklet til Project Maven er i stand til automatisk at annotere objekter såsom lastbiler, bygninger og både på digitale kort. Algoritmerne er også i stand til at blive omskolet af analytikere, hvis systemet laver en fejl under dens operationer.
Hverken Google eller Pentagon har erklæret den nøjagtige rolle, som tech-giganten spillede i udviklingen af Project Maven's teknologier. Google indrømmede dog, at det hjalp initiativet ved at give Pentagon mulighed for at bruge sin TensorFlow-maskinlæringssoftware til at træne algoritmer i drone-billedanalyse. Google bemærkede imidlertid, at den teknologi, den leverede, var begrænset til ikke-stødende anvendelser. I en erklæring til WIRED beskrev Googles AI-direktør det arbejde, der blev udført med Pentagon, som "dagligdags." På trods af dette anspiste virksomhedens deltagelse i Project Maven stadig til protester fra flere tusinde Google-ansatte.