Američko Ministarstvo obrane već sad kreće sa zabranama upotrebe umjetne inteligencije za samostalno pokretanje nuklearnog oružja. S razlogom. Nismo mi još spremni za to.
Pretpostavimo da znamo do kojeg scenarija dolazi, ako mu dopustimo samo pristup tome. Pri tome moramo imati na umu, ako uopće neki od nas to mogu percipirati, umjetna inteligencija već dana napreduje u samorazvoju toliko da ni sami kreatori iste teško prate što sve radi.
Uslijed rastućih i apsolutno opravdanih strahova od AI-ja, a potaknuti mnoštvom potencijalnih prijetnji, skupina zastupnika obiju stranaka odlučila je to dodatno osigurati zakonom.
Kako je objavljeno početkom ovog tjedna, senator Edward Markey (D-MA) te zastupnici Ted Lieu (D-CA), Don Beyer (D-VA) i Ken Buck (R-CO) predstavili su Zakon o blokiranju nuklearnog lansiranja pomoću autonomnog AI-ja.
Ovaj zakon bi “zabranio upotrebu saveznih sredstava za lansiranje nuklearnog oružja pomoću autonomnog oružja koje nije podložno značajnoj ljudskoj kontroli“.
Zakon bi kodificirao postojeća pravila Pentagona za nuklearno naoružanje, koja od 2022. glase ovako:
“U svim slučajevima, Sjedinjene Države će zadržati čovjeka ‘u petlji’ za sve radnje ključne za obavještavanje i donošenje odluka predsjednika o pokretanju i prekidu upotrebe nuklearnog oružja.“
Prema istom zakonu, nijedan autonomni sustav bez značajnog ljudskog nadzora ne može pokrenuti nuklearno oružje ili “odabrati ili angažirati ciljeve” s namjerom pokretanja istog. “Nijedna odluka o lansiranju nuklearnog oružja ne bi trebala biti donesena od strane umjetne inteligencije“, stoji u tekstu.
Ako je to već zabranjeno, zašto predstaviti zakon?
Njegovi pokrovitelji napominju da je izvještaj Nacionalne sigurnosne komisije za umjetnu inteligenciju iz 2021. preporučio potvrđivanje zabrane autonomnog lansiranja nuklearnog oružja, ne samo kako bi se spriječilo unutar američke vlade, već i kako bi se potaknule slične obveze u Kini i Rusiji.
Objavljivanje zakona skreće pažnju na potencijalne opasnosti sadašnjih autonomnih sustava umjetne inteligencije, što je sve veća briga Kongresa i tehnološkog svijeta.
Ovim zakonom, zakonodavci žele istaknuti važnost ljudske kontrole nad kritičnim odlukama vezanim za nuklearno naoružanje.
U svijetu gdje umjetna inteligencija postaje sve naprednija i prisutnija, nužno je osigurati mjere predostrožnosti kako bi se izbjegle katastrofalne posljedice koje bi mogle proizaći iz autonomnih odluka AI-a.
Inicijativa pokazuje predanost SAD-a zaštiti globalne sigurnosti, a istovremeno potiče druge nuklearne sile da slijede njihov primjer i potvrde slične zabrane.
U konačnici, Zakon o blokiranju nuklearnog lansiranja pomoću autonomnog AI-ja ističe važnost transparentnosti i suradnje među nuklearnim silama u svijetu koji se suočava s rastućim izazovima umjetne inteligencije.