Úsvit robotů zabijáků

Popisek: Film Terminátor možná není takové science fiction, jak by se mohlo zdát

Minulý týden OSN opět jednalo o smrtících autonomních zbraních nebo, jak je média nazývají, "robotech zabijácích". Kampaň "Stop killer robots" byla zahájena již v roce 2013.

Slovo robot pochází ze hry Karla Čapka R.U.R. a dnes je běžně užívaným výrazem po celém světě. V souvislosti s vývojem smrtících autonomních zbraní se slovo robot skloňuje i kvůli bezpečnostním rizikům a zcela seriózně o této hrozbě jednají představitelé Organizace spojených národů. Ostatně ve hře R.U.R. se nakonec umělá inteligence také obrátí proti lidem.

Profesor Toby Walsh strávil celý svůj život prací na umělé inteligenci a podle svých slov má důvod obávat se vývoje zabijáckých robotů. Zde je podle něj pět hlavních argumentů, proč si dát na sestrojení nových druhů zbraní pozor:

1. Roboti zabijáci se blíží

Kdo viděl slavný film Terminátor a věří mu, ví, že podobný robot bude sestrojen v roce 2029. Profesor Walsh ale varuje, že smrtící roboty lze sestrojit již dnes respektive během pár let, i když budou vypadat jinak než humanoidní Terminátor. Stačí si představit dron s raketovými střelami ovládaný nikoli lidmi, ale počítačovým programem. To je možné už dnes.

2. Budou závody ve zbrojení

Jakmile se jednou vypustí džin z lahev, začnou se jednotlivé státy předhánět ve zdokonalení původního prototypu. A výsledkem tohoto závodu ve zbrojení bude právě tak děsivá technologie, jakou diváci viděli v Terminátorovi. Podle Walshe byla v tomto ohledu předpověď Hollywoodu pravdivá. 

Moorův zákon předpokládá, že se počítačové čipy zdvojnásobí každý druhý rok. Podobný exponenciální růst podle profesora uvidíme pravděpodobně i u robotů zabijáků a navrhuje toto pravidlo nazývat "Schwarzeneggerův zákon", abychom si uvědomili, kde to skončí.

3. Roboti zabijáci se budou množit

Roboti zabijáci budou stále levnější. Stačí se podívat na podobný vývoj u dronů a na to, jak jejich cena klesla během posledních let. Také bude snadné je vyrobit, alespoň v hrubé podobě. Ani dnes není problém koupit si kvadrokoptéru, přidat smartphone a pistoli nebo malou bombu. Jediné, co je pak třeba, je sehnat někdo jako je profesor Walsh, aby vytvořil vhodný software. Armády je budou roboty milovat, alespoň zpočátku, protože stroje nepotřebují spát ani odpočívat, ani dlouhé a drahé školení nebo evakuaci z bitevního pole při poškození. Změní svůj názor, až bude pozdě a budou se muset sami bránit proti zabijáckým robotům.

4. Zabijáčtí roboti povraždí mnoho civilistů

V tomto ohledu jsou čísla neúprosná. Podle The Intercept během pětiměsíční americké vojenské operace proti Talibánu a Al-Káidě v Hindu Kush téměř devět z deseti lidí, kteří zemřeli v během útoků bezpilotních letounů, nebyli cílem Američanů. Statistiky zcela autonomních dronů budou pravděpodobně ještě horší. 

Zabijácké roboty se navíc jistě dostanou i do nepovolaných rukou, včetně lidí, kteří nebudou mít žádné výčitky svědomí při jejich použití proti civilistům. Jsou perfektní zbraní pro teroristy. Roboti navíc mají navíc tu výhodu, že nezatáhnou iniciátory války do bitevního pole, ale přemění boj v jakousi "videohru".

5. Roboti zabijáci se budou těžko regulovat

Tesla aktualizuje svůj elektromobil Model S jednoduchou aktualizací softwaru dodávaného přes internet. Podobně jednoduché aktualizace softwaru budou v budoucnu využitelné také u smrtících autonomních zbraní. Pak je téměř vyloučena jakákoli kontrola a regulace. 

V tomto ohledu byl v červenci letošního roku sepsán otevřený dopis, který vyzývá k zákazu autonomních smrtících zbraní. Podepsalo ho mnoho předních výzkumných pracovníků v oblasti umělé inteligence a robotiky, generální ředitelé společnosti Google DeepMind, Výzkumné laboratoře pro umělou inteligenci Facebook, Allen Institutu pro umělou inteligenci a další tisíce lidí z celého světa.

V listopadu se sejde OSN v Ženevě, aby se rozhodlo, zda udělat další krok směrem k zákazu smrtících robotů.

Zdroj: CNN