Zatiaľ čo premiér Dmitrij Medvedev a Arkadij Volozh viezli bezpilotné Yandex.Taxi okolo Skolkova, vojenskí inžinieri zisťovali, ako prispôsobiť technológie bezpilotných vozidiel na výrobu nových zbraní.

V skutočnosti technológia nie je taká, ako sa zdá. Problémom celej technologickej evolúcie je, že hranica medzi komerčnými robotmi „na celý život“ a vojenskými zabijakmi je neuveriteľne tenká a jej prekročenie nestojí nič. Zatiaľ si vyberajú trasu a zajtra si budú môcť vybrať, ktorý cieľ zničia.

Nie je to prvýkrát v histórii, čo technologický pokrok spochybnil samotnú existenciu ľudstva: po prvé, vedci vytvorili chemické, biologické a jadrová zbraň, teraz - „autonómne zbrane“, to znamená roboty. Jediný rozdiel je v tom, že doteraz boli zbrane považované za nehumánne." masová deštrukcia- teda nevyberať si, koho zabiť. Dnes sa perspektíva zmenila: zbraň, ktorá bude zabíjať s osobitnou diskrimináciou a vyberá si obete podľa vlastného vkusu, sa zdá byť oveľa nemorálnejšia. A ak by nejakú bojovnú mocnosť zastavil fakt, že ak by použila biologické zbrane, trpeli by všetci naokolo, tak s robotmi je všetko komplikovanejšie – dajú sa naprogramovať na ničenie špecifickej skupiny objektov.

V roku 1942, keď americký spisovateľ Isaac Asimov sformuloval Tri zákony robotiky, sa to všetko zdalo vzrušujúce, ale úplne nereálne. Tieto zákony stanovovali, že robot nemôže a nemal by ublížiť alebo zabiť človeka. A musia bez pochýb poslúchať vôľu človeka, okrem prípadov, keď by jeho príkazy odporovali vyššie uvedenému imperatívu. Teraz, keď sa autonómne zbrane stali realitou a môžu padnúť do rúk teroristov, ukazuje sa, že programátori akosi zabudli vložiť Asimovove zákony do svojho softvéru. To znamená, že roboty môžu predstavovať nebezpečenstvo a žiadne humánne zákony alebo zásady ich nemôžu zastaviť.

Raketa vyvinutá Pentagonom detekuje ciele sama vďaka softvér umelá inteligencia (AI) identifikuje ciele pre britskú armádu a Rusko zobrazuje bezpilotné tanky. Rozvíjať robotiku a autonómnosť vojenskej techniky V rôznych krajinách Míňa sa obrovské množstvo peňazí, hoci len málokto to chce vidieť v praxi. Ako väčšina chemikov a biológov nemajú záujem na tom, aby sa ich objavy v konečnom dôsledku použili na vytvorenie chemických resp biologické zbrane a väčšina výskumníkov AI sa nezaujíma o vytváranie zbraní na jej základe, pretože potom vážne verejná odozva poškodí ich výskumné programy.

Vo svojom príhovore na úvod Valného zhromaždenia Organizácia spojených národov v New Yorku 25. septembra Generálny tajomník Antonio Guterres označil technológiu AI za „globálne riziko“ spolu s klimatickými zmenami a rastúcou nerovnosťou príjmov: „Nazvime veci pravými menami,“ povedal. "Vyhliadka, že stroje budú určovať, kto žije, je nechutná." Guterres je pravdepodobne jediný, kto môže naliehať na vojenské oddelenia, aby sa spamätali: predtým riešil konflikty v Líbyi, Jemene a Sýrii a pôsobil ako vysoký komisár pre utečencov.

Problém je, že s ďalším vývojom technológií sa budú môcť roboty rozhodnúť, koho zabijú. A ak niektoré krajiny majú takéto technológie a iné nie, tak nekompromisné androidy a drony predurčia výsledok potenciálnej bitky. To všetko zároveň odporuje všetkým Asimovovým zákonom. Alarmisti môžu mať vážne obavy, že sa samoučiaca sa neurónová sieť vymkne kontrole a zabije nielen nepriateľa, ale celkovo všetkých ľudí. Vyhliadky aj na úplne poslušné stroje zabijakov však nie sú vôbec svetlé.

Najviac aktívna práca v teréne umela inteligencia a strojové učenie sa dnes nevykonáva v armáde, ale v civilnej sfére – na univerzitách a vo firmách ako Google a Facebook. Ale veľká časť tejto technológie môže byť prispôsobená na vojenské účely. To znamená, že prípadný zákaz výskumu v tejto oblasti ovplyvní aj civilný vývoj.

Začiatkom októbra zaslala americká mimovládna organizácia Stop Killer Robots Campaign list Organizácii Spojených národov, v ktorom žiadala, aby bol na medzinárodnej legislatívnej úrovni obmedzený vývoj autonómnych zbraní. OSN dala jasne najavo, že podporuje túto iniciatívu a v auguste 2017 sa k nej pridal Elon Musk a jej účastníci. Medzinárodná konferencia Organizácia Spojených národov pre umelú inteligenciu (IJCAI). Ale v skutočnosti sú Spojené štáty a Rusko proti takýmto obmedzeniam.

V auguste sa v Ženeve uskutočnilo posledné stretnutie 70 krajín, ktoré sú zmluvnými stranami Dohovoru o určitých konvenčných zbraniach (neľudských zbraniach). Diplomati neboli schopní dosiahnuť konsenzus o tom, ako by sa dala implementovať globálna politika AI. Niektoré krajiny (Argentína, Rakúsko, Brazília, Čile, Čína, Egypt a Mexiko) vyjadrili podporu legislatívnemu zákazu vývoja robotických zbraní, Francúzsko a Nemecko navrhli zaviesť dobrovoľný systém takýchto obmedzení, ale Rusko, USA, Južná Kórea a Izrael vyhlásili, že nemajú v úmysle obmedziť výskum a vývoj v tejto oblasti. V septembri Federica Mogherini, vysoká predstaviteľka Európskej únie zahraničná politika a bezpečnostnej politiky, uviedol, že zbrane „ovplyvňujú naše kolektívnej bezpečnosti„Rozhodnutie o otázke života a smrti musí teda v každom prípade zostať v rukách človeka.

Studená vojna 2018

Americkí predstavitelia obrany sa domnievajú, že autonómne zbrane sú potrebné na to, aby si Spojené štáty udržali vojenskú prevahu nad Čínou a Ruskom, ktoré tiež investujú do podobného výskumu. Vo februári 2018 Donald Trump požadoval 686 miliárd dolárov na obranu krajiny v budúcom fiškálnom roku. Tieto náklady boli vždy dosť vysoké a znížili sa až za predchádzajúceho prezidenta Baracka Obamu. Trump však – neoriginálne – argumentoval potrebou ich navýšenia technologickou konkurenciou s Ruskom a Čínou. V roku 2016 rozpočet Pentagonu vyčlenil 18 miliárd dolárov na vývoj autonómnych zbraní počas troch rokov. To nie je veľa, no tu treba brať do úvahy jeden veľmi dôležitý faktor.

Väčšina vývoja AI v USA prebieha obchodné spoločnosti, takže sú široko dostupné a môžu sa komerčne predávať do iných krajín. Pentagon nemá monopol na pokročilé technológie strojového učenia. Americký obranný priemysel už nevykonáva svoj vlastný výskum rovnakým spôsobom ako predtým studená vojna“, ale využíva vývoj startupov zo Silicon Valley, ako aj z Európy a Ázie. V Rusku a Číne je zároveň takýto výskum pod prísnou kontrolou rezortov obrany, čo na jednej strane obmedzuje prílev nových nápadov a rozvoj technológií, no na druhej strane garantuje vládne financovanie a ochranu.

Podľa odborníkov z The New York Times vojenské výdavky na autonómne vojenské vozidlá a bezpilotné lietadlá lietadlá v nasledujúcom desaťročí presiahne 120 miliárd dolárov. To znamená, že diskusia nakoniec nevedie k tomu, či vytvoriť autonómne zbrane, ale do akej miery im dať nezávislosť.

Dnes úplne autonómne zbrane neexistujú, ale podpredseda Zboru náčelníkov štábov generál Paul J. Selva z vzdušných síl už v roku 2016 povedal, že do 10 rokov budú mať Spojené štáty technológiu na výrobu zbraní, ktoré môžu nezávisle rozhodovať o tom, kto a kedy zabíjať. A zatiaľ čo krajiny diskutujú o tom, či obmedziť AI alebo nie, môže byť príliš neskoro.

Spoločnosť Clearpath Robotics založili pred šiestimi rokmi traja priatelia z vysokej školy, ktorí zdieľali vášeň pre výrobu vecí. 80 špecialistov spoločnosti testuje roboty pre drsný terén, ako je Husky, štvorkolesový robot, ktorý používa ministerstvo obrany USA. Vyrábajú tiež drony a dokonca postavili robotickú loď s názvom Kingfisher. Jednu vec však nikdy nepostavia s istotou: robota, ktorý dokáže zabíjať.

Clearpath je prvou a zatiaľ jedinou robotickou spoločnosťou, ktorá sa zaviazala, že nevytvorí vražedných robotov. Rozhodnutie urobil minulý rok spoluzakladateľ a technický riaditeľ spoločnosti Ryan Garipay a v skutočnosti prilákal do spoločnosti odborníkov, ktorým sa páčil jedinečný etický postoj Clearpath. Etika robotických spoločností V poslednej dobe prichádza do popredia. Vidíte, sme jednou nohou v budúcnosti, kde existujú roboti zabijaci. A my na ne ešte nie sme pripravení.

Samozrejme, je toho ešte viac dlhá cesta. Kórejské systémy Dodam napríklad stavajú autonómnu robotickú vežu s názvom Super aEgis II. Využíva termovízne kamery a laserové diaľkomery na identifikáciu a útok na ciele na vzdialenosť až 3 kilometrov. USA údajne tiež experimentujú s autonómnymi raketovými systémami.

Dva kroky od Terminátorov

Vojenské bezpilotné lietadlá ako Predator v súčasnosti pilotujú ľudia, ale Garipay hovorí, že sa čoskoro stanú plne automatickými a autonómnymi. A toto ho znepokojuje. Veľmi. "Smrteľný autonómne systémy zbrane môžu teraz schádzať z montážnej linky. Ale smrtiace zbraňové systémy, ktoré budú vyrobené v súlade s etickými normami, nie sú ani v plánoch.“

Pre Garipay je problém medzinárodné práva. Vo vojne vždy nastanú situácie, v ktorých sa použitie sily javí ako nevyhnutné, no môže ohroziť aj nevinných okoloidúcich. Ako vytvoriť zabijáckych robotov, ktorí budú robiť správne rozhodnutia v každej situácii? Ako môžeme sami určiť, aké by malo byť správne rozhodnutie?

Podobné problémy už vidíme na príklade autonómnej dopravy. Povedzme, že pes prebehne cez cestu. Malo by robotické auto uhnúť, aby nezrazilo psa, ale ohrozilo svojich pasažierov? Čo ak to nie je pes, ale dieťa? Alebo autobus? Teraz si predstavte vojnovú zónu.

„Nevieme sa dohodnúť na tom, ako napísať manuál pre takéto auto,“ hovorí Garipay. "A teraz tiež chceme prejsť na systém, ktorý by sa mal nezávisle rozhodnúť, či použije smrtiacu silu alebo nie."

Vyrábajte skvelé veci, nie zbrane

Peter Asaro strávil posledné roky lobovaním za zákaz zabijackych robotov Medzinárodná komunita, ktorý je zakladateľom Medzinárodného výboru pre kontrolu robotických armád. Verí, že nastal čas na „jasný medzinárodný zákaz ich vývoja a používania“. Hovorí, že to umožní spoločnostiam ako Clearpath pokračovať vo výrobe skvelých vecí „bez obáv, že ich produkty môžu byť použité na porušovanie ľudských práv a ohrozovanie civilistov“.

Autonómne rakety sú pre armádu zaujímavé, pretože riešia taktický problém. Keď drony diaľkové ovládanie, napríklad práca v bojových podmienkach, nepriateľ často zasekáva senzory resp sieťové pripojenie aby ľudský operátor nemohol vidieť, čo sa deje, ani ovládať dron.

Garipay hovorí, že namiesto vývoja rakiet alebo bezpilotných lietadiel, ktoré sa môžu nezávisle rozhodnúť, na ktorý cieľ zaútočia, by armáda mala míňať peniaze na zlepšenie senzorov a technológie proti rušeniu.

„Prečo nezoberieme investície, ktoré by ľudia chceli vynaložiť na vytvorenie autonómnych zabijakových robotov, a nevložíme ich do zefektívnenia existujúcich technológií? - on hovorí. "Ak stanovíme výzvu a prekonáme túto prekážku, môžeme zabezpečiť, aby táto technológia fungovala v prospech ľudí, nielen armády."

V poslednom čase sú čoraz častejšie aj rozhovory o nebezpečenstvách umelej inteligencie. Elon Musk sa obáva, že umelá inteligencia na úteku môže zničiť život, ako ho poznáme. Minulý mesiac Musk venoval 10 miliónov dolárov na výskum umelej inteligencie. Jednou z veľkých otázok o tom, ako AI ovplyvní náš svet, je to, ako sa spojí s robotikou. Niektorí, ako napríklad výskumník z Baidu Andrew Ng, sa obávajú, že prichádzajúca revolúcia AI vezme ľuďom prácu. Iní ako Garipay sa obávajú, že by im to mohlo vziať život.

Garipay dúfa, že jeho kolegovia vedci a konštruktéri strojov budú premýšľať o tom, čo robia. Preto sa Clearpath Robotics postavila na stranu ľudí. "Aj keď my ako spoločnosť na to nemôžeme dať 10 miliónov dolárov, môžeme na to dať svoju reputáciu."

Dmitrij Melkin a Pavel a Boris Lonkinovi nemali žiadne otázky o tom, koho vziať do tímu, aby sa zúčastnili bitiek robotov. Chalani sa poznali z Baumanky, potom spolu montovali a inštalovali elektrárne na solárne poháňané. Jedného dňa Dmitrij uvidel inzerát na robotickú súťaž a prihlásil sa. Priatelia iniciatívu podporili a o mesiac neskôr stál v garáži prvý bojový robot tímu Solarbot Brontosaurus.

Prvá robota je hrudkovitá

Brontosaurus vážil celé centy a ako jeho tvorcovia teraz priznávajú, nebol ani spoľahlivý, ani dômyselný. konštruktívne riešenia. Niet sa čomu čudovať: zozbieralo sa sčasti z rozmaru, sčasti z nejasných screenshotov z videí z anglických súťaží Robot Wars.

Po Brontosaurovi, ktorý niekoľkokrát spočítal a prerobil hlavné komponenty, Dmitrij, Boris a Pavel zostavili svojho druhého robota. vzadu vonkajšia podobnosť so škrupinou sa nazývala Shelby, z anglického škrupina - „škrupina“. Shelby, syn ťažkých chýb, najprv všetkých vyhral na „Battle of Robots - 2016“ v Perme, ktorú organizoval Moskovský technologický inštitút (MIT) a spoločnosť Promobot, a potom spolu s autami ďalších dvoch ruských tímov , sa stal účastníkom medzinárodných súťaží v Číne. Jeho tvorcovia nám prezradia, ako víťazný robot funguje a čo bolo potrebné na jeho výrobu.


Dmitrij, ideologický inšpirátor a odborník na všetky odbory:

„Našou najväčšou pýchou je podvozku Shelby. Na podvozku jeho predchodcu sme sa babrali doslova po každej bitke. Keď sme vyrobili Shelby, podvozok bol mnohokrát vybrúsený, prestavaný a namontovaný, ale teraz na to môžete úplne zabudnúť. V budúcich projektoch budeme musieť popracovať len na zachovaní spoľahlivosti a zvýšení výkonu. Bolo by to pekné napríklad pre našich nová robota mohol presunúť nie jedného, ​​ale dvoch nepriateľských robotov naraz.“

Shelbyho reťaze sú z mopedov, jeho kolesá sú z pretekárskej motokáry a jeho elektromotory sú z rádiom riadených modelov áut. Diely pre bojové roboty sa nevyrábajú, takže ich musíte hľadať na blších trhoch a na internete. Dobré diely sú veľmi drahé a dizajnéri si ich vyrábajú sami.


Boris, dizajnér, silový špecialista:

„Shelby je typ plutvy. Je vybavená pneumatickým systémom, ktorý násilne tlačí veko nahor. Toto je hlavná zbraň robota a spôsob jeho stabilizácie: po prevrátení sa dokáže jedným trhnutím prevrátiť a postaviť sa na kolesá. Nemohli sme však vytvoriť vysoký tlak v pneumatickom valci, aby veko silne fúkalo - nebolo požadované ventily. Zostávalo už len jediné: zabezpečiť, aby systém fungoval čo najrýchlejšie. Riešenie sa ukázalo ako jednoduché: zbavili sme sa prebytočného hydraulického odporu a upravili sme továrenské ventily. V budúcnosti bude samozrejme potrebný ventil vysoký tlak. Hotový je drahý, asi 200 tisíc rubľov, takže teraz premýšľame o našom vlastnom dizajne.


Bojové roboty nie sú lacným koníčkom: potrebujete aspoň 200 - 300 000 rubľov plus spotrebný materiál, náhradné kolesá a všetko, čo sa rozbije a vymení v boji. A to nezohľadňuje vynaložený čas a prácu. „Na zostavenie robota musí tím troch ľudí prestať chodiť do práce na dva mesiace,“ smejú sa inžinieri Solarbotu. Neušetríte ani na elektronickej výplni.

Pavel, programátor:

„Skvelá vec na elektronike Shelby je, že ich je veľmi málo. Aby ste po každej bitke nezobrali spájkovačku, musíte robotovi poskytnúť potrebné minimum „mozgov“. Shelby má jednoduché továrenské ovládače a iba ventily sú ovládané malou doskou plošných spojov. Je veľmi ťažké ho deaktivovať. Aj keď sme v Číne namiesto bežných olovených batérií dostali výkonné lítiové a po niekoľkých minútach zlyhali káble, elektronika robota nebola poškodená.“

Bojový robot Shelby

Rýchlosť do 25 km/h Sila na tyč pneumatického valca 2 t Výkon motora 2,2 kW Kapacita pneumatických rázov bez výmeny valca 30−35 Diaľkové ovládanie Pravidlá „Battle of Robots“ zakazujú akékoľvek odnímateľné diely a plechy, Shelby teda nič nestrieľa ani nemáva a jeho telo je vyrobené len z kovového profilu.

Tím Solarbot postavil tvrdého železného vojaka, no má aj bod zlomu. V Číne trpel rotujúcimi nožmi čínskych spriadačov, v Perme - pazúrmi robota matanga, ktorý s ôsmimi tonami sily reže kovový profil ako maslo. Na železných rebrách má tržné rany. Tvorcovia mu chystajú osud exponátu: zúčastní sa festivalov (v blízkej dobe je letný Geek Picnic) a v aréne ho nahradí nový bojovník - tiež plutvák, len rýchlejší, výkonnejší. a ešte spoľahlivejšie. Zdvíhacia sila veka bude dvojnásobná oproti Shelby, výkon motora sa zvýši z 2,2 na 2,8 kW a zvýši sa rýchlosť. S novým robotom ruský tím sníva o tom, že pôjde na Robot Wars v Anglicku.

Budúca plutva však nie je konečným snom Solarbota. Teraz Dmitrij rokuje s inými tímami a hľadá sponzorov: ak všetko vyjde, potom sa v Rusku objaví prvý „megabot“ - taký veľký a impozantný ako japonské, americké a čínske mnohotonové monštrá.

Vďaka podpore Moskovského technologického inštitútu sa Rusi prvýkrát prihlásili na medzinárodný turnaj bojových robotov FMB Championship 2017 v Číne. Bitku hostili Shelby, Kazan Destructor a St. Petersburg Energy, ktoré postúpili do semifinále.

Elon Musk nedávno vyjadril svoj silný odpor k tomu, aby sa umelá inteligencia používala na vytváranie zabijáckych robotov. Nehovoríme zatiaľ o Terminátoroch, ale o robotických systémoch schopných vykonávať niektoré úlohy, ktoré majú zvyčajne na starosti vojaci. Záujem armády o túto tému je pochopiteľný, no ich ďalekosiahle plány mnohých strašia.

Ale nielen moderní bojovníci snívajú a vidia guľomety, ktoré dokážu nahradiť desať, ba aj sto vojakov súčasne. Tieto myšlienky navštívili hlavy postáv z rôznych období. Niekedy sa niektoré nápady zrealizovali a vyzerali celkom dobre.

Robot rytier Da Vinci


Leonardo bol génius takmer v každej oblasti. Podarilo sa mu dosiahnuť úspech takmer vo všetkých oblastiach, o ktoré prejavil záujem. V 15. storočí vytvoril robotického rytiera (samozrejme, slovo „robot“ sa vtedy nepoužívalo).

Stroj bol schopný sedieť, stáť, chodiť, pohybovať hlavou a rukami. To všetko tvorca mechanického rytiera dosiahol pomocou sústavy pák, prevodov a prevodov.

Rytier bol znovu vytvorený v našej dobe - funkčný prototyp bol postavený v roku 2002. Bol vytvorený „na základe“ projektu Da Vinci od Marka Rosheima.

RC čln Tesla


V roku 1898 vynálezca Nicola Testa ukázal svetu prvý vynález svojho druhu – diaľkovo ovládané vozidlo ( malý čln). Demonštrácia sa konala v New Yorku. Tesla ovládal čln, manévroval a predvádzal rôzne akcie akoby kúzlom.

Tesla sa neskôr pokúsil predať svoj ďalší vynález americkej armáde – niečo ako rádiom riadené torpédo. Ale z nejakého dôvodu armáda odmietla. Je pravda, že svoj výtvor opísal nie ako torpédo, ale ako robota, mechanického človeka, ktorý je schopný hrať ťažká práca namiesto ich tvorcov.

Rádiom riadené tanky ZSSR



Áno, inžinieri Sovietsky zväz neboli na to vystrihnutí. V roku 1940 vytvorili rádiom riadené bojové vozidlá na základni ľahký tank T-26. Prevádzkový dosah ústredne je viac ako kilometer.

Operátori týchto vojenských terminátorov mohli spustiť paľbu z guľometov, použiť delo a plameňomet. Pravda, nevýhodou tejto technológie bolo to Spätná väzba chýbal. To znamená, že operátor mohol priamo pozorovať činnosť tanku na diaľku. Prirodzene, efektivita konania operátora bola v tomto prípade relatívne nízka.

Toto je prvý príklad vojenského robota v akcii.

Goliáš


Nacisti vytvorili niečo podobné, no namiesto toho, aby konvenčné tanky vybavili rádiovým ovládaním, vytvorili miniatúrne pásové systémy. Dali sa ovládať na diaľku. Goliášovia začali s výbušninami. Myšlienka bola nasledovná: šikovné dieťa sa dostalo k „dospelému“ nepriateľskému tanku a keď bolo blízko, vykonalo príkaz operátora, aby všetko zničil výbuchom. Nemci vytvorili elektrickú verziu systému aj mini-tank s motorom vnútorné spaľovanie. Celkovo bolo vyrobených asi 7 000 takýchto systémov.

Poloautomatické protilietadlové delá


Tieto systémy boli vyvinuté aj počas druhej svetovej vojny. Na ich vzniku mal podiel zakladateľ kybernetiky Norbert Wiener. Jemu a jeho tímu sa podarilo vytvoriť protilietadlové systémy, ktoré samy upravovali presnosť paľby. Boli vybavené technológiou, ktorá umožňovala predpovedať, kde sa najbližšie objavia nepriateľské lietadlá.

Inteligentné zbrane našej doby


V 50. rokoch minulého storočia sa americká armáda snažila vyhrať Vietnamská vojna, prvýkrát vytvoril laserom navádzané zbrane, ako aj autonómne vzdušné zariadenia, v skutočnosti drony.

Pravda, pri výbere cieľa si vyžadovali ľudskú pomoc. Ale už to bolo blízko tomu, čo je teraz.

Predátor


O týchto dronoch už počul snáď každý. MQ-1 Predator predstavila americká armáda mesiac po udalostiach z 11. septembra. Teraz sú Predators najbežnejšími vojenskými dronmi na svete. Majú tiež starších príbuzných - Reaper UAV.

Sapéri


Áno, okrem robotov zabijakov existujú aj roboti sapéri. Teraz sú veľmi bežné, začali sa používať pred niekoľkými rokmi v Afganistane a na iných horúcich miestach. Mimochodom, tieto roboty boli vyvinuté spoločnosťou iRobot - je to spoločnosť, ktorá vytvára najobľúbenejšie čistiace roboty na svete. Hovoríme samozrejme o Roombe a Scoobe. V roku 2004 bolo vyrobených 150 týchto robotov (nie vysávačov, ale sapérov) a o štyri roky neskôr - už 12 000.

Teraz sa armáda úplne rozptýlila. Umelá inteligencia (jej slabá forma) sľubuje veľké príležitosti. USA sa chystajú naplno využiť tieto príležitosti. Tu vytvárame novú generáciu zabijackych robotov s kamerami, radarmi, lidarmi a zbraňami.

Práve oni strašia Elona Muska a s ním aj mnoho ďalších bystrých myslí z rôznych oblastí činnosti.

Jazdili sme bezpilotným Yandexom. Taxi“ v Skolkove vojenskí inžinieri prišli na to, ako prispôsobiť technológie bezpilotných vozidiel na výrobu nových zbraní.

V skutočnosti technológia nie je taká, ako sa zdá. Problémom celej technologickej evolúcie je, že hranica medzi komerčnými robotmi „na celý život“ a vojenskými zabijakmi je neuveriteľne tenká a jej prekročenie nestojí nič. Zatiaľ si vyberajú trasu a zajtra si budú môcť vybrať, ktorý cieľ zničia.

Nie je to prvýkrát v histórii, kedy technologický pokrok spochybňuje samotnú existenciu ľudstva: po prvé, vedci vytvorili chemické, biologické a jadrové zbrane, teraz - „autonómne zbrane“, teda roboty. Jediný rozdiel je v tom, že doteraz boli zbrane „hromadného ničenia“ považované za nehumánne – to znamená, že si nevyberajú, koho zabijú. Dnes sa perspektíva zmenila: zbraň, ktorá bude zabíjať s osobitnou diskrimináciou a vyberá si obete podľa vlastného vkusu, sa zdá byť oveľa nemorálnejšia. A ak by nejakú bojovnú mocnosť zastavil fakt, že ak by použila biologické zbrane, trpeli by všetci naokolo, tak s robotmi je všetko komplikovanejšie – dajú sa naprogramovať na ničenie špecifickej skupiny objektov.

V roku 1942, keď americký spisovateľ Isaac Asimov sformuloval Tri zákony robotiky, sa to všetko zdalo vzrušujúce, ale úplne nereálne. Tieto zákony stanovovali, že robot nemôže a nemal by ublížiť alebo zabiť človeka. A musia bez pochýb poslúchať vôľu človeka, okrem prípadov, keď by jeho príkazy odporovali vyššie uvedenému imperatívu. Teraz, keď sa autonómne zbrane stali realitou a môžu padnúť do rúk teroristov, ukazuje sa, že programátori akosi zabudli vložiť Asimovove zákony do svojho softvéru. To znamená, že roboty môžu predstavovať nebezpečenstvo a žiadne humánne zákony alebo zásady ich nemôžu zastaviť.

Raketa vyvinutá Pentagonom sama detekuje ciele vďaka softvéru, umelá inteligencia (AI) identifikuje ciele pre britskú armádu a Rusko predvádza bezpilotné tanky. Na vývoj robotického a autonómneho vojenského vybavenia sa v rôznych krajinách vynakladá obrovské množstvo peňazí, hoci len málokto ho chce vidieť v praxi. Tak ako väčšina chemikov a biológov nemá záujem o to, aby sa ich objavy nakoniec použili na výrobu chemických alebo biologických zbraní, väčšina výskumníkov AI sa nezaujíma o vytváranie zbraní na ich základe, pretože potom by vážne verejné pobúrenie poškodilo ich výskumné programy.

Generálny tajomník Antonio Guterres vo svojom prejave na začiatku Valného zhromaždenia Organizácie Spojených národov v New Yorku 25. septembra označil technológiu AI za „globálne riziko“ spolu s klimatickými zmenami a rastúcou nerovnosťou príjmov: „Nazvime veci pravými menami.“ povedal. "Vyhliadka, že stroje budú určovať, kto žije, je nechutná." Guterres je pravdepodobne jediný, kto môže naliehať na vojenské oddelenia, aby sa spamätali: predtým riešil konflikty v Líbyi, Jemene a Sýrii a pôsobil ako vysoký komisár pre utečencov.

Problém je, že s ďalším vývojom technológií sa budú môcť roboty rozhodnúť, koho zabijú. A ak niektoré krajiny majú takéto technológie a iné nie, tak nekompromisné androidy a drony predurčia výsledok potenciálnej bitky. To všetko zároveň odporuje všetkým Asimovovým zákonom. Alarmisti môžu mať vážne obavy, že sa samoučiaca sa neurónová sieť vymkne kontrole a zabije nielen nepriateľa, ale celkovo všetkých ľudí. Vyhliadky aj na úplne poslušné stroje zabijakov však nie sú vôbec svetlé.

Najaktívnejšie sa v oblasti umelej inteligencie a strojového učenia dnes nepracuje v armáde, ale v civilnej sfére – na univerzitách a vo firmách ako Google a Facebook. Ale veľká časť tejto technológie môže byť prispôsobená na vojenské účely. To znamená, že prípadný zákaz výskumu v tejto oblasti ovplyvní aj civilný vývoj.

Začiatkom októbra zaslala americká mimovládna organizácia Stop Killer Robots Campaign list Organizácii Spojených národov, v ktorom žiadala, aby bol na medzinárodnej legislatívnej úrovni obmedzený vývoj autonómnych zbraní. OSN dala jasne najavo, že túto iniciatívu podporuje a v auguste 2017 sa k nej pridal Elon Musk a účastníci Medzinárodnej konferencie OSN o využívaní umelej inteligencie (IJCAI). Ale v skutočnosti sú Spojené štáty a Rusko proti takýmto obmedzeniam.

V auguste sa v Ženeve uskutočnilo posledné stretnutie 70 krajín, ktoré sú zmluvnými stranami Dohovoru o určitých konvenčných zbraniach (neľudských zbraniach). Diplomati neboli schopní dosiahnuť konsenzus o tom, ako by sa dala implementovať globálna politika AI. Niektoré krajiny (Argentína, Rakúsko, Brazília, Čile, Čína, Egypt a Mexiko) vyjadrili podporu legislatívnemu zákazu vývoja robotických zbraní, Francúzsko a Nemecko navrhli zaviesť dobrovoľný systém takýchto obmedzení, ale Rusko, USA, Južná Kórea a Izrael vyhlásili, že sa nechystajú obmedziť výskum a vývoj, ktorý sa v tejto oblasti robí. Najvyššia predstaviteľka Európskej únie pre zahraničnú a bezpečnostnú politiku Federica Mogheriniová v septembri uviedla, že zbrane „ovplyvňujú našu kolektívnu bezpečnosť“ a že záležitosti života a smrti musia vždy zostať v rukách jednotlivca.

Studená vojna 2018

Americkí predstavitelia obrany veria, že autonómne zbrane sú potrebné na to, aby si Spojené štáty udržali vojenskú prevahu nad Čínou a Ruskom, ktoré tiež nalievajú peniaze do podobného výskumu. Vo februári 2018 Donald Trump požadoval 686 miliárd dolárov na obranu krajiny v budúcom fiškálnom roku. Tieto náklady boli vždy dosť vysoké a znížili sa až za predchádzajúceho prezidenta Baracka Obamu. Trump však – neoriginálne – argumentoval potrebou ich navýšenia technologickou konkurenciou s Ruskom a Čínou. V roku 2016 rozpočet Pentagonu vyčlenil 18 miliárd dolárov na vývoj autonómnych zbraní počas troch rokov. To nie je veľa, no tu treba brať do úvahy jeden veľmi dôležitý faktor.

Väčšinu vývoja AI v USA vykonávajú komerčné spoločnosti, takže je široko dostupná a môže sa komerčne predávať do iných krajín. Pentagon nemá monopol na pokročilé technológie strojového učenia. Americký obranný priemysel už nerobí vlastný výskum ako počas studenej vojny, ale využíva prácu startupov v Silicon Valley, ale aj v Európe a Ázii. V Rusku a Číne je zároveň takýto výskum pod prísnou kontrolou rezortov obrany, čo na jednej strane obmedzuje prílev nových nápadov a rozvoj technológií, no na druhej strane garantuje vládne financovanie a ochranu.

New York Times odhaduje, že vojenské výdavky na autonómne vojenské vozidlá a bezpilotné lietadlá presiahnu v nasledujúcom desaťročí 120 miliárd dolárov. To znamená, že diskusia nakoniec nevedie k tomu, či vytvoriť autonómne zbrane, ale do akej miery im dať nezávislosť.

Dnes úplne autonómne zbrane neexistujú, ale podpredseda Zboru náčelníkov štábov generál Paul J. Selva z vzdušných síl už v roku 2016 povedal, že do 10 rokov budú mať Spojené štáty technológiu na výrobu zbraní, ktoré môžu nezávisle rozhodovať o tom, kto a kedy zabíjať. A zatiaľ čo krajiny diskutujú o tom, či obmedziť AI alebo nie, môže byť príliš neskoro.