Kamery monitorující čínské ulice, silnice i budovy v sobě mají špičkovou umělou inteligenci (AI), do jejíhož vývoje čínská vláda investuje nejvíc na světě. Po napojení na cloudové databáze shromažďující informace o jednotlivých občanech se tak jedná o velmi efektivní způsob dohledu nad populací a vyhledávání zločinců. Čína ale nechce ve svých „bezpečných městech“ zůstat u trestání nebo zabraňování zločinu. Dalším krokem je jeho předvídání a trestání ještě před tím, než se vůbec stane.

Najdou vás za sedm minut

Do bezpečnostních systémů v jihozápadním městě Kuej-jang vložili fotku hledaného bělocha. Už během chvíle ho zachytily kamery na vlakovém nádraží. V tu chvíli umělá inteligence upozornila lidské operátory na policejní ústředně, že hledaný člověk byl nalezen. Od vložení fotky do systému to trvalo jen sedm minut, než muže zadržela policejní hlídka.

Takto reportér BBC otestoval schopnost čínského „bezpečného města“ najít hledanou osobu. Až neuvěřitelnou rychlost umožnila síť kamer s rozpoznáváním obličejů, které pomocí umělé inteligence vyhodnocují jednotlivé osoby v dohledu a porovnávají jejich tváře s cloudovou databází portrétů. Pokud AI vyhodnotí vysokou shodu, automaticky operátorům v bezpečnostním centru nahlásí přítomnost hledané osoby. Zatčení reportéra proběhlo rychle i díky tomu, že byl na vlakovém nádraží, jednom z hlavních dopravních uzlů, kde je bezpečnost mnohem větší prioritou než například na okraji města. I tak je to ale úctyhodný výkon a v případě pokrytí celého města stejnými kamerami bychom došli k podobnému číslu i tam.

Kuejjangský systém ale nepátrá pouze po hledaných osobách. Monitoruje a ukládá informace o aktivitách všech, které na svých kamerách zahlédne. Podle tamější policie pak úřady dokážou dohledat pohyb a chování všech občanů v databázi za poslední týden. Tedy kam chodili, s kým se stýkali a podobně.

Bezpečnost důležitější než soukromí

V Číně je poměrně obtížné zjistit, co si tamní populace skutečně myslí. Masivní cenzura a policie řešící ideologické zločiny úspěšně znemožňují svobodu slova. Z toho, co víme – nebo co si máme myslet, se ale zdá, že Číňané nová bezpečnostní opatření vítají. Stejně jako například zásah do soukromí v podobě systému společenské důvěryhodnosti, pro nás, obyvatele Česka, v dané míře nepředstavitelný.

Pro čínský režim tedy není problém bez jakýchkoliv etických diskuzí zapojovat do bezpečnostních otázek experimentální technologie, jako je AI s hlubokým učením (deep learning). I proto mohou být čínské kamery tak efektivní. Kromě jejich počtu (v roce 2017 to bylo 170 milionů zařízení, do roku 2020 by to mělo být 570 milionů) jsou totiž extrémně výkonné i díky investicím do čínských AI start-upů a vědeckých institucí, které se umělou inteligencí zabývají.

Ještě efektivnější se zdá být rozpoznávání držení těla a styl chůze, tzv. gait recognition. Tyto systémy se už používají například v Pekingu nebo Šanghaji. Výhodou současného provedení od firmy Wetrix je to, že se jedná pouze o software. Rozpoznávání chůze je tedy možné použít i na záznamu z běžných kamer, program navíc umí rozeznávat i osoby otočené zády, ale jelikož zatím neumí rozeznávat jednotlivce v reálném čase, není příliš vhodný pro státní potřeby. To se ale může v budoucnu změnit, především pokud bude rozpoznávání chůze přímo v hardwaru kamer.

Čínská bezpečná města také zavádějí aplikace, pomocí nichž je možné nahlašovat zločiny. Nově ale ohlašuje i programy, díky nimž budou moci běžní občané pomáhat sledovat záznamy z bezpečnostních kamer a hlásit kriminální činnost svých sousedů. Ty se ale zatím nesetkávají s příliš vřelou reakcí.

Čínský trh s technologiemi bezpečných měst je největší na světě, což láká zahraniční bezpečnostní firmy, jejichž produkty potom může díky nuceným technologickým transferům následně využívat. Čínské firmy Hikvision (spolupracuje s Jablotronem) a Dahua tak již dnes patří ke špičkám v této oblasti. Tyto technologie nyní Čína spíše už také exportuje, ty důmyslnější pak především do autoritářských zemí, které nemají s jejich využíváním etický problém.

Placení v metru telefonem nebo on-line nemocniční služby

Kromě bezpečných měst Čína buduje také chytrá města, smart cities. Na rozdíl od českých politiků o tom čínští komunisté nejen mluví, ale skutečně určité prvky již zavádějí.

Bezpečnostní kamery a sofistikované senzory tak slouží například i k lepšímu monitorování dopravy. Data nasbíraná systémem se v reálném čase vyhodnocují umělou inteligencí, která následně optimalizuje nastavení světelných křižovatek. AI také umožňuje hladší průjezd záchranným vozům, kterým uvolňuje díky semaforům cestu. V mnohých případech tak byl jejich výjezd o polovinu rychlejší.

Dalším aspektem je placení telefonem, nebo někde dokonce „úsměvem“. Čína patří mezi země, které přeskočily období stolních počítačů a notebooků a rovnou přešly na chytré telefony. Číňané je používají úplně na všechno. Zároveň se také nikdy úplně běžnými nestaly kreditní karty, a tak mnohé oblasti přecházejí z placení hotovostí přímo na placení pomocí mobilních aplikací, jako je AliPay (od technologického a e-komerčního giganta Alibaby) nebo WeChat Pay (od firmy Tencent). Zavádění platby telefonem v pekingském metru tedy nebyl žádný problém. Stejně tak není nijak zvláštní, když žebráci mají QR kódy. Ty načtete některou ze zmíněných aplikací a na žebrákův účet převedete příslušnou částku.

O něco kurióznější je placení „úsměvem“. Funguje tak, že kamera s funkcí na rozpoznávání obličejů nasnímá vaši tvář a propojí se s vaší platební aplikací. V šanghajském KFC tak ani nemusíte telefon vytahovat. Podobně ale fungují i některé čínské veřejné toalety. Tady obličeje rozeznávají dávkovače toaletního papíru. Tím se má zabránit krádežím a nadužívání tohoto v komunistických režimech tradičně ceněného materiálu…

„Smart“ jsou ale i některé čínské nemocnice, umožňující vyřizování úkonů jako placení nebo sjednávání prohlídek přes internet. Zároveň se na úrovni měst vytvářejí cloudové databáze, díky nimž lékaři v různých nemocnicích mohou získat přístup ke složce zatím neznámého pacienta na sále. Cloudové databáze a sdílení se využívají i v některých čínských školách.

Čína bude napřed, ale za jakou cenu?

Dá se očekávat, že čínské úsilí ve vývoji umělé inteligence, analýzy velkých dat a budování bezpečných a chytrých měst bude vůči Západu velmi napřed. Zároveň si ale Čína především v oblasti AI a deep learning zahrává s ohněm. Tyto technologie zatím nejsou dostatečně vyzkoušené a vědci často přiznávají, že úplně přesně nevědí, jak to funguje. Asi se zatím nemusíme bát situace typu SkyNet a povstání strojů, ale AI s přístupem k silničním semaforům může také napáchat nemalé škody.

Původně publikováno: Svět chytře, 8. 2. 2019. Převzato se souhlasem redakce. Autorem textu je Filip Jirouš, analytik projektu Sinopsis.

Nick Bostrom. Superintelligence.

Nick Bostrom je švédský filosof působící na Oxfordské univerzitě. Jeho zájmy jsou poměrně široké, proslavil se však především svou publikací Superintelligence. Zabývá se v ní možnostmi tvorby superinteligentní obecné inteligence (umělé inteligence, která ve všech aspektech překoná inteligenci lidskou) a riziky, jež jsou s ní spojené. Etické úvahy jsou v různé míře implicitně obsaženy prakticky ve všech kapitolách, explicitně se jim potom autor věnuje především v kapitole Získávání hodnot, jež se zaměřuje na způsoby, jimiž by bylo možné strojům vtělit eticky relevantní rozhodovací procedury. Nakladatelství Prostor vydalo v roce 2017 český překlad této knihy pod názvem Superinteligence.

Luís Moniz Pereira, Ari Saptawijaya. Programming Machine Ethics.

Tato kniha je určena čtenářům, kteří jsou obeznámeni s moderní logikou, jejíž znalost je pro pochopení textu nezbytná. Autoři  představují základní přístupy ke strojové etice a některé konkrétní příklady z praxe, např. vtělení principlismus v medicínském expertním systému MedEthEx využívajícím induktivní logické programování. Můj pocit z této knihy je však poněkud rozpačitý. Obsahuje velké množství formálního logického aparátu, nicméně v okamžiku, kdy autoři přistupují k modelování morálky prostřednictvím logického programování, nepředkládají nijak zajímavé či podstatné poznatky.

Paula Boddington. Towards a Code of Ethics for Artificial Intelligence.

Tvorba etických kodexů je jedním z úkolů aplikované etiky. Etické kodexy v oblasti AI mohou být normativním nástrojem regulujícím tvorbu, vývoj a využívání umělé inteligence v praxi. Britská filosofka Paula Boddington se ve své útlé knížce podrobně věnuje diskusi principů, jimiž by se tvorba kvalitních a v praxi použitelných etických kodexů měla řídit, zvláště pokud se jedná o tak bouřlivě se vyvíjející oblast výzkumu, jakou je výzkum umělé inteligence a robotiky. Velmi cenná je kapitola Some Suggestions for How to Proceed, kde se autorka zaměřuje na etické principy umělé inteligence, přijaté v roce 2017 na konferenci v Asilomar Conference Grounds v americké Kalifornii.

Paul Dumouchel, Luisa Damiano. Living with Robots.

S touto mimořádně zajímavou publikací, jež původně vyšla v roce 2016 ve francouzštině s názvem Vivre avec les robots: Essai sur l’empathie artificielle (Život s roboty: esej o umělé empatii) a o rok později vydalo nakladatelství MIT Press její anglickou verzi, opouštíme rovinu čisté aplikované etiky a dostáváme se do oblasti sociální robotiky. Sociální robotika se zaměřuje na dopady AI a robotiky na předivo vztahů, jenž konstituuje lidskou společnost. Jinými slovy, klade si otázky ohledně sociálních dopadů moderních technologií. Living with Robots je fascinující četbou a možná tím nejlepším, co kdy bylo na toto téma napsáno. Je například zajímavé sledovat výklad autorů o diametrálních rozdílech ve vnímání AI a robotů v naší, západní společnosti, a v Japonsku. Kniha se nevyhýbá ani etickým problémům, jimž věnuje poslední kapitolu. Luisa Damiano, spoluautorka knihy, je členkou Centra Karla Čapka pro studium hodnot ve vědě a technice.

David Levy. Love + Sex with Robots. The Evolution of Human-Robot Relationship.

Britský filosof David Levy je mezinárodně uznávaným odborníkem na umělou inteligenci (napsal např. knihu Robots Unlimited) a předsedou International Computer Games Association. Ve své publikace o lásce a sexu s roboty, první takto zaměřené knize, jež vyšla již v roce 2007, autor tvrdí, že v dohledné době se lidé budou zamilovávat do robotů, budou vstupovat do manželských svazků s roboty a budou s nimi mít sex, což podle Levyho bude přirozeným rozšířením našich emočních vztahů a sexuálních tužeb. Celá publikace, rozdělená do dvou tematických částí (láska k robotům – sex s roboty), je výborně vystavěnou a argumentačně dobře podloženou obhajobou tohoto tvrzení.

John Danaher, Neil McArthur. Robot Sex. Social and Ethical Implications.

V roce 2017 publikovalo nakladatelství MIT Press tuto kolekci zásadních texů o sociálních a etických důsledcích využívání sexuálních robotů. Kniha je rozdělená do několika částí. První z nich představuje a analyzuje samotný pojem sexu s roboty, druhá se soustředí na argumenty ve prospěch morální přípustnosti sexu s roboty. Třetí sekce naopak přináší argumenty proti, založení na náboženské či sociální a symbolické dimenzi robosexuality. Další část knihy se věnuje perspektivě samotných robotů a klade si například otázku, zda pro ně může být dobré být sexuálními roboty. Nechybí ani úvahy o tom, zda je láska k robotům vůbec možná či diskuse prvních empirických výzkumů názorů lidí na sex s roboty.

Marco Nørskov. Social Robots. Bundaries, Potential, Challenges.

Roboti nebudou pouze operovat, nahrazovat naše automobily,  zasahovat ve válce, ale stanou se také – a již se stávají – součástí společnosti jako naši partneři. Lidé nebudou roboty vnímat jako pouhé stroje a nebudou je posuzovat čistě rozumově. Budeme si k nim vytvářet celou řadu emočních vazeb, budeme je mít rádi, budeme jim vděční, budeme se těšit z jejich společnosti, budeme mít o ně starost, bude nám na nich prostě záležet. Tato publikace, jež vyšla v roce 2016 v nakladatelství Routledge, přináší několik zásadních příspěvků předních expertů na sociální robotiku a vymezuje tak terén etických a sociálních problémů spojených se společenskými roboty.

Aimee van Wynsberghe. Healthcare Robots. Ethics, Design, and Implementation.

Roboti pomáhající s péči o pacienty jsou již realitou – např. TUG® či HelpMate™ a okruh jejich možností se bude neustále rozšiřovat. Pečující roboti (carebots) jsou roboti, kteří jsou určeni pro nemocnice, domácnosti či další zařízení, ve kterých mají asistovat a pečovat o nemocné, staré či postižené osoby. Holandská filosofka van Wynsberghe se ve své knize podrobně věnuje všech etickým a sociálním otázkám, které jsou s pečujícími roboty spojeny, včetně např. problému inkorporace hodnot v samotném procesu návrhu designu těchto specializovaných strojů.

Peter Frase. Four Futures. Life After Capitalism.

Mladý americký sociolog Peter Frase, editor magazínu Jacobin, se ve své knize zamýšlí nad spojeným efektem dvou důležitých dějů: klimatické změny a stále rostoucího využívání umělé inteligence a robotů ve společnosti. Autor je přesvědčený, že podle toho, jak si s těmito ději poradíme, mohou v závislosti na parametrech nadbytek – nedostatek a rovnost – hierarchie vzniknout čtyři typy společnosti: komunismus (nadbytek a rovnost), socialismus (nedostatek a rovnost), rentismus (nadbytek a hierarchie) a konečně exterminismus (nedostatek a hierarchie). Velmi dobře napsaná a poutavá kniha.

Illah Reza Nourbakhsh. Robot Futures.

Na závěr jsem si nechal útlou, ale velmi zajímavou knihu profesora robotiky na Carnegie Mellon University (spoluautora publikace Introduction to Autonomous Mobile Robots) Illaha Rezy Nourbakhshiho. Autor se zamýšlí nad důsledky naší budoucí koexistence s roboty, kteří nás budou ve všech aspektech převyšovat. Nejedná se o alarmistické dílo, jež by nás varovalo před hrozící apokalypsou vyvolanou inteligentními stroji. Nourbakhsh se samozřejmě obává rizik spojených s AI, nicméně více se bojí jejího zneužití lidskými tvory. Může např. vést AI k zániku demokracie? Zřejmě ano – a už to začínáme pozorovat u nás v ČR; stačí, když budeme AI využívat ke shromažďování dat o preferencích všech občanů a politické strany se budou řídit pouze jimi. Kdo má nejlepší data a umí podle nich sestavit politický program, vyhraje volby. Formálně budeme žít v demokracii, ale vytratí se její hodnotová dimenze – respekt k právu, férovosti, právům a hodnotám.