Zatím poslední varování se nedávno objevilo na stránkách americké organizace Center for AI Safety:

Odborníci na umělou inteligenci, novináři, politici a veřejnost stále častěji diskutují o širokém spektru důležitých a naléhavých rizik spojených s umělou inteligencí. Obavy z některých nejzávažnějších rizik pokročilé umělé inteligence nemusí být ale snadné přesně formulovat. Níže uvedené stručné prohlášení si klade za cíl tuto překážku překonat a rozpoutat diskusi. Jeho cílem je také upozornit veřejnost na rostoucí počet odborníků a veřejných činitelů, kteří berou některá z nejzávažnějších rizik pokročilé umělé inteligence vážně. 
Zmírnění rizika vyhynutí lidstva v důsledku umělé inteligence by mělo být globální prioritou společně s dalšími riziky celospolečenského rozsahu, jako jsou pandemie a jaderná válka.

Prohlášení podepsala celá řada odborníků, včetně opravdu velkých vah na poli umělé inteligence, jako je Geoffrey Hinton a Yoshua Bengio. A leccos se z něj začíná odvozovat. Můžeme například slyšet hlasy, podle kterých to prokazuje, že obavy z umělé inteligence jsou reálné, dokonce to má dokazovat, že nepřesvědčení prostě nemohou rozumět modernímu vývoji v umělé inteligenci.

Jsou takové úvahy korektní? Příliš ne. Nechci se vyjadřovat k tomu, zda brzy vznikne obecná umělá inteligence, zda je superinteligence vlastně nevyhnutelná a zda je AI doopravdy existenčním (dokonce největším) rizikem. Chci se jen zaměřit na to, co vlastně lze vyvozovat z podobných výzev.

Stručná odpověď: nic moc.

Nejde totiž jen o to, kolik lidí výzvu podepsalo, ale i o to, kdo všechno to nepodepsal.

Signatáři jsou rozdělení do dvou skupin: Vědci v AI (u nás bychom řekli informatici) a další významné osobnosti. Zaklikneme-li pouze první volbu, zjistíme, že výzvu podepsalo 259 lidí. Podívejme se na ně trochu podrobněji. Využívám webové stránky www.research.com, kde jsou žebříčky vědců ve vybraných oborech. Jedním z nich je i informatika. Vědci jsou zde řazeni podle D-indexu, což je ukazatel, který vyjadřuje, jaký dopad mají práce daného odborníka na práce kolegů v daném oboru (zjednodušeně řečeno). Celkem zde najdeme prvních 10000 informatiků (hledáme-li podle jména), samotný žebříček je k zobrazení pro prvních 2000.

Nejlepší hodnocení zde má Anil K. Jain z Michigan State University, jehož D-index má hodnotu 203. Současně se dozvídáme, že Jain publikoval 970 praxí a má celkem 250.990 citací.

Vraťme se nyní k signatářům výzvy. I když jsou všichni zařazení do kolonky „AI Scientist“, pravda to tak docela není. Ve skutečnosti jich mezi 10.000 informatiky najdeme jen 65! Proč tomu tak je? Důvodů může být více. Někteří jsou sice informatiky, ale nedosahují takových výsledků, aby se mezi prvních 10.000 dostali. A další jsou na seznamu zařazení chybně. Najdeme zde třeba Maxe Tegmarka, který je úspěšným fyzikem, oborníkem na AI však není.

Jinými slovy, z celkového počtu 259 signatářů jich jen 65 najdeme v seznamu prvních desetitisíců informatiků. Není to příliš velké číslo.

Nyní se podívejme na těchto 65 odborníků. Z první stovky informatiků jich je jen pět: Geoffrey Hinton, Yoshua Bengio, Dawn Song, Eric Horvitz a Stephen Grossberg. Jinými slovy, ze sta největších světových expertů na umělou inteligenci jich výzvu 95 % nepodepsalo.

Umístění zbývajících šedesáti asi nejlépe popíše následující graf. Na ose X jsou pořadová čísla signatářů, na ose Y jejich umístění v žebříčků informatiků. Všimněme si, že jen prvních 12 se umístilo v první tisícovce, následně křivka poměrně rychle roste.

Takže si to shrňme. Ze stovky nejvýznamnějších odborníků na umělou inteligenci jich podepsalo jen 5, tj. 5 % (což znamená, že celých 95 % výzvu nepodepsalo). A ze zbývajících desetitisíců odborníků výzvu podepsalo 60 signatářů, což je pouhých 0,6 %. Jinými slovy, 99,4 % informatiků ji nepodepsalo.

Co z toho vyplývá? Právě že nic moc. Nevíme, proč nepodepsaní nepodepsali. Třeba o výzvě nevěděli. Nebo se k tomuto problému nechtějí veřejně vyjadřovat. Možná nesouhlasí s formulací výzvy, i když nějaké obavy mají. A možné také je, že mnozí z nich prostě obavy z umělé inteligence nesdílí.

Publikovat články o tom, že drtivá většina informatiků nemá z AI obavy, by proto bylo nezodpovědné a nekorektní. Ale podobně není příliš korektní tvrdit, že AI skutečně existenčním rizikem je, nebo že ti nepřesvědčení mají zřejmě nějaký defekt, například vlastně umělé inteligenci nerozumí. Na výzvu a její signatáře musíme pohlížet v odpovídající perspektivě: a tou je i počet a kvalita odborníků, kteří ji nepodepsali.