Může lidstvo nasměrovat k obrovskému technologickému pokroku, doslova skoku ve všech vědních oborech. Ve špatných rukou ale může napáchat obrovské škody. Tak by se dalo interpretovat prohlášení, které Geoffrey Hinton, otec umělé inteligence (AI), zveřejnil poté, co opustil Google.
„Cade Metz z New York Times naznačil, že jsem odešel, abych mohl kritizovat Google. Ale já jsem odešel, abych mohl promluvit o nebezpečí umělé inteligence, aniž bych tím musel zvažovat, jaký by to mělo na Google dopad. Google postupuje velmi zodpovědně,“ prohlásil Hinton.
Vědec dále uvedl, že je znepokojen schopností umělé inteligence vytvářet obrázky a texty, které vyvolávají dojem, že se jedná o skutečnost. Lidé pak podle něj nebudou mít možnost poznat, co je pravda. Zejména upozorňuje na skutečnost, že v podstatě není možné zabránit lidem, aby AI používali ke špatným věcem.
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Co z toho plyne? Umělá inteligence je stále pouze v lidských rukou. Nemá žádné vědomí, aby mohla samovolně realizovat jakékoliv kroky, které se vymknou lidské kontrole. Zároveň však na popud člověka dokáže vytvářet manipulativní výtvory, které mohou v krajním případě ohrozit celé lidstvo. Příkladem může být falešné video s proslovem předního světového politika, které by mělo obrovský dopad zejména při rychlém šíření prostřednictvím sociálních sítí. Zpětně už se jen těžko dohledá, kde všude bylo video sdíleno. Jisté je také, že informace s tím, že se jedná o podvrh, by se šířila výrazně pomaleji než „senzační“ zfalšované video.
AI prochází extrémně rychlým vývojem
Hinton, ještě před tím než nastoupil v roce 2012 do Googlu, učil stroje poznávat elementární vzory na fotografiích. Strojové učení dále vyvíjel pod křídly světového giganta. Nyní v 75 letech odchází do důchodu. V rozhovoru pro New York Times také uvedl, že by nikdy nečekal, jak rychle se bude umělá inteligence vyvíjet. „Pořád jsem si myslel, že AI bude chytřejší než člověk za dlouhou dobu. Čekal jsem tak 30 – 50 let, možná i déle. Nyní si to již nemyslím.“
Geoffrey Hinton obdržel v roce 2019 Turingovu cenu, která je v informatice obdobou Nobelovy ceny. Je tedy patrné, že slova tohoto muže nelze brát na lehkou váhu.
