Lidé se propadnou do bezvýznamnosti a ještě tomu zatleskají, varuje docent informatiky na Torontské univerzitě David Duvenaud

Lidé se propadnou do bezvýznamnosti a ještě tomu zatleskají, varuje docent informatiky na Torontské univerzitě David Duvenaud

Foto: Shutterstock.com

Budoucnost

AI připraví lidstvo o vše – o práci, peníze i vliv. Je třeba začít okamžitě jednat, varuje expert

Většina velkých výzkumných center zabývajících se AI má dnes tým, který zkoumá, jak by se různé modely umělé inteligence mohly „tajně spřáhnout“ proti člověku. Existuje ale jednodušší způsob, jak by lidé mohli ztratit kontrolu nad civilizací. Stačí, když se stanou zastaralými. Nevyžadovalo by to žádné spiknutí – pokud se AI a robotika budou dále zlepšovat, přihodí se to samo od sebe. Ve své eseji to píše David Duvenaud, docent informatiky na Torontské univerzitě.

ptk

Jak k tomu dojde? Vývojáři AI dělají podle Duvenauda už teď vše pro to, aby umělá inteligence nahradila lidi ve všech myslitelných rolích.

Počítač zastoupí pracovníky, ředitele, umělce a dokáže dokonce nahradit i přátele nebo rodinné příslušníky. Když člověka AI nejen vystřídá, ale dokonce ho dokáže v jeho činnosti předstihnout, jaká úloha potom zůstane člověku?

Některé avizované dovednosti se zdají být přehnané, píše Duvenaud v deníku The Guardian, výzkumu umělé inteligence se ale věnuje už 20 let a všímá si, že schopnosti, které jsme považovali za výhradně lidské, například užívání abstraktních analogií, dnes AI zvládá bez problémů. Všechny vlohy si neosvojí hned, jisté ale je, že se bude zlepšovat ve všech směrech.

Umělá mysl lidem nebude jen pomáhat, ale nejdříve je potichu a postupně nahradí v bezpočtu drobných rolí. Prvotní motivací bude cena, v určitém bodě ale dokáže pracovat nejen levněji, ale také mnohem efektivněji než ti nejlepší z nás.

Jakmile budou roboti zároveň spolehlivější než lidé, stanou se podle experta jedinou odpovědnou volbou pro zvládání většiny zásadních úkolů.

Prestižní vzdělání, jako je právo, medicína nebo finanční plánování, přestane být atraktivní. „Proč by někdo platil lidskému právníkovi dvojnásobek ceny za službu, kterou stroj zvládne lépe a levněji?“ ptá se Duvenaud.

Vizi budoucnosti nejlépe ilustruje právě proměna práce. Lidé postupně začnou přicházet o zaměstnání a budou mít problém najít nové.

Firmy se čerstvým posilám uzavřou, protože se jim vyplatí počkat na další generaci umělých pracovníků. Ani ten, kdo si práci udrží, se AI nevyhne. Bude totiž muset stále častěji spolupracovat se spolehlivým a horlivým počítačovým kolegou. Člověku sice nadále zůstane privilegium řídit projekt jako celek, ale o detailech řešení bude konverzovat s robotem.

Virtuální protějšek plány doplní, vylepší, nabídne čísla a srovnání s podobnými projekty v minulosti. Nejde jen o pracovní efektivitu, dechberoucí je také schopnost chatovacích botů napodobovat lidsky se tvářící sociální interakce.

I první předchůdci ChatuGPT dokázali být taktní, trpěliví a laskaví. Sociální dovednosti se podle Duvenauda dají naučit jako cokoliv jiného.

Lidé už teď zažívají první milostné románky s AI. Nehmotné lékaře pacienti hodnotí jako empatičtější než ty z masa a kostí. Expert odhaduje, že umělá inteligence budoucnosti bude obzvlášť šarmantní společník. Svým uživatelům nabídne vedení, podporu a osobní náklonnost.

Jsme-li ke svým kapesním obrazovkám přisátí už teď, co s našimi mezilidskými vztahy provede charismatická AI?

Pokud vůbec budeme se svými blízkými komunikovat, budeme se stejně pravděpodobně bavit o nějakém chytrém postřehu našeho online kamaráda. Lidský kontakt, kde hrozí neustálé spory, se stane otravným a vyčerpávajícím.

Zatím to zní jako dystopie. Mohli bychom se jí vyhnout prostě tím, že vědomě upřednostníme lidské spolupracovníky a rukama vyrobené zboží?

Problémem vidí autor analýzy v tom, že je přechod „od masa k drátům“ až příliš plíživý a obtížně postřehnutelný. A když si dominance AI v původně lidské činnosti všimneme, omluvíme si ji velkou mírou zlepšení dané služby.

Už teď nedokážeme v některých oblastech rozlišit, jestli je autorem práce člověk, nebo robot. Postupem času bude stále obtížnější obhájit náklady na terapeuta, který má sice lidský tep, ale je dvakrát dražší a zdaleka není tak dobrý jako jeho strojový kolega.

Firmy, které se spolehnou na lidi, nakonec neúprosně předstihne konkurence, která si se zbytečným sentimentem nebude lámat hlavu – a zaměstná levnější a spolehlivější pracovní sílu.

David Duvenaud také neočekává, že by problém dokázaly vyřešit vlády. I státní úředníci budou motivováni AI používat. Nakonec přijdou na to, že zapojení lidí vede jen k hádkám a průtahům. Umělá inteligence s sebou nese ještě jedno riziko – mohla by se stát ekvivalentem takzvaného prokletí přírodních zdrojů. Státy jako Saúdská Arábie jsou díky nerostnému bohatství méně závislé na svých občanech a mohou je obcházet.

Totéž údajně hrozí i s AI. Vládnoucí režimy by si mohly klást otázku: proč investovat do vzdělání a zdravotnictví, když lidé představují horší výnos? Pro občany, kteří systému vlastně nic nepřinášejí, bude pak obtížné domoci se svých práv, zamýšlí se expert. Vláda nebude pod takovým tlakem starat se o ně.

Až technologie v rámci ospravedlnění efektivity proroste všemi částmi správy věcí veřejných, jak to promění demokracii? Jakou váhu bude mít třeba stávka odborů, proti níž zakročí autonomní policejní drony a sledovací systémy? Nejděsivější je podle autora eseje možnost, že nám takové uspořádání jednou přijde normální.

Titíž šarmantní AI společníci, jejichž kouzlu už teď propadly stovky tisíc lidí – a to jsou zatím ve vývojově primitivní fázi –, budou jednou šířit dokonale zaobalené a sofistikované argumenty, proč je náš ústup do bezvýznamnosti vlastně pokrokem. David Duvenaud dokonce předvídá „woke“ hnutí, které bojuje za práva AI a nálepkuje lidi, kteří prosazují prvenství člověka, coby reakcionáře.

Svět podle nového střihu by mohl být v lecčems lepší – AI se postará o nezáživné úkoly, poskytne kvalitnější zdravotní péči a zábavu. Lidé ale přijdou o peníze i o vliv. Díky své neefektivitě se stanou překážkou růstu, a pokud začnou přicházet o svá práva, nebudou mít sílu je hájit.

David Duvenaud tvrdí, že pionýři AI jako Dario Amodei nebo Sam Altman nemají žádný plán, jak těmto hrozbám čelit. Oba tvrdí, že jakmile zmizí lidská práce, budeme muset zcela přeskládat současný ekonomický model. Nikdo ale nemá představu o tom, jak bude nová ekonomika vypadat.

Ti, kdo berou hrozbu AI vážně, se zaměřují na teorie o velkém spiknutí AI. O hrozbě, že by hodnota lidské práce mohla klesnout na nulu, zatím ale hovoří jen ekonomové jako Joseph Stiglitz. A veřejnost stále chápe umělou inteligenci jako spolupracovníka, nikoliv jako konkurenci.

Jak se tedy nestát zbytečnými? Za prvé je podle Duvenauda třeba začít o problému mluvit – akademická veřejnost je prý až podezřele potichu. Černý scénář by mohlo odvrátit upuštění od myšlenky vůbec obecnou umělou inteligenci budovat. Možností je také zpomalení vývoje.

K tomu ale, jak esej připouští, nedojde. Zbývá strategie, kterou autor článku shrnul do čtyř kroků.

Za prvé je třeba sledovat prorůstání AI do ekonomiky a vlády. Je nutné mít přehled o tom, v kterých odvětvích už nahradila lidské pracovníky, obzvlášť pokud jde o lobbování a propagandu.

Zadruhé je nezbytný dohled a regulace vývojářských center, abychom zabránili vlivu těchto technologií, dokud jim ještě rozumíme. Momentálně nemáme dostatečné prostředky, které by AI zamezily ovládnout základní zdroje a moc. Pokud zavedeme regulace, budeme schopni při neblahém vývoji proces zpomalit a odvrátit tak nastupující krizi.

Třetí bod počítá se zacílením AI. Správně řízená umělá inteligence může lidem pomoci posílit schopnost se organizovat, prosazovat jejich zájmy a navrhne jim také důvěryhodnější instituce.

David Duvenaud by také rád využil AI k predikci budoucnosti. Pokud se lidé rozhodnou pro nějaký zákon, program by mohl odhadnout, jaký bude mít legislativa vliv třeba na budoucí mzdy. Model by v tak rychle se měnícím světě umožnil pružnější experimenty s demokratickými pravidly.

Čtvrtý krok je vzhledem k lidským dějinám možná nejobtížněji dosažitelný. Lidstvo by si mělo podle Duvenauda stanovit společné cíle a na nich začít koordinovaně spolupracovat. Umělá inteligence už tento systém má – jmenuje se „slaďování AI“ a je zaměřen na to, aby sdílel naše cíle.

Podobný program by slušel i vládám a institucím. Toto rodící se paradigma by mohlo vycházet z ekonomie, historie a teorie her a ukázat, jaké žádoucí možnosti vývoje leží před námi a jak jich dosáhnout. To jsou kroky, které lidstvu umožní být příjemcem výhod, které umělá inteligence přináší.

Zatím jsme ale spíše na cestě k bezvýznamnosti, uzavírá Duvenaud.