V rozhovoru s Prokopem Šilhavým pro Revue Salve novinář Petr Koubský vysvětluje, proč Deník N nechce, aby čtenářům za předplatné „psal automat“. Generativní AI v redakci nepoužívají k tvorbě textů – kvůli důvěře čtenářů i kvůli chybám, které se dají snadno přehlédnout. Koubský zároveň popisuje, kde už umělá inteligence do médií reálně vstoupila (třeba prostřednictvím audioverzí), proč je pro žurnalistiku novým typem konkurence a jak rychle zaplňuje internet obsahem, který vypadá lidsky, ale lidský není.
Na začátku se vás chci úplně jednoduše zeptat: na co jste naposledy použil umělou inteligenci?
Naposledy? Mám stálý příkaz pro ChatGPT, a tak jsem se dnes ráno díval, co mi odpověděl. Ten příkaz zní: Co nejnovějšího se stalo ve světové vědě za posledních čtyřiadvacet hodin? On mi vrátí seznam titulků a někdy se trefí docela dobře, někdy ne. Já od toho ani nečekám moc použitelnou informaci, spíš jsem zvědav, co bude odpovídat.
Takže umělou inteligenci hodně využíváte ve své novinářské praxi?
To se úplně říci nedá. Spíš bych řekl, že umělou inteligenci ve své práci používám dost málo. A to z toho důvodu, že jsme si to zakázali. Jsem redaktor pro vědu a techniku v Deníku N. Noviny jako Deník N mají svá vnitřní pravidla a etický kodex a do etického kodexu jsme nedávno doplnili, že nebudeme umělou inteligenci používat pro tvorbu textů. Takže se tím samozřejmě řídím a všechno, co s umělou inteligencí dělám, je spíš zkoumání, experimentování, abych byl v obraze, abych věděl, jak to funguje. Ale že by mi to pomáhalo s prací, to vlastně ne.
Z jakého důvodu jste se takto rozhodli?
Hlavní důvody jsou tři. Zaprvé: jsme placený obsah. Všechny peníze, které Deník N má, jsou z předplatného a nechceme si zahrávat s důvěrou čtenářů. Když někdo platí dvě stovky měsíčně za předplatné novin, nejspíš si nepřeje, aby ty noviny psal automat. Nebo kdoví, ale nikomu se moc nechce to experimentálně prověřovat. Druhý důvod je ten, že umělá inteligence, jak je všeobecně známo, dělá chyby. Ty se samozřejmě dají pohlídat nějakým redakčním a editorským procesem, ale nejsme si úplně jisti, jak moc bychom tomu podléhali. A třetí důvod je normální konzervativismus a neochota dělat zaběhnuté věci jiným způsobem.
Přijde vám, když se podíváte obecně na novinařinu, že tento přístup platí pro všechna média?
Oficiálně se na to většina médií dívá tak jako my. Co je ale skryto pod povrchem, to se obtížně odhaduje, protože, upřímně řečeno, jestli si dnes někdo půl článku nechá napsat umělou inteligencí a udělá to chytře, těžko se na to přijde.
Jak se podle vás novinářská profese proměňuje s příchodem technologií generativní umělé inteligence?
To je složitější otázka, protože média jsou dnes vystavena konkurenci, řekněme, nemediální. To není novinka přicházející až s umělou inteligencí. Začalo to přinejmenším nástupem, respektive masovým nástupem sociálních médií, Facebooku, Twitteru a dalších. Pak je tu rozsáhlá blogosféra a nevím, co ještě. Zkrátka a dobře produkci písmenek ke čtení dnes dělá kdekdo, nejenom mainstreamová oficiální média.
Umělá inteligence do toho promlouvá hodně už jenom tím, že když se dnes Googlu na něco zeptáte, první, co vám nabídne, je souhrn generovaný AI. Takže to je také konkurence. Když se lidé chtějí něco dozvědět, nemusejí hledat novinový článek na dané téma, ale zeptají se některého konverzačního chatbota a ten na to více či méně dobře odpoví. Z tohoto hlediska bezpochyby naši práci umělá inteligence mění, je naším konkurentem. A na to, aby byla také naším pomocníkem, jsme, jak jsem říkal, většinou dost opatrní. Jestli někdo opatrný není, tak se s tím v tuto chvíli rozhodně nechlubí. To mluvím o psaní písmenek.
Jinak je spousta věcí, na které se umělá inteligence používá už rutinně. U nás je to třeba načítání audio verzí. Všechny články na Deníku N mají audio verzi a tu čte robotický hlas. Dříve jsme texty dávali číst hercům z malých pražských divadel. Zvládali jsme dávat načíst tak pětinu své produkce, stálo nás to dost peněz, a to jsme přitom herce platili hrozně mizerně. A to tak, až jsme se za to styděli. Proto jsme to zrušili, už je mizerně neplatíme. Neplatíme je vůbec. Místo toho čte texty robot, čte samozřejmě hůř než lidé, ale velmi levně a načte všechno. Z hlediska našeho čtenáře je to plus, protože má v audio verzi úplně všechny texty. Ten rozdíl v kvalitě je malý a rozdíl v nákladech z našeho pohledu výrazný. To je jen jedna z věcí, kde umělá inteligence do žurnalistiky proniká.
Říkal jste, že konkurenci pro vás představují i generované texty, které se objevují na všech možných platformách. Zajímalo by mě, když to trochu zobecníme, zda vnímáte, že se v jejich důsledku proměňuje i obecně lidská komunikace.
V důsledku umělé inteligence? Myslím, že zatím ještě moc ne. Rozhodně se proměnila v důsledku sociálních médií. To je nový prostor, kde se potkáváme, kde spolu komunikujeme. Komunikace zde probíhá trošku jinak, obsahově i formálně, než, jak se říká, v reálném světě. Ale co je dnes vlastně reálný svět? Sociální média to změnila, umělá inteligence samotnou komunikaci mezi lidmi podle mě zatím moc nemění. Výhledově na to může mít větší vliv, jak se s jejími instancemi budeme čím dál častěji setkávat.
Třeba právě na sociálních sítích, kde už dnes přibývají robotické zjevy, ale většinou jde o spam. Je to rušivé. Určitě se z toho bude čím dál tím víc stávat normální, užitečná, věcná součást mezilidské komunikace a budeme si povídat střídavě s lidmi a s AI. Každodenní zkušenost bude taková, že s někým se potkám osobně, s někým přes nějaký chat nebo telefonem a další partnery, se kterými budu mluvit, vytvoří umělá inteligence.
Do naší komunikace, například na sociálních médiích, nyní, jak říkáte, vstupují příspěvky generované AI převážně ve formě spamu. Nemyslíte si, že by něco takového mohlo tyto sítě či jiné nástroje, které nyní používáme, udělat nepoužitelnými?
Zahltit myslíte?
Ano, třeba zahltit.
Nelze to vyloučit. Dnes je odhadem 20–25 % obsahu internetu generováno umělou inteligencí. Vzhledem k tomu, že generativní umělá inteligence v nynější podobě je tady jenom asi tři roky, je to hodně velký poměr a pořád se mění a posouvá. Takže ano, zahlcení strojově generovanými hloupostmi je problém a bude se s tím muset něco udělat, pokud má obsah zůstat užitečný. Jak to řešit, to na mou duši nevím. Kdybych věděl, možná nedělám žurnalistiku a budu se zabývat právě tímto problémem, ale žádný nápad nemám. To je v podstatě „hrnečku vař“ a já jenom udiveně sleduji, jak ten hrneček tu kaši vaří opravdu rychle.
Podíváme-li se na celou společnost, vnímáte nějaké velké změny, které umělá inteligence už v tuto chvíli do společnosti přináší?
Velké asi ne, myslím, že se o ní hodně mluví, ale zatím se přeceňuje. Je to věc, na kterou jsou všichni zvědaví. Je to fascinující. Můžeme si povídat jako s bytostí s něčím, co bytost není. Nebo možná je? To je taky téma k diskusi. V té novosti, v tom nadšení nám uniká, že reálný dopad této věci zatím není tak velký. Kdykoli se o reálném dopadu mluví, sklouzne se do budoucího času: Ano, jistě to bude brzy, ale zatím ne. Myslím si, že jsme zatím ve stádiu napjatého očekávání, co to vlastně se světem provede, než že by se už něco zásadního dělo.
Vnímáte nějaké oblasti, kde jsou změny už na dosah ruky nebo kde je očekáváte nejdříve?
Můžeme mluvit o celé řadě úkonů, které jsou sice produktivní, ale ve své podstatě jsou jen mechanickým cvičením mysli. Mohli bychom je nazvat hloupou duševní prací – sice funguje, ale nevyžaduje hluboký intelektuální vklad. Jde například o vyřizování nejrůznější pošty, sepisování interních bulletinů a podobně. Jsme civilizace písmenek a většina těch písmenek nemá výraznou hodnotu a kvalitu, nejsou tvůrčí, ale přesto se psát a číst musejí. To vše by mohla umělá inteligence zastat: ve vnitrofiremním životě, v úředním životě, ve vnitřním životě institucí.
Mohla by tyto věci zařizovat a lidem předkládat nějaké stručné souhrny a šetřit jim čas. Když se použije chytře, tak to bude to první, k čemu se bude používat. Snad. Určitě jsou i celé oblasti, celé profese, které jsou pod přímým ohrožením. Call centra, tam je to markantní, velká část PR reklamy, marketingu… Žurnalistika je také profese, jež je potenciálně nějakým způsobem ohrožená. I když nevím, zda „ohrožená“ je to správné slovo, spíše v ní v důsledku umělé inteligence proběhnou obrovské změny. Ale jak jste si jistě všiml, i já teď používám budoucí čas, nikoli přítomný.
Říkáte, že AI nahradí produktivní neboli hloupou duševní práci, ale zároveň jste před chvílí také narazil na otázku, zda je bytostí. Obecně o ní mluvíme jako o inteligenci, čímž jí už nějaké osobnostní vlastnosti přičítáme. Jde to vůbec s hloupou duševní prací dohromady? Dokázal byste říct, proč o ní jako o inteligenci hovoříme? Proč vůbec otázku, zda je AI bytostí, pokládáme?
Taková otázka má několik rovin. Jedna věc je, jak vůbec vznikl název „umělá inteligence“. Byl zaveden v roce 1956 na sympoziu v Dartmouthu, kde se sešlo několik chytrých lidí, hlavně matematiků, a potřebovali grant na letní školu, kterou chtěli uspořádat. Hledali tedy atraktivní název, aby jim na to někdo dal peníze. Tak si vymysleli název Artificial Intelligence (AI), protože to znělo dostatečně dobře. Peníze opravdu dostali a zbytek, jak říkají Anglosasové, je historie. Od začátku to tedy byl vlastně trošku reklamní název.
Dnes se ale pereme s tím, že opravdu zvažujeme, zda se k AI máme chovat jako k inteligentní entitě. Zase to je taková klička, abych neřekl „bytost“ nebo „živá věc“. Myslím si, že to budeme chtě nechtě dělat. Budeme se tímto způsobem chovat, bez ohledu na to, jakou má AI podstatu. A to čistě z toho důvodu, že všichni máme silnou tendenci antropomorfizovat neživé věci. Každé dítě má rádo nějakého plyšáka. Kdybych tenhle šálek teď vzal a praštil s ním o zem, neříkejte, že by vám ho nebylo trošku líto. A je to jenom šálek na kávu, neživá věc. Stejně bychom k němu cítili soucit: „Proč ho ten trouba rozbil?“ Myslím si, že je to úplně v pořádku, že jsme takto stvořeni. Ale tím spíš jsme velice zranitelní, když před námi najednou stojí technologie, která se tváří velmi živě, velmi empaticky – určitě ji jako bytost budeme vnímat. A také se to děje. Lidé tímto způsobem přistupují k AI, k chatbotům, se kterými dnes běžně pracují. Takto je vnímají, přisuzují jim lidské osobnostní rysy. Tomu se nedá zabránit.
Říká nám to něco o nás lidech?
Ano, určitě. Daleko víc než o umělé inteligenci. Říká nám to o nás, že si velmi ceníme svých vlastních osobností, svého vlastního života a hledáme nějaký jeho odraz, nějaké zrcadlo všude, kde se dá.
A říká nám to i něco o společnosti jako takové? A to i obecněji, když se zaměříme i na jiné otázky. Jakým způsobem AI využíváme? Jak s ní komunikujeme? Učí nás to něco jako společnost?
Nevím, na tohle neumím odpovědět. Jedna věc je jednotlivec, který sedí před počítačem a povídá si s AI. Druhá věc je zobecnit to na nějakou celospolečenskou reakci. Ta bývá zmatená, neurčitá. V tuto chvíli asi nelze říct, co se celospolečensky děje. Někteří lidé vyjadřují nadšení, někteří velké obavy, někteří přemýšlejí, jak AI využít obchodně, jiní, jak ji zregulovat, vtěsnat do nějakého právního rámce. To všechno jsou běžné reakce, když se objeví něco nového. Pamatuji si nástup internetu jako takového, mobilu nebo třeba samořídicích aut – ta reakce vždy vypadala velice podobně jako to, co jsem právě popsal. Takže v tomto směru nám AI myslím neříká nic specifického – lidé tímhle způsobem na novinky reagují. Nebo aspoň prozatím nic neříká.
Jsme tedy zatím v době hledání a objevování? Nebo lze říct, že už jsme něco zjistili?
ChatGPT v první verzi byl zveřejněn na podzim 2022, tedy před třemi lety. To je z hlediska nějaké celospolečenské reakce velice krátká doba. Zatím jsme podle mě zmatení. A to i proto, že GPT už není takové, jaké bylo před třemi lety. Umělá inteligence se nám před očima velice rychle vyvíjí, a sotva si zvykneme na to, že má nějaké vlastnosti, že se o ní dá něco říct, zas se promění. A to bude zřejmě ještě nějakou dobu trvat. Než se s tím srovnáme, než se reakce ustálí, může trvat několik let, možná deset, možná i víc.
Článek od Gérnota Meiera mluví o gramotnosti v oblasti AI. Když hovoříte o překotnosti vývoje umělé inteligence a mlhavosti našich zjištění ohledně jejích vlivů na společnost a důsledků pro svět, myslíte si, že je něco takového jako AI gramotnost v tuto chvíli vůbec možné? Je vůbec možné o umělé inteligenci něco konkrétního vyučovat, třeba na školách?
Je to naprosto nutné. Je potřeba s tím děti, žáky či studenty seznamovat, ale s tou výhradou, že mluvíme o věci, která se nám neustále mění před očima. Proto je potřeba soustředit se spíš na základní principy než na nějaké detaily, jež jsou proměnlivé. Základními principy myslím povědomí o tom, jak AI funguje, co je „pod kapotou toho stroje“. A to ne proto, aby všichni byli odborníky na AI, ale proto, aby si lidé uvědomovali její omezení a zdroj, odkud se to bere. Je důležité, aby to nebyla magie, aby to bylo něco, co se aspoň v principu dá pochopit.
Dále sem patří základní principy zacházení s umělou inteligencí jako třeba míra důvěry, kterou k výrokům těchto strojů mohu mít. To by se vyučovat mělo, ale je to pochopitelně těžký úkol. A to nejenom proto, že je to nové, ale i proto, že je to kluzké, proměnlivé, a to je pro školu opravdu obtížná věc. Školský systém není pružný, je pomalý, reaguje se zpožděním a tady se po něm najednou požaduje, aby na něco reagoval velmi rychle.
Dokázal byste vybrat nějakou informaci nebo skutečnost o umělé inteligenci, kterou by měl v tuto chvíli vědět opravdu každý?
Jedna z věcí, kterou by měl vědět každý, je, že to není žádná umělá bytost, ale chytré využití matematické statistiky a skutečnosti, že máme digitalizovanou velkou část znalostí lidstva a že jsme našli způsob, jak ji zhustit, zdestilovat a potom s ní komunikovat. Že je to něco, co se dá naučit, pokud byste si sedli a dva roky se učili příslušnou matematiku, která za tím stojí. Že to není tajemná, nesrozumitelná, magická záležitost. Opakovaně se okolo sebe setkávám s pocitem, že tady vznikl golem, že je to mystika. A to je velmi nezdravý způsob uvažování, protože se tomu potom poddáváme, podřizujeme. Je důležité vědět, že to tak není, že principy té věci jsou uchopitelné.
S tím možná souvisí jedno riziko, jež nedávno zmínil papež Lev XIV. Ten o umělé inteligenci často hovoří, nejspíš i proto, že sám vystudoval matematiku. Letos v červnu mluvil o možných negativních dopadech umělé inteligence na kognitivní a duchovní zrání. Je to, o čem jste teď mluvil, jedním z možných rozměrů tohoto rizika?
Určitě je. Toto je, myslím, věc, na níž se například ateisté na jedné straně a katolická církev na druhé straně mohou zcela shodnout: aby tyto věci nebyly vnímány jako magie. Aby bylo jasné, že jde o lidské dílo, které jsme vytvořili, protože jsme na to dostatečně chytří a šikovní. Spousta lidí tomu sice nerozumí, protože je to složité, je to nové, ale rozumět se tomu dá.
Dokázal byste pojmenovat další taková rizika, která ovlivňují kognitivní nebo duchovní vývoj mladých, případně i starších lidí?
Odpověď, která se přímo vnucuje, je, že budou líní myslet, protože za sebe nechají myslet stroje. Množství běžných snadných otázek každodenního života, včetně těch, které před žáky klade škola, dovede dnes umělá inteligence zodpovědět dostatečně dobře. Svádí to vzdát se jakéhokoli přemýšlení. Stačí umět číst a psát a stroj za mě všechno zodpoví. Vlastně už ani není potřeba umět číst a psát, protože je možné s AI komunikovat i hlasově. Já ale okolo sebe nepozoruji, že by k tomu lidé měli tendenci. Spíš slyším intelektuály, kteří hrozí tím, že se to stane, ale nevidím kolem sebe, že by se to doopravdy dělo. Možná se dívám špatnými směry, to nemohu vyloučit, ale zatím se mi zdá, že lidé používají AI překvapivě dobře. Že si spíš s její pomocí prohlubují znalosti a informace, než že by rezignovali na samostatné myšlení.
Ale jak říkám, je to moje zkušenost a zkušenost jednoho člověka není postačující na nějaké hodnocení, to zaprvé. A zadruhé, co není, může být. Takže toto riziko zde je. Vytvořili jsme mašinku, která za nás může myšlení docela dobře předstírat, a jestli se s tím spokojíme, jestli bude hodně takových, kteří se s tím spokojí, bude to špatné. Je třeba proti tomu nejrůznějšími způsoby bojovat. To je zase částečně úkol školy a částečně je to úkol, řekl bych, každého myslícího člověka v dosahu jeho možností a odpovědnosti. Každý máme za něco a za někoho odpovědnost.
Rudolf Rosa na konci svého článku nastiňuje ideál budoucnosti ve spolupráci člověka s umělou inteligencí. Jak by taková skutečná spolupráce mohla podle vás vypadat? Nebo jinými slovy, v čem je podle vás člověk nezastupitelný, a v čem ho naopak umělá inteligence může dobře doplňovat, v čem nad ním vyniká?
Na to asi není úplně obecná odpověď, to se bude řešit případ od případu, profese od profese, pracoviště od pracoviště. Dnes je například dobře známá, zaběhnutá zkušenost, že lepších výsledků dosahují týmy, které jsou dostatečně rozmanité svým složením, než týmy homogenní. Že je výhodné mít v týmu lidi s různou mírou zkušeností, různého věku, různého pohlaví, protože každý přispěje nějakým svým vlastním pohledem. Složité úkoly se potom řeší lépe. Umělá inteligence tuto diverzitu posouvá ještě úplně jinam, protože ona uvažuje jinak než člověk. Slovo uvažuje můžeme dát do uvozovek, ale také nemusíme. To je čistě otázka vkusu.
Podstatné je, že uvažuje opravdu jiným způsobem. Zejména z toho důvodu, že pracuje s textem jako se samostatným artefaktem, ve kterém hledá statistické souvislosti, zatímco my každý text vnímáme v souvislosti s vlastní smyslovou zkušeností se světem. AI o světě nic neví, ví jenom o tom textu, a to je obrovský rozdíl. Naše schopnost okamžitě konfrontovat informace s realitou je dvousečná zbraň. Je to filtr, který nás chrání, ale zároveň nás omezuje v prostorech čisté teorie. AI nemá žádnou žitou realitu, což je její handicap i superschopnost. Tam, kde my potřebujeme berličku konkrétního příkladu, ona prostě jen zpracovává vztahy bez potřeby je někam v hlavě ukotvit. Naše různé způsoby uvažování se tedy mohou velice dobře doplňovat. Může to mít nejrůznější konkrétní podoby podle toho, zda jde o vědeckou práci, přípravu výuky, psaní textů a podobně.
V současné době se hodně mluví o takzvaných agentních systémech či o agentické umělé inteligenci, která si plánuje svou činnost a volí si dílčí cíle pro dosažení cíle zadaného uživatelem. Jak vnímáte spolupráci mezi člověkem a takto sofistikovanějším systémem? Jak je možné sladit cíle zamýšlené člověkem s cíli volenými umělou inteligencí? Jak můžeme kooperovat?
Spolupracovník, který je nadán větší samostatností, bývá kvalitnější než ten, kterého musím vodit za ruku. Takže by to mělo být plus. Jde ale samozřejmě o to, aby se podřizoval společnému cíli. Abychom nad AI stále měli kontrolu my, aby si nedělala, co chce. Je spousta černých předpovědí, jak se nám právě agentické systémy vymknou z rukou a začnou sledovat vlastní cíle nekompatibilní s našimi a třeba nám ošklivě ublíží. Já v těchto vizích spíše vnímám naše vlastní obavy ze sebe samých, že jde o pohled do našeho vlastního podvědomí. A tam vidíme nepěkné věci. Ano, tak to bývá, to je stará známá věc, ale v tuto chvíli to není reálné riziko.
Samozřejmě, když dáte nějakému stroji velkou samostatnost, vždy existuje nebezpečí, že provede něco, co by neměl. Prostě proto, že tvůrce nebo uživatel neodhadne, k čemu všemu se ta samostatnost dá použít. Agentická AI je podle mě nutná, má-li být umělá inteligence opravdu užitečná, chceme-li automatizovat některé činnosti, abychom je vůbec nemuseli dělat. Musíme jí k tomu dát samostatnost, ale předem musíme mít dobré záruky, technické záruky, že to nepovede k něčemu nežádoucímu. Je to těžký, ale podle mě naprosto řešitelný a čistě technický úkol.
Říkáte čistě technický úkol. Není to spíše úkol spolupráce technického světa s etiky a lidmi, kteří se hlouběji zabývají filozofií, teologií a podobně?
Jistě, máte pravdu. Na té nejvyšší úrovni, na úrovni hledání morálních a etických pravidel pro fungování umělé inteligence by to rozhodně neměli řešit jenom technici. To je řešení otázky „co“. Jiné je řešení otázky „jak“, a to je třeba implementovat technicky. Tzv. AI alignment, tedy zajištění souladu činnosti umělé inteligence s našimi hodnotami, cíli a pravidly, je opravdu z převážné části technická záležitost. Jak do AI takový soulad vložit, jak udělat reálný fungující ekvivalent toho, co Isaac Asimov nazval pravidly robotiky. Dnes již chápeme, že jeho literární pravidla jsou v technické praxi nepoužitelná. Přesto před lidstvem stojí úkol definovat nový rámec, který by byl stejně ambiciózní, ale zároveň technicky realizovatelný. Je to výzva, která má řešení, i když vyžaduje zcela nový přístup k programování hodnot.
Neměl by konkrétním aplikacím předcházet nějaký legislativní rámec?
Ano, jistě, to je ta nejvyšší úroveň, o níž jsem mluvil. Technickému řešení musí předcházet legislativní rámec a jemu ještě musí předcházet rámec morální nebo etický. Jakmile bychom přistoupili na to, že morálka a právo jsou v této situaci totéž, máme někde chybu. Musí být spousta věcí, které právo přímo nezakazuje. Ale etika říká: to se nedělá. Jakmile tam tento prostor nebude, nepůjde o dobrou společnost nebo, řekněme, dobré využití svobodné vůle.
Dnešní společnost se ale snaží velmi rychle směřovat k pomyslnému ideálu obecné umělé inteligence. Vnímáte v tomto úsilí onen morální rozměr, o němž mluvíte?
Znovu bych připomněl, že jde zatím o velice krátký čas. Není myslím dost dobře možné, aby se za tři roky vyvinulo nějaké nové morální vědomí. Zatím se všichni seznamujeme s možnými režimy fungování AI a se situacemi a jevy, které to přináší. Reagovat na to nějakým morálním konsensem bude chvilku trvat. Období, než takový konsensus vznikne, může být komplikované a nebezpečné. Tak to bývá. Žijeme v době velkých změn. Takových období bylo v dějinách lidstva spousta a všechny jsme přežili. Snad nějak přežijeme i tohle.
Máme tedy s legislativní reakcí čekat, až se začne formovat konsenzuální etické vědomí? Vnímáte tedy jako předčasné, když před několika lety například papež František vyzýval k vytváření mezinárodní regulace umělé inteligence?
To rozhodně jako předčasné nevnímám. Papež František si byl jistě velmi dobře vědom toho, že když takovou výzvu vypustí do světa, bude velice dlouho trvat, než bude mít nějakou reálnou odezvu. Neříkám, že máme sedět s rukama v klíně a čekat, až nastane vhodná chvíle začít o tom přemýšlet. Jenom bychom měli být realisté a nečekat, že nějaké definitivní odpovědi přijdou zítra. Přemýšlet o tom, pracovat na nich, koneckonců i tohle povídání k tomu směřuje.
A jaké formy regulace tedy považujete za účinné a smysluplné nastavovat třeba už nyní?
Myslím si, že první regulace musí být ta morální, tedy najít nepsaná pravidla pro to, co se dělá a nedělá, k čemu se AI má používat a k čemu ne. Tohle musí vzniknout nějak spontánně. A pokud se ptáte na legislativu, tak první legislativa, která musí vzniknout, a třeba na půdě Evropské unie už vzniká, je ta bezpečnostní. To znamená vymezit, jaké činnosti prováděné s umělou inteligencí mohou být opravdu nebezpečné, a ty pak omezit nebo zakázat. To se děje, ale polovičatě. Třeba z Evropského aktu o umělé inteligenci, který je jediným již přijatým a fungujícím zákonem o AI na světě, jsou výslovně vyjmuty všechny vojenské aplikace. Na ty se nevztahuje. Přitom ty mohou být z těch nejnebezpečnějších.
Na druhou stranu je dobré, že je tam mimo jiné jasně řečeno, že se zakazuje celá řada forem šmírování lidí, které by pomocí AI bylo technicky velice snadné. A například u soudu se nepřipouští jako důkaz. Je to takové látání těch největších děr, kterými by do lodi mohlo natéci nejvíce vody, a tak je v pořádku, že se začíná právě od toho. Jaká budou další vymezení, uvidíme. Tomu musí opravdu předcházet morální konsensus. V tuto chvíli by bylo předčasné sednout si a začít sepisovat nějaký obsáhlý AI zákoník. Napřed nám to musí všechno dojít, musíme si to promyslet a uspořádat, a to se ještě nestalo.
Myslíte si, že je umělá inteligence opravdu taková revoluce, jak se o ní mluví?
Nevím, to opravdu nevím, na to v tuto chvíli nikdo nemůže mít poctivou odpověď. Revoluci poznáte až ex post. Kdybychom tady seděli v roce 1810 a zeptal byste se: „Myslíte si, že ten parní stroj je opravdu taková revoluce, jak se o něm mluví?“ Jediná poctivá odpověď by byla: Nevím. Pojďme počkat třeba do konce tohoto století, pak si to řekneme.
Dobře, tak počkejme. Mluvili jsme o tom, co všechno z našich činností může umělá inteligence nahradit nebo proměnit, tak bych se na závěr rád zeptal z pohledu člověka jako jednotlivce: Jak se k tomu všemu můžu postavit? Jak můžu hledat svoji hodnotu v tomto světě, kde činnosti, které dělám, postupně nahrazuje nějaký artefakt?
My v tom světě, který se proměňuje v důsledku technologií, žijeme už hezky dlouho. Současná digitální vlna začala nejpozději kolem roku 2000 zobousměrněním webu, tehdy se tomu říkalo Web 2.0. A možná už dřív, při nástupu osobních počítačů. Je to prostě už dlouhodobá zkušenost, na kterou bychom měli být trochu zvyklí. Jak si v tom hledat svoje místo? Základní možnosti jsou podle mě dvě. Buďto přemýšlet o tom, jakého uplatnění, pracovního i osobnostního, se tato technologie v dohledné době nedotkne. Bezpochyby takové možnosti jsou.
Anebo hledat, jak se s tou technologií naučit zacházet co nejlépe a umět v tom být dostatečně přínosný. Dobré řešení není strčit hlavu do písku a čekat, jak to dopadne. Jinými slovy, máme-li v této době důstojně obstát, musíme vědět, co se děje, a seznamovat se s tím, co tyto nové technologie přinášejí a jak bych se pravděpodobně měl chovat. Jisté to nebude nikdy. Prakticky to znamená, že vědět něco o umělé inteligenci je lepší než nevědět a přemýšlet o tom, v jaké profesi bude člověk ještě dlouho nenahraditelný, to také dává smysl.
Děkuji za rozhovor a za váš čas. Přeji vám, aby se vám s umělou inteligencí dobře spolupracovalo.
Čtyřdílný cyklus přednášek a debat v D8 s názvem Myslím, tedy AI? navazuje na číslo 3/25 Umělá inteligence. První přednáška o neuronových sítích ZDE.
Petr Koubský (*1961) je uznávaný český novinář a redaktor Deníku N, kde se specializuje na vědu a technologie. Vystudoval Vysokou školu chemicko-technologickou v Praze a stal se jedním z nejvýznamnějších popularizátorů vědy v českých médiích. V posledních letech se profiluje jako jeden z předních českých expertů na problematiku umělé inteligence. Pravidelně přednáší o dopadu AI na společnost, píše analytické články o vývoji technologií a upozorňuje na etické výzvy, které přináší rychlý pokrok v oblasti umělé inteligence. Jeho práce se zaměřuje nejen na technické aspekty AI, ale především na její společenské důsledky, včetně dopadu na novinařinu, trh práce a budoucnost lidské civilizace. Za svou novinářskou práci byl oceněn prestižní Cenou Ferdinanda Peroutky. Kontakt: petr.koubsky@denikn.cz
Prokop Šilhavý (* 1994) absolvoval ČVUT v oboru umělá inteligence a následně teologii na KTF UK. Svůj interdisciplinární přístup rozvinul během studijního pobytu na univerzitě v Bonnu, kde se specializoval na etické aspekty AI. Po technickém výzkumu multiagentních systémů a teorie her se praktické aplikaci umělé inteligence věnuje v konzultační firmě Blindspot AI. Mimo to se aktuálně zabývá propojováním křesťanských sociálněetických principů s debatou o etickém vývoji umělé inteligence. Kontakt: silhavy.prokop@gmail.com
