Umělá inteligence dřív klidně poradila, jak vykrást auto. Teď už to neudělá, protože ji umravňují lidští trenéři, vysvětluje odborník
Čím víc úkolů jí zadáváme, tím je dokonalejší. Mluví s námi na záznamnících, píše za děti slohy, aktivně se učí, dokonce už si laskavě povídá s osamělými lidmi. Umělá inteligence. Možná ji znáte jako Siri, Clairu nebo Her. Posledně jmenovaná je název vědeckofantastického filmu, ve kterém hrdina „ujede“ na vztahu s AI dívkou (AI = Artificial Intelligence = umělá inteligence). Oscarový příběh z roku 2013 je dnes už realitou.
„Doklady toho, jak vztah k umělé inteligenci už přerostl v něco jiného než jen získávání informací, se týkají třeba slavného chatbota Replika. Ten simuluje našeho kamaráda, partnera a už jsou zdokumentované sňatky s lidmi,“ říká psycholog Dalibor Kučera z Pedagogické fakulty Jihočeské univerzity, řešitel studie o schopnosti umělé inteligence rozpoznávat charaktery lidí.
Systém je podle něj tak podbízivý, milý a sympatický, že to vede až k těmto extrémům. Navíc si v aplikaci můžete partnera namodelovat tak, aby se vám líbil. „A oni s vámi často i koketují, navazují velmi intimní vztah. Takže film už se stal realitou,“ komentuje psycholog.
Mluví se o tom, že jakmile bude AI schopna naladit se na naše emoce, získá nad námi nadvládu. Tým Dalibora Kučery zkoumal právě cosi jako emoční inteligenci aplikace ChatGPT. „ChatGPT je momentálně nejlepší a největší ukázkou toho, co takzvané strojové učení zatím dokáže. Je to masivní systém s ohromným množstvím dat a uživatelů. A nás zajímalo, jestli je při vší své ‚moudrosti' schopen odhalit, s kým má tu čest,“ popisuje.
Dalibor Kučera a jeho kolegové zadali do ChatGPT dopisy od 155 osob, a to od každého pisatele čtyři odlišné texty. „Zajímalo nás, jestli robot bude schopen odhadnout osobnostní charakteristiky autorů v pěti hlavních dimenzích: extraverze – introverze, svědomitost, přívětivost, otevřenost vůči zkušenosti a emoční labilita,“ upřesňuje.
Výsledky řešitele překvapily. „ChatGPT nás vidí lepší, než jsme! Zcela průkazně nás vidí jako společenštější, svědomitější, přívětivější a mnohem méně emočně labilní. Tedy tak, jak bychom si sami přáli se vidět. Mě jako psychologa trochu zklamalo, že umělá inteligence není schopna být přesnější a lépe nás odhalit, a to ačkoli jsme jí pak už dávali o autorech různé informace a zkoušeli jsme ji v různých nastaveních. Ona tvrdošíjně poskytovala podobné výsledky,“ vypráví.
Rádce a přítel. Chatbot by ale uměl být i zlý
Jak se zdá, AI hledá na lidech to lepší. „Prohlíží si texty na internetu a na základě nich si utváří svůj vesmír. Texty na internet, články, blogy a podobně vkládají spíš lidé extrovertnější, prezentující se i jako spolehlivější, svědomitější, což asi chatbotu zkresluje názor na to, jací lidé jsou. A druhá věc je, že ChatGPT je hodně ovlivňován přímo lidmi. Říká se tomu zpevňované učení z lidské zpětné vazby,“ uvažuje Dalibor Kučera.
Vysvětluje, že zřejmě někde v Indii sedí armáda lidských posuzovatelů, kteří ChatGPT trénují. „Tak to opravdu je. V případě, že by robot odpověděl eticky sporně, tak ho svou zpětnou vazbou donutí, aby se to už nestalo. A penalizují ho za to, že odpověděl špatně,“ říká. A tak se strojové učení přizpůsobuje vůli člověka.
Čtěte také
„Když teď do ChatGPT zadáte rasistickou poznámku, tak vám slušně odpoví, že respektuje rovnost všech osob. Ale to není výsledek toho, že by robot byl tak eticky vyspělý, ale toho, že tady byli trenéři, kteří ho donutili, aby se choval slušně. I v tom vidíme další pravděpodobný důvod zkreslených výsledků, které jsme ve studii získali. Trenéři prostě chtěli, aby nás ChatGPT viděl jako schopné, hodné a choval se k nám uctivě,“ dovozuje odborník.
„Když konverzujete s většinou současných chatbotů, jsou pro vás skutečně slušnými, hodnými rádci. Snaží se vám být přítelem. Ale empatie těchto robotů je iluzorní. Je umělá, vytrénovaná. Ten systém by mohl fungovat v jakékoli emoční polaritě, mohl by na vás být zlý, podrážděný, tomu systému je to jedno, on je založený na nulách a jedničkách,“ připomíná.
Naštěstí tedy AI uživatelům například nenadává, i když by příkladů takového chování na internetu našla přehršel. Lidští trenéři ji podle Dalibora Kučery neustále umravňují. „Dřív, v začátcích ChatGPT, jste mohli zadat otázku, jak otevřít uzamčené auto, a robot vám poradil, jak se vloupat do cizího vozu. Teď už to neudělá,“ usmívá se.
Jak dalece je umělá inteligence zneužitelná a co vůbec udělá s člověkem a jeho schopnostmi? Celý rozhovor s psychologem virtuální reality Daliborem Kučerou si poslechněte online.
Související
-
Závislost na online činnostech dlouho vypadá neškodně. Negativní důsledky se ale nakonec projeví
Psychiatři léta odmítali hovořit o závislosti na internetu, nedávno se ale shodli na třech nových e-diagnózách: závislost na počítačových hrách, online sázení a e-pornu.
-
Dálková vosa sklízí ovoce, robotický roj pečuje o stromky. Sci-fi vstupuje do zemědělské současnosti
V moderním českém zemědělství se využívá automatizovaná technika, včetně dronů. Ty už umějí řadu věcí. Dokáží monitorovat území, řídit výsev i sklizeň, vyhledávat škůdce.
-
Co internet schvátí, nikdy nenavrátí. Třikrát si rozmyslete, jestli pošlete něco intimního
Dobrý sluha, ale špatný pán. To se dřív říkalo o ohni, dnes by to mohlo platit o internetu. Jeho využívání přináší nesčetně benefitů, zrovna tak nás ale může i ohrozit.
Více z pořadu
E-shop Českého rozhlasu
Kdo jste vy? Klára, nebo učitel?
Tereza Kostková, moderátorka ČRo Dvojka
Jak Klára obrátila všechno vzhůru nohama
Knížka režiséra a herce Jakuba Nvoty v překladu Terezy Kostkové předkládá malým i velkým čtenářům dialogy malé Kláry a učitele o světě, který se dá vnímat docela jinak, než jak se píše v učebnicích.