Už dnes je těžké rozlišit, za čím stojí člověk a co je manipulace umělé inteligence, upozorňuje analytik

Už dnes toho umějí velmi mnoho. Prostřednictvím sociálních sítí s námi dokáží manipulovat, vedou za nás hybridní války, směřují ale i k humánním cílům, jako je záchrana životního prostředí, schopnost uživit všechny lidi na planetě, všeobecná hojnost. I to ale má svá rizika.

Může se AI vymknout kontrole a sledovat své vlastní zájmy? „Já bych to řekl asi takto: umělá inteligence funguje na základě příkazů člověka. Ostatně je to vždycky kód. Softwarový kód, který funguje na velmi výkonných počítačích, může to být propojeno do sítí a tak dále. Ale je to pořád jen kód, a původní impuls tedy přichází od člověka,“ odpovídá Dalibor Vavruška.

„Nicméně umělá inteligence znamená to, že počítač si pak už může budovat svůj virtuální model,“ upozorňuje, „a ten je natolik komplikovaný, že už mu žádný člověk nemůže rozumět. V tom okamžiku počítač začne dělat věci, které člověk nemusí chápat. Robot dál sleduje zadaný cíl, například ochránit životní prostředí, ale komplexními úvahami se může dostat k tomu, že aby dosáhl cíle, musí uškodit lidem nebo skupině lidí.“

Podle Dalibora Vavrušky nemusí jít přímo o vyhubení lidstva, které systém vyhodnotí jako největšího znečišťovatele přírody. „Ale stejně, nebo ještě víc rizikové je, že umělá inteligence může chtít útočit třeba jen na nějakou skupinu lidí. Nebo přinese agendu, která bude vyhovovat jen určité skupině. A bude to prezentováno jako rozhodnutí na základě vědeckých poznatků,“ doplňuje.

Čtěte také

Co internet schvátí, nikdy nenavrátí. Třikrát si rozmyslete, jestli pošlete něco intimního, zdůrazňuje odborník

Je tato science fiction vzdálenou, nebo velmi blízkou budoucností? „Můj názor je, že tyto věci se už začínají dít. Dnes už je velmi těžké rozlišit, za čím stojí člověk a kdy nás manipuluje umělá inteligence. Když se podíváme jen na veřejnou debatu, jak moc se jí účastní sociální sítě a jak i politici bez nich nedokáží fungovat, tak je opravdu otázkou, kdy nás tento systém začne, nebo jestli už začal manipulovat,“ myslí si Dalibor Vavruška.

Proto je podle něj třeba vrátit se ke kulturním hodnotám, které naše civilizace budovala po staletí a tisíciletí. Na mysli má především etiku, považuje za nutné vnášet ji do spolužití s roboty. „A to ne tak, že si řekneme principy a budeme se je snažit vynutit zákonem. Umělá inteligence už dneska totiž přesahuje to, co jsou státy klasickými zákony a soudním systémem schopny regulovat,“ zdůrazňuje.

Podle autora knihy Život v době robotů bude potřeba široká celospolečenská shoda. „Je třeba, aby si lidé určité věci uvědomili a určitým způsobem k umělé inteligenci přistupovali. Tak je možné se manipulativních rizik vyvarovat, nebo je minimálně snížit,“ dodává. Centrálním nařízením, bez toho, aby uživatelé rozuměli tomu, co se děje, to tedy podle Dalibora Vavrušky nepůjde.

Celý rozhovor o umělé inteligenci jako pomocníku i nebezpečí s analytikem a specialistou na digitální technologie Daliborem Vavruškou si poslechněte online.