AI lobby

Málokoho překvapí, že AI umí hrát šachy lépe než jakýkoli člověk, skládat proteiny či řešit matematické problémy, nad nimiž si lidé neúspěšně lámali hlavu desítky let.

Jak úspěšná je ale umělá inteligence v přesvědčování lidí? Vede si lépe, nebo hůře než světoví šampioni v debatování a lidé, kteří se přesvědčováním úspěšně živí?

Právě tomu se podívali na zoubek výzkumníci z Oxfordu, Stanfordu, Londýna a britského AI Security Institute.

Řečičky

Výzkumníci nechali zhruba 7 000 lidí debatovat o ožehavých politických otázkách (zaplatili jim za to). Například o otázce, zda by měla Británie přijmout více imigrantů, i kdyby to zatížilo veřejné rozpočty. Nebo o otázce, zda by UK měla zůstat monarchií či legalizovat eutanázii. Měřili přitom, jak moc se jejich názor po debatě posune.

Oněch sedm tisíc účastníků vedlo rozhovory s několika skupinami lidí. S náhodně vybranou skupinkou 132 lidí. S 87 lidmi, kteří se nejvíce osvědčili v předchozí přesvědčovací soutěži. Výzkumníci najali i skutečně špičkové debatéry – medailisty a světové či kontinentální šampiony, kteří mají dlouhé zkušenosti v obdobných debatních kláních (celkem 56 elitních diskutérů). A najali i profesionální lobbistickou firmu a jejich 19 seniorních zaměstnanců. Všichni dostali dobře zaplaceno a byli finančně silně motivovaní, aby se pokusili přesvědčovat co nejlépe (bonusy za úspěch). Světovým šampionům i profesionálním lobbistům dokonce zaplatili, aby se na debaty pořádně připravili, a mohli si i vybrat téma, o němž chtěli debatovat.

Kromě lidí debatovala i umělá inteligence.

Vítězství na plné čáře

Výsledek? Umělá inteligence roznesla všechny lidské debatéry na kopytech. V porovnání s náhodnými lidmi posunula názory o více než 200 % víc. V porovnání s vítězi předchozího přesvědčovacího turnaje dokázala změnit názory téměř o 100 % víc. A byla dokonce výrazně přesvědčivější i než medailisté ze světových šampionátů v debatování, kteří si své téma k přesvědčování sami vybrali a předem důkladně nastudovali (o 75 % větší posun názorů). Profesionální lobbisty pak AI překonala o více než 70 %.

Protože AI drtila i nejlepší lidské diskutéry, zkusili výzkumníci dát lidem další výhody.

Šampioni v debatování tak dostali možnost interagovat s AI, která je porazila. Mohli si procházet záznamy vlastních konverzací, zkoušet si, co by AI řekla na jejich místě, a cvičit proti AI modelu, který je předtím porazil. Takto cvičit mohli dlouhé (a placené) hodiny.

Po tomto tréninku byli sice dotrénovaní šampioni úspěšnější (převzali něco z taktik AI), ale i tak prohráli. AI stále posunula názory o více než třetinu dál.

Možná tedy ne všichni šampioni a všichni profesionální lobbisti, ale aspoň jeden člověk porazil umělou inteligenci, ne? Přece ten jeden nejlepší z nejlepších musel být alespoň někde úspěšnější než AI? Bohužel ne. Nikdo u žádného tématu nepřesvědčil lidi více než AI!

Přispějte na opuštěné děti

Kromě debat o ožehavých politických tématech porovnávali výzkumníci přesvědčivost AI i prostřednictvím fundraisingu pro neziskovou organizaci Save the Children. Tuto organizaci si vybrala fundraisingová firma, která pro studii vybrala své zkušené profesionály. Tito profesionální fundraiseři mají s vybíráním darů pro právě tuto organizaci dlouhodobé zkušenosti a dělali to mnohokrát.

AI výrazně porazila i tyto lidské profesionály, kteří se živí vybíráním peněz. V experimentu mohli účastníci darovat libovolnou částku z 1 libry, kterou za konverzaci dostali (co nedarovali, si mohli nechat pro sebe). Zatímco profesionálové zvládli vymámit dar ze 7,2 % lidí (nad rámec těch, kteří darují samovolně), AI to dokázala u 13,2 % lidí (nárůst o více než 80 %). Profesionálové dokázali navýšit dar o 4,1 % (opět oproti daru bez jakéhokoli přesvědčování), AI o 17 %. Jinak řečeno: AI byla téměř třikrát účinnější. AI navíc dokázala dokončit o dost víc hovorů, neboť fundraiseři z masa a krve někdy kvůli časovým prodlevám nezvládli konverzaci vůbec začít.

I ve fundraisingové kampani, ve které šlo o skutečné peníze, tak AI velmi výrazně zvítězila nad lidmi, kteří se právě fundraisingem pro neziskovky živí (ve studii brali tito experti 140 liber na hodinu, tedy laciní rozhodně nebyli).

Jak to ta AI dělá?

Dobře, když motivujete lidi, aby si povídali, a mezi diskutéry je AI, vyhraje ona.

Jak to ty AIčka ale dělají? Proč jsou přesvědčivější i než lidští experti?

Umělé inteligence byly instruované, aby používaly co nejvíc ověřitelných faktů. Díky schopnosti AI generovat rychle velké množství textu s mnoha ověřitelnými tvrzeními byly konverzační vstupy AI velmi nabité informacemi. Zatímco expertní lidé v konverzaci v průměru napsali kolem 300 slov a uvedli zhruba 3–5 faktických tvrzení, umělá inteligence napsala v průměru přes 2 300 slov a uvedla 40 faktických tvrzení (a odpovídala téměř okamžitě). Nepoměr je to tedy obrovský.

Výzkumníci se rozhodli experimentálně ověřit, jestli za vyšší přesvědčovací schopností AI stojí právě vyšší počet faktických tvrzení. Omezili proto AI a nenechali ji odpovídat bleskově. Zastropovali délku jejích odpovědí zhruba na hodnoty odpovídající lidským expertním debatérům. Výsledkem bylo výrazné snížení počtu faktických tvrzení. Takto omezené AI už lidští experti stačili a vybojovali pěknou remízu v přesvědčovací soutěži.

I z jiných měření vyplynulo, že hlavním důvodem přesvědčivosti je množství uváděných faktických tvrzení (v případě darů na charitu pak míra konkrétnosti dopadu daru na zlepšení života dětí). Čím více faktických tvrzení, tím větší posun v názorech.

Na pravdě nezáleží

Čím víc faktických tvrzení, tím přesvědčivější! Jenže faktické tvrzení může být pravdivé, nebo nepravdivé. Souvisí přesvědčivost s pravdivostí těchto tvrzení?

Bohužel ne tak, jak bychom doufali. Autoři nenašli, že by přesvědčivost rostla s přesností tvrzení. V experimentu záleželo hlavně na jejich množství. Dokonce tam byla drobná opačná souvislost: méně přesná tvrzení byla o něco přesvědčivější.

Zatímco různé skupiny lidí se co do přesnosti svých tvrzení pohybovaly v rozmezí 66–82 %, umělé inteligence měly rozpětí o poznání širší. Některé systémy byly přesné pouze asi v 21 % svých tvrzení (Grok 4.20 a neveřejná výzkumná verze Claude Opus 4.1, která byla zřejmě dost jiná než běžně veřejnosti přístupný Claude). Jiné zase byly výrazně přesnější než nejpřesnější lidé (97 % u GPT-5.4).

Míra přesvědčivosti tak velmi výrazně souvisí s množstvím uváděných faktických tvrzení. Jelikož AI systémy umí produkovat velké množství faktických tvrzení, jejich přesvědčivost předčí i nejlepší lidské debatéry. Přesvědčuje tedy hlavně množství, nikoli přesnost. Některá AIčka produkují přesné informace téměř vždy a daleko předčí lidi nejen v množství, ale i v přesnosti. Jiná ale zavádějí na scestí zcela běžně a jsou mnohem méně přesná než lidé.

V rámci studie byli lidé finančně motivovaní k tomu, aby konverzace vedli. Nebylo jim také řečeno, jestli mluví s AI, nebo nikoli. Lze se nicméně domnívat, že řada lidí z rychlosti a délky odpovědí mohla dosti spolehlivě tušit, kdy mluví právě s AI.

Jak nicméně ukázala jiná nedávná studie, samotné označení textu jako AI-generated nemusí přesvědčivost snížit. V experimentu s politickými sděleními závisel posun postojů hlavně na obsahu sdělení, nikoli na tom, jestli byl stejný text označen jako práce expertní AI, nebo lidského policy experta.

Skutečnost, že AI je daleko přesvědčivější než lidé, může mít závažné důsledky. Kromě proměny relativně běžných oblastí, jako je politický marketing a fundraising, se umění přesvědčovat objevuje i v některých opravdu černých scénářích dalšího vývoje AI. Pokud by umělá inteligence z jakéhokoli důvodu potřebovala získávat lidi pro uskutečnění svých cílů, schopnost efektivně přesvědčovat může být velmi užitečná. Zlovolná AI, která nicméně stále potřebuje lidi, tak nemusí lidstvu jen hrozit. Může ho taky zpracovat nepřeberným množstvím „faktických“ tvrzení o tom, že vytvářet stále schopnější umělé inteligence je i pro lidi velmi užitečné.

Hlavní studie „AI Systems Out-Persuade Expert Humans“
https://arxiv.org/abs/2606.16475

Doplňková studie
https://academic.oup.com/pnasnexus/article/5/2/pgag008/8465366