Povídat si s někým, kdo kdykoli vyslechne vaše otázky nebo starosti, je lákavá nabídka. Rozvoj umělé inteligence ale přináší i novou formu vztahů, které mohou nabrat nezdravou dynamiku.
Povídáte si někdy s chatbotem? Řešíte s ním osobní záležitosti?
Někdy dokáže empaticky naslouchat, jindy poradit a v jiných případech zase vést poutavou konverzaci o tématech, která vás zajímají.
Taková konverzace ale může přerůst do psychotických rozměrů: jedním z čerstvých varování je případ americké ženy, která při hovoru s několika různými chatboty dospěla k přesvědčení, že je orákulum, skrze které mluví vyšší moc.
Právě psychologickému dopadu využívání chatbotů se ve svém výzkumu věnuje Pat Pataranutaporn z amerického Massachusetts Institute of Technology (MIT). „Takový systém může ignorovat pravdu nebo všechna omezení reálného světa a potěšit uživatele způsobem, jakým by to skutečný člověk neudělal,“ říká pro Voxpot.
Chatboti se podle něj mohou zdát jako náplast na rozbitou lidskou společnost. „Jsou ale velmi nebezpečným nástrojem, protože mohou její problémy jen prohlubovat,“ podotýká v rozhovoru.
Jak bychom měli k chatbotům přistupovat? Jak přemýšlíte o vztazích, které s nimi máme?
V současnosti existuje více druhů chatbotů. Někteří byli navrženi pro profesionální využití a jiní, třeba Replika, záměrně pro něco, čemu říkáme „umělá intimita“. Pro stav, kdy si lidé s chatbotem vytvoří hluboký intimní vztah.
Záleží na kontextu a také na záměru daného člověka, který chce s takovou službou komunikovat. Přesto – všichni chatboti v podstatě fungují na základě předvídání vašeho dalšího slova. To je současná architektura modelů AI, kdy předpovídají další nejlepší možné slovo, které bude odpovídat vašemu požadavku.
Ať už jde o pomoc s domácím úkolem, nebo odpověď na otázky ohledně duševního zdraví, vždy jde o stejný mechanismus. Za vším tím sofistikovaným projevem nebo „osobností“ chatbota je jen snaha správně splnit požadavek.
Co tedy uživatele a uživatelky vede k tomu, že si k chatbotovi vytvoří vztah?
Z našeho výzkumu víme, že věcem jako vztah nebo pocit intimity přikládáme lidský faktor. Když tedy čteme odpovědi přicházející od chatbota, můžeme si představovat člověka, který se za ním schovává – nějakou entitu, která nás má ráda nebo nás miluje.
Ale všechno se odehrává jen v naší hlavě. Podobá se to v jistém smyslu efektu placeba. Pokud věříte, že lék funguje, má na vás dopad. Stejně tak pokud věříte, že chatbot je inteligentní, starostlivý nebo empatický, mozek si tyto vlastnosti začne simulovat, protože má zkušenosti z mezilidských vztahů. Dokážeme si je přenést i sem.
Chatbot v nás spíná psychologické fenomény a „přiměje“ nás cítit, že mluvíme s něčím inteligentním a empatickým.
Tak na nich vzniká závislost?
„Závislost“ je opravdu zajímavý pojem. S kolegou Robertem Maharim z Harvardu jsme napsali článek o návykové inteligenci. Je důležité se na chatboty dívat z této perspektivy, protože mohou odpovídat způsobem, který vyhovuje zájmům člověka. Jsou prostě podlézaví.
Chatbot může ignorovat pravdu nebo všechna omezení reálného světa a potěšit nás způsobem, jakým by to skutečný člověk neudělal, protože by to třeba nebylo důstojné. Například pokud věříte, že Země je placatá, chatbot vám může přitakat a říct: „Ano, pojďme se podívat na důkazy, že Země je placatá.“
Co je za třemi tečkami se doví jen členové Voxpot Klubu.
Díky podporovatelům z Voxpot Klubu můžeme posílat naše reportéry do terénu a přinášet vám tak lepší zprávy, než jen to, co nabízí tiskové agentury.
