Debata: může umělá inteligence podpořit lidi ve smutku?

Debata o ChatGPT a generativní AI pokračuje v odrazu, prostřednictvím nových aplikací, které generuje jen několik měsíců po svém spuštění. Nedávný dokument od Special Envoy on France 2 (27. dubna 2023) představil aplikaci, která využívá GPT-3 a umožňuje uživateli obnovit dialog s pohřešovanými lidmi.

"Projekt prosinec (Simulace mrtvých)" je nepochybně extrémním případem použití konverzačního agenta z GPT-3, ale říká nám hodně o nedostatku měřítek takzvaných západních společností, které by usnadnily truchlení kolektivním způsobem a zarámované v čase, jak to udělaly civilizace, které nás předcházely.

Chatujte s našimi drahými zesnulými

„Project December“ umožňuje komukoli za 10 dolarů otevřít si účet a chatovat s (patentovaným) programem umělé inteligence, který simuluje slova zesnulé osoby, maximálně na sto výměn a po dobu jedné hodiny.

K tomu musíte vyplnit dlouhý dotazník, který má dvě hlavní části: totožnost osoby (jméno, přezdívka, data, místa, povolání a v případě potřeby i jméno psa), osobnostní rysy (popsané velmi binární způsob: např.: jistý /sebevědomý/stabilní vs dotčený/nervózní/narušený), ke kterému je přidán textový výňatek vytvořený těmito zesnulými osobami.

Zpráva okorespondent tak ukazuje muže, který právě přišel o matku a každý den klade svému syntetickému avatarovi otázky, které jí před její smrtí položit nedokázal.

Pro účely reportáže také tvůrce aplikace pořádá ve společnosti novináře dialog s konverzačním agentem nad hrobem amerického filozofa, básníka a přírodovědce Henry David Thoreau za použití jednoho ze svých nejslavnějších citátů: „nejlepší vláda je ta, která vládne nejméně“, v souladu s jeho libertariánskou ideologií vždy obhajovat „méně vlády“ – ideologii, která je také v Silicon Valley.

Simulovaný avatar Thoreau, který byl prostřednictvím aplikace uměle dotázán na možné toxické použití nástroje „Project December“, odpovídá, že veškerá odpovědnost spočívá na uživateli, jako v případě výrobce automobilů, který nemůže nést odpovědnost za chování špatného Řidiči.

Ignorování procesu truchlení?

Le technologického řešení tak pojmenoval výzkumník Evgeny MorozovZdá se, že ve svém rušivém momentu smete jakoukoli myšlenku, která se byť jen trochu polemizuje o psychických nebo kulturních důsledcích takového zacházení se vztahem k mrtvým.

Pohrdá antropologickými problémy truchlící proces a všechny poznatky o tomto procesu vyvinuté jak psychologií, tak studiem tradic.

Pokud psychoanalýza považuje truchlení za psychický proces, kterým se člověku daří odpoutat se od pohřešovaného a dát této ztrátě smysl, k podobnému procesu přispívají i svátky mrtvých ve starověkých tradicích, k obnovení smyslu života.

Vezměte si příklad Dne mrtvých v Mexiku: trvá dva dny a sestává z návštěvy hrobky, kde zesnulý rodiny odpočívá, kde se při hudbě stoluje. V závislosti na případu je po celou noc organizováno bdění. Při této příležitosti se hřbitovy zaplní rodinami, velkým množstvím pomerančových květin a svíček. To vše vytváří obzvlášť živou atmosféru. Rodiny si také doma dočasně zřídí oltář s portréty zesnulých, květinami, jídlem, svíčkami atd.

Z těchto rituálů vycházejí tři sociální a psychické dimenze:

1. svátek mrtvých – smutek – je kolektivní pozvání,

2. hledaný kontakt se zesnulým nemá v sobě nic spiritistického, neklademe konkrétní otázky

3. svátek mrtvých má přesně stanovenou dobu trvání.

Tyto tři aspekty pomáhají pochopit péči věnovanou individuálnímu a kolektivnímu duševnímu zdraví společnosti. Vzpomínka na mrtvé je realizována v rámci společenských setkání a protokolů, které pomáhají ukotvit se v životě.

Smutek bez prostředníka

V našich západních společnostech převzalo tento proces smutku v již oslabených formách křesťanství a terapie. Křesťanské rituály mají tendenci vyčerpat – v roce 2018 si 48 % Francouzů přeje náboženský obřad, když zemřou – ačkoli kněz nadále hraje klíčovou roli prostředníka, a to i pro nevěřící. Terapeuti tuto práci vykonávají za úplatu, zatímco zdravotnický personál je schopen tyto chvíle truchlení zvládat nad rámec svých povinností.

Na rozdíl od toho se nezdá, že aplikace „Project December“ nepřebírá žádnou odpovědnost za umístění lidí do osamělého vztahu s konverzacemi simulujícími myšlenky zesnulého. Pokud skutečně existuje forma zprostředkování – v tomto případě umělá inteligence – překračuje jakýkoli kolektivní rámec a riskuje, že umocní prostor fantazií.

Každý je ponechán svému utrpení, svému strachu, který musí konverzační agent blokovat nebo povzbuzovat odpověďmi, které jsou vždy velmi banální. Uživatel svědčící ve zprávě okorespondent vypráví o svém běžném životě nebo vyjadřuje své pocity matce. Mluví s ní, jako by nezemřela, a jeho děti se tak bojí, že zůstává v tomto „vztahu uzavřen“.

V těchto rituálech však musí být slova pečlivě volena, aby pomohla najít místo, jeho vlastní i místo zesnulého. Z tohoto důvodu jsou ve všech tradicích mobilizováni prostředníci. I když se uživatel nenechá napálit a aplikace ho vybízí k vyjádření, má tendenci eliminovat lidské prostředníky, bez záchranné sítě: riskantní způsob „uberizace“ kněží, šamanů a terapeutů...

Nezbytná doba ticha

Při obřadech nebo terapii zármutku jsou chvíle ticha zásadní. Rituály stanovují konkrétní čas pro truchlení nebo připomenutí zesnulého a osvobozují každodenní život od tohoto vztahu. Umělá inteligence založená na GPT-3 nikdy nenechá uživatele v tichosti, je to nekajícný mluvčí, záznamník. Není schopna doprovázet v hlubokém poslechu, ale obrací se, byť ve smyčce, aby kompenzovala absenci, nesnesitelnou prázdnotu, která je v podstatě největším dramatem truchlení.

Samota v simulovaném dialogu, založeném na několika realistických vodítkách využívajících pravděpodobnostní statistické modely jazyka, má v sobě něco obscénního: dále umocňuje naše komerčně podporované tendence žít ve „falešném“ světě založeném na narativních rámcích artikulovaných reklamou. kódy.

Opět jsou to artefakty (rozhraní a algoritmy), které mají zaplnit plačící nedostatek intersubjektivity, sociální vazby, dynamiky autentických výměn. Tyto náhradní předměty se však stávají kritickými v případech úmrtí a nemělo by se s nimi zacházet nedbale. Konverzační agenti typu GPT však prosperují z neschopnosti našich takzvaných racionálních společností poskytnout vodítko v otázce tak zásadní pro lidskou duši. jak upozornil antropolog Benedict Anderson.

Aplikace jako Project December odrážejí protiinstitucionální laissez-faire postoj, který se vyskytuje ve všech firmách ze Silicon Valley prostřednictvím jejich sloganu „Rough Consensus and Running Code“, což je výraz Johna Perryho Barlowa ve svém manifest za nezávislost kyberprostoru de 1996.

Podle této doktríny jsou rozhodnutí o vývoji aplikací, standardů a služeb založena na vágním konsensu mezi zúčastněnými stranami a produkce kódu se nesmí nikdy zastavit, což umožňuje převratné inovace, které nepředvídají jejich sociální důsledky a kulturní.

Toto odbourání AI vis-à-vis společenským a organizačním principům a její nárok na znovuobjevení všeho na základě síly jejích pravděpodobnostních výpočtů, které vše optimalizují, se nachází zde v této hře s duchem mrtvých. Žonglujeme vztahy s mrtvými stejně jako žonglujeme se slovy.

Jak regulovat tento nezodpovědný „běžící kód“, protože se tak snadno reprodukuje a hranice států v žádném případě nestačí omezit jeho okamžité přijetí ve všech zemíchbez respektování jakékoli stávající legislativy?

Pouze velké institucionální skupiny, které jsou zároveň velkými trhy, jako je Evropa, mají nezbytnou pravomoc donutit všechny tyto umělé inteligence a jejich aplikace, aby požádaly o „předchozí povolení k uvedení na trh“, jak je tomu u většiny průmyslových produktů, od potravin po lékařství, včetně automobilů. já'IA zákon ověřováno i v Evropě Bidenova administrativa musí vzít v úvahu tyto antropologické sázky ve svých snahách o regulaci, protože jimi mohou být ovlivněny i naše vztahy s mrtvými, zatímco jsou konstitutivní pro naši lidská citlivost.

Dominique Boullier, emeritní univerzitní profesor v sociologii. Výzkumný pracovník Centra pro evropská studia a komparativní politiku, Vědy Po et Rebecca Alfonso Romero, doktorand kulturní geografie, Univerzita Sorbonna

Tento článek je publikován z Konverzace pod licencí Creative Commons. Čístpůvodní článek.

Obrazový kredit: Shutterstock/Sheri Armstrong