AI: stal se cíl prostředkem?
ve své práci,Umělá inteligence není technologická otázka(Éditions de l'Aube), Laurent Bibard, vedoucí managementu a filozofie na ESSEC, a Nicolas Sabouret, profesor na univerzitě v Paříži-Saclay, kde řídí postgraduální školu informatiky a digitálních věd, zdůrazňují, že „existuje žádný problém s umělou inteligencí, je tu pouze problém našich očekávání toho, co jsme sami vytvořili.“ Ukázka s úryvkem, který zveřejňujeme na The Conversation France.
I když si to těžko připouštíme, v naší společnosti je tento trend spíše technicky zdatný. Navzdory určitému odporu vyjádřenému požadavkem „méně technologií“ a „více lidí“ je obecným trendem, že společnost se stále více „technologizuje“, aniž by se nutně kolektivně zamýšlely důvody, proč tomu tak je. A to nás přivádí do takové situace, kdy stroje velmi často obnovujeme a kde kalkulujeme za každou cenu, tedy in generuje velké znečištění. [...]
V těchto kalkulačních nástrojích, které jsou velmi drahé a které znečišťují na jedné straně, je třeba rozlišovat výpočty, které jsou prováděny se společným cílem pokroku pro společnost – ať už výzkumníky nebo společnostmi, které se snaží pracovat pro společné dobrý – na druhé straně individuální využití, které se někdy může dostat do tohoto moderního otroctví.
Móda a šíření fotografií koťat na sociální sítě jsou z ekologického hlediska velmi nákladné, pro ekonomický zisk, který je založen pouze na příjmech z reklamy. Naopak během pandemie Covid-19 umožnila výpočetní centra nepopiratelně účinným způsobem simulovat a porozumět způsobům šíření nemoci, sledovat vývoj variant.
V obou případech (reklama a výzkum Covid-19) to vše umožňují algoritmyumělá inteligence (IA). To jsou tedy také tyto Algoritmy, jehož využívání kritizujeme na sociálních sítích, které nám umožnily během dvou let vyjít z pandemie s počtem obětí, které jsou navzdory všemu omezené – například desetkrát méně než španělská chřipka zač. z XXe století. Díky technice jsme byli schopni relativně dobře kontrolovat potenciálně katastrofální situaci. To bylo provedeno s těmito velmi znečišťujícími počítačovými centry […].
Musíme tedy odlišit fotografii kotěte, kterou dáme na internet, a technologie zpřístupněno v kolektivním zájmu obecného dobra, problematizovat otázku vztahu k technologiím přímo na úrovni morální a politické filozofie. Zde se opět ukazuje, že technologie samy o sobě nepředstavují problém. Je to vztah, který s nimi máme, co představuje problém ve vztahu k našim očekáváním, ve vztahu k přizpůsobení se skupinám, ve vztahu k módě a tak dále.
Funkcionalismus
Otázku můžeme, jak jsme právě viděli, problematizovat na úrovni morální a politické filozofie, ale můžeme ji také problematizovat na úrovni, kterou můžeme kvalifikovat jako „epistemologickou“, to znamená, že se týká solidnosti našeho znalost. Na toto téma existuje velmi zásadní úvaha od málo známého filozofa jménem Jacob Klein. Poznamenává, že od renesance vede vývoj matematické fyziky na základě algebry vědy k nevyhnutelně směřují k vlastním metodám. Píše něco takového:
"Staří lidé by nikdy nevzali tuto metodu za svůj cíl."
Myslí tím, že vypracování moderních věd má jako základní podporu myšlenku, že metoda je cílem. Myšlenka, že způsob fungování je svým způsobem cílem výzkumu. A pokud je na tom, co říká, něco pravdy, je nezbytné vědět, jak se od toho dostat, abychom výzkum mohli používat pouze jako prostředek k jinému cíli, než je výzkum samotný, který není vytvořen, aby sloužil sám sobě, ale aby sloužit životu ve společnosti, obecnému dobru.
To se promítá do našich konkrétních životů, do společenského života prostřednictvím toho, čemu se v sociologii říká funkcionalismus. Funkcionalismus je způsob přístupu k organizacím, který velmi přesvědčivě identifikuje, že organizace vždy riskuje, že vezme sama sebe pro svůj vlastní účel.
Velké zbavení moci
Pozoruhodný příklad toho je hned na začátku filmu Přelet nad kukaččím hnízdem od Miloše Formana s Jackem Nicholsonem. Scéna zobrazená Formanem na začátku filmu svědčí o obtížnosti, se kterou se zde potýkáme. Odehrává se v době, kdy mají pacienti v psychiatrické léčebně odpočívat. A vidíme, že ošetřující personál velmi nenápadně, místo aby pacienty uklidnil, otravuje. Pečovatelé jsou tedy opět užiteční: dokonce voláme nosiče, aby Nicholsona strčili do svěrací kazajky.
Smějeme se tomu, protože je to film, ale to je bohužel tragická pravda a děje se to více než často ve všech kontextech: místo aby usnadnili fungování struktury, dali se do služeb uživatelů, herci jednají způsobem, aby zůstaly užitečné, to znamená, že jejich fungování je potvrzeno ve své relevanci. Jinými slovy, udržujeme problém, protože jsme na něj odpovědí. A může se stát, že problém, o kterém diskutujeme, ztratil svůj význam, nebo se dokonce stal zastaralým, nemá žádný význam, nebo dokonce nikdy neměl...
Systémové deformace tohoto řádu jsou v našem světě skutečným problémem. A technologie jsou stále důležitějším kolečkem v soukolí. Stávají se samy o sobě cílem zlepšit výpočetní kapacity počítačů, AI atd., bez ohledu na zájem, který to může přinést lidem, společnosti, obecnému dobru.
Stojíme tedy opět před zásadním lidským problémem. Jedním ze zajímavých způsobů, jak to vyjádřit, je říci, že když se uchýlíme k teoriím systémů, tím, že nepřipustíme, že existuje odpovědnost jednotlivců, a proto předpokládáme, že lidé a jednotlivci jsou utopeni v systémech, všichni jsou zbaveni odpovědnosti. , de facto hraním hry na lidstvo utopené v systémech, v jakémkoli systému.
Teorie, které trvají pouze na systémovém aspektu fungování, přispívají k našemu odcizení, k tomu, že se stáváme kolečky ve strojích. Stáváme se prostředkem strojů, protože si představujeme, že nás systémy ovládají.
Laurent Bibard, profesor managementu, držitel Edgar Morin Chair in Complexity, ESSEC et Nicolas Sabouret, profesor informatiky, Université Paris-Saclay
Tento článek je publikován z Konverzace pod licencí Creative Commons. Čístpůvodní článek.
