ChatGPT: tváří v tvář úskokům umělé inteligence, jak může mediální výchova pomoci studentům

Kdo nikdy neslyšel ChatGPT, tato generativní umělá inteligence, schopná reagovat složitými texty na dotazy zadané uživateli internetu? Vydání tohoto softwaru navrženého společností OpenAI v prosinci 2022 podnítilo množství článků mezi vizemi katastrofy a utopií, což vyvolalo mediální paniku, jak ilustruje otevřený dopis z března 2023 s žádostí o moratorium na vývoj tohoto typu systémů, kterou podepsalo tisíc badatelů.

Jak ukazuje a studium toho Columbia Journalism ReviewPanika nezačala v prosinci 2022 událostí spuštěnou OpenAI, ale v únoru 2023 oznámeními společností Microsoft a Google, z nichž každý tam šel ze svého chatbota integrovaného do jejich vyhledávače (Bing Chat a Bard, v tomto pořadí) . Mediální pokrytí informace rozmazává a zaměřuje se více na potenciální nahrazení lidí než na skutečnou koncentraci vlastnictví AI v rukou několika společností.

Jako každá mediální panika (nejnovější jsou ty na virtuální realitou a metaverse), jeho účelem a účinkem je vytvořit veřejnou debatu, která umožní jiným aktérům než mediálním a digitálním, aby se jí zmocnili. Pokud jde o mediální a informační gramotnost (MIL), jsou v sázce, pokud jde o sociální a školní interakce, velmi brzy, i když je ještě příliš brzy na měření důsledků pro výuku těchto jazykových modelů. Automatické generování textů a obrázků a jejich zpřístupnění Široká veřejnost.

Souběžně s opatření regulační politikyEMI umožňuje občanům chránit se před riziky spojenými s používáním těchto nástrojů rozvojem jejich kritického myšlení a přijetím vhodných a odpovědných strategií používání. Algo-gramotnost, toto podpole MIL, které zvažuje, co data dělají s médiem, umožňuje aplikovat tyto čtecí klíče na AI. Zde jsou čtyři směry, kterými nám MIL může pomoci orientovat se v těchto řetězcích algoritmických interakcí, od jejich produkce až po jejich publikum.

Vezměte v úvahu geopolitiku AI

Právě společnosti ovládající vyhledávače, a tedy i přístup k informacím, Google a Microsoft, mají z vývoje generativní umělé inteligence největší prospěch. Jsou organizováni v americkém stylu jako duopol s (falešným) vyzyvatelem, OpenAI LP. Je to vlastně komerční odnož původně neziskové laboratoře OpenAI (z velké části financovaná Microsoftem).

Jiný příběh, zejména média, může vyprávět o neuvěřitelné koncentraci moci a peněz velmi malého počtu společností v Silicon Valley. Poskytují si monopol na přístup k informacím a ke všem z nich vyplývajícím produkcím. Podněcují na toto téma přímou soutěž mezi Spojenými státy a Čínou. Cílem strategie Google a Microsoftu je skutečně vytáhnout kobereček zpod nohou čínské vlády, která se neskrývá své ambice pro rozvoj AI.

Možnost pauzy nebo moratoria je snem, tváří v tvář něčemu, co je ekvivalentem závodu ve zbrojení. Samotní vynálezci jako kající čarodějovi učni, včetně Sama Altmana, generálního ředitele OpenAI, navrhli v květnu 2023 "Řízení AI". Nebylo by to však v naději, že nebudou trpět plnou tíhou vládní regulace, která by jim unikla a brzdila jejich obchodní záměry? Evropská unie předvídala přípravou a regulace AI regulovat využití této nové digitální evoluce.

Zpochybňujte kvalitu poskytovaných textů a obrázků

Ne vše, co je věrohodné, má nutně smysl. Umělá inteligence, která pohání software ChatGPT, vytváří návrhy na základě dotazů a ty se objevují rychle... v poměrně stylovém a dobře udržovaném jazyce! Ale to může způsobit chyby, jak si uvědomil, ke své nelibosti newyorský právník, který založil a spis plný nepravdivých právních názorů a nepravdivé právní citace.

Dejte si proto pozor na pseudovědu generovanou umělou inteligencí. Nabízený obsah může být zkreslený, protože pochází z využívání obrovských databází. Patří mezi ně datové sady se zdroji všeho druhu… včetně sociálních médií! Nejnovější bezplatná verze ChatGPT je založena na datech, která se zastaví na začátku roku 2022, takže aktuální události nejsou skutečně aktuální.

Mnoho z těchto databází pochází z anglicky mluvících zemí, s přidruženými algoritmickými odchylkami. Ve skutečnosti ChatGPT riskuje, že vytvoří dezinformace a propůjčí se ke zlomyslnému použití nebo zesílí přesvědčení těch, kteří jej používají.

Má se tedy používat jako jakýkoli jiný nástroj, jako slovník, s nímž lze bádat, vypracovávat koncept... aniž bychom mu svěřovali tajemství a osobní údaje. Požádat jej, aby uvedl své zdroje, je dobrá rada, ale ani to nezaručuje absenci filtrů, chatbot má tendenci vytvářet seznam zdrojů, které vypadají jako citace, ale ne všechny jsou skutečnými referencemi.

Dále nesmíme zapomenout na problémy s autorskými právy které brzy vstoupí v činnost.

Pozor na imaginace kolem AI

Termínumělá inteligence není vhodné pro to, co spadá pod a předtrénované zpracování dat (význam zkratky GPT pro generativní předtrénovaný transformátor).

Tento antropomorfismus, který nás vede k tomu, že myšlení, kreativitu a pocity připisujeme ne-lidskému činiteli, je negativní ve dvou ohledech. Připomíná nám všechny úzkosti vyvolávající mýty, které varují před neživotaschopností jakékoli pórovitosti mezi živými a neživými, od Golema po Frankensteina, s obavami z vyhynutí lidské rasy. Slouží k klidnému pochopení skutečné užitečnosti těchto velkých transformátorů. Sci-fi nepomáhá pochopit vědu. A proto formulovat etická, ekonomická a politická měřítka.

Tyto imaginace, ať jsou jakkoli aktivní, musí být demystifikovány. Takzvaná „černá skříňka“ generativní umělé inteligence je v principu poměrně jednoduchá. Rozsáhlé jazykové modely jsou algoritmy trénované k reprodukci kódů psaného (nebo vizuálního) jazyka. Procházejí tisíce textů na internetu a převádějí vstup (například posloupnost písmen) na výstup (jeho předpověď pro další písmeno).

Algoritmus generuje velmi vysokou rychlostí řadu pravděpodobností, které můžete zkontrolovat provedením stejného dotazu znovu a uvidíte, že vaše výsledky nejsou stejné. Žádná magie, žádná citlivost také, i když má uživatel pocit „konverzace“, další slovo z lidské slovní zásoby.

A může to být zábava, protože AI BabyGPT vytvořila New York Times, pracující na malých uzavřených korpusech, ukázat jak pište jako Jane Austenová, William Shakespeare nebo JK Rowling. Ani ChatGPT neprohloupí: na otázku, jak se cítí, velmi bez obalu odpoví, že na to není naprogramován.

Střídejte nástroje

Publikum umělé inteligence, zejména ve škole, si proto musí rozvíjet znalosti a dovednosti týkající se rizik a příležitostí tohoto druhu takzvaného konverzačního robota. Kromě pochopení mechanismů automatického zpracování informací a dezinformací se ke vzdělávání hodí i další opatření:

• dejte si pozor na monopol online dotazů, na které se zaměřují Bing Chat a Google Bard, vzájemným soupeřením, tedy pravidelným používáním několika vyhledávačů;

• vyžadovat štítky, barevné kódy a další značky, které označují, že dokument vytvořila umělá inteligence nebo s její pomocí, je také zdravý rozum a některá média s tím již počítala;

• požadovat, aby výrobci provedli reverzní inženýrství k výrobě AI, které monitorují AI. což už je případ GPZero ;

• zahájit soudní řízení, případ ChatGPT "halucinace"- - další antropomorfizovaný termín pro označení chyby v systému!

• A pamatujte, že čím více budete ChatGPT v jeho bezplatné i placené verzi používat, tím více mu pomůžete zlepšit se.

V oblasti vzdělávání marketingová řešení EdTech nabízejí výhody umělé inteligence pro personalizaci výuky, usnadnění analýzy dat, zvýšení administrativní efektivity atd. Tyto metriky a statistiky však v žádném případě nemohou nahradit ověřování získaných dovedností a produkce mladých lidí.

Jakkoli je AI prohlašována za inteligentní, nemůže nahradit potřebu studentů rozvíjet jejich kritické myšlení a vlastní kreativitu, trénovat a informovat se osvojováním si svých zdrojů a zdrojů. Vzhledem k tomu, že společnost EdTech, zejména ve Spojených státech, spěchá se zaváděním umělé inteligence do tříd, od základních škol až po vysokoškolské vzdělávání, zůstává ostražitost učitelů a osob s rozhodovací pravomocí zásadní pro zachování ústředního poslání škol a škol. Kolektivní inteligence tak může převzít umělou inteligenci.

Divina Frau-Meigsová, profesor informačních a komunikačních věd, Historickí autoři Rozhovor Francie

Tento článek je publikován z Konverzace pod licencí Creative Commons. Čístpůvodní článek.

Obrazový kredit: Shutterstock / Pixel Hunter