Pod čarou: Přínos AI ve školách? Vyhazovy učitelů a příkopy ve společnosti

Vzdělávání a AI se začaly v jedné větě skloňovat už po vydání první verze ChatGPT a není se čemu divit – jedno z prvních a stále populárních využití chatbotů bylo studentské podvádění všeho druhu. Od té doby už jsme se trochu posunuli dopředu, ale v debatě kolují stále stejné fráze.

Technologické firmy, IT experti a AI nadšenci všeho druhu tvrdí, že AI vedle všech ostatních sfér společnosti zásadně promění i školství. Díky chatbotům a velkým jazykovým modelům získají žáci i učitelé nové možnosti. Škola bude ještě přínosnější a zábavnější. A i když má vše také nějaká rizika, neměli bychom se vpádu AI do škol bát, protože AI budoucnost je neodvratná a děti se na ni „musí“ připravit.

Na druhé straně stojí tábor skeptiků, kteří varují, že neuvážené nasazení AI nástrojů povede k rozkladu a snižování hodnoty vzdělání. Žáci a studenti přijdou o schopnost samostatného myšlení a zakrní, opisování a podvody se vymknou kontrole. Jedinou cestou je proto školy od chatbotů co nejvíc odstínit a v nejhorším se vrátit k tužkám a papíru, na které je AI krátká.

V obou případech jde většinou o prázdné proklamace, které odrážejí spíše naše naděje a obavy a nepřihlížejí k reálné situaci ve školách. A i když jde o důležité téma, debata o AI ve školství nakonec předestírá falešné černobílé dilema a odvádí naši pozornost špatným směrem. V Česku i jiných zemích jsme si totiž pořád nevyjasnili, k čemu by měl vzdělávací systém vlastně sloužit. Jeho léta neřešené problémy pak probublávají i do diskuzí kolem AI, ze které se nakonec stává jen zástupný symbol.

Poslechněte si audioverzi newsletteru načtenou autorem.

Pojďme nejprve na chvíli předstírat, že v těchto diskuzích jde všem skutečně jen o dobro žáků a celé společnosti a že ve sporech okolo AI ve školách se opravdu řeší jen možnosti a rizika nové technologie. I tak se totiž začnou ukazovat první díry a nevyjasněná místa.

Shodou okolností se v poslední době na webu Seznam Zpráv objevily hned dva příspěvky, které dobře shrnují časté argumenty „AI optimistů“ horujících pro nájezd chatbotů do tříd a kabinetů. Za pozornost jistě stojí rozhovor Markéty Bidrmanové s podnikatelem ve vzdělání Ondřejem Kaniou. Ten uvádí, že v jeho soukromých školách už třetinu předmětů studenti dělají ve vzdělávacím softwaru a tento podíl chce ještě navyšovat. Děti sledují prezentace, procházejí testy a učitel jejich progres také sleduje v počítači.

Kromě jiných údajných výhod Kania zcela otevřeně přiznává svou hlavní motivaci – nasazení AI snižuje personální náklady. Díky digitálním nástrojům tak může snížit počet „průměrných“ učitelů a ponechat si jen pár nejlepších.

Velmi podobné argumenty pak ve své glose předestřel i Miloš Čermák, který se odvolává na názory zakladatele firmy Scio Ondřeje Šteffla a také tvrdí, že nasazení AI dokáže snížit počty učitelů, a tím zároveň zlepšit platové podmínky pro zbylou menší skupinu elitních pedagogů, což je podle něj pozitivní posun.

Na povrch tak vyplouvá zásadní, leč ne vždy vyslovený aspekt debaty. „AI ve školách“ může znamenat celou řadu věcí, ale často se tím myslí právě proces automatizace realizovaný právě nahrazováním učitelů digitálními nástroji.

Aby to žáci i rodiče pozitivně přijali, je potřeba celou věc obalit vzletnými frázemi o tom, jak jsou roboti v mnoha ohledech lepší než lidští učitelé (přizpůsobují dětem látku na míru, pro opakování faktů přece nepotřebujeme platit člověka apod.), ale podstatou věci je pořád snižování nákladů a maximalizace zisků.

U podnikatelů ve školství je to celkem logické. Komercionalizace školství je na postupu v řadě zemí světa, tlak na úspory a efektivitu navíc bohužel sílí i ve státním sektoru, a neměli bychom si proto namlouvat, že linka uvažování „děti se budou učit s AI“ je podmíněna jen čirým altruismem, nikoliv finančními motivy.

Mnohé také prozradí pohled do praxe, která většinou výrazně zaostává za utopickými teoriemi a marketingem. Lidé jako Kania či Šteffl (a s nimi i jejich zahraniční protějšky) líčí lákavou vizi zvědavých a kreativních žáků, které vzdělávacím procesem citlivě provádí moudrý přizpůsobivý robot, a na to vše dohlížejí skvěle kvalifikovaní učitelé, kteří obratně vykrývají slabá místa AI asistentů.

Akademička a pedagožka Velislava Hillman ovšem nedávno pro Guardian sžíravě vylíčila, jak nástup AI a obecná digitalizace školství většinou vypadá doopravdy. Děti sedí u monitorů a lepí primitivní prezentace nebo mechanicky vyplňují testy, nedozví se takřka nic nového, jednotlivé nástroje se pořád mění či nefungují, učitelé ztrácí čas zíráním do nesmyslných monitorovacích rozhraní, která nedokážou postihnout složitou síť vztahů v každé třídě, a tím problémy jen začínají – v pozadí navíc zuří lítý boj firem, které chtějí do škol prosadit právě to své digitální řešení, a ze školního software se stává zlatý důl pro těžbu cenných uživatelských dat.

Platí zde pravidlo, že vždy musíme brát v potaz nikoliv ten nejlepší možný scénář (například podmínky na elitním soukromém gymnáziu), ale nejčastější průměr – tedy situaci, kdy máme v podfinancované škole třídy plné průměrných žáků vedených vyhořelými, přepracovanými a málo kvalifikovanými učiteli. Pak je najednou více než jasné, že AI nástroje v takových podmínkách poslouží spíše k tomu, aby si žáci i učitelé dál ušetřili práci, odškrtli si v osnovách kolonku „splněno“ a úroveň vzdělání se dál propadla.

Hillman upozorňuje, že se tak kvůli AI mezi žáky rozevírají nerovnosti (co vás doma nenaučí, to s chatbotem nedoženete), zlepšování jejich výkonu je iluze, ze vzdělávání se stává komerční transakce a z dětí obchodní příležitost. Vzdělání ale neslouží jen pro získání papírové kvalifikace - především by z dětí mělo udělat nezávislé, soběstačné a zodpovědné lidi, což jim ale v praxi digitalizace většinou bere.

Tento postřeh nás může nasměrovat k druhé důležité lince debat o AI ve školství. Nehovoří se jen o tom, jak by se děti měly učit od chatbotů či s jejich asistencí, ale také o tom, že by se měly dozvědět nějaká fakta, jak vlastně AI funguje, a získat tak tzv. AI gramotnost. Je to velmi přínosný směr úvah, kterému se např. pro SZ dlouhodobě věnuje kolega Pavel Kasík, ale i v tomto směru se často vzletná teorie potkává s nedostatky v praxi.

Na základní rovině jde o to, že by se děti měly naučit, jak chatboti a další AI nástroje zhruba fungují, jaké jsou jejich možnosti a rizika, k čemu je lze použít a kde se jim naopak vyhnout. K tomu samozřejmě patří i upozornění na „halucinace“ a další neodvratné problémy AI nástrojů a jistě i morální poučení o tom, že by se měly používat konstruktivně, nikoliv k línému podvádění.

To vše je velmi přínosné, ale pochybuji, že v současnosti většina učitelů zvládá výklad o AI byť jen na této jednoduché úrovni, která je navíc tak jako tak zoufale nedostatečná. Samozřejmě záleží na věku žáků a typu školy, ale dokud se děti nenaučí také podrobnější detaily o tom, jak velké jazykové modely vznikají, na jakých datech se trénují a jaké je jejich ekonomické a politické pozadí, budou je pořád nekriticky brát jako užitečnou „magii“ a dál je využívat nesprávnými a rizikovými způsoby.

Myšlenka, že nedovzdělané děti budou AI brát jako nepochopitelné kouzlo, není jen můj názor, ale teď již i empiricky doložený fakt. Velkou pozornost nedávno vyvolala studie, která odhalila překvapivý jev – zatímco u jiných nových technologií platí, že lidé, kteří se v nich hodně vyznají (tzv. early adopters) je používají rádi a častěji než široká nepoučená veřejnost, u AI je to přesně naopak – čím víc toho o fungování AI respondenti věděli, tím více se ji zdráhali používat.

Mimo jiné to naznačuje důvody, proč lídři IT průmyslu své vlastní děti spíše od technologií stíní, ale tím překvapivá zjištění nekončí. Studie také ukázala, že lidé s menší AI gramotností mají kupodivu větší etická dilemata kolem používání AI a jejího možného negativního dopadu na lidstvo, ale stejně ji využívají více než „experti“ – přisuzují jí totiž větší schopnosti a jsou jí více uchvácení (což zase dokazuje, že oblíbená varování „AI za deset let zničí lidstvo“ jsou jen vychytralá reklama AI průmyslu).

Pomyslnou třešinkou na dortu je fakt, že tuto studii nedali dohromady žádní kritičtí teoretici médií, ale experti z oblasti ekonomie a marketingu, kteří se snaží AI firmám pomoci, a tak na konci přidávají i pár cynických doporučení.

Vysvětlují, že příliš osvěty v oblasti AI škodí, protože pak klesá zájem zákazníků. Je proto potřeba, aby se firmy zaměřily spíše na méně vzdělané lidi, kteří se toho o AI dozvěděli „jen tak akorát“, tedy aby byli schopni AI nástroje efektivně používat, ale neviděli do jejich pozadí, a proto je pořád brali jako fascinující magii.

Autoři pro to zavádějí půvabný termín „kalibrovaná gramotnost“, který můžeme zpětně uplatnit na výše popsanou problematiku AI digitalizace školství – v zájmu AI firem i podnikatelů ve školství je, aby učitelé i žáci měli přesně onu kalibrovanou gramotnost, která z nich udělá pilné uživatele a zákazníky. Kdyby jim totiž nedej bože někdo prozradil, že jsou chatboti jen statistické pravděpodobnostní kalkulačky nebo jak se vlastně trénují a kdo na nich vydělává, k vyšším ziskům a popularitě by to rozhodně nevedlo.

Nejde si tu nevzpomenout na takzvanou Gell-Mannovu amnézii, což je kognitivní vada, kterou kdysi popsal spisovatel Michael Crichton. Chtěl upozornit na fakt, že když v novinách narazíte na článek z oboru, ve kterém jste experti, často vám dojde, že je plný zkreslení a nepřesností – ale pak pokračujete ve čtení a všechny další články se vám zdají objektivně správné a kvalitní.

Bylo to varování před slepou a nekritickou vírou v média, ale dnes ho můžeme skvěle uplatnit i na AI. Když si necháme od chatbota vyplivnout výklad na téma, ve kterém se velmi dobře vyznáme, většinou zjistíme, že blábolí banální nesmysly, ale v jiných oblastech, kterým nerozumíme, mu pořád důvěřujeme – a právě u tohoto paradoxu by mohl klidně výklad o AI gramotnosti ve třídě začínat.

Jak už jsem ale zmínil v úvodu, celá hádka o tom, jak ve školách AI zapojit a jak o ní děti učit, nemá hlubší smysl bez širší společenské debaty o smyslu školství a vzdělávání. Ve sporech okolo AI se totiž odrážejí problémy, které ve školství kvasí už celé dekády a AI je jen zviditelňuje a prohlubuje.

Prvním kamenem úrazu jsou neustálé snahy o zefektivňování školství, které bývá chápáno především jako přípravka nového lidského materiálu na trh práce. Před časem jsem v Pod čarou psal o tom, jak AI ze školství i z jiných oblastí zdánlivě odstraňuje „tření“, tedy různé na první pohled zbytečné komplikace a formality – které se nám pak ovšem dvojnásob vrátí jinde. Když si necháme knihu shrnout chatbotem, nejspíš se spoustu podstatných věcí nedozvíme, pak na tom budeme v životě tratit a podobných případů bychom našli nespočet.

Právě k odstraňování tření ostatně vedou všechny ty rýpavé dotazy „k čemu nám/jim to bude v praxi“, které od žáků, rodičů, učitelů i podnikatelů padají už desítky let – implikují, že školy by měly být co nejrychlejší a nejefektivnější přípravou dětí na trh práce, kde přece nepotřebují žádné zbytečnosti.

Vede to k dlouhodobému odklonu od démonizovaného učení faktů nazpaměť a přechodu k různým kreativním cvičením, skupinovým prezentacím apod., které ovšem v mnoha případech selhávají ve svém deklarovaném účelu, tedy budování kritického myšlení – to si totiž bez šprtání faktů nevytvoříme, což ale s trochou ironie není na závadu, protože na trhu práce ve skutečnosti kritické myšlení není (na rozdíl od „kalibrované gramotnosti“) potřeba a lidé, kteří znají nazpaměť středověké krále nebo čeledi mechů, bývají v kanclu (natož v továrně) často spíš na obtíž.

Pokud tuto úzkou vizi vzdělání odmítneme a vrátíme se k myšlence, že by školství mělo hlavně z dětí vytvářet nezávislé, sebejisté, kritické a všestranně rozvinuté osobnosti bez ohledu na to, jestli to ocení jejich budoucí zaměstnavatel, najednou začneme vyhazování učitelů a zavádění chatbotů vnímat ve výrazně horším světle.

Hillman i další kritici upozorňují, že se kvůli AI ve školách budou dál rozevírat nůžky mezi studenty z vyšších a nižších společenských tříd – v praxi to bude vypadat tak, že elity budou pro své děti stále využívat špičkové a drahé lidské pedagogy, kdežto děti lidových mas budou odkázány na AI asistenty a programy, které postačí právě tak pro efektivní přípravu na zaměstnání, a vzdělávací systém začne hnít odspodu.

A to nás přivádí k druhému zásadnímu problému v pozadí debat o AI ve školách. Nejde jen o to, jestli školy z dětí „postaru“, pomalu a klopotně dělají lepší lidi, nebo mají pouze chrlit přičinlivé pracanty. Vše totiž směřuje k otázce, co vlastně školy ve skutečnosti dělají se společností.

Hodí se tu jiné univerzální pravidlo, které kdysi definoval slavný kybernetik Stafford Beer. Konstatuje, že účelem každého systému je to, co ve skutečnosti dělá (nikoliv to, co by teoreticky dělat měl). Je to brilantní myšlenka, kterou můžeme uplatnit nejen v teoretickém myšlení o systémech všeho druhu, ale i v mnoha praktických politických a ekonomických otázkách – jednoduše řečeno, spousta zdánlivých závad jsou ve skutečnosti záměrné vlastnosti dané věci.

Pokud se touto optikou podíváme na české školství, zjistíme, že jeho skutečným účelem není ani všestranný rozvoj dětí, a kupodivu ani efektivní příprava lidí na trh práce, ale především upevňování a prohlubování společenských nerovností a kast.

Statistiky, který nedávno ve své analýze shrnul kolega Jirka Nádoba, opakovaně ukazují, že Česko patří k zemím, kde je úroveň dosaženého vzdělání dětí mimořádně závislá na vzdělání (a tedy i majetku a třídním postavení) rodičů a kde zároveň k vysokoškolským studentům ve formě přímé finanční podpory směřuje takřka nejnižší podíl nákladů na terciární vzdělávání (např. v Dánsku se na sociální stipendia a další přímou podporu vydá více než třetina univerzitního rozpočtu, kdežto v Česku jen 1,5 %).

Je to zjevné mrhání talenty. Většina studentů musí navíc při studiu pracovat, což je neefektivní a dál to zatěžuje státní rozpočet. Studenti z hůře postavených rodin mají na rozdíl od dětí elit mnohem nižší šanci školu dokončit (Nádoba tu zavádí výstižný termín „dědičnost titulů“). Mohlo by se tak zdát, že je to zjevný problém, který je potřeba řešit, ale právě zde přichází ke slovu Beerovo pravidlo.

Systém, kde školství produkuje úzkou skupinu dědičných, skvěle vzdělaných elit, pod nimi o fous větší kohortu obstojně vzdělaných kancelářských kádrů a nakonec závěje pologramotných mas odsouzených k dřině, dědičné chudobě a postavení občanů druhé kategorie, je takto nastaven shora zcela záměrně a velmi efektivně se brání jakékoliv změně (stačí si vzpomenout na 30 let marných debat o rušení osmiletých gymnázií). Většina lidí, a nakonec i celý stát na tom tratí, ale vrchní patra společnosti získávají. A právě skrze toto schéma pak musíme celou debatu o nástupu AI do škol vnímat.

Vůbec nejde o to, jestli má do škol AI vtrhnout divoce a bez zábran (což je zjevně nebezpečná vize), nebo zda ji mají rodiče a učitele vyhánět a ignorovat (což by bylo pošetilé popírání reality). Podstatné je, komu tento proces prospěje, kdo na něm bude tratit, jak se nástup AI podobá starším příkladům mechanizace, kdo přijde o práci, kdo opravdu dosáhne na lepší vzdělání a kdo naopak skončí jako snadno nahraditelný lidský automat závislý na chatbotech.

A když si tyto otázky nepřestaneme klást, najednou nám to výrazně zjednoduší rozhodování, zda a jak AI do škol pustit a co o ní žákům vlastně říkat.

Pokud se vám ukázka z newsletteru Pod čarou líbila, přihlaste se k odběru. Každou sobotu ho dostanete přímo do vašeho e-mailu, včetně tipů na další zajímavé čtení z českých i zahraničních médií.