Kutatóintézetünk az UNESCO Global Media and Information Literacy Week 2023 programsorozatának keretében 2023. október 25-én workshopot szervezett A mesterséges intelligencia társadalmi információs írástudása címmel. A rendezvény témája a gyorsan terjedő mesterséges intelligencia alapú szolgáltatásokkal kapcsolatosan a média- és információs írástudás kihívásának kezelése volt társadalmi oldalról.
Török Bernát, az Információs Társadalom Kutatóintézet igazgatója megnyitó beszédében elmondta, hogy a média literacy kérdése már évekkel ezelőtt is hangsúlyos tématerület volt, de akkoriban ő még „csak” a jog oldaláról közelített hozzá. A 2000-es évek elején még a hagyományos modellek érvényesültek és sikeresebben működött a jog tiltó és korlátozó szerepe. Bár a korlátozó jogi eszközök erejét fontos tisztázni a jelenben is, a mai média környezetben, az internetes platformok és a mesterséges intelligencia korában a jog limitáltan tud csak eredményt elérni. A média literacy kérdése lényegi kérdéssé vált a társadalmi kockázatok és kihívások szempontjából, és a jog önmagában már nem képes elegendő választ adni ezekre a problémákra. Török Bernát kiemelte, hogy a workshop szervezésére tudatosan került sor az UNESCO tematikus hetében, mivel a szervezet által közzétett kiadványok finomhangolt megközelítése a társadalmi tudatosságot, írástudást jobban előtérbe helyezik az Európai Unió regulációs logikájával szemben és ez összhangban áll ennek az összejövetelnek szellemiségével is.
Rab Árpád, az ITKI vezető kutatója vitaindító előadását azzal kezdte, hogy bár a mesterséges intelligencia fejlesztése régóta tart, megélése az elmúlt egy évben terjedt el a szélesebb társadalom körében. Ahhoz, hogy az MI alapú szolgáltatások jól működjenek, szükség van az üzleti etikára, a jog szabályozó szerepére és a társadalom tudatosságára is. A kutató szerint a mesterséges intelligencia célja, hogy technológia alapú együttműködéseket hozzon létre és ennek segítségével a megfelelő mennyiségű erőforrás felhasználásával 10 milliárd ember megléte esetén is meg tudjuk tartani a jelenlegi életszínvonalunkat és a Földet is megmentsük. Rab Árpád elmondta, hogy a jövőben egyre több ilyen technológiai együttműködésre lehet majd számítani, egyre ösztönösebben fogjuk használni ezeket az eszközöket, megnő az ezekbe vetett bizalom, ugyanakkor a kiszolgáltatottság is, az embereknek újfajta képességekre lesz szükségük. A média írástudás egyre fontosabb lesz, mivel a jövőben mediatizált tevékenységeken keresztül fogunk kritikus szolgáltatásokhoz hozzáférni. Az MI egy ösztönös technológia, az emberek könnyedén elsajátítják a használatát, mivel már ismert emberi cselekvések logikája szerint működik. Az MI sokszor ugyan csak ajánlásokat ad, de mivel az élet gyorsan zajlik, ezek az ajánlások gyakran mikrodöntésekké válnak és ezáltal termékké, manipulálhatóvá válhatunk. A kutató szerint a digitális kultúrában jóval mélyebb változások zajlanak, mint amit mérni tudunk, ezért új dolgokat kell mérnünk, új képességeket kell kidolgoznunk. Ilyen képesség például, hogy egy ember el tudja dönteni, szüksége van-e MI használatára, adott esetben MI-t használ-e és az az MI milyen szolgálatot fog tenni neki az együttműködés során. Meg kell tanítani az embereknek, hogy milyen adatok alapján működik a szolgáltatás, ami ajánlást tesz nekik, milyen kontextusban kezeli az adatokat, milyen változók alapján született meg az ajánlás és milyen érvényességben. Ez egy újfajta írástudás, amin a kutatóintézet aktívan dolgozik.
Z. Karvalics László online kapcsolódott be a beszélgetésbe és az információs írástudás fogalmáról tartott rövid értekezést. Elmondta, hogy sokan bírálják az information literacy jelenlegi fordítását és inkább a műveltség kifejezést javasolják helyette. Ennek a kérdésnek az eldöntésénél fontos tisztázni, hogy az information literacy-t elemi szintű képességként vagy inkább egy magasabb rendű, a műveltség tartományaihoz sorolható fogalomként tartjuk-e számon. Jelenleg a fogalom jobban leírható a műveltség kifejezéssel, ugyanakkor az MI egyre nagyobb szerepe miatt létezik olyan forgatókönyv, amelyben - mivel folyamatos interakcióban vagyunk a minket körülvevő digitális világgal, ahol a gépi oldal és az emberi oldal folyamatosan egymásra hatva fejleszti magát - idővel újra igaz lehet az, hogy az MI-t az alap írástudások körébe fogjuk sorolni. Z. Karvalics László előadásában először - egy NG nevű kutató rendszerezését felhasználva - ismertette, hogy milyen résztudások tartoznak az MI műveltség körébe (ismerni és érteni, használni és alkalmazni, fejleszteni és értékelni, valamint tisztában lenni az etikai megfontolásokkal), majd megjegyezte, hogy a társadalomtudományi diskurzusok jelenleg szinte kizárólag etikai jellegűek és bár fontosak az etikai megfontolások, ez a narratíva túlzottan elnyomja a többit. Az előadó szerint ma már többféle literacy létezik és ezekből néhányat ki is emelt előadásában. Ilyen az adatműveltség (data literacy), a vizuális írástudás (visual literacy), a média kritikai műveltség (critical media literacy), az episztémikus műveltség (epistemic literacy), a részvételi írástudás (participital literacy) és a jövő műveltség (futures literacy), melyek mind kapcsolódnak egymáshoz. Az MI műveltség egyik további fontos összetevője az antitabloidizáció vagy detabloidizációs felkészültség, amelynek lényege, hogy az MI-ről származó ismereteink jelenleg a közösségi és egyéb médiafelületeken keresztül torzítva érkeznek hozzánk és ahhoz, hogy egy megfelelő MI műveltséget tudjunk kialakítani, először ezeket a téves értelmezéseket és narratívákat kell eltávolítani.
Fehér Katalin, az NKE docense egy kutatásukat ismertette előadásában. A kutatás során azt vizsgálták, hogy az elmúlt 10 évben milyen MI kutatások zajlottak a világban, amelyek nem a computer science, azaz a mérnöki tudományok oldaláról közelítették meg a területet. A vizsgálat során csak a high ranked journal-eket, ezen belül is a leghivatkozottabb cikkeket nézték át: összesen 607 cikket elemeztek részletesen. A kutatás végén azt találták, hogy a leginkább összeszövött és emlegetett tématerület a fake média (journalism, fake news, deepfake és social media), ami arra is utal egyúttal, hogy ez a téma az elmúlt évtizedben világszerte az egyik legfontosabb problémakör lett az MI világában. Az előadó rámutatott, hogy ebből a kutatásból az is kiderült, hogy nem az etika a legmeghatározóbb kérdés az MI használata kapcsán, a legtöbb kutatás sokkal inkább kötődik a kommunikációhoz, az információáramláshoz és a médiához. Fehér Katalin szerint a legtöbb iskolában a tanároknak jelenleg még nincs valódi tapasztalatuk a generatív MI-vel. Egyrészt a média pánikot kelt a használatával kapcsolatban, másrészt van egyfajta várakozás és reménykedés, hogy milyen másik módszertant lehetne alkalmazni a diákokkal való közös munkához. Az Egyesült Államokban akadnak már jó gyakorlatok arra vonatkozóan, hogy hogyan lehet a tanár egyfajta facilitátor vagy mentor az általános iskolai osztályban és hogyan lesznek ebből a közös munka folyamán eredményes kimenetek. Elindult egy olyan irány, ami egyre inkább a személyre szabott és a kollaborációra épülő digitális írásműveltséget részesíti előnyben és az ezzel kapcsolatos felelősségi kérdéseket meg kell tanítani a diákoknak.
Székely Levente, az MCC Ifjúságkutató intézetének igazgatója Az ifjúság digitális írástudásának mátrixáról című előadásának nyitó gondolataként rámutatott, hogy azok a korai adaptálók és innovátorok, akik az MI technológiákat és azok mindennapi felhasználási területeit először kezdik el alkalmazni, többnyire a fiatal korosztályból kerülnek ki. Az előadó szerint a mostani helyzet hasonlít arra az időszakra, amikor az ezredfordulón mindenki az internetről beszélt. Jelenleg az MI-nek egyfajta beta üzeme (betaverzum) zajlik, amikor még nem határoztuk meg pontosan a fogalmakat sem, de közben már van egy intenzív használat: a veszélyek és lehetőségek időszaka. Az ifjúságkutató szerint a fiatalok sokszor olyan módon használják ezeket az MI eszközöket, ahogyan számukra a legizgalmasabb és ez többször okozott már morális pánikot is. Az előadó a prezentációjában bemutatta egy 2020-as ifjúság kutatás eredményeit is, melyben a fiatalokat a félelmeikkel kapcsolatban kérdezték. Kiderült, a megkérdezettek a legkevésbé a mesterséges intelligenciától és a robotoktól tartanak, ezzel szemben a jövővel és a gazdasági helyzetükkel kapcsolatban jóval nagyobb aggodalmukat fejezték ki. Székely Levente hangsúlyozta, a társadalomban, és ezen belül is főképp az ifjúság körében nőtt a frusztráció szintje az elmúlt három évben.
Kun László, az NKE doktorandusz hallgatója az adat-használat és adat tudatosság témakörét járta körül előadásában, a tágabb értelemben vett állami szféra területén. Az előadó felvázolta azokat az okokat, amelyek miatt szükséges lehet az állam számára az adatok jobb felhasználása. Az állam működésének mindig is lényeges része volt az információk gyűjtése, tárolása, használata, emellett a digitalizációval új adatfeldolgozó technológiák, módszerek jelentek meg. Szintén fontos indok, hogy jelenleg az állammal kapcsolatos új igények, kihívások, a szolgáltató állam kialakítása szükségessé teszik az új megoldások használatát. Kun László hangsúlyozta, hogy a technológia előrébb tart, mint a szabályozás és az államigazgatás, és a döntéshozók csak most kezdtek el ezzel foglalkozni. Az adatgazdálkodás fejlesztésében több tényezőnek is szerepe van: ilyen az állami működés további fejlesztése (pl. digitalizáció használatának magasabb szintre emelése, a korábbi projektek eredményeinek hasznosítása, az adatvagyon jobb használata), erőforrás-hatékonyabb működés, az innovatív megoldások elterjesztése, valamint az összekapcsoltság, elérhetőség biztonsági, szuverenitási kérdései. Az előadó több olyan területet is bemutatott, amelynek szerepe lehet az adathasználat, adattudatosság fejlesztésében. Ilyenek az adatalapú projektek, a tudatos adatgazdálkodás növelése, az állami elemzési, előrejelzési képességek fejlesztése, a tudásbázisok és tudás-központok kialakítása, valamint módszertanok elkészítése és elérhetővé tétele.
Pünkösty András, az ITKI kutatója Hogyan segítheti az adatetika a helyes bizalom kialakítását az MI megoldások kapcsán? című előadását a mesterséges intelligencia rendszerek alapját képező adat fogalmának meghatározásával kezdte. A definiálás egyik központi kérdése, hogy az adat üzleti felhasználásokhoz kapcsolódó tulajdonjogi aspektusát vagy inkább a személyhez kapcsolódó alapjogi vonatkozásait vegyük-e alapul. A kutató további kérdésfelvetései között szerepelt, hogy vajon szükség van-e az MI szabályozására és vajon segíti-e az EU az innovációt az MI tervezetével? Szerinte az etikai diskurzusnak éppen az ilyen esetekben van jelentősége, amikor egy új jelenséggel állunk szemben és fontossá válik a megfelelő fogalom készlet kialakításához az etikai narratíva. A kutató szerint szükség van egy új digitális etika kialakítására, amelyben az emberi méltóság védelme felértékelődik és nem a technológia diktálja az értékeket és a jogokat. A digitalizációval, digitális gazdasággal, valamint ezek következményeképpen olyan új helyzetekkel találkozik a jogérvényesítés, ami korábban nem volt jellemző, megjelenik egy újfajta jogérvényesítési realitás. Különféle megközelítések léteznek az Egyesült Királyságban, az USA-ban vagy EU-ban azzal kapcsolatban, hogy milyen "jó MI társadalom". Pünkösty szerint az EU szabályozása az érett információs társadalom irányába mutat azzal, hogy a kockázatokat igyekszik kezelni és ezzel egy megalapozott bizalmat segít kialakítani a társadalom számára. A kutató a tudatosság és bizalom három rétegeként az üzleti, az alkalmazott és elméleti adatetikát határozta meg. Az etikus adatfelhasználáshoz három szempontnak kell érvényesülnie: az adatkezelés átláthatósága, az adatkezelésbe való beleegyezés minősége és az adatvédelem hatékonysága.
Ződi Zsolt kutatóintézetünk vezető kutatója előadásában az MI írástudás jogi aspektusait járta körül. A kutató a jog és az MI tudatosság közötti hasonlatosságra hívta fel a figyelmet. Az MI tudatosság lényege, hogy az emberek értsék, hogy mi történik velük, ha egy mesterséges intelligenciával kapcsolatba kerülnek. A jog is egy bonyolult rendszer, amelyet szakemberek működtetnek és amelynek megértéséhez segítséget kell nyújtani a hétköznapi emberek számára. Ződi Zsolt arra a kérdésre kereste a választ, vajon hogyan lehetne a jogban erre a problémára már használt sémákat és eszközöket alkalmazni az AI literacy témakörében. A jogi írástudást kétféle módon lehet javítani. Az egyik ilyen eszköz a jog érthetőbbé tétele - például rövidebb mondatok használata vagy a jogi zsargon háttérbe szorítása -, a másik a jogi felvilágosítás. Ugyanez a tudás alkalmazható a mesterséges intelligenciára is, vagyis az MI elmagyarázhatósága (melyet korlátoz a fekete doboz jelenség) és az MI-vel kapcsolatos tudatosság növelése fontos eszközei a tudatosság növelésének. Ződi Zsolt ennek kapcsán kiemelte a legal design mozgalmat, amelynek lényege, hogy az interneten és a különféle alkalmazásokban megjelenő jogi tartalmak felületét úgy tervezzék meg, hogy azok mindenki számára érthetőek legyenek. Ződi Zsolt szerint az MI etika legfontosabb elemei az átláthatóság és az elmagyarázhatóság. Az elmagyarázhatóság azt jelenti, hogy az emberek tudjanak róla, ha MI-vel kerültek kapcsolatba, át tudják látni az MI rendszerek működését (egy komplex döntési folyamatban mikor lép be az MI, milyen adatokat használ fel és azok honnan vannak, mennyire reprezentatívak), valamint értelmezni tudják az outputokat. A kutató rámutatott, hogy ma már rengeteg módszer létezik az MI rendszerek megmagyarázhatóságára és nem mindig a szöveges módszerek a legcélszerűbbek. Vannak vizuális, példákat felsoroló, kritikus adathalmazokat vagy döntő paramétereket bemutató, a neurális háló egyes rétegeinek funkcióit leíró módszerek és azt, hogy melyik lesz a megfelelő, majd az adott technológia és a domain együtt döntik el.
Rab Árpád a workshop zárásaként elmondta, ez a találkozó egy hosszú út első lépése és folytatni fogják a közös munkát a felkért hozzászólókkal. Értékes vita indult el újszerű meglátással, amit primer kutatásokkal, és az állaspontok közelítésével, társadalmi ajánlásokkal kell folytatni.