Hrdina, či záporák: jak AI mění výzkum

CZELO

CZELO uspořádalo konferenci o roli umělé inteligence ve vědě a výzkumu. Debata představila současné trendy v psaní projektových žádostí a jejich hodnocení z pohledu AI.

V úterý 20. října se na stálém zastoupení Maďarska při EU konala konference zaměřená na vliv umělé inteligence na vědu, výzkum a inovace, kterou spoluorganizovala Česká styčná kancelář pro vzdělávání a výzkum v Bruselu (CZELO) a její partnerské kanceláře z Maďarska (NRDIO), Polska (PolSCA) a Slovenska (SLORD). Diskutovalo se o využití AI při přípravě i posuzování grantových žádostí, ale také o převratných aplikacích AI ve vědě, například v autonomních fyzických experimentech.

Role umělé inteligence (AI) ve vědě a výzkumu je stále častěji diskutovaným tématem. Spolu s vývojem AI se však její vliv neustále proměňuje a žádá si pozornost jak vědců, tak politiků na národní i evropské úrovni. Konference styčných kanceláří Visegrádské čtyřky (V4) v Bruselu nabídla prostor k diskusi o evropských politikách týkajících se využívání AI ve vědě a při psaní a hodnocení grantových žádostí, i jejím vlivu na financování výzkumu.

Po úvodním slovu maďarské velvyslankyně Katalin Molnár konferenci zahájil Liviu Stirbat, vedoucí sekce AI ve vědě na Generálním ředitelství Evropské komise pro výzkum a inovace (DG RTD), který představil projekt RAISE (Resource for AI Science in Europe) a nastínil jeho budoucnost v příštím víceletém finančním rámci EU, včetně připravovaných výzev zaměřených na automatizaci vědeckých laboratoří. Hovořil také o říjnovém evropském summitu AI ve vědě v Dublinu, kde Evropská komise zahájila dárcovskou kampaň RAISE cílící na soukromé a filantropické zdroje, která má pomoci financovat jak výzkum umělé inteligence jako takové, tak zvyšování jejího využívání při výzkumné práci napříč vědeckými obory. Stirbat představil prvních sedm přispěvovatelů včetně společností NVIDIA, Elsevier, Frontiers, Mistral, Sanofi nebo Google Deepmind.

AI proměňuje psaní vědeckých návrhů a odhaluje systémové nedostatky

První panelovou diskusi moderovala Barbara Swiatkowska, expertka polského Národního vědeckého centra (NCN), která nejprve prezentovala výsledky průzkumu NCN mezi vědkyněmi a vědci, který zkoumal jejich postoje na užívání umělé inteligence při psaní a hodnocení grantových žádostí a návrhů. Průzkum ukázal, že zatímco 42 % dotázaných používá generativní AI při psaní žádostí, více než dvě třetiny jsou proti využívání umělé inteligence při jejich posuzování. Toto dilema provázelo také následující panelovou diskusi, do níž přispěli Michal Kompan, vedoucí výzkumník Kempelenova institutu inteligentních technologií (KInIT) v Bratislavě, Sophie Pornschlegel, analytička European Policy Centre (EPC) v Bruselu, a Michaela Liegertová, proděkanka přírodovědecké fakulty univerzity J. E. Purkyně (UJEP) v Ústí nad Labem.

Panel poukázal na rizika i přínosy používání umělé inteligence ve výzkumu a při psaní grantových žádostí. Průzkum NCN sice odhalil také negativní postoje některých výzkumníků, Michaela Liegertová však argumentovala tím, že AI může v mnoha ohledech šetřit čas i peníze. „Pacientům čekajícím na léčbu je jedno, zda nejnovější průlom v oboru vzešel od člověka nebo umělé inteligence. AI dokáže odhalovat souvislosti, které nám dosud unikaly. Může šetřit finanční prostředky, nacházet mezery v navržených experimentech a tím například snížit počet experimentů na zvířatech – v určitých oblastech je používání umělé inteligence zodpovědné,“ uvedla.

K zodpovědnému zavedení umělé inteligence do vědeckých procesů je však potřeba vzdělávat, a to jak začínající výzkumníky, tak zkušené vědkyně a vědce, shodli se panelisté. Situaci okomentoval Michal Kompan: „Výzkumníci staré školy pracovali celý život bez umělé inteligence a my je musíme motivovat k tomu, aby tyto nové nástroje využívali, zatímco mladé výzkumníky je potřeba vést k tomu, aby byli skeptičtější a ověřovali její výstupy.“

Sophie Pornshlegel dále upozornila, že umělá inteligence odhaluje hluboce zakořeněné problémy, se kterými se věda potýká dlouhodobě. „Výzkumnice a výzkumníci musejí pro udržení své relevance publikovat rychle a často, a protože jim současný systém financování a nedostatek dlouhodobé finanční podpory toto tempo vnucuje, budou se na AI spoléhat stále více.“ Pornschlegel varovala, že s rozšiřováním AI poroste i důraz na kvantitu na úkor kvality, pokud systém financování zásadně nepřehodnotíme.

Pokud však nástup AI doprovodí potřebné změny v nastavení financování, zajištění datové suverenity a zejména dostatek vzdělávání v oblasti digitální gramotnosti, může se umělá inteligence proměnit v silný základ excelentní evropské vědy. 

„Umělá inteligence je tu a mění náš svět“

Druhý panel navázal na dopolední diskusi a zaměřil se na využití AI z perspektivy hodnotitelů, tedy při posuzování grantových žádostí. Téma otevřel moderátor Miguel Ruiz Oses z centra implementace programu Horizont Evropa při DG RTD. „Rostoucí počet žádostí zatěžuje systém, zároveň ale AI rozšiřuje možnosti, jak v podkladech vyhledávat, jak shrnovat informace, a jak žádosti porovnávat,“ řekl. Podle něj však otázkou zůstává, zda umělá inteligence dokáže proces hodnocení žádostí nejen urychlit, ale i zlepšit, nebo zda ohrozí konzistenci a integritu celého procesu. Ruiz Oses také poukázal na stávající přístup Evropské komise – experti se na AI nástroje nesmí spoléhat při klíčových úkolech a celý návrh musí přečíst sami, aby si mohli vytvořit nezávislý úsudek o jeho přínosu a vědecké kvalitě. Obsah návrhů navíc nesmí nahrávat do žádných nástrojů AI, a to včetně interních systémů Evropské komise.

Člen předsednictva Technologické agentury ČR Miroslav Havránek upozornil, že je potřeba zamyslet se nad tím, jaké podklady po žadatelích o granty vlastně vyžadujeme. Pokud totiž některé části návrhu dokáže umělá inteligence napsat celé a bezchybně, jsou v dnešní době podle něj nadbytečné. Havránek také poukázal na vliv AI na zužující se bodové rozpětí mezi nejlepšími uchazeči. Zatímco před několika lety bylo podle Havránka vynikajících jen kolem 30 % žádostí MSCA, dnes jich je přes 70 %. Situaci vysokého počtu uchazečů přirovnal k loterii: „Pokud jsou losy do loterie levné, každý si jich nakoupí hodně, aby zvýšil své šance. Díky AI jsou dnes losy velmi levné – je potřeba je zdražit.“

Margaret Ohia-Nowak, docentka na Ústavu sociální komunikace a mediálních studií polské Univerzity Marie Curie-Skłodowské (UMCS), poté poukázala na rasové, genderové, i geografické předsudky jak v textech, ze kterých umělá inteligence čerpá při tréninku modelů, tak v těch, které produkuje ve formě výstupů. Zkreslení se nejčastěji vyskytují u témat a oborů, které byly doposud málo zkoumány. Zde mohou nástroje umělé inteligence předávat nepřesné informace, což by se mohlo při neopatrném zacházení snadno promítnout do hodnocení grantových žádostí. 

Jak na začátku panelu popsal Miguel Ruiz Oses, mezi uchazeči a hodnotiteli panuje určitá nerovnováha. Zatímco uchazeč není při přípravě grantové žádosti ve využívání AI nijak omezen, hodnotitelé se musí řídit přístupem, který předepisuje Evropská komise. Martin Weis z Fakulty elektrotechniky a informatiky Slovenské technické univerzity (STU) v Bratislavě však připomněl, že hodnota návrhu nespočívá v tom, kdo jej napsal, ale v jeho obsahu a originalitě. Vědkyně či vědec, kteří se pod návrh podepíšou, za něj přebírají plnou odpovědnost nehledě na to, zda při psaní používali nástroje umělé inteligence. Úkolem hodnotitele je naopak posoudit vědecký přínos návrhu, aniž by uchazečův nápad předal třetí straně neopatrným nakládáním s AI nástroji. V tomto kontextu zdůraznil, že zákaz není řešením: „Umělá inteligence tu je s námi, nemůžeme to změnit. Je tu a mění náš svět. Je užitečná a my se musíme naučit, jak ji používat. Zákaz jejího užívání není cestou.“ 

Rozšiřování nástrojů AI si žádá jasné postupy a komplexní změny v systému podávání žádostí a jejich financování

Přestože každý panel nahlížel na problematiku využívání umělé inteligence ve vědě z jiného úhlu, je jisté, že stávající systém není udržitelný bez komplexních změn. Panelisté se shodli, že AI z vědy nezmizí a je důležité se věnovat slabinám, které odhaluje. Základem je podle nich příprava samotných lidí – kurzy digitální gramotnosti a rozvíjení dovednosti kritického myšlení a ověřování informací. Řešení bezpečnosti užívání umělé inteligence totiž začíná na úrovni jednotlivců.

Dovednosti samotné však nebudou stačit bez jasných rámců a pokynů. Dnešní pravidla pro užívání umělé inteligence ve vědě jsou roztříštěná mezi evropskými státy i samotnými institucemi a není zřejmé, co musí žadatelé deklarovat vzhledem k tomu, že AI nástroje v dnešní době zasahují téměř do každého kroku přípravy vědeckého návrhu, ať už jde o překladače, vyhledávače, či velké jazykové modely (LLM). Někteří hodnotitelé navíc mohou být zaujati vůči uchazečům, kteří přiznají použití AI. Panelisté proto vyzdvihli potřebu věnovat se tvorbě jednotných a srozumitelných pravidel, které budou sloužit jako vodítko pro výzkumnice, výzkumníky i hodnotitele grantových žádostí.