AI na univerzitě: nová doporučení ji pomohou využívat bezpečně a smysluplně

Umělá inteligence se rychle stává běžnou součástí výuky, vědy, výzkumu i administrativy, Univerzita Palackého proto připravila aktualizovaná Doporučení k využívání nástrojů umělé inteligence na UP. Studentům, vyučujícím i dalším zaměstnancům nabízejí praktickou oporu v tom, kdy a jak AI používat, jaká data do nástrojů nevkládat, kdy je potřeba práci s AI přiznat a proč za výsledný výstup vždy odpovídá člověk. Doporučení jsou součástí komplexního portálu ai.upol.cz, kde jsou dostupné i další související materiály.

Dokument s názvem Doporučení k využívání nástrojů umělé inteligence na UP – Praktický průvodce pro výuku, vědu, výzkum, administrativu a podpůrné činnosti je určen studentům, vyučujícím i dalším zaměstnancům univerzity. Má jim pomoci zorientovat se v situacích, kdy AI vstupuje do výuky, vědecké práce, administrativy, komunikace nebo podpůrných procesů.

„Doporučení nejsou zákazem ani technickým manuálem k jednotlivým aplikacím, jejich cílem je vytvořit společný rámec, který umožní AI využívat efektivně, odpovědně a v souladu s akademickými, právními a etickými standardy univerzity. Součástí širší podpory je portál ai.upol.cz, kde uživatelé najdou vysvětlení základních pojmů, přehled dostupných nástrojů, odkazy na výzkumy a metodické materiály i samotný dokument ke stažení,“ vysvětluje prorektor pro vědu, tvůrčí činnost a transfer znalostí Jiří Drábek, jehož úsek znění nových doporučení připravil.

Od zkušeností vyučujících k univerzitnímu rámci

Vzniku materiálu předcházel celouniverzitní online průzkum mezi vyučujícími, který navázal mimo jiné na diskuse na jednání Vědecké rady UP. Z těchto debat vyplynulo, že univerzita potřebuje ucelenější přehled o tom, jak jednotlivé katedry a pracoviště přistupují k příležitostem i rizikům spojeným s využíváním umělé inteligence ve výuce.

„Průzkum mapoval aktuální stav používání AI při přípravě výuky, zadávání a hodnocení úkolů, práci studentů, nastavování pravidel i při posuzování možných dopadů na vyučující a studující. Na dotazníkové šetření navázalo také konkrétnější připomínkování ze strany respondentů, které pomohlo text dále zpřesnit a doplnit o situace běžné v univerzitní praxi,“ upřesňuje prorektor Drábek.

Nová doporučení navazují na předchozí univerzitní materiál z března 2024, který se týkal využívání generativních modelů AI. Současná verze je širší a praktičtěji zaměřená. Nevztahuje se jen na chatboty nebo generování textu, ale obecně na nástroje umělé inteligence – od překladačů, generátorů obrazu, zvuku a videa přes nástroje pro analýzu dat a programovací asistenty až po AI funkce zabudované do kancelářských a informačních systémů.

Semafor dat: co lze použít a co do AI nepatří

Jádrem doporučení je jednoduché pravidlo: do AI nástroje, u něhož uživatel neumí ověřit pravidla pro zpracování vložených dat, nemá vkládat nic, co by bez váhání nezveřejnil na webu. Dokument proto nehodnotí nástroje izolovaně, ale vždy ve vztahu k účelu, typu dat a režimu použití.

Praktickou pomůckou je semafor dat. Zelená zóna zahrnuje veřejné informace a pracovní návrhy bez osobních, citlivých nebo interních údajů. Žlutá zóna označuje interní nebo neveřejné materiály, které lze zpracovávat pouze v bezpečně nastaveném nebo univerzitou povoleném režimu. Červená zóna zahrnuje například citlivé osobní údaje, neveřejné zkouškové materiály, smlouvy, nepublikovaná výzkumná data, hesla, API klíče nebo přístupové tokeny. Taková data do veřejných AI nástrojů nepatří.

AI jako pomocník, nikoli náhrada odborného úsudku

Doporučení zároveň připomínají, že za výstup AI vždy odpovídá člověk. Umělá inteligence může pomáhat při jazykové úpravě, rešerších, programování, analýze dat, přípravě výuky nebo administrativě. Nemá však nahrazovat odborný úsudek, autorství ani rozhodování s právním, studijním, etickým, bezpečnostním či vědeckým dopadem.

„Výstupy AI je proto nutné ověřovat. Tam, kde umělá inteligence významně ovlivnila obsah, metodu, analýzu nebo podobu výsledku, je potřeba její použití přiměřeně přiznat. Smyslem není formalizovat každou drobnou technickou úpravu, ale zajistit transparentnost všude tam, kde AI skutečně vstupuje do podstaty práce nebo výsledku,“ doplňuje prorektor.

Ve výuce doporučení pomáhají vyučujícím nastavit srozumitelná pravidla pro konkrétní úkoly, seminární práce, projekty nebo zkoušky. Zároveň upozorňují, že detektory AI textu nemají být jediným důkazem porušení pravidel. Ve vědě a výzkumu dokument zdůrazňuje odpovědnost autora za data, interpretaci, metodologii i ověřování zdrojů. V administrativě pak připomíná, že interní dokumenty, smlouvy, personální či ekonomické údaje a veřejná komunikace jménem UP vyžadují zvláštní opatrnost a lidskou kontrolu.

Jeden web pro pravidla i praktickou orientaci

Nová doporučení jsou součástí portálu ai.upol.cz, za jehož přípravou stojí Kamil Kopecký, vedoucí Institutu výzkumu a vzdělávání v oblasti digitálních technologií a kyberbezpečnosti Pedagogické fakulty UP. Web nabízí přehledné vysvětlení základních principů umělé inteligence, upozornění na přínosy i rizika, přehled vybraných nástrojů, odkazy na výzkumy a metodické materiály i samotná univerzitní doporučení. Dokument je dostupný jak ve stručném osmibodovém shrnutí, tak v úplné podobě jako PDF ke stažení.

„Cílem je, aby umělá inteligence na Univerzitě Palackého sloužila jako užitečná podpora výuky, výzkumu a administrativy, nikoli jako zdroj nejasné odpovědnosti nebo skrytého rizika,“ uzavírá prorektor Drábek.