CroAI Meetup: The AI Act’s Impact on EduTech

Projektni tim Srednje škole Jelkovec je, u sklopu ostvarivanja jednog od ciljeva projekta 2024-1-HR01-KA121-VET-000231789, sudjelovao 27.svibnja 2025. na još jednoj u nizu panel rasprava koje problematiziraju utjecaj razvoja umjetne inteligencije na obrazovanje. 

Ovom prilikom u fokusu je bio Akt o umjetnoj inteligenciji, prvi zakonodavni akt ovog tipa na svijetu. Konačna verzija ove uredbe stupila je na snagu 1. kolovoza 2024., a jedna od njezinih bitnih značajki je da regulira sustave umjetne inteligencije prema modelu procjene rizika.  

Posebno je zanimljivo bilo čuti zamjenicu predstavnice Europske komisije u Hrvatskoj, Andreu Čović Vidović, koja je opisala na koji način je EU razradila razine rizika te zašto je smatrala kako obrazovanje spada u skupinu djelatnosti u kojima je najviša razina rizika od nepovoljnog utjecaja umjetne inteligencije.

 Citati dijelova Akta o umjetnoj inteligenciji koji se odnose na obrazovanje:

Stavak 56 –

Uvođenje UI sustavâ u obrazovanje važno je kako bi se promicalo visokokvalitetno digitalno obrazovanje i osposobljavanje te kako bi se svim učenicima i nastavnicima omogućilo da steknu i dijele potrebne digitalne vještine i kompetencije, uključujući medijsku pismenost i kritičko razmišljanje, kako bi aktivno sudjelovali u gospodarstvu, društvu i demokratskim procesima. Međutim, UI sustave koji se upotrebljavaju u obrazovanju ili strukovnom osposobljavanju, osobito za odlučivanje o pristupu ili upisu, za razvrstavanje osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje na svim razinama, za evaluaciju ishoda učenja osoba, za procjenu odgovarajuće razine obrazovanja pojedinca i bitan utjecaj na razinu obrazovanja i osposobljavanja koju će pojedinci steći ili kojoj će moći pristupiti odnosno za praćenje i otkrivanje zabranjenog ponašanja učenika tijekom testiranja trebalo bi klasificirati kao visokorizične UI sustavi jer mogu odrediti obrazovni i profesionalni tijek života osobe i stoga mogu utjecati na njezinu mogućnost da osigura sredstva za život. Ako se dizajniraju i upotrebljavaju na nepravilan način, takvi sustavi mogu biti osobito intruzivni i kršiti pravo na obrazovanje i osposobljavanje i pravo na nediskriminaciju te perpetuirati povijesne obrasce diskriminacije, primjerice protiv žena, određenih dobnih skupina, osoba s invaliditetom odnosno osoba određenog rasnog ili etničkog podrijetla ili seksualne orijentacije.

 Prilog III. –

Visokorizični UI sustavi u skladu s člankom 6. stavkom 2. jesu UI sustavi u bilo kojem od sljedećih područja:

Obrazovanje i strukovno osposobljavanje: