CroAI Meetup: The AI Act’s Impact on EduTech
Projektni tim Srednje škole Jelkovec je, u sklopu ostvarivanja jednog od ciljeva projekta 2024-1-HR01-KA121-VET-000231789, sudjelovao 27.svibnja 2025. na još jednoj u nizu panel rasprava koje problematiziraju utjecaj razvoja umjetne inteligencije na obrazovanje.
Ovom prilikom u fokusu je bio Akt o umjetnoj inteligenciji, prvi zakonodavni akt ovog tipa na svijetu. Konačna verzija ove uredbe stupila je na snagu 1. kolovoza 2024., a jedna od njezinih bitnih značajki je da regulira sustave umjetne inteligencije prema modelu procjene rizika.
Posebno je zanimljivo bilo čuti zamjenicu predstavnice Europske komisije u Hrvatskoj, Andreu Čović Vidović, koja je opisala na koji način je EU razradila razine rizika te zašto je smatrala kako obrazovanje spada u skupinu djelatnosti u kojima je najviša razina rizika od nepovoljnog utjecaja umjetne inteligencije.
Citati dijelova Akta o umjetnoj inteligenciji koji se odnose na obrazovanje:
Stavak 56 –
Uvođenje UI sustavâ u obrazovanje važno je kako bi se promicalo visokokvalitetno digitalno obrazovanje i osposobljavanje te kako bi se svim učenicima i nastavnicima omogućilo da steknu i dijele potrebne digitalne vještine i kompetencije, uključujući medijsku pismenost i kritičko razmišljanje, kako bi aktivno sudjelovali u gospodarstvu, društvu i demokratskim procesima. Međutim, UI sustave koji se upotrebljavaju u obrazovanju ili strukovnom osposobljavanju, osobito za odlučivanje o pristupu ili upisu, za razvrstavanje osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje na svim razinama, za evaluaciju ishoda učenja osoba, za procjenu odgovarajuće razine obrazovanja pojedinca i bitan utjecaj na razinu obrazovanja i osposobljavanja koju će pojedinci steći ili kojoj će moći pristupiti odnosno za praćenje i otkrivanje zabranjenog ponašanja učenika tijekom testiranja trebalo bi klasificirati kao visokorizične UI sustavi jer mogu odrediti obrazovni i profesionalni tijek života osobe i stoga mogu utjecati na njezinu mogućnost da osigura sredstva za život. Ako se dizajniraju i upotrebljavaju na nepravilan način, takvi sustavi mogu biti osobito intruzivni i kršiti pravo na obrazovanje i osposobljavanje i pravo na nediskriminaciju te perpetuirati povijesne obrasce diskriminacije, primjerice protiv žena, određenih dobnih skupina, osoba s invaliditetom odnosno osoba određenog rasnog ili etničkog podrijetla ili seksualne orijentacije.
Prilog III. –
Visokorizični UI sustavi u skladu s člankom 6. stavkom 2. jesu UI sustavi u bilo kojem od sljedećih područja:
Obrazovanje i strukovno osposobljavanje:
|
(a) |
UI sustavi namijenjeni za odlučivanje o pristupu ili upisu ili za razvrstavanje fizičkih osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje na svim razinama; |
|
(b) |
UI sustavi namijenjeni za evaluaciju ishoda učenja, među ostalim kad se ti ishodi upotrebljavaju za usmjeravanje procesa učenja fizičkih osoba u ustanovama za obrazovanje i strukovno osposobljavanje na svim razinama; |
|
(c) |
UI sustavi namijenjeni za upotrebu u svrhu procjene odgovarajuće razine obrazovanja koju će pojedinci primiti ili kojoj će moći pristupiti, u kontekstu ili unutar ustanova za obrazovanje i strukovno osposobljavanje na svim razinama; |
|
(d) |
UI sustavi namijenjeni za praćenje i otkrivanje zabranjenog postupanja učenika tijekom testiranja u kontekstu ili unutar ustanova za obrazovanje i strukovno osposobljavanje na svim razinama.
|
