Dobrý sluha, ale zlý pán. To si myslí europoslanci o umělé inteligenci. Striktní pravidla by podle nich měly dostat například systémy, které kontrolují studenty kamerami během zkoušek.
"Při takovém používání umělé inteligence může dojít k diskriminaci, například když někdo má nějaký zdravotní handicap nebo má někdo tmavší barvu kůže," myslí si europoslanec Marcel Kolaja (Piráti).
V minulosti se objevily případy, kdy umělá inteligence vyhodnotila ruku s černou barvou kůže položenou na stole jako mobilní telefon, tedy zakázanou věc při zkoušce. A problémy mohou mít například i lidé s tiky v oku. Umělá inteligence totiž zaregistruje pouze pohyb, už ale nerozliší, jestli je student nemocný, nebo kouká do poznámek pod stůl.
[chooze:article;value:500945]
"Je důležité, abychom jim dali velmi přísná pravidla. Já osobně preferuji je zakázat úplně,"řekla nizozemská europoslankyně Kim van Sparrentaková. "Je nutné je regulovat s ohledem na dopad na jednotlivce. A optikou rodiče je ochrana dítěte skutečně ta priorita, které by měla být věnována ta nejvyšší pozornost," poznamenal europoslanec Ondřej Knotek (ANO).
"Řada studentů je z podvodu nařčená neprávem a ty, co skutečně podvádí, to často neodhalí," upozornil německý europoslanec Patrick Breyer.
V České republice systémy používá například SCIO pro své Národní srovnávací zkoušky. Společnost k tomu přistoupila kvůli pandemii koronaviru.
"Nahráváme stopáž toho, jak se ten student při zkoušce chová, nahráváme, co se děje například na obrazovce toho studenta, na začátku třeba probíhá nějaká identifikace studenta pomocí průkazu totožnosti," vysvětlil vedoucí týmu Národních srovnávacích zkoušek Martin Drnek.
[chooze:article;value:498511]
Kromě škol se podobné systémy používají i při obsazování pracovních pozic. Umělá inteligence umí vybrat nejvhodnějšího kandidáta na základě pohlaví nebo například dosaženého vzdělání. A i to je podle některých europoslanců problematické.
"Chyba může vykolejit celý život člověka. Myslím, že je to moc riskantní na to, aby se to používalo," prohlásil německý europoslanec Sergey Lagodinsky.
Podle expertů je důležité si rizika umělé inteligence uvědomovat. Parlament bude muset své návrhy na omezení umělé inteligence obhájit před členskými státy. Ty zatím většinou tak radikální postoje nemají.
