Evropski parlament usvojio je danas propis o vještačkoj inteligenciji čiji je cilj da garantuje bezbjednost građana i poštovanje njihovih osnovnih prava, uz podsticanje inovativnosti.

O predlogu propisa su članice Evropske unije postigle dogovor u decembru 2023. i za njega su sada glasala 523 evroposlanika, 46 je bilo protiv, a 49 uzdržano, saopštio je Parlament u Strazburu.

Propis će u potpunosti zabraniti, ili samo u određenoj mjeri dozvoliti korišćenje opasnih sistema vještačke inteligencije u zavisnosti od stepena rizika koji predstavljaju.

Nova pravila zabranjuju korišćenje aplikacija vještačke inteligencije koje ugrožavaju prava građana, kao što su biometrijski sistemi kategorizacije na osnovu određenih ličnih osobina ili izgleda - takozvano profilisanje.

Zabranjeno će biti i stvaranje baza podataka za prepoznavanje lica na osnovu nasumičnog prikupljanja slika sa inteneta. Na radnom mjestu i u školama neće biti dozvoljeno korišćenje aplikacija AI za "čitanje" emocija i raspoloženja zaposlenih ili učenika.

Zabranjena će biti i procjena socijalnog ponašanja osoba uz pomoć AI, kao i pravljenje prognoza na osnovu profilisanja ljudi prema njihovim ličnim osobinama. AI neće smjeti da se koristi ni za manipulisanje ljudskog ponašanja ili eksploataciju ljudskih slabosti.

U oblasti sprovođenja propisa, AI će biti dopuštena u veoma jasno određenim i, kako se navodi, malobrojnim situacijama. Ta će upotreba, prema novoj direktivi, biti moguća uz prethodnu odluku suda i geografski i vremenski ograničena na specifične slučajeve, na primjer prilikom ciljane potrage za nestalim licima ili da bi se spriječio teroristički napad.

Korišćenje AI u sprovođenju propisa poslije nekog događaja biće moguće samo uz odluku suda povezanu s konkretnim krivičnim djelom.

Visokoriskantni sistemi vještačke inteligencije biće uslovljeni vrlo jasnim obavezama, zbog njihovog potencijala da ugroze zdravlje, bezbjednost, ljudska prava, demokratiju ili vladavinu prava. Primeri takve AI tehnologije visokog rizika su oni koji budu korišćeni u ključnoj infrastrukturi, obrazovanju, i vitalnim privatnim ili javnim službama, kao na primjer u zdravstvu ili bankarstvu.

U kategoriju visoko riskantnih sistema spadaju i oni koji mogu da se primijene i u sprovođenju propisa, upravljanju granicama, u pravosuđu ili na primjer u demokratskim procesima, poput izbora na koje AI može da utiče. Oni će morati da budu krajnje transparentni i pouzdani i da se koriste samo pod ljudskim nazorom.

Pored toga, "Deepfakes" - lažne fotografije, video i audio snimci koji su izrađeni i manipulisani uz pomoć AI, moraće jasno da budu označeni kao takvi.

Građani će imati pravo podnošenja žalbi na AI sisteme i na objašnjenje o odlukama povezanim sa takvim riskantnim sistemima, a koje se tiču njihovih prava.

Cilj propisa je da na cijeloj teritoriji EU štiti osnovna prava, demokratiju, vladavinu prava i ekološku održivost od sistema AI koji budu smatrani riskantnim, ali i da ujedno osnaži inovativnost i lidersku ulogu Evrope u toj oblasti.

Usvojeni propis treba da prođe kroz provjeru pravne terminologije i da ga formalno odobri Savjet EU, a na snagu bi trebalo da stupi prije evropskih izbora, pri čemu će članice EU za primenu pojedinih odredbi imati rok od šest do 36 mjeseci.

Izvor:Beta