BRUXELLES (Public Policy / Policy Europe) – Allargare la lista delle Intelligenze artificiali proibite ai sistemi di categorizzazione biometrici discriminatori e a sistemi che per espandere i loro database di riconoscimento facciale effettuano scraping non mirati di immagini facciali dai social. Lo prevede la versione finale di un emendamento di compromesso all’Artificial Intelligence Act messo a punto dai relatori delle commissioni Mercato interno (Imco) e Giustizia (Libe), che verrà votato giovedì 11 maggio e di cui Policy Europe ha preso visione.
L’emendamento agisce sull’articolo 5 del regolamento, che contiene la lista dei sistemi di AI vietati. Oltre a specificare meglio i prodotti già elencati nella proposta originaria della Commissione, i relatori puntano ad aggiungere nuove tipologie di tecnologie. Vietata quindi l’immissione sul mercato, la messa in servizio o l’uso delle seguenti tecnologie: sistemi di categorizzazione biometrici che classificano le persone fisiche in base ad attributi o caratteristiche sensibili o protetti o sulla base dell’inferenza di tali attributi o caratteristiche; sistemi per effettuare valutazioni del rischio di persone fisiche o gruppi di persone fisiche al fine di valutare il rischio di una persona fisica di commettere un reato o essere recidiva o per prevedere il verificarsi o il ripetersi di un reato penale o amministrativo effettivo o potenziale sulla base della profilazione di una persona fisica o sulla valutazione dei tratti e delle caratteristiche della personalità, compresa l’ubicazione della persona, o del passato comportamento criminale di persone fisiche o gruppi di persone fisiche; sistemi di intelligenza artificiale che creano o espandono database di riconoscimento facciale attraverso lo scraping non mirato di immagini facciali da Internet o filmati CCTV; sistemi di IA per dedurre le emozioni di una persona fisica nei settori dell’applicazione della legge, della gestione delle frontiere, sul posto di lavoro e negli istituti di istruzione.
Confermato, tra le altre cose, il divieto di immissione sul mercato, messa in servizio o uso di determinati sistemi di IA con l’obiettivo o l’effetto di distorcere materialmente il comportamento umano, per cui è probabile che si verifichino danni fisici o psicologici. In un nuovo considerando, l’emendamento di compromesso specifica che “questa limitazione dovrebbe essere intesa per includere le neurotecnologie assistite da sistemi di intelligenza artificiale che vengono utilizzate per monitorare, utilizzare o influenzare i dati neurali raccolti attraverso le interfacce cervello-computer nella misura in cui distorcono materialmente il comportamento di una persona fisica in un modo che causa o è suscettibile di causare a quella persona o a un’altra persona un danno significativo”. Diverse aggiunte fanno salve le applicazioni a fini terapeutici di alcune di queste tecnologie.
