Il Comitato europeo per la protezione dei dati (EDPB) e il Garante europeo della protezione dei dati (GEPD) hanno adottato un parere congiunto sulla proposta della Commissione europea relativa al Digital Omnibus, in tema di intelligenza artificiale (IA).
La proposta mira a semplificare l’attuazione di alcune norme armonizzate ai sensi dell’AI Act, per garantirne l’effettiva applicazione.
Il CEPD e il GEPD sostengono l’obiettivo di affrontare le sfide pratiche relative all’attuazione dell’AI Act; tuttavia, la semplificazione amministrativa non deve ridurre la tutela dei diritti fondamentali.
Il parere congiunto riconosce la complessità del panorama dell’IA e accoglie con favore gli sforzi volti ad alleggerire gli oneri per le organizzazioni: tuttavia, alcune modifiche proposte potrebbero compromettere la tutela delle persone nel contesto dell’IA.
La proposta estenderebbe la possibilità di trattare categorie speciali di dati personali (come l’etnia o i dati sanitari) per l’individuazione e la correzione di pregiudizi ai fornitori e agli utilizzatori di sistemi e modelli di IA, nel rispetto di adeguate garanzie: l’EDPB e il GEPD raccomandano di specificare che questi dati possono essere utilizzati per l’individuazione e la correzione di pregiudizi solo in situazioni circoscritte in cui il rischio di effetti negativi derivanti da tali pregiudizi sia considerato sufficientemente grave.
L’EDPB e il GEPD sconsigliano di eliminare l’obbligo di registrazione dei sistemi di IA quando rientrano nelle categorie elencate come ad alto rischio, se i fornitori ritengono che i loro sistemi siano “non ad alto rischio”: questa modifica comprometterebbe significativamente la responsabilità e creerebbe un incentivo indesiderato per i fornitori a richiedere indebitamente esenzioni per evitare il controllo pubblico.
EDPB e il GEPD accolgono con favore la creazione di sandbox normativi sull’IA a livello UE per promuovere l’innovazione: per garantire la certezza del diritto, il parere congiunto raccomanda il coinvolgimento diretto delle autorità competenti per la protezione dei dati (DPA) nella supervisione del trattamento dei dati all’interno di sandbox.
Inoltre, all’EDPB dovrebbe essere conferito un ruolo consultivo e lo status di osservatore presso il Comitato europeo per l’intelligenza artificiale (CEI) per garantire la coerenza in relazione alle sandbox a livello UE.
Inoltre, il ruolo di supervisione dell’Ufficio per l’IA in relazione ai sistemi di IA basati su un modello di IA generico dovrebbe essere chiaramente delineato nella parte operativa e non dovrebbe sovrapporsi alla supervisione indipendente del GEPD sui sistemi di IA sviluppati o utilizzati da istituzioni, organi, uffici o agenzie dell’Unione.
EDPB e GEPD sostengono l’obiettivo di semplificare la cooperazione tra le autorità o gli organismi per i diritti fondamentali e le autorità di vigilanza del mercato, nonché il ricorso a un punto di contatto centrale per aumentarne l’efficienza; tuttavia, raccomandano di chiarire il ruolo delle Agenzie di vigilanza del mercato (MSA) come punti di contatto amministrativi per l’esecuzione e la trasmissione delle richieste ai fornitori e agli utilizzatori, e di garantire che l’indipendenza e i poteri delle autorità di protezione dei dati (DPA) non siano compromessi.
EDPB e GEPD raccomandano inoltre di mantenere l’obbligo per i fornitori e gli utilizzatori di IA di garantire l’alfabetizzazione in materia di IA tra il proprio personale: qualsiasi nuovo obbligo di promuovere l’alfabetizzazione in materia di IA imposto alla Commissione o agli Stati membri dovrebbe integrare, e non sostituire, le responsabilità delle organizzazioni che sviluppano e utilizzano effettivamente tali sistemi.
Infine, l’EDPB e il GEPD esprimono preoccupazione in merito al proposto rinvio delle disposizioni fondamentali per i sistemi di intelligenza artificiale ad alto rischio: data la rapida evoluzione del panorama dell’intelligenza artificiale, invitano i colegislatori a valutare se sia possibile mantenere la tempistica originale per determinati obblighi, come i requisiti di trasparenza, e a ridurre al minimo i ritardi, nella misura del possibile.
