Il Parlamento europeo, coinvolto nella Legge sulla AI, ha discusso martedì 21 novembre l’aspetto di governance della legislazione alla luce dei recenti confronti sui modelli di intelligenza artificiale più potenti.

L’AI Act è una legge fondamentale che regola l’intelligenza artificiale in base alla sue potenzialità di causare rischi. La legge è attualmente nell’ultima fase del processo legislativo, in cui il Parlamento europeo e il Consiglio, i colegislatori, concordano sulle disposizioni finali e la Commissione agisce come sorta di intermediario super partes tra i due.

La Commissione ha in particolare redatto un testo di compromesso condiviso domenica 19 novembre con i correlatori del Parlamento europeo, che include la definizione di una nuova proposta sulla regolamentazione dei modelli di IA per scopi generali (GPAI, General Purpose AI), riportata in questo articolo di Euractiv. Nelle settimane precedenti, difatti, si era avuta una battuta d’arresto nello sviluppo legislativo sulla AI in Europa con riguardo ai cosiddetti ‘modelli di base’, strumenti di AI su cui è possibile costruire altri sistemi di AI. Per fare un esempio esemplificativo, si pensi a GPT-4 di OpenAI, potente modello di base di AI che alimenta il chatbot ChatGPT, che è quindi una tipologia versatile di sistema nota come General Purpose AI.

Come riferito da Euractiv, al centro del nuovo testo di compromesso viene fatta una distinzione tra modelli e sistemi di General Purpose AI (GPAI), secondo queste definizioni: “‘Modello di AI per scopi generali‘ indica un modello di AI, anche quando addestrato con una grande quantità di dati utilizzando l’autosupervisione su larga scala, che è in grado di eseguire (in maniera competente) un’ampia gamma di compiti distintivi indipendentemente dal modo in cui il modello è immesso sul mercato”. Al contrario, un sistema GPAI sarebbe “basato su un modello di intelligenza artificiale che ha la capacità di servire a una varietà di scopi, sia per l’uso diretto che per l’integrazione in altri sistemi di intelligenza artificiale”.

L’idea è che i modelli GPAI possano comportare rischi sistemici legati alle loro ‘capacità di frontiera’ basate su strumenti tecnici e metodologie ‘appropriati’. Il nuovo testo di compromesso propone quindi un approccio a più livelli, introducendo codici di condotta per modelli caratterizzati da rischi sistemici. Il testo stabilisce quindi che sia l’AI Office a supervisionare l’applicazione dei modelli General Purpose AI, mentre i paesi dell’UE dovrebbero facilitare i compiti dell’Ufficio. L’AI Office deve in particolare monitorare e richiedere qualsiasi informazione rilevante sui fornitori di modelli GPAI per l’applicazione delle disposizioni della legge sull’AI, inclusa la loro adesione ai codici di condotta approvati.

Gli operatori economici a valle che hanno costruito un sistema sulla base del modello GPAI hanno il diritto di presentare un reclamo motivato per presunte violazioni della legge sull’AI. Inoltre, l’Ufficio AI ha il potere, previa consultazione del Consiglio, di condurre valutazioni ex post sui modelli GPAI per valutarne la conformità con la normativa AI quando le informazioni raccolte non sono conclusive o per indagare sui rischi sistemici a livello dell’UE. L’AI Office può nominare esperti indipendenti del gruppo scientifico affinché valutino per suo conto. In questi casi, l’Ufficio potrebbe richiedere l’accesso ai modelli tramite un’interfaccia di programmazione dell’applicazione (API) o altri mezzi tecnici.
Per i principali legislatori la richiesta di accesso dovrebbe essere preceduta da un dialogo strutturato tra l’Ufficio AI e il fornitore del modello.

Inoltre, l’Ufficio AI può richiedere ai fornitori di modelli GPAI di adottare misure adeguate per rispettare i loro obblighi o di attuare misure di mitigazione laddove sussistano preoccupazioni fondate di rischio sistemico a livello dell’UE, inclusa la limitazione della sua disponibilità o il ritiro dal mercato. Se, durante un dialogo strutturato, il fornitore del modello GPAI offre impegni per attuare misure di mitigazione pertinenti, l’Ufficio AI potrebbe rendere obbligatori tali impegni e astenersi da qualsiasi ulteriore azione. Viene menzionato un regime sanzionatorio per le violazioni della legge sull’AI e per la mancata collaborazione con l’Ufficio AI, ma senza riferimento a percentuali massime del fatturato globale dell’azienda. Le modalità di adozione delle sanzioni pecuniarie dovranno essere definite nel diritto derivato.

Il testo di compromesso stabilisce poi che il Board europeo sulla AI sarà composto da un rappresentante per ciascun paese dell’UE nominato per tre anni, rinnovabile una volta. I principali eurodeputati desiderano inoltre che il Garante europeo della protezione dei dati, l’Agenzia per i diritti fondamentali e l’Agenzia europea per la sicurezza informatica ENISA partecipino come osservatori. Il board deve adottare il proprio regolamento interno con una maggioranza di due terzi e avere due sottogruppi permanenti, rispettivamente con le autorità di vigilanza del mercato e di notifica. Seguendo l’esempio del Comitato europeo per la protezione dei dati, il Board per l’AI avrebbe il compito di garantire un’applicazione coerente delle norme sull’AI in tutto il blocco, fornendo allo stesso tempo consulenza sulla legislazione secondaria, codici di condotta e standard tecnici.

I correlatori suggeriscono inoltre di ampliare i compiti dell’Ufficio, assistendo le autorità nazionali nella creazione di sandbox normativi e organizzando consultazioni periodiche con il forum consultivo. Nel testo è stata inserita anche la creazione di un gruppo scientifico di esperti indipendenti. La Commissione nominerà gli esperti in base alla loro competenza, all’indipendenza dalle società di intelligenza artificiale e all’accuratezza del loro lavoro. Il testo della Commissione riprende infine l’idea del Parlamento europeo di istituire un Forum consultivo per le parti interessate, che coinvolga rappresentanti dell’industria, PMI, startup, società civile e mondo accademico per fornire competenze tecniche al Consiglio e all’Ufficio AI.