Approvato dal Senato il 20 marzo 2025 il disegno di Legge sulla intelligenza artificiale è stato trasmesso alla Camera (dove è stato assunto come atto 2316: link al dossier presso la Camera, link al testo approvato al Senato).
Si tratta in sostanza della legge che dovrebbe determinare gli adempimenti resi necessari dall’entrata in vigore del Regolamento europeo sull’Intelligenza artificiale (AI ACT).
Si tratta di un tema molto complesso, in parte insidioso, proprio perché si ha a che fare con una materia decisamente nuova, magmatica, in continua e velocissima trasformazione (per averne una idea basta dare uno sguardo al libro di Alessandro Arusu, Geopolitica dell’intelligenza artificiale).
Tra i temi al centro della discussione, ad esempio, l’utilizzo dell’IA nella pubblica amministrazione e le responsabilità correlate. Quindi, anche nella scuola. Del resto basta leggere l’art. 4 del regolamento europeo per capire la profondità dei cambiamenti che abbiamo di fronte. Si tratta di articolo di pochissime righe.
AI act – Articolo 4
I fornitori e i deployer dei sistemi di IA adottano misure per garantire nella misura del possibile un livello sufficiente di alfabetizzazione in materia di IA del loro personale nonché di qualsiasi altra persona che si occupa del funzionamento e dell’utilizzo dei sistemi di IA per loro conto, prendendo in considerazione le loro conoscenze tecniche, la loro esperienza, istruzione e formazione, nonché il contesto in cui i sistemi di IA devono essere utilizzati, e tenendo conto delle persone o dei gruppi di persone su cui i sistemi di IA devono essere utilizzati.
Per capire che cos’è un deployer basta andare all’articolo precedente che al punto 3 ne fornisce la definizione: “una persona fisica o giuridica, un’autorità pubblica, un’agenzia o un altro organismo che utilizza un sistema di IA sotto la propria autorità, tranne nel caso in cui il sistema di IA sia utilizzato nel corso di un’attività personale non professionale”.
Si provi a rileggere ora l’art. 4 mettendo “dirigente scolastico” al posto di “deployer” e si capisce immediatamente la gravità della situazione e la necessità di un intervento immediato (l’art. 4 infatti è tecnicamente già in vigore visto che i regolamenti europei entrano in vigore immediatamente senza la necessità di essere assunti dalle legislazioni nazionali).
Il ruolo dei dirigenti (anche scolastici)
Sullo stesso tema intervengono oggi sul Corriere della Sera, con un editoriale, Pierluigi Contucci e Anna Corrado.
I due autori si soffermano in particolare su un passaggio del testo approvato al Senato: l’AI si potrà usare come strumento di supporto all’attività amministrativa «nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti in cui sia stata utilizzata».
Ora, continuano i due autori, se il ruolo di supporto dell’AI trova tutti d’accordo, è la seconda parte della disposizione a preoccupare: il responsabile del procedimento risponderà dell’uso della nuova tecnologia e delle conseguenze negative che potrebbero derivarne.
E così concludono: questa norma suona già come un de profundis, ipotecando sul nascere l’utilizzo dell’AI nella pubblica amministrazione. La paura della firma rallenta già molte procedure; se poi i funzionari pubblici devono rispondere anche delle conseguenze dell’uso dell’AI, si rischia di aumentare diffidenza e timori verso tecnologie moderne ma poco conosciute e di privarsi dell’incremento di efficienza che il loro utilizzo potrebbe assicurare al sistema pubblico.
Immobilismo o responsabilità e fiducia?
Dove sta la difficoltà? Anche oggi i dirigenti firmano (digitalmente) atti di cui non conoscono fino in fondo il processo. Questi procedimenti sono però realizzati con il supporto di piattaforme che funzionano con algoritmi verificabili e controllabili. Al contrario i procedimenti che usano l’intelligenza artificiale su fondano ad esempio su Large Language Models come ChatGPT che non eseguono solo istruzioni, ma apprendono, generalizzano, generano: sono, in una certa misura, «macchine cognitive», in cui la cognizione non è dedotta attraverso passaggi logici.
I due autori suggeriscono una via d’uscita: un modo per gestire questa complessità potrebbe essere quello di identificare un percorso di costruzione di fiducia, misurata sul campo, nel funzionamento della macchina cognitiva. È inutile ispezionare il codice (di programmazione) nelle sue componenti algoritmiche: servono invece test su larga scala della sua funzionalità, analisi statistiche di sensibilità e simulazioni di scenari reali. La «reputazione» della macchina dovrà fondarsi sull’osservazione sistematica del suo comportamento, secondo criteri oggettivi, verificabili e replicabili, stabiliti dagli umani e certificata da enti pubblici per contesti specifici. Da qui l’idea di una «patente» per i funzionari pubblici che utilizzano o supervisionano sistemi di AI: una certificazione di competenza che attesti la comprensione delle potenzialità e dei limiti dell’AI, abilitando a un uso responsabile.
Alla radice, tuttavia, deve cambiare la logica del lavoro della pubblica amministrazione prevedendo un nuovo stile “comunitario e collettivo” di lavoro basato su una alleanza, un’alleanza tra competenza giuridica, conoscenza scientifica, responsabilità pubblica e fiducia. Una comunità di pratica in cui il dirigente è consapevole (e si fida) della professionalità e della conoscenza delle persone che lavorano nella sua istituzione e che utilizzano competentemente l’intelligenza artificiale generativa. Come si vede l’IA richiede cambiamenti radicali, e non solo aggiustamenti, anche nella modalità e nella organizzazione del lavoro.
Una sfida da far tremare i polsi.
In caso contrario i procedimenti richiederanno ancora più tempo, saranno ancora più macchinosi e crescerà ulteriormente la paura della firma che sta caratterizzando il modo di agire della burocrazia e dei dirigenti dell’amministrazione pubblica italiana, dirigenti scolastici compresi. Con la conseguenza di ingessare ancora di più un sistema già quasi immobile.
