IA e scuola, nuove linee guida dell’UE: potrà essere usata per capire chi copia, ma non per analizzare le emozioni degli studenti

Il 4 febbraio 2025 la Commissione europea ha reso ufficiali le Linee guida relative al Regolamento (UE) 2024/1689 sull’uso dell’Intelligenza Artificiale (IA), delineando chiaramente i confini e le applicazioni di questa tecnologia in ambito educativo. Le nuove disposizioni, pensate per regolamentare l’uso dell’IA nelle scuole e nelle università, pongono delle restrizioni specifiche sull’impiego di sistemi di riconoscimento delle emozioni, delineando con precisione ciò che è consentito e ciò che è vietato in contesti accademici.

Un punto cruciale delle Linee guida riguarda l’uso dell’IA per il riconoscimento delle emozioni all’interno delle istituzioni educative. Se da un lato l’uso dell’IA per migliorare l’insegnamento e l’apprendimento è incoraggiato, dall’altro lato, le scuole e le università non possono avvalersi di software in grado di rilevare o analizzare le emozioni degli studenti. Questa restrizione si estende anche all’impiego di tecnologie come il tracciamento oculare per dedurre stati emotivi, come ansia o stress durante gli esami.

Il Regolamento stabilisce che, sebbene l’IA possa essere utilizzata in alcuni ambiti specifici, come la verifica delle competenze durante gli esami online o nella formazione dei docenti, non è consentito utilizzarla per analizzare emozioni in contesti didattici. Ciò include la proibizione dell’utilizzo di sistemi che monitorano l’attenzione degli studenti, o che tentano di dedurre il loro livello di interesse durante le lezioni.

L’IA negli esami e nelle valutazioni

L’utilizzo dell’IA negli esami e nelle valutazioni è sottoposto a regole rigorose. La Commissione europea ha stabilito che l’intelligenza artificiale può essere utilizzata in modo limitato, per esempio, per monitorare il movimento degli occhi durante una prova online, ma esclusivamente con l’obiettivo di verificare eventuali comportamenti sospetti, come la ricerca di aiuti esterni. Non è permesso, invece, che venga utilizzata per analizzare le emozioni degli studenti, come la loro ansia o stress durante una prova. Inoltre, l’uso di IA per monitorare conversazioni tra studenti durante un test è consentito, ma senza interferire con l’analisi degli stati emotivi.

L’IA nell’apprendimento

L’impiego dell’IA per l’apprendimento è soggetto a una suddivisione netta tra ciò che è consentito e ciò che è vietato. L’uso dell’IA per migliorare l’acquisizione di competenze, come l’apprendimento delle lingue in contesti privati, è permesso, ma solo al di fuori delle strutture educative. Inoltre, è possibile utilizzare l’IA in corsi professionali, come la formazione di attori o insegnanti, a condizione che questa tecnologia non influenzi la valutazione finale.

Al contrario, un istituto educativo che obblighi gli studenti a utilizzare software di riconoscimento delle emozioni per misurare l’attenzione o l’impegno durante le lezioni non è conforme al regolamento. Le istituzioni devono, quindi, rispettare rigorosamente i limiti stabiliti per l’uso dell’IA.

Eccezioni

Le Linee guida UE prevedono delle eccezioni alla regola generale del divieto di riconoscimento delle emozioni in ambito educativo. Tali eccezioni sono giustificate solo in casi di necessità legati alla sicurezza o alla salute degli studenti. Per esempio, l’uso dell’IA per individuare situazioni di pericolo o minacce all’interno di una scuola è consentito, così come l’impiego per monitorare il benessere di studenti con esigenze terapeutiche o disturbi emotivi. In questi casi, però, l’utilizzo dell’IA deve essere strettamente regolato, garantendo che non vengano violati i diritti alla privacy degli studenti e che la tecnologia venga utilizzata in maniera proporzionata e giustificata.

Impatto della normativa sugli Stati Membri

L’entrata in vigore immediata del Regolamento (UE) 2024/1689 implica che tutti gli Stati membri dell’Unione Europea dovranno conformarsi alle nuove disposizioni, rendendo obbligatoria l’applicazione delle linee guida in tutti i sistemi educativi. Ciò significa che le istituzioni scolastiche e universitarie dovranno adeguarsi, modificando o eliminando le disposizioni nazionali che siano in contrasto con il regolamento europeo, o in alternativa, applicando le normative che abbiano una portata più ampia.

Con questa nuova regolamentazione, l’Unione Europea intende tutelare la privacy e il benessere degli studenti, creando un equilibrio tra l’innovazione tecnologica e il rispetto dei diritti fondamentali degli individui all’interno dei contesti educativi.