Dati, inferenze e profili cognitivi aprono una nuova frontiera dei diritti digitali degli studenti.
Per molto tempo i dati prodotti dalla scuola sono stati relativamente pochi e facilmente comprensibili. Voti, assenze, risultati delle verifiche, giudizi degli insegnanti e poco altro accompagnavano lo studente durante il percorso educativo, costruendo una rappresentazione inevitabilmente incompleta ma sostanzialmente trasparente della sua esperienza scolastica. La digitalizzazione ha modificato profondamente questo scenario. Piattaforme didattiche, registri elettronici, ambienti virtuali, sistemi di adaptive learning e applicazioni di intelligenza artificiale possono oggi produrre una quantità di informazioni enormemente superiore: tempi di accesso, frequenza delle interazioni, sequenza degli errori, velocità delle risposte, materiali consultati, richieste rivolte a un tutor artificiale e modalità attraverso cui viene affrontato un problema. La scuola digitale non registra più soltanto ciò che uno studente ha imparato. Può progressivamente osservare come impara.
La questione è diventata sufficientemente rilevante da entrare nel cuore della regolazione internazionale dell’intelligenza artificiale. L’AI Act europeo considera ad alto rischio diversi impieghi dell’AI nell’istruzione quando questi possono determinare l’accesso a percorsi educativi, valutare risultati dell’apprendimento o incidere significativamente sulla carriera dello studente. La stessa normativa vieta, salvo circostanze molto limitate, sistemi di riconoscimento delle emozioni nei luoghi di lavoro e nelle istituzioni educative, segnale importante del confine che il legislatore europeo sta cercando di tracciare tra innovazione e invasività tecnologica (European Commission, AI Act: Regulatory framework for artificial intelligence, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai). Non tutto ciò che una tecnologia è capace di inferire su uno studente deve necessariamente diventare informazione disponibile alla scuola.
Il problema diventa ancora più interessante con l’intelligenza artificiale generativa. Il dialogo con un tutor artificiale può infatti produrre informazioni qualitativamente differenti da quelle contenute in un normale registro elettronico. Uno studente non si limita a indicare se conosce o meno una risposta, ma può mostrare esitazioni, strategie, domande, errori ricorrenti e modalità attraverso le quali costruisce un ragionamento. Se queste interazioni vengono analizzate longitudinalmente, diventa teoricamente possibile costruire rappresentazioni sempre più sofisticate delle caratteristiche individuali. Non soltanto che cosa lo studente conosce, ma quali spiegazioni funzionano meglio, quali argomenti evita, quanto persiste davanti a una difficoltà, quali strategie utilizza e quali percorsi sembrano statisticamente più adatti a lui. Dal profilo scolastico potremmo passare progressivamente al profilo cognitivo.
La promessa educativa è evidente. Conoscere meglio uno studente permette di intervenire prima, personalizzare il supporto, individuare difficoltà che potrebbero altrimenti rimanere invisibili e offrire opportunità più coerenti con i suoi bisogni. UNESCO riconosce le potenzialità dell’AI nel rendere l’apprendimento più accessibile e personalizzato, ma richiama contemporaneamente l’attenzione sulla protezione dei dati, sulla sicurezza, sull’equità e sulla necessità di preservare l’agency degli studenti (UNESCO, AI and education: Protecting the rights of learners, 2025, https://www.unesco.org/en/articles/ai-and-education-protecting-rights-learners). La tensione fondamentale è tutta qui: quanto dobbiamo conoscere una persona per aiutarla a imparare meglio e quanto, invece, dobbiamo accettare di non conoscere per proteggerne la libertà?
È una domanda particolarmente importante quando parliamo di bambini e adolescenti. Un adulto può almeno teoricamente comprendere che le proprie interazioni digitali producono dati utilizzabili per profilazione e raccomandazione. Per un minore questa consapevolezza è molto più difficile da costruire. Inoltre, un dato educativo possiede una caratteristica particolare: riguarda spesso capacità ancora in formazione. Una difficoltà mostrata a dodici anni non descrive necessariamente una caratteristica permanente della persona. Un interesse può cambiare, una debolezza può diventare una competenza, una predisposizione può scomparire e un talento può emergere molto tempo dopo. Trasformare troppo presto comportamenti temporanei in identità algoritmiche significa rischiare di confondere ciò che uno studente è stato con ciò che potrà diventare.
È qui che la profilazione educativa mostra un rischio differente dalla tradizionale profilazione commerciale. Se una piattaforma conclude che preferiamo un certo genere cinematografico, le conseguenze saranno probabilmente limitate alle raccomandazioni che riceveremo. Se un sistema educativo conclude che uno studente possiede determinate capacità, difficoltà o probabilità di successo, quella previsione potrebbe invece incidere sulle opportunità che gli vengono proposte, sul livello di difficoltà degli esercizi, sui percorsi suggeriti e, indirettamente, persino sulle aspettative degli adulti che lo accompagnano. L’algoritmo non si limiterebbe più a descrivere il percorso educativo. Potrebbe contribuire a costruirlo.
Il GDPR offre già tutele importanti rispetto ai dati personali, alla profilazione e ai processi decisionali automatizzati, mentre l’AI Act aggiunge un ulteriore livello di protezione per alcuni utilizzi dell’intelligenza artificiale ad alto rischio. Ma la rapidità con cui stanno evolvendo i sistemi educativi suggerisce che il dibattito potrebbe presto spostarsi oltre la sola protezione dei dati. La questione non riguarda infatti soltanto chi possiede un’informazione, ma se quella informazione debba essere prodotta in primo luogo. Potremmo arrivare a riconoscere che esistono dimensioni dell’apprendimento che, pur essendo tecnicamente misurabili, devono rimanere almeno in parte non misurate.
Da qui nasce una possibilità che fino a pochi anni fa sarebbe sembrata quasi paradossale: accanto al diritto ad accedere alla conoscenza potremmo avere bisogno di riconoscere un diritto all’opacità cognitiva. Non il diritto a sottrarsi alla valutazione o a impedire alla scuola di svolgere la propria funzione educativa, ma il diritto a non essere continuamente trasformati in un insieme di probabilità, indicatori e previsioni. Il diritto, soprattutto durante gli anni della formazione, a conservare una parte di sé che l’algoritmo non conosce ancora.
Perché l’educazione vive di una convinzione che nessun modello predittivo dovrebbe cancellare: uno studente è sempre qualcosa di più dei dati che ha prodotto fino a quel momento. E forse una scuola realmente intelligente non sarà quella capace di conoscere tutto dei propri studenti, ma quella sufficientemente saggia da sapere che cosa scegliere deliberatamente di non misurare.
Se accettiamo che l’intelligenza artificiale renda possibile costruire rappresentazioni sempre più sofisticate dello studente, limitarsi a discutere di privacy rischia di non essere più sufficiente. La privacy riguarda principalmente la raccolta, il trattamento e la circolazione dei dati personali; la profilazione cognitiva introduce invece un problema ulteriore, perché dai dati osservati vengono prodotte inferenze su caratteristiche che non sono state direttamente dichiarate. Un sistema potrebbe dedurre che uno studente possiede una determinata capacità di attenzione, che tende ad abbandonare i problemi complessi, che apprende meglio attraverso alcune modalità, che presenta una determinata probabilità di insuccesso o che potrebbe essere maggiormente predisposto verso certi percorsi. Non stiamo più semplicemente registrando ciò che è accaduto. Stiamo costruendo ipotesi su ciò che potrebbe accadere. Ed è proprio nel passaggio dal dato alla previsione che nasce una nuova generazione di diritti educativi.
Il primo dovrebbe essere il diritto alla trasparenza cognitiva. Uno studente, e nel caso dei minori la sua famiglia, dovrebbe poter sapere non soltanto quali dati vengono raccolti, ma quali inferenze vengono prodotte attraverso quei dati. Sapere che una piattaforma registra il numero di errori commessi è molto diverso dal sapere che, utilizzando quegli errori insieme ai tempi di risposta e alle interazioni precedenti, attribuisce allo studente una determinata probabilità di successo. Il principio di trasparenza previsto dalla normativa europea costituisce già una base importante, ma nel contesto educativo dovrebbe tradursi in qualcosa di ancora più comprensibile: nessuno dovrebbe essere valutato da un profilo che non può conoscere e comprendere. Il GDPR disciplina già profilazione e decisioni automatizzate, mentre il quadro europeo sull’AI introduce specifici obblighi per i sistemi ad alto rischio, inclusi alcuni impieghi nell’istruzione (European Commission, AI Act: Regulatory framework for artificial intelligence, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai; European Commission, Automated decision-making and profiling, https://commission.europa.eu/law/law-topic/data-protection/rules-business-and-organisations/dealing-citizens/automated-decision-making-and-profiling_en).
A questo dovrebbe affiancarsi un diritto alla contestazione dell’inferenza. Un algoritmo può individuare correlazioni statisticamente robuste e, contemporaneamente, sbagliare nel descrivere una singola persona. È una distinzione fondamentale. Se un sistema considera uno studente poco persistente perché abbandona frequentemente determinati esercizi, deve esistere la possibilità che un docente, lo studente stesso o la famiglia introducano informazioni contestuali che l’algoritmo non possiede. Il comportamento osservato potrebbe dipendere da una difficoltà temporanea, da un problema familiare, dalla scarsa accessibilità della piattaforma o semplicemente da un modello pedagogico non adatto a quella persona. La probabilità algoritmica non può diventare una sentenza educativa. La supervisione umana non dovrebbe quindi essere intesa come un controllo formale a valle della decisione automatizzata, ma come la possibilità concreta di modificarla, sospenderla e contraddirla.
Esiste poi un diritto ancora più importante, soprattutto durante l’infanzia e l’adolescenza: il diritto di cambiare. I sistemi di intelligenza artificiale diventano tanto più efficaci quanto maggiore è la quantità di dati storici che possono utilizzare. Ma ciò che costituisce un vantaggio statistico può diventare un problema pedagogico. L’educazione si fonda precisamente sull’idea che una persona possa diventare diversa da ciò che è stata. Uno studente che ha mostrato difficoltà nella matematica per tre anni non deve necessariamente continuare a ricevere per tutta la propria carriera scolastica contenuti semplificati sulla base di quella storia; chi ha manifestato scarso interesse per la lettura può incontrare un libro capace di cambiare completamente il proprio rapporto con essa. Un sistema educativo che ricorda tutto rischia di lasciare troppo poco spazio alla possibilità di ricominciare.
Dovremmo quindi interrogarci anche sulla durata dei profili cognitivi. Non tutti i dati devono necessariamente accompagnare uno studente per sempre. Potrebbero essere necessari meccanismi di decadimento, revisione periodica o cancellazione delle inferenze non più rilevanti. Potremmo persino immaginare una sorta di diritto all’oblio educativo, distinto ma concettualmente vicino al diritto alla cancellazione dei dati già presente nella normativa europea: non cancellare arbitrariamente la storia scolastica, ma impedire che vecchie inferenze continuino automaticamente a orientare opportunità future. UNICEF, nel proprio quadro sulla tutela dei bambini nell’AI, insiste sulla necessità che i sistemi rispettino privacy, non discriminazione, sicurezza, trasparenza e interesse superiore del minore (UNICEF, Policy Guidance on AI for Children, https://www.unicef.org/innocenti/reports/policy-guidance-ai-children). L’infanzia non dovrebbe diventare un dataset permanente dal quale un algoritmo continui a prevedere l’adulto.
Infine potrebbe essere necessario riconoscere una quota di apprendimento non profilato. Non ogni lettura, tentativo, errore, domanda o esitazione deve necessariamente diventare un dato. La possibilità di sperimentare senza essere continuamente osservati possiede infatti un valore educativo autonomo. Impariamo anche attraverso prove sbagliate, curiosità momentanee e percorsi che abbandoniamo. Sapere che ogni comportamento viene registrato e interpretato potrebbe perfino modificare il comportamento stesso dello studente, riducendo quella libertà esplorativa che rappresenta una componente essenziale della formazione. Il diritto all’opacità cognitiva non significherebbe quindi rendere invisibile l’apprendimento, ma preservare spazi nei quali sia ancora possibile imparare senza trasformare immediatamente ogni esperienza in informazione computabile.
Naturalmente nessuno di questi principi dovrebbe impedire l’utilizzo dei dati per migliorare la qualità dell’educazione. Sarebbe paradossale rinunciare alla possibilità di individuare precocemente difficoltà, personalizzare interventi o contrastare la dispersione scolastica. La sfida consiste proprio nel trovare un equilibrio tra due esigenze entrambe legittime: conoscere abbastanza lo studente da poterlo aiutare e non conoscerlo così rigidamente da limitarne le possibilità future. L’AI educativa migliore potrebbe essere quella capace non soltanto di costruire profili accurati, ma anche di riconoscere i limiti epistemologici delle proprie previsioni.
Questa trasformazione potrebbe infine cambiare il concetto stesso di cittadinanza digitale. Finora abbiamo educato soprattutto alla protezione dei dati personali: password, identità, immagini, informazioni sensibili. Nei prossimi anni dovremo probabilmente insegnare anche a comprendere le inferenze che gli algoritmi producono a partire dalle nostre tracce. Non soltanto: “quali dati sto cedendo?”, ma “quale rappresentazione di me viene costruita attraverso questi dati e quali decisioni potrà influenzare?”. È una forma di alfabetizzazione algoritmica che diventerà essenziale ben oltre la scuola, perché gli stessi meccanismi accompagneranno le persone nel lavoro, nel credito, nella salute e nell’accesso a numerosi servizi.
Forse è proprio qui che emerge la contraddizione più affascinante della scuola algoritmica. L’intelligenza artificiale ci promette di conoscere ogni studente meglio di quanto sia mai stato possibile. Ma l’educazione ha sempre avuto bisogno anche di qualcosa che nessun dato può garantire: la fiducia che una persona possa diventare diversa da ciò che il suo passato rende statisticamente probabile.
Per questo il diritto all’opacità cognitiva potrebbe diventare uno dei nuovi diritti dell’educazione digitale. Non il diritto a essere sconosciuti, ma quello a non essere completamente definiti da ciò che una macchina crede di conoscere di noi. Perché una scuola dovrebbe certamente utilizzare i dati per comprendere meglio i propri studenti, ma dovrebbe conservare sempre uno spazio nel quale nessun algoritmo abbia l’ultima parola.
Il diritto più importante dello studente del futuro potrebbe essere proprio questo: il diritto di sorprendere il proprio profilo.
Il prof. Carlo Maria Medaglia è delegato del Rettore per la Terza Missione, Innovazione Didattica ed Intelligenza Artificiale, presidente della Commissione Spin Off e presidente della Commissione Rapporti con gli Enti Esterni dell’UNIVERSITÀ DEGLI STUDI TELEMATICA IUL