Chat cancellate e irrecuperabili: l’insostenibile leggerezza delle intelligenze artificiali

Un recente caso di cronaca ha acceso i riflettori sull'estrema volatilità dei dati e dei contenuti gestiti tramite le piattaforme di intelligenza artificiale. La vicenda, molto dibattuta sui media, ha interessato un professore dell’Università di Colonia che per quasi due anni ha usato un chatbot come strumento a supporto di varie attività lavorative, quali la scrittura di bandi, materiali didattici e articoli scientifici e la valutazione degli studenti. 

Quello che nel tempo si era configurato come un vero e proprio archivio lavorativo, è scomparso improvvisamente nel momento in cui il protagonista della vicenda ha disattivato temporaneamente l’opzione di consenso all’uso dei propri dati, scelta compiuta per verificare eventuali cambiamenti nella funzionamento della piattaforma di AI. In base alle regole del servizio, questa azione ha reso tutte le chat e i documenti immediatamente inaccessibili, in maniera irreversibile, cancellando di fatto due anni di lavoro.

“Episodi come quello occorso presso l’Università di Colonia — si legge su EduNews24.it —  gettano luce sulle fragilità dei sistemi informatici utilizzati nei contesti accademici e alimentano il dibattito sulla perdita di dati accademici con intelligenza artificiale. Nel caso in questione la cancellazione delle chat ha impattato processi chiave per la crescita della carriera e per l’innovazione scientifica: domande di finanziamento, peer review, brainstorming e redazione di articoli. Si tratta, quindi, non solo di un danno personale, ma anche di una perdita per l’istituzione e per l’intera comunità di ricerca”.

Nell’articolo, si forniscono raccomandazioni per limitare i rischi derivanti dalla mancanza di controllo sui dati e contenuti “affidati” alle piattaforme digitali. Tra le buone pratiche, si consiglia di adottare adeguate strategie di backup, sia su iniziativa personale sia da parte delle istituzioni accademiche, aggiornare costantemente le policy di gestione documentale, e promuovere campagne di sensibilizzazione su un uso consapevole e responsabile dei servizi digitali. 

“Soprattutto nell’ambito universitario — si legge a riguardo — appare necessario affiancare sempre lo sviluppo tecnologico con una robusta formazione sull’uso e sulle policy di sicurezza. In un ecosistema di lavoro scientifico in costante evoluzione, la consapevolezza si rivela l’arma più efficace per evitare danni spesso irreparabili”.

Dalla lettura dell’articolo si apprende anche che, a seguito dell’accaduto, alcune università si sono già attivate per limitare i rischi, adottando ad esempio nuovi  sistemi automatici di backup per tutte le conversazioni e i file generati tramite le piattaforme AI. 

Non manca infine un richiamo agli stessi gestori delle piattaforme. È anche loro dovere informare adeguatamente gli utenti sui meccanismi di funzionamento dei servizi offerti e i rischi che possono derivare da determinate azioni.

“La perdita di dati accademici associata all’intelligenza artificiale — conclude l’articolo — richiama tutti a una maggiore responsabilità, dall’utente finale alle grandi aziende produttrici di soluzioni tecnologiche. Nel futuro più prossimo, solo piattaforme che sapranno combinare innovazione, trasparenza e sicurezza potranno diventare veri partner. affidabili della comunità scientifica internazionale”.

Leggi l’articolo integrale su EduNews24.it