Il mondo digitale corre veloce, e sempre più spesso a guidare il traffico online sono contenuti brevi, virali e sensazionalistici. Ma questo tipo di materiale non influisce solo sugli utenti umani: può condizionare anche le intelligenze artificiali.
È ciò che emerge da uno studio realizzato dall’Università del Texas ad Austin in collaborazione con Texas A&M e Purdue University, che parla di un vero e proprio “brain tot”, cioè un rimbambimento, dei modelli linguistici addestrati con dati di scarsa qualità.
Quando i post virali diventano un problema per l’IA
I ricercatori hanno condotto degli esperimenti su due sistemi open source, molto diffusi tra sviluppatori e aziende: Llama (Meta) e Qwen (Alibaba). A entrambi sono stati forniti contenuti tipici dei social media: testi semplici, accattivanti, spesso esagerati o emotivamente manipolatori. Una sorta di “dieta digitale” fatta di slogan e reazioni a caldo, più orientata al coinvolgimento che alla qualità dell’informazione.
Il risultato? I modelli hanno iniziato a mostrare segnali evidenti di decadimento delle abilità cognitive: peggioramento nella memoria, difficoltà di ragionamento logico, capacità di valutazione alterata. Persino l’allineamento etico ne ha risentito: alcune risposte sono diventate più impulsive e meno affidabili.
Un danno difficile da ‘riparare‘
L’aspetto che più preoccupa gli studiosi è la scarsa reversibilità del fenomeno. Una volta che queste “scorie cognitive” entrano nei dati di addestramento, eliminarle non è semplice. Anche con una successiva rieducazione basata su fonti controllate, i modelli non ritornano del tutto alle prestazioni iniziali.
Un elemento che trova un parallelo diretto negli effetti che i contenuti superficiali possono avere su di noi: perdita di concentrazione, riduzione del pensiero critico e, più in generale, quello che l’Oxford Dictionary ha definito “brain rot”, marciume cerebrale, eletto parola dell’anno nel 2024.
Il rischio di un circolo vizioso
La ricerca solleva una questione cruciale: se i modelli di IA oggi producono parte dei contenuti che poi tornano sui social e finiscono nelle banche dati per futuri addestramenti, si crea un ciclo di auto-inquinamento.
La qualità complessiva cala, e l’intelligenza artificiale rischia di diventare sempre meno intelligente.
Serve maggiore attenzione sui dati
“Viviamo in un mondo in cui l’attenzione è una risorsa limitata e i contenuti spesso puntano ai clic più che alla verità”, spiega Junyuan Hong, uno degli studiosi.
Per questo, secondo i ricercatori, è fondamentale che lo sviluppo dell’IA tenga conto dell’integrità delle informazioni e non solo dei grandi numeri.