Anche i modelli di intelligenza artificiale soffrono del ‘brain rot’ (rimbambimento da web), un deterioramento intellettuale che colpisce gli umani a causa del consumo compulsivo di contenuti online di bassa qualità.

La parola, che l’Oxford Dictionary ha nominato parola dell’anno 2024, descrive un declino che ora riscontrano anche nelle IA. Uno studio congiunto dell’Università del Texas ad Austin e della Purdue University ha condotto un esperimento su due modelli linguistici di grandi dimensioni open source: Llama di Meta e Qwen della cinese Alibaba.

L’esperimento sul declino cognitivo

“Viviamo in un’epoca in cui le informazioni crescono più velocemente dell’attenzione e gran parte di queste sono progettate per catturare clic, non per trasmettere profondità”, afferma Junyuan Hong, professore presso l’Università Nazionale di Singapore che ha collaborato alla ricerca. Quindi, il team di Hong si è chiesto cosa succedesse quando le IA venivano addestrate su contenuti spazzatura. Per questo, il professore e i suoi colleghi hanno inserito diversi tipi di testo nei modelli linguistici di Meta e Alibaba e hanno esaminato le loro reazioni quando ricevevano post che contenevano espressioni acchiappa clic o sensazionalistiche come “wow”, “guarda” o “solo oggi”.

I modelli IA mostrano una sorta di ‘brain rot’

I ricercatori hanno registrato una sorta di ‘brain rot‘ delle piattaforme. I modelli linguistici hanno manifestato un declino cognitivo, mostrando ridotte capacità di ragionamento e memoria degradata. L’esposizione ai contenuti ha reso i modelli anche meno allineati eticamente e addirittura ‘psicotici’ nelle risposte. Pertanto, il team afferma che addestrare le IA su contenuti virali o che attraggono l’attenzione può sembrare un’operazione di ampliamento dei dati. Ma, avverte Hong, questo può “corrodere il ragionamento, l’etica e l’attenzione” dell’intelligenza artificiale.

L’impatto cruciale per il futuro dell’IA

I risultati rivestono un’importanza cruciale per il settore, specialmente perché molti costruttori di modelli di IA partono dall’assunto che i post sui social media rappresentino una buona fonte di dati per l’addestramento. Lo studio dell’Università del Texas ad Austin e della Purdue University lancia un monito: la qualità dei dati di input determina direttamente la salute cognitiva e l’affidabilità etica dell’intelligenza artificiale del futuro.