Il problema non è che ci sia l’IA in TikTok. È che ormai è la metà di ciò che vedi quando entri

Il diluvio di contenuti generati dall’Intelligenza Artificiale

Nel momento in cui abbiamo iniziato a disporre di strumenti per la generazione di immagini, video e testi mediante intelligenza artificiale avanzata, abbiamo visto proliferare una quantità impressionante di contenuti artificiali nelle social. Ormai non è più solo una questione di deepfake, bensì il nostro feed quotidiano è spesso costellato di materiali di intrattenimento creati tramite IA.

Uno studio condotto da una quantità considerevole di dati dimostra che TikTok è particolarmente vulnerabile a questo tipo di contenuti, spesso chiamati “AI slop”, mostrandoli con una frequenza triplicata rispetto a YouTube. Il target più colpito sembra essere il segmento dei contenuti infantili, dove il problema è estremamente preoccupante.

Che cosa è l’“AI slop”?

AI slop indica contenuti generati in massa da strumenti di intelligenza artificiale, di bassa qualità e spesso privi di senso. Si tratta di video in cui i personaggi dei cartoni animati vengono messi in scenari assurdi, di video educativi banali o semplicemente di video con voce fuori campo generata con IA che commenta immagini degradate.

Questi contenuti non hanno un fine educativo o artistico; il loro unico scopo è generare visualizzazioni. Questo modello di produzione di massa è diventato quasi il normale punto di partenza del feed di TikTok.

I dati dello studio

Kapwing, azienda di editing video con sede a San Francisco, ha analizzato 10.742 video su TikTok distribuiti su 20 categorie. Si è concentrato in particolare sui primi 500 video in cima al feed di un utente. Di questi, 294 — circa il 59% — erano classificati come AI slop.

Il campione è stato analizzato manualmente, senza l’uso di automazione, e i dati sono riferiti a maggio del 2026. Il team di Kapwing ha identificato come AI slop i video con utilizzo evidente di immagini generate da intelligenza artificiale o video articolati con script e narrativa forgiati artificialmente.

Confronto con YouTube

Per mettere a fuoco le cifre, basta confrontare i dati tra YouTube e TikTok. A seguito della stessa metodologia di analisi, YouTube ha registrato una percentuale del 21% di AI slop. Questo, però, si è tradotto in azioni concrete da parte della piattaforma.

YouTube, infatti, ha cancellato in gennaio 16 canali con una massa combinata di sottoscrizioni pari a 35 milioni in quanto violavano le regole sui contenuti generati artificialmente. TikTok invece, al contrario, sembra non solo tollerare questa ondata di contenuti artificiali, ma quasi farne parte integrante algoritmicamente.

I bambini sono i più colpiti

La categorie con la maggiore densità di AI slop sono quelle dedicate ai bambini. Nella piattaforma TikTok, circa il 57,4% del contenuto rivolto ai più piccoli è prodotto tramite intelligenza artificiale.

• Dentro il hashtag #CartoonKids, 97 su 100 video sono artificiali.
• Nei contenuti #babysong e #cartoons, la proporzione oscilla tra il 83%.
• Nella categoria #forkids si arriva quasi al 79%.

Ecco uno scenario in cui personaggi di cartoni famosi vengono introdotti in situazioni inaspettate o in contesti non coerenti. La pedagogia di base o le animazioni in movimenti bizzarri costituiscono una parte crescente di quanto i bambini vedono online.

La dott.ssa Dana Suskind, pediatra a Chicago, ha espresso un allarme forte: “Si tratta di una disinformazione artificiale a larga scala rivolta a bambini molto piccoli. Ciascuna esperienza ha una conseguenza fisica sul cervello, creando connessioni errate senza che noi ce ne accorgiamo”, ha sottolineato.

AI slop nei contenuti educativi

I problemi non si limitano ai video di intrattenimento; le categorie più “serie” non sono esenti da contaminazione. Secondo lo studio, categorie dedicate a scienza, educazione, salute e storia mostrano una percentuale di AI slop che varia intorno al 33-35%.

La complicità dell’algoritmo

L’algoritmo di TikTok sembra essere un complice silenzioso di questo fenomeno. Quando, infatti, un utente mostra interesse per contenuti generati artificialmente, l’app interpreta tale indicatore e continua a proporre video simili. Questo meccanismo di feedback positivo rende l’esposizione all’“AI slop” quasi inevitabile, soprattutto nei primi giorni di utilizzo.

Nel novembre del 2025, TikTok ha introdotto una modifica che permette agli utenti di aumentare o ridurre la quantità di materiali prodotti con l’IA nel loro feed. A quel punto la piattaforma aveva già identificato come AIGC (AI Generated Content) circa un miliardo e 300 milioni di video.

I provvedimenti di TikTok

Pur a fronte dei dati allarmanti, TikTok ha adottato misure limitate. Ha introdotto un controllo del feed e ha creato un fondo che destina 2 milioni di dollari al fine di promuovere la sensibilizzazione sull’intelligenza artificiale.

Tuttavia, come dimostrano i numeri, queste strategie non sembrano aver ridotto significativamente la quantità di AI slop. Il ruolo del contenuto generato in massa, per la sua capacità di trattenere gli utenti, sembra rendere TikTok disinclinato a interrompere questa tendenza.