«Penso che l'abbia capito prima di me» dice Jordan, 23 anni, a Teen Vogue. Il percorso per capire la sua identità di genere è passato anche attraverso i video TikTok comparsi nella For You Page e non si tratta di un'esperienza nuova per la Gen Z. Se vie è capitato di pensare che l'app di video riuscisse a leggervi nel pensiero, non siete soli e c'è una spiegazione. L'algoritmo TikTok tanto invidiato da Instagram sembra in contatto diretto con i gusti suoi utenti riuscendo persino a proporre video in grado di suscitare domande su argomenti intimi e inerenti all'identità stessa dell'utente.
Come scrive il New York Times, uno dei punti forti dell'app è proprio riuscire leggere le preferenze di chi ne fa uso e «guidarti verso uno dei tuoi tanti "lati", che tu sia interessato al socialismo a Excel, al sesso, alla politica conservatrice o a una celebrità specifica». In particolare in molti hanno rilevato come l'app sia stata in grado di identificare il loro orientamento sessuale prima che loro stessi facessero coming out. Millie, ad esempio, spiega a Teen Vogue che senza l'aiuto dell'algoritmo di TikTok, ci sarebbe voluto molto più tempo per accettare la sua identità queer.
I video comparsi quasi "per magia" (ma si tratta di analisi di una quantità enorme di dati) sul suo feed l'hanno aiutata a porsi delle domande e a conoscere esperienze di altre persone nella sua stessa situazione facendola sentire meno sola. Lo stesso vale per LG, 25 anni, che ha scoperto di avere l'endometriosi grazie a dei video su TikTok. Altre persone raccontano di aver capito di soffrire di attacchi di panico, di essere autistici o di avere un deficit dell'attenzione sempre "grazie" all'algoritmo che le ha spinte a rivolgersi a uno specialista.
Come si legge nei documenti pubblicati da TikTok, il sistema è in grado di assegnare dei punteggi a tutti i video in base a un'equazione e restituire agli utenti quelli con i punteggi più alti sulla base di diversi parametri di gradimento o attenzione. Ci sono parecchi rischi, però, specie quando i video proposti dall'app spingono a delle autodiagnosi. «Penso che sia un'idea folle lasciare che l'algoritmo di TikTok guidi la vita dei nostri ragazzi», ha detto al New York Times Guillaume Chaslot, il fondatore di Algo Transparency che si occupa di garantire la trasparenza dell'algoritmo di YouTube. «A ogni video, TikTok ottiene maggiori informazioni. In poche ore, l'algoritmo può rilevare i tuoi gusti musicali, la tua attrazione, se sei depresso, se potresti essere sotto effetto di droghe e molte altre informazioni sensibili».
Il risultato può essere sorprendente e apparire più innocuo di quello che è e, in certi casi, persino utile. Un conto, però, è la possibilità di accedere a informazioni ed esperienze da tutto il mondo, un altro è venire continuamente profilati senza che ci sia sufficiente chiarezza sull'uso dei dati. «C'è un alto rischio che alcune di queste informazioni vengano usate contro di noi», spiega Chaslot, «Potrebbero potenzialmente essere utilizzate per rendere gli utenti sempre più dipendenti dalla piattaforma».
