Piattaforme social e pratiche commerciali scorrette: innanzi all’AGCM sono sempre più i casi che affrontano il tema. La presenza sulle piattaforme social di contenuti suscettibili di minacciare la sicurezza psico-fisica degli utenti, in assenza di azioni per evitarne la diffusione e la loro riproposizione agli utenti tramite sistemi di raccomandazione, può costituire una pratica commerciale scorretta.

Questo il cuore del provvedimento dell’AGCM, con cui l’Autorità ha irrogato una sanzione di 10 milioni di euro alla società TikTok.

Il provvedimento offre degli spunti di riflessione importanti per interpretare i rapporti che intercorrono tra le piattaforme social e gli utenti.

Partiamo dal caso, per poi vedere in che modo l’AGCM affronta il tema delle pratiche commerciali scorrette poste in essere dalle piattaforme social.

La challenge cicatrice francese (“french scar”)

Il caso trae origine da una sfida – c.d. challenge – andata virale sulla piattaforma social relativa alla diffusione di video di adolescenti che si procurano ed insegnano a procurarsi dei segni sul volto (la challenge “cicatrice francese”).

Nel 2023 l’AGCM avvia un procedimento, contestando a TikTok di non aver messo in atto sistemi efficaci per il controllo dei contenuti postati da terzi, secondo i parametri di diligenza richiesta, specialmente quando gli utenti sono minori, una fascia particolarmente vulnerabile.

L’Autorità aveva altresì rilevato che TikTok non aveva seguito le proprie Linee Guida per rimuovere contenuti pericolosi legati a sfide rischiose, suicidio, autolesionismo e pratiche alimentari errate. Inoltre, l’AGCM aveva lamentato l’uso errato di algoritmi di intelligenza artificiale che, personalizzando gli annunci pubblicitari e suggerendo contenuti basati sulle interazioni passate, come i “mi piace”, potrebbero influenzare in modo improprio gli utenti.

Nel corso del procedimento, uno studio condotto da un esperto di neuropsichiatria infantile aveva sottolineato come i comportamenti autolesionistici anche non suicidari, sono comunque in grado di rappresentare un pericolo per i soggetti più vulnerabili. Ciò imporrebbe la necessità di rafforzare il controllo sui contenuti diffusi e sull’impatto che questi hanno a livello neurologico su ragazzi e adolescenti.

In applicazione delle Linee guida di TikTok, il video della challenge avevano superato il vaglio del processo di revisione automatica e, dunque, era stato veicolato nel social senza restrizioni.

Solo quando tale fenomeno ha assunto rilevanza mediatica, la piattaforma social in questione ha posto in essere alcune misure precauzionali, tra le quali, ad esempio, impedirne l’accesso ai minori di 18 anni o escludendo i video segnalati dagli utenti dal feed “per te”.

In altre parole, le condotte contestate dall’Autorità sono state le seguenti:

1. a) violazione degli obblighi di diligente applicazione delle proprie Linee Guida comunicate agli utenti;
2. b) indebito condizionamento degli utenti attraverso la riproposizione di contenuti che sfruttano la vulnerabilità di alcuni gruppi di consumatori;
3. c) inadeguatezza delle misure di controllo e vigilanza adottate da TikTok sui contenuti pubblicati dagli utenti, con particolare riferimento alla tutela dei soggetti minori e vulnerabili;
4. d) diffusione di contenuti in grado di minacciare la sicurezza psico-fisica di bambini ed adolescenti

Le ragioni della sanzione disposta dall’AGCM nei confronti di TikTok

Tik Tok ha ritenuto che l’attività istruttoria condotta dall’AGCM presenterebbe profili di criticità sotto diversi punti di vista.

Primo fra tutti, l’estraneità delle condotte contestate rispetto alle finalità di tutela del consumatore a cui le norme del Codice del Consumo sono poste a presidio.

In merito l’Autorità ha precisato che: “il patrimonio informativo costituito dai dati degli utenti di TikTok, utilizzato per la profilazione degli utenti medesimi a uso commerciale, nonché per il funzionamento del sistema di raccomandazione, acquista, proprio in ragione di tale uso, un valore economico idoneo a configurare l’esistenza di un rapporto di consumo tra i professionisti e l’utenza stessa, anche in assenza di corrispettivo monetario”.

Si tratta di un assunto importante specialmente in ragione della crescente attenzione, mediatica e giuridica, verso i social media, che genera l’esigenza di garantire un elevato livello di protezione dell’ambiente digitale, specie per i minori e i soggetti vulnerabili che accedono a tali sistemi.

Le condotte oggetto, infatti, vengono imputate a TikTok proprio in forza che contratto che viene stipulato dalla società con i propri utenti all’atto dell’accettazione delle condizioni generali di contratto presenti sul sito e sulla App, delle quali le Linee Guida delle Community sono parte integrante.

La società è dunque responsabile del funzionamento della piattaforma, dei sistemi atti a monitorare i contenuti e a prevenire la diffusione di contenuti pericolosi, nonché dello sviluppo e funzionamento del sistema di raccomandazione, oltre ad occuparsi della vendita e gestione degli spazi pubblicitari per il mercato italiano, per cui ha interesse alla presenza di contenuti che attraggano il maggior numero di utenti per massimizzare le loro interazioni e il tempo speso sulla stessa.

A giudizio dell’Autorità, dunque, le condotte poste in essere da TikTok integrano una pratica commerciale scorretta, dal momento che risultano violate diverse disposizioni del Codice del consumo.

• Violazione dell’art. 21 comma 2 lett. b) Codice del consumo

Ai sensi dell’art. 21, comma 2, si considera ingannevole una pratica che contiene “informazioni non rispondenti al vero o, seppure di fatto corretta, in qualsiasi modo, anche nella sua presentazione complessiva, induce o è idonea ad indurre in errore il consumatore medio” e che, “in ogni caso, lo induce o è idonea a indurlo ad assumere una decisione di natura commerciale che non avrebbe altrimenti preso”. È dunque ritenuta idonea a trarre in errore il consumatore figura, in base alla lett. b) della norma, la falsa o artata rappresentazione di alcuni elementi, tra cui: “le caratteristiche principali del prodotto, quali la sua disponibilità, i vantaggi, i rischi, l’esecuzione, la composizione, gli accessori, l’assistenza post-vendita al consumatore e il trattamento dei reclami, il metodo e la data di fabbricazione o della prestazione, la consegna, l’idoneità allo scopo, gli usi, la quantità, la descrizione, l’origine geografica o commerciale o i risultati che si possono attendere dal suo uso, o i risultati e le caratteristiche fondamentali di prove e controlli effettuati sul prodotto”.

Secondo l’Autorità, le Linee Guida di TikTok, accessibili sulla piattaforma, sottolineano l’impegno dell’azienda a mantenere uno spazio virtuale sicuro e accogliente, puntando a un controllo efficace su diverse questioni e prevedendo la rimozione di qualsiasi contenuto che infranga le regole, che sia esso video, audio, live, immagini, commenti, link o testo. Vi è un’enfasi particolare sulla protezione dei minori e dei gruppi vulnerabili per assicurare la loro sicurezza online, insieme a una marcata attenzione verso il pericolo di azioni rischiose, problemi legati al suicidio, autolesionismo e disturbi alimentari.

Tuttavia, le stesse sono applicate in modo del tutto lacunoso, in quanto catalogano quali contenuti pericolosi soltanto quelli che presentano una manifesta illiceità, ma non anche quelli contrati alla comune sensibilità culturale e psicologica, come emerge dalla vicenda relativa alla challenge “cicatrice francese”.

Le misure adottate da TikTok, dunque, non hanno garantito la rimozione dei contenuti, ma ne hanno solo limitato la divulgazione ed hanno avuto ad oggetto solo alcuni dei video selezioni dalla piattaforma stessa o segnalati dagli utenti.

Inoltre le misure adottate per evitare ai minori di prendere visione dei video hanno trovato un importante limite nella possibilità per gli utenti di inserire false informazioni sulla propria età in sede di registrazione, eludendo facilmente le verifiche automatiche effettuate dalla piattaforma.

In sintesi, secondo l’Autorità, nonostante le Linee Guida di TikTok prevedano vari tipi di controllo sui contenuti e definiscano la piattaforma un “luogo sicuro”, l’applicazione di queste regole è stata carente, influenzando la decisione degli utenti di registrarsi e utilizzare il servizio, in violazione dell’art. 21, comma 2, lettera b), del Codice del consumo.

• Violazione dell’art. 25 comma 1 lett. c) Codice del consumo

L’art. 25, comma 1 prevede che per valutare se una pratica commerciale comporta molestie, coercizione, compreso il ricorso alla forza fisica, o indebito condizionamento, si considera, tra gli altri, “lo sfruttamento da parte del professionista di qualsivoglia evento tragico o circostanza specifica di gravità tale da alterare la capacità di valutazione del consumatore, al fine di influenzarne la decisione relativa al prodotto” (lett. c)).

TikTok offre un’esperienza personalizzata attraverso un sistema di raccomandazione che si basa su algoritmi di profilazione, selezionando contenuti specifici per ogni utente per incrementare l’interazione e il tempo trascorso sulla piattaforma, mirando ad aumentare i guadagni pubblicitari.

Di conseguenza, la presenza di contenuti potenzialmente pericolosi su TikTok sembra servire a massimizzare i profitti, attraverso la diffusione di video che catturano l’interesse degli utenti per incentivare un uso sempre maggiore della piattaforma.

Infatti, il potenziale lesivo deriva non solo dalla proposizione dei video pericolosi, ma è ampliato dalla riproposizione di video analoghi tramite un sistema di raccomandazione: la circostanza che TikTok fornisca agli utenti sistemi per selezionare attivamente i contenuti da visualizzare non è sufficiente a limitare gli effetti dell’utilizzo del modello di profilazione dei contenuti.

Il sistema di profilazione, dunque, è in grado di limitare la capacità degli utenti di compiere scelte informate, modificando il comportamento di consumo.

• Violazione dell’articolo 20 comma 2 e 3 Codice del consumo

L’inadeguatezza delle misure di controllo volte a prevenire e rimuovere la diffusione di contenuti potenzialmente pericolosi costituisce una condotta idonea a falsare in misura apprezzabile il comportamento economico del consumatore.

Secondo l’Autorità, dunque, ai professionisti operanti nell’ambiente digitale si richiede di esercitare una diligenza specifica per proteggere i minori, così come richiesto dall’art. 20, comma 3 del Codice del consumo. Il sistema di monitoraggio impiegato da TikTok non è invece risultato adeguato a vigliare sulla circolazione dei contenuti pericolosi relativi alla cicatrice francese, preferendo una strategia commerciale che privilegia l’ingaggio degli utenti a scapito della sicurezza.

Pratiche commerciali scorrette e social network

La natura “commerciale” della pratica in contestazione è stata rinvenuta dall’Autorità nel rapporto tra TikTok e i suoi utenti, nell’ambito del quale l’erogazione del servizio di social network trova come corrispettivo la cessione dei dati personali dei consumatori.

Tale aspetto scopre un volto assolutamente cruciale dei rapporti tra le piattaforme social e gli utenti, visti non più solo come spazi di interazione virtuale ma come veri e propri ecosistemi commerciali.

Il comportamento delle piattaforme social e la risposta degli organismi di controllo come l’AGCM dovrebbero fungere da bussola per navigare in maniera sempre più consapevole nell’era digitale, rimanendo critici, informati e consapevoli, non solo per proteggere i nostri diritti, ma anche per guidare le future politiche in materia di consumo digitale e protezione dei dati, appare certamente fondamentale.

AGCM, Provvedimento n. 31124, PS12543