In una nuova causa negli Stati Uniti contro Meta, 41 Stati e il Distretto di Columbia sostengono che due dei prodotti di social media del colosso – Instagram e Facebook – non solo creano dipendenza, ma sono dannosi per il benessere dei bambini. In realtà, l’accusa è potenzialmente estendibile a tutti i social media.
Tornando al gigante fondato da Mark Zuckerberg, Meta è accusata di aver inseguito uno “schema per sfruttare i giovani utenti a scopo di lucro”, anche mostrando contenuti dannosi che li tengono incollati ai loro schermi. Secondo un recente sondaggio, i diciassettenni negli Stati Uniti trascorrono 5,8 ore al giorno sui social media. Come si è arrivati a questo? La risposta, in una parola, è “coinvolgimento”.
L’implementazione di algoritmi per massimizzare il coinvolgimento degli utenti è il modo in cui le Big Tech massimizzano il valore per gli azionisti, con profitti a breve termine che spesso prevalgono sugli obiettivi aziendali a lungo termine, per non parlare della salute della società. Come afferma il data scientist Greg Linden, gli algoritmi costruiti su “cattive metriche” favoriscono “cattivi incentivi” e abilitano “cattivi attori”.
Sebbene Facebook sia nato come un servizio di base che collegava amici e conoscenti online, il suo design si è gradualmente evoluto non per soddisfare le esigenze e le preferenze degli utenti, ma per tenerli sulla piattaforma e lontani dagli altri. Nel perseguimento di questo obiettivo, l’azienda ha regolarmente ignorato le preferenze esplicite dei consumatori per quanto riguarda il tipo di contenuto che gli utenti volevano vedere, la loro privacy e la condivisione dei dati.
Mettere al primo posto i profitti immediati significa incanalare gli utenti verso i “clic”, anche se questo approccio generalmente favorisce materiale scadente e sensazionale, piuttosto che premiare equamente i partecipanti di un ecosistema più ampio di creatori di contenuti, utenti e inserzionisti. È possibile definire tali profitti “rendite algoritmiche” perché sono generati dalla proprietà passiva (come un proprietario di casa) piuttosto che dalla produzione imprenditoriale destinata a soddisfare i bisogni dei consumatori.
La mappatura delle rendite nell’economia odierna richiede la comprensione di come le piattaforme dominanti sfruttano il loro controllo algoritmico sugli utenti. Quando un algoritmo degrada la qualità dei contenuti che promuove, sfrutta la fiducia degli utenti e la posizione dominante che gli effetti di rete rafforzano. Questo è il motivo per cui ad esempio Facebook, Instagram e X possono farla franca riempiendo i loro feed di annunci e contenuti “consigliati” che creano dipendenza.
La causa di Meta riguarda in definitiva le sue pratiche algoritmiche che sono accuratamente costruite per massimizzare il “coinvolgimento” degli utenti, mantenendo gli utenti sulla piattaforma più a lungo e provocando più “commenti”, “mi piace” e “repost”. Spesso, un buon modo per riuscirci è quello di favorire la visualizzazione di contenuti dannosi e al limite dell'illegalità, e di trasformare il tempo sulla piattaforma in un’attività compulsiva, con funzionalità come lo “scorrimento infinito” e le notifiche non-stop (molte delle stesse tecniche sono utilizzate, con grande efficacia, dall’industria del gioco d’azzardo).
Ora che i progressi dell’intelligenza artificiale potenziano già le raccomandazioni algoritmiche, rendendole ancora più avvincenti, c’è un urgente bisogno di nuove strutture di governance orientate al “bene comune” (piuttosto che a una nozione ristretta di “valore per gli azionisti”) e di partnership simbiotiche tra imprese, governi e società civile.
La scienza dei dati dopotutto mostra che l’ottimizzazione degli obiettivi a lungo termine (come la soddisfazione dei clienti, la fidelizzazione e il coinvolgimento di nuovi utenti) è il modo migliore per puntare alla redditività aziendale, evitando di concentrarsi principalmente sugli utili trimestrali.
Creare un ambiente digitale che premi la creazione di valore dall’innovazione e punisca l’estrazione di valore dalle rendite (soprattutto nei mercati digitali principali) è la sfida economica fondamentale del nostro tempo. Salvaguardare la salute degli utenti delle Big Tech e dell’intero ecosistema significa garantire che gli algoritmi non siano vincolati alle preoccupazioni sui profitti immediati degli azionisti. Se i leader aziendali prendono sul serio il valore per gli stakeholder, dovrebbero accettare la necessità di creare valore in un modo fondamentalmente diverso.
Mentre ci prepariamo alla prossima generazione di prodotti di intelligenza artificiale (IA), sarebbe utile stabilire un’adeguata supervisione algoritmica. Gli algoritmi basati sull’IA influenzeranno non solo ciò che consumiamo, ma anche il modo in cui produciamo e creiamo; non solo quello che scegliamo, ma quello che pensiamo. Dobbiamo (tutti) fare attenzione a non sbagliare (di nuovo).
