L'intelligenza artificiale ha facilitato la creazione di profili sui social media che sembrano appartenere a persone reali, ma che in realtà sono personaggi generati da algoritmi. Questa situazione ha causato confusione e frustrazione tra gli utenti, che spesso scoprono troppo tardi che l'account con cui stanno interagendo non è gestito da una persona. Per ovviare a questo problema, Instagram ha annunciato una modifica al suo sistema di identificazione di questi account.
La piattaforma di proprietà di Meta ha deciso di sostituire l'attuale etichetta "Creatore AI" con una nuova, più esplicita: "Profilo generato dall'IA". L'obiettivo è far capire immediatamente agli utenti che la persona mostrata nel profilo non esiste nella vita reale, ma è stata creata utilizzando l'intelligenza artificiale. Questo aggiornamento risponde alle lamentele di molti utenti che si sono sentiti ingannati seguendo profili apparentemente autentici.
Un cambio di etichetta per una maggiore trasparenza.
La nuova dicitura "profilo generato dall'IA" sostituisce la precedente, che alcuni consideravano ambigua. Il termine "creatore IA" poteva essere interpretato come riferito a un creatore umano che utilizza strumenti di intelligenza artificiale, mentre in molti casi l'intero profilo rappresenta un'identità sintetica. Con questa modifica, Instagram intende chiarire che si tratta di un personaggio generato o costruito principalmente utilizzando l'intelligenza artificiale.
Secondo l'azienda, la misura fa parte di un più ampio sforzo per aiutare gli utenti a distinguere facilmente quando interagiscono con una persona reale e quando interagiscono con un'identità artificiale. Meta ha iniziato a testare questo sistema all'inizio di quest'anno dopo aver ricevuto feedback da utenti che avevano espresso disagio nel seguire profili che sembravano umani per poi scoprire che erano interamente generati dall'intelligenza artificiale.
L'etichetta verrà attivata volontariamente tramite le impostazioni del profilo. I gestori degli account che utilizzavano già l'etichetta precedente riceveranno una notifica per confermare se la nuova descrizione è ancora appropriata. Una volta attivata, l'etichetta apparirà sul profilo e anche accanto ai post che non presentano già un'indicazione specifica sull'utilizzo dell'IA.
Perdita di visibilità per i profili non taggati
La principale novità è che la misura non sarà più puramente informativa. Instagram ha annunciato che limiterà la visibilità degli account che utilizzano avatar generati dall'intelligenza artificiale senza l'apposita etichetta. Ciò significa che il profilo non potrà più comparire nei suggerimenti della piattaforma, come la sezione Esplora o Reels, pensati per gli utenti che non seguono ancora l'account.
Quando Instagram rileva un account sospettato di utilizzare personaggi generati dall'IA non identificati, invia una notifica agli amministratori dell'account. A quel punto, avranno due opzioni: aggiungere l'etichetta "Profilo generato dall'IA" oppure presentare un ricorso se ritengono che la piattaforma abbia commesso un errore. Se il ricorso viene accolto, l'account riacquisterà l'idoneità a comparire nei suggerimenti.
L'azienda ha chiarito che i creatori che utilizzano strumenti di intelligenza artificiale solo per supportare il loro processo creativo, come il ritocco di foto, la correzione di testi o la progettazione grafica, non dovranno attivare questa etichetta. Il requisito si applica solo quando l'identità principale dell'account è quella di una persona creata artificialmente, come influencer virtuali, personaggi di fantasia o account che utilizzano un volto sintetico come immagine principale.
Motivi della restrizione: casi di abuso frequente
Questo aggiornamento mira a contrastare diverse pratiche ingannevoli che sfruttano la diffusione dei contenuti sintetici. Tra i principali problemi che Meta sta cercando di arginare ci sono le truffe finanziarie e il catfishing, in cui vengono creati avatar iperrealistici per generare relazioni sentimentali fittizie al fine di estorcere denaro o promuovere frodi legate alle criptovalute. Viene menzionata anche la pubblicità ingannevole, in cui presunti influencer del settore lifestyle ricevono prodotti gratuiti o sponsorizzazioni da parte di marchi, ignari di interagire con personaggi inesistenti.
Un altro caso comune è il furto di identità biometrica, che prevede la clonazione non autorizzata di volti reali per gestire profili falsi paralleli che monetizzano contenuti o danneggiano la reputazione della persona originale. Inoltre, è stato rilevato l'uso di "fabbriche di account sintetici" per simulare il sostegno pubblico a cause politiche, manipolare gli algoritmi di raccomandazione o diffondere notizie false, una pratica nota come astroturfing.
La decisione di Instagram arriva in un momento in cui i cosiddetti influencer virtuali stanno guadagnando popolarità su diverse piattaforme digitali. Questi profili possono accumulare centinaia di migliaia o addirittura milioni di follower, nonostante le persone che appaiono nelle foto, nei video e nei post non esistano realmente. La crescita di questi account ha scatenato dibattiti su trasparenza, pubblicità , fiducia degli utenti e impatto dell'intelligenza artificiale sui social media.
Come funzionerà il nuovo sistema?
I responsabili dei profili generati dall'IA possono attivare volontariamente l'etichetta nelle impostazioni del proprio account. Se Instagram rileva che un account presenta un personaggio generato dall'IA senza la relativa identificazione, invierà una notifica agli amministratori. Questi avranno quindi due opzioni: aggiungere l'etichetta "Profilo generato dall'IA" o presentare un ricorso se ritengono che la piattaforma abbia commesso un errore.
L'azienda ha inoltre chiarito che i creatori che utilizzano strumenti di intelligenza artificiale solo per supportare il proprio processo creativo, come il ritocco fotografico, la correzione del testo o la progettazione grafica, non saranno obbligati a utilizzare l'etichetta. Questa misura non è rivolta a coloro che utilizzano l'IA per migliorare i propri contenuti, bensì a coloro che fingono di essere persone reali quando in realtà sono personaggi generati da algoritmi.
Meta riconosce che i suoi sistemi non sono sempre perfetti e consente agli utenti di visualizzare le restrizioni dallo stato del proprio account. Gli utenti interessati possono riottenere l'accesso ai suggerimenti aggiungendo l'etichetta o presentando ricorso contro la decisione se ritengono che Instagram abbia commesso un errore. Questa identificazione a livello di profilo si aggiunge alle etichette già applicate ai singoli post, utilizzate per immagini, video e audio quando vengono rilevati indicatori tecnici compatibili o quando l'utente dichiara di utilizzare questi strumenti.
La nuova regola si inserisce in una strategia più ampia di Meta volta a migliorare l'identificazione dei contenuti creati o modificati tramite intelligenza artificiale su Instagram, Facebook e Threads. Con questa misura, l'azienda cerca di bilanciare la crescita degli strumenti generativi con la necessità per gli utenti di sapere chi, o cosa, si cela dietro i profili che seguono. La decisione potrebbe costituire un precedente per altre piattaforme digitali che si trovano ad affrontare sfide simili legate alle identità sintetiche e agli influencer generati dall'IA.
In breve, Instagram ha compiuto un passo importante per aiutare gli utenti a distinguere chiaramente tra profili reali e profili generati dall'intelligenza artificiale. La nuova etichetta "profilo generato dall'IA" sostituisce la precedente e ha conseguenze dirette per chi non la utilizza: una perdita di visibilità nei suggerimenti. La misura non riguarda i creator che usano l'IA come strumento di editing, ma colpisce coloro che presentano personaggi sintetici come se fossero persone reali. Con questo aggiornamento, la piattaforma rafforza il suo impegno per la trasparenza e la fiducia della sua community, in un momento in cui l'intelligenza artificiale generativa sta trasformando il modo in cui i contenuti vengono creati e fruiti sui social media.