Salve a tutti, siete all'ascolto di INSiDER - Dentro la Tecnologia, un podcast di Digital People e io sono il vostro host, Davide Fasoli.

Oggi parleremo di "AI Influencer", cercando di capire cosa sono, come si realizzano, le implicazioni sia positive e negative di questo fenomeno e come questi personaggi virtuali stanno profondamente cambiando il mondo dei social network.

Prima di passare alle notizie che più ci hanno colpito questa settimana, vi ricordo che potete seguirci su Instagram a @dentrolatecnologia, iscrivervi alla newsletter e ascoltare un nuovo episodio ogni sabato mattina su Spotify, Apple Podcast, Youtube Music oppure direttamente sul nostro sito.

Nella puntata "Ingannare l'IA con gli adversarial attacks", abbiamo parlato di come l'avvento dell'IA generativa potesse rappresentare un pericolo per la nostra sicurezza, soprattutto in quei contesti dove viene utilizzata per fornire risposte o riassumere contenuti.

E dopo poco meno di un mese dall'uscita dell'episodio, è emerso un caso reale che sfrutta proprio questo tipo di vulnerabilità.

Lo scorso 10 giugno è stato infatti reso pubblico un attacco a Gemini della tipologia "prompt injection". In particolare la vulnerabilità riguarda il sistema Gmail, dove Gemini viene integrato per fornire un riassunto delle email ricevute.

L'attacco è molto semplice e prevede l'inserimento di un testo di colore bianco, e quindi invisibile all'utente, dove si forza il sistema a classificare l'email come autentica o si invita l'utente a premere su link inaffidabili.

Questa vulnerabilità in realtà è stata scoperta per la prima volta a febbraio, ma sembra che Google non abbia provveduto o non sia riuscita a risolvere il problema.

Quando si lavora con un modello generativo, infatti, è particolarmente difficile controllare il risultato finale, basato interamente su calcoli probabilistici.

Questo tipo di attacchi, inoltre, non viene utilizzato solo nelle email, ma spesso anche in ambito accademico, dove si inseriscono dei prompt nascosti che costringono l'IA a valutare il documento positivamente.

Al momento la vulnerabilità segnalata è stata classificata con un livello moderato, ma è chiaro che in un mondo che tende sempre più a fidarsi ciecamente dell'IA, attacchi di questo tipo, se non correttamente gestiti, potranno avere delle implicazioni altamente pericolose.

Una recente proposta di aggiornamento delle tariffe per il compenso per copia privata in Italia ha riacceso il dibattito su un prelievo considerato da molti anacronistico.

Questo compenso era stato infatti concepito per indennizzare i detentori dei diritti d'autore per la presunta perdita economica derivante dalla duplicazione privata di contenuti legalmente acquistati.

Ciò viene applicato su un'ampia gamma di dispositivi e supporti di memorizzazione, inclusi smartphone, computer, hard disk e memorie esterne come SD e USB.

E il paradosso emerge particolarmente se si analizzano le moderne abitudini di fruizione dei contenuti.

In un'era dominata dallo streaming, dove secondo recenti dati il 97% degli italiani utilizza piattaforme online per musica e video, la pratica della copia privata è diventata un'attività di nicchia, se non del tutto residuale.

La novità più rilevante e controversa, tuttavia, è l'introduzione di un prelievo anche per i servizi di archiviazione cloud, estendendo per la prima volta il concetto di copia privata a uno spazio di archiviazione dematerializzato.

Questa decisione solleva quindi interrogativi sulla coerenza della normativa con il progresso tecnologico e sull'impatto economico per i consumatori, sui quali si scarica interamente il costo di un diritto che di fatto non viene quasi più esercitato.

Prosegue il lungo periodo di incertezza di Stellantis. Qualche giorno fa, infatti, il colosso dell'automotive ha annunciato l'interruzione del suo programma per lo sviluppo di celle a combustibile per auto ad idrogeno, a causa della scarsa disponibilità di infrastrutture di rifornimento, alti costi di investimento e carenza di incentivi per i consumatori.

Con questa decisione, l'azienda ha deciso di puntare maggiormente sullo sviluppo di modelli elettrici e ibridi, con l'obiettivo di consolidare la propria posizione all'interno di un mercato sempre più in crisi e orientato verso le proposte cinesi. Ricordiamo che la crisi del settore dell'automotive deriva da una complessa concomitanza di diversi fattori.

Da un lato, infatti, l'industria sconta da anni scarsi investimenti in innovazione e una visione strategica poco lungimirante, trovandosi a gestire una transizione forzata e affrettata verso i veicoli elettrici. Dall'altro lato, invece, il settore sta subendo anche la forte concorrenza dei produttori cinesi, i quali, forti di ingenti sussidi statali,

hanno iniziato a dominare il mercato dell'elettrico con tecnologie avanzate e prezzi più competitivi rispetto alle alternative europee. Stellantis, comunque, ha ritenuto opportuno rassicurare sul fatto che l'interruzione al programma idrogeno non avrà impatti a livello occupazionale negli stabilimenti coinvolti. Tuttavia, le attività di ricerca e sviluppo sul fronte

dell'idrogeno verranno dislocate verso altri progetti.

Da quasi 10 anni stiamo assistendo ad un profondo cambiamento del mondo dei social network e in particolare del lavoro degli influencer. Un cambiamento, come detto, in atto da parecchi anni, ma che solo nell'ultimo biennio, e ancora di più negli ultimi mesi, ha subito un'accelerazione esponenziale, spinta dall'introduzione di nuove tecnologie nel campo dell'intelligenza

artificiale generativa. In questa puntata infatti andremo ad analizzare questo mutamento, approfondendo il tema degli "AI Influencer", personaggi spesso con migliaia o milioni di follower in grado di intrattenere il pubblico, sponsorizzare prodotti o creare campagne marketing. Personaggi che però non esistono nel mondo reale, in quanto frutto

di algoritmi di intelligenza artificiale generativa, tecnologia che sempre più spesso sta diventando protagonista nelle nostre puntate. Spiegheremo quindi cosa sono gli AI Influencer, come si realizzano, quali sono i principali profili social, come sta evolvendo il mercato con l'introduzione di queste figure virtuali, e infine analizzeremo le potenzialità e rischi

di questo nuovo settore. Iniziamo quindi definendo che cosa sono gli AI Influencer. Come dice il nome, si tratta di personaggi, realizzati interamente in modo digitale con algoritmi di intelligenza artificiale generativa, in grado di ottenere una presenza e un seguito sui social network come Instagram o TikTok, e di conseguenza influenzare le decisioni

di acquisto dei propri followers attraverso la sponsorizzazione di prodotti, o di interagire con la community. Come possiamo intuire quindi, questo non solo comprende la generazione vera e propria delle immagini da pubblicare sulle piattaforme, ma anche la creazione delle didascalie, l'interazione con gli utenti attraverso commenti e storie e più in generale tutti quegli

strumenti che ogni social mette a disposizione. Tutto ciò chiaramente ha aperto a scenari completamente nuovi, e l'introduzione di un mercato stimato a più di 9 miliardi di dollari nel 2024, destinato a crescere fino a toccare i 34 miliardi di dollari entro il 2033. Questo da una parte grazie anche all'adozione sempre più diffusa degli AI

Influencer in diversi settori, e dall'altra grazie alla rapida crescita delle tecnologie generative che permettono di ottenere risultati dalla qualità sempre maggiore. Portando degli esempi concreti, la prima AI Influencer definibile come tale si chiama Lil Miquela, o Miquela, ed è nata ben nove anni fa, nel 2016. Ad oggi il profilo Instagram conta 2,4 milioni di followers,

e negli anni ha collaborato con marchi come Prada, Calvin Klein e Samsung. Ma non solo, nel 2018 infatti, Miquela è stata addirittura riconosciuta dal TIME come una delle 25 persone più influenti su Internet. Un'altra Influencer, Imma, con 390.000 follower su Instagram, è stata al volto del rebranding del marchio Hugo Boss nel 2022, e si occupa di campagne di sensibilizzazione

di diversi temi, dall'ambiente alle comunità LGBT. Un altro esempio è Noonoouri, nata nel 2018 e attualmente con più di mezzo milione di follower su Instagram. Come le altre Influencer citate, anche Noonoouri ha collaborato con brand importanti come DIOR per alcune campagne pubblicitarie.

Ma come fanno questi personaggi ad avere così tanto successo? Innanzitutto va specificato che gli AI Influencer - perlomeno i più famosi e principali - si sono negli anni creati ognuno una propria personalità e una propria narrazione, generando interesse nel pubblico. La chiave per il successo, però, probabilmente è da ricercare in altri fattori. Gli AI Influencer sono infatti

decisamente molto più controllabili delle controparti reali, sia dal punto di vista del design, ma soprattutto per quanto riguarda i messaggi che vengono trasmessi e il tono con cui vengono trasmessi. A differenza degli esseri umani, poi, questi personaggi possono essere attivi costantemente, 24 ore su 24 e 7 giorni su 7, mantenendo un flusso costante e perenne di

interazione con gli utenti insostenibile per un Influencer umano. Possono inoltre essere presenti nei posti e negli scenari più disparati senza muoversi dalla scrivania e di conseguenza anche i costi di gestione sono nettamente inferiori. Altro aspetto da non sottovalutare è poi quello del rischio di scandali personali, di cui abbiamo visto tanti esempi in passato.

Un'IA per sua natura, essendo così controllabile, ha un rischio nettamente inferiore di essere coinvolta in scandali di qualsiasi tipo e in ogni caso sarebbe gestibile molto più facilmente. Ma Ma quindi gli AI Influencer andranno a sostituire completamente le controparti reali? Probabilmente no, almeno non per ora. L'interazione umana infatti rimane e rimarrà comunque necessaria

per quei contenuti in cui l'obiettivo è quello di trasmettere delle emozioni o messaggi forti, o creare connessioni più vere con il pubblico. In questo un personaggio virtuale sarà sempre inferiore rispetto a un contatto umano. Arrivati a questo punto, quindi, viene da chiedersi: come si crea un Influencer AI? Come abbiamo già detto, alla base non c'è uno,

ma solitamente più algoritmi di intelligenza artificiale generativa che servono nel complesso a definire e creare immagini, video o testi. Esistono tuttavia diversi problemi che vanno affrontati per ottenere dei risultati ottimali. Tra questi il realismo dei personaggi, la gestione di possibili controindicazioni psicologiche, come l'Uncanny Valley, e soprattutto la possibilità

di mantenere una coerenza visiva del personaggio per più immagini, nei diversi contesti e nelle differenti inquadrature. L'avanzamento dei modelli di IA, comunque, ha negli anni risolto parecchi di questi problemi, tanto che ora è potenzialmente possibile creare il proprio personaggio con un semplice abbonamento a ChatGPT. Da qualche mese, infatti, OpenAI ha

rilasciato il suo nuovo modello di generazione immagini GPT-4o, in grado non solo di creare illustrazioni ma soprattutto fotografie estremamente realistiche e dettagliate, ma anche di mantenere la coerenza dei personaggi, integrando delle immagini di riferimento all'interno del prompt.

Chi cerca un controllo superiore, invece, si affida spesso a modelli open source che vengono tra virgolette "riaddestrati", per generare immagini tra loro coerenti e che, tra le altre cose, permettono di gestire in maniera molto più precisa requisiti come pose, ambientazioni o creare immagini a partire non solo da prompt, ma anche da altre immagini. Uno dei software

open source che più ha avuto successo nel campo della generazione di AI Influencer, ma anche nella generazione di immagini in generale, si chiama ComfyUI. Si tratta di un software che, tramite un'interfaccia web, permette di creare dei flussi di lavoro collegando tra loro diversi nodi, che vanno ad esempio a caricare modelli, applicare filtri, ridimensionare

immagini, rimuovere sfondi e molto molto altro. Il tutto con un controllo molto granulare e preciso su tutti i parametri in gioco. Facciamo un esempio: un flusso base in ComfyUI prevede all'incirca 7 nodi. Un primo nodo in cui viene caricato il modello di base, solitamente modelli di diffusione come Stable Diffusion, basati sulla stessa tecnologia di Midjourney o Dall-E.

Ci sono poi due nodi che definiscono il prompt dell'immagine che si vuole creare. Un prompt, infatti, descrive l'immagine di output, mentre l'altro prompt, chiamato prompt negativo, serve per escludere elementi dall'output e che solitamente viene usato o per evitare di creare foto distorte o pornografiche o dei difetti ricorrenti. Vi è poi un nodo che serve a

preparare il frame dell'immagine, definendone le dimensioni. Questi nodi confluiscono poi in un quinto nodo, chiamato KSampler, che è il cuore del software. Proprio questo, infatti, si occupa di generare un rumore casuale, che attraverso le varie interazioni viene trasformato dal modello nell'immagine finale. Infine altri due nodi si occupano di decodificare

l'immagine e di salvarla sul dispositivo. Da questa base, dunque, si inizia per definire flussi di lavoro sempre più complessi, integrando anche più di un modello di intelligenza artificiale per riuscire a ottenere, infine, un risultato quanto più vicino alla propria idea. La particolarità di questo software, poi, è che, essendo open source,

ha avuto un particolare successo, tanto che nel tempo sono nati centinaia di plugin che semplificano il lavoro o aggiungono nuove funzionalità. Con ComfyUI, ad esempio, è possibile integrare nodi tramite quali vengono caricati modelli che permettono di definire la posa dei soggetti, oppure utilizzare la tecnica LoRA, la principale tecnologia alla

base della generazione di personaggi tra loro coerenti. Con questa tecnica, infatti, vengono aggiunti dei layer al modello di partenza, che contengono le istruzioni per generare immagini seguendo un certo stile di disegno o definendo i tratti principali di una persona.

A questo punto il grosso del lavoro è fatto. Una volta definiti i flussi di lavoro e creati i layer LoRA, basta un PC abbastanza potente per generare centinaia di immagini e controllandone minuziosamente ogni aspetto. Con la creazione di nuovi modelli anche open source, poi, col tempo diventa sempre più facile ottenere fotografie o immagini ancora più precise,

realistiche o prive di difetti. Ciò che rimane da fare, quindi, è creare una narrazione del personaggio, inventarne e raccontarne la storia, interagire con gli utenti e creare la propria community e la propria platea di follower. Attività facilmente delegabili ad altri large language model come Claude, Gemini o ChatGPT. Abbiamo citato ComfyUI e Stable Diffusion come

principali strumenti e modelli utilizzati nella creazione di AI Influencer. Tuttavia, sono comunque necessarie delle competenze tecniche per saper sfruttare al meglio queste tecnologie. Come abbiamo detto, però, OpenAI con il suo nuovo modello di generazione immagini è stata l'apripista per la diffusione e l'accesso a questo tipo di tecnologie al grande pubblico.

A questo punto, quindi, viene naturale dare uno spazio anche ad un altro modello che, negli ultimi mesi, ha letteralmente invaso tutti i social, da TikTok, a Instagram, a YouTube.

Stiamo parlando di Veo3, il nuovo modello di Google lanciato a maggio di quest'anno, che ha lasciato tutti a bocca aperta per la capacità di realizzare brevi video realistici, o comunque molto più realistici, dei modelli precedenti in commercio. In aggiunta a ciò, anche Veo3 permette di utilizzare immagini come riferimento per garantire - in modo non ancora

del tutto preciso, ma decisamente accettabile - una coerenza tra le varie clip. La vera novità, però, sta nell'audio: Veo3 è infatti il primo modello di IA generativa che riesce a generare contemporaneamente il video e il relativo audio, anche in italiano e sincronizzando il labiale dei vari personaggi. Era abbastanza naturale, quindi, che sui social diventassero particolarmente

virali questo tipo di video - spesso anche senza senso - che simulano interviste, situazioni irrealistiche o riportano tra virgolette "in vita" scherzi e battute. Altri, invece, hanno preferito sfruttare questa tecnologia per creare delle vere e proprie storie, con dei vlog di personaggi inventati, che portano giorno per giorno la propria storia e le proprie avventure. Un esempio di questi

profili è Big Foot, un gorilla siciliano che, assieme al suo amico Franco, realizza live e POV della propria vita. Su TikTok l'account ha attualmente 100.000 follower, con centinaia di migliaia di visualizzazioni per ogni video. E cavalcando l'onda della popolarità del personaggio, è già in vendita il merchandising che permette all'autore non solo di continuare l'attività,

ma anche di guadagnare. Va specificato, infatti, che per utilizzare Veo3 è comunque necessario il piano di Google Gemini a pagamento. Portando un altro esempio, il profilo Time Traveller POV, da più di mezzo milione di follower e con video da milioni di visualizzazioni, come dice il nome, realizza dei video POV, point of view, di personaggi ambientati in diversi contesti

storici o fantastici, dall'eruzione del Vesuvio a Pompei all'Inferno Dantesco.

Quello degli AI Influencer, in sostanza, è un mercato che è decisamente destinato a prendere sempre più piede ad una velocità esponenziale e che crescerà sempre di più seguendo l'evoluzione tecnologica che anch'essa viaggia ritmi diventati quasi insostenibili, con nuovi modelli che giornalmente vengono rilasciati e alzano sempre di più l'asticella. Se da una

parte però questi personaggi virtuali e queste tecnologie vengono utilizzati per scopi commerciali, per intrattenere realizzando video divertenti e virali, o per lasciare messaggi positivi, dall'altro è evidente che strumenti così potenti possono essere utilizzati anche per scopi meno nobili. YouTube, come abbiamo raccontato nelle notizie della scorsa settimana, ha aggiornato

le sue policy proprio per contrastare la monetizzazione di questo tipo di video, che molto spesso non portano nessun tipo di valore aggiunto alla piattaforma e molti di essi sono denigratori nei confronti di diverse culture o contesti sociali. Dal punto di vista sociale, poi, le AI Influencer, spesso di aspetto femminile, rischiano di "settare" degli standard e

dei canoni di bellezza ancora più irraggiungibili e irrealistici rispetto a quanto già vediamo sui social, alimentando e amplificando un fenomeno che rischia di abbattere completamente l'autostima, soprattutto delle nuove generazioni e influenzando negativamente la loro salute mentale. Parallelamente

agli AI Influencer, poi, sono sempre più diffuse anche le modelle, sempre realizzate con l'IA, che guadagnano con la vendita di immagini pornografiche o scene di nudo tramite piattaforme come OnlyFans, spesso adescando certe fasce d'età, non native digitali, che ormai difficilmente riescono a riconoscere una persona reale da una creata computer. Per non parlare, poi,

ovviamente di deepfake, sostituzione di volti, pedopornografia e in generale tutti i temi che più volte abbiamo trattato in relazione a tecnologie di intelligenza artificiale.

Per concludere, quindi, gli Influencer virtuali, risultato delle più potenti tecnologie di IA attualmente in commercio, rappresentano per molti sicuramente delle opportunità per raccontare delle storie, per dare forma alle proprie idee o democratizzando l'accesso a strumenti per sponsorizzare le proprie attività. Ciò, ovviamente, non significa che gli

Influencer reali spariranno completamente, ma dovranno sicuramente ritagliarsi delle nicchie diverse, puntando su qualità come autenticità, vulnerabilità e capacità di creare dei contatti più umani e fisici rispetto a quanto non potrà mai fare una macchina.

D'altro canto, però, ribadiamo che sarà sempre più necessario regolamentare questi nuovi mercati in rapida ascesa, chiarendo aspetti come il diritto d'autore e contrastando, con ancora più attenzione le numerose attività illecite che queste tecnologie potranno permettere.

E così si conclude questa puntata di INSiDER - Dentro la Tecnologia. Io ringrazio come sempre la redazione e in special modo Matteo Gallo e Luca Martinelli che ogni sabato mattina ci permettono di pubblicare un nuovo episodio. Per qualsiasi tipo di domanda o suggerimento scriveteci a redazione@dentrolatecnologia.it, seguiteci su Instagram a @dentrolatecnologia

dove durante la settimana pubblichiamo notizie e approfondimenti. In qualsiasi caso nella descrizione della puntata troverete tutti i nostri social. Se trovate interessante il podcast condividetelo che per noi è un ottimo modo per crescere e non dimenticate di farci pubblicità.

Noi ci sentiamo la settimana prossima.