WEBVTT 00:00:01.360 --> 00:00:03.439 Salve a tutti, siete all'ascolto di 00:00:03.439 --> 00:00:05.759 INSiDER - Dentro la Tecnologia, 00:00:05.759 --> 00:00:08.000 un podcast di Digital People e 00:00:08.000 --> 00:00:09.199 io sono il vostro host, 00:00:09.199 --> 00:00:10.240 Davide Fasoli. 00:00:17.015 --> 00:00:18.695 Oggi affronteremo uno dei temi più 00:00:18.695 --> 00:00:22.134 urgenti nell'era dell'Intelligenza Artificiale Generativa, 00:00:22.134 --> 00:00:23.974 come riconoscere se un contenuto è 00:00:23.974 --> 00:00:25.734 stato generato da una macchina o 00:00:25.734 --> 00:00:26.614 da un essere umano. 00:00:26.899 --> 00:00:30.339 Analizzeremo le tecnologie di watermarking invisibile 00:00:30.339 --> 00:00:33.460 come SynthID e lo standard C2PA, 00:00:33.460 --> 00:00:34.979 i loro punti di forza e 00:00:34.979 --> 00:00:36.979 i loro limiti, per capire se 00:00:36.979 --> 00:00:38.659 siamo davvero in grado di distinguere 00:00:38.659 --> 00:00:40.259 il vero dal falso in un 00:00:40.259 --> 00:00:43.174 web sempre più saturo di contenuti artificiali. 00:00:43.255 --> 00:00:44.774 Prima di passare alle notizie che 00:00:44.774 --> 00:00:46.614 più ci hanno colpito questa settimana, 00:00:46.695 --> 00:00:48.375 vi ricordo che potete seguirci su 00:00:48.375 --> 00:00:52.215 Instagram a @dentrolatecnologia, iscrivervi alla newsletter 00:00:52.215 --> 00:00:53.975 e ascoltare un nuovo episodio ogni 00:00:53.975 --> 00:00:55.979 sabato mattina, su Spotify, 00:00:55.979 --> 00:00:58.780 Apple Podcast, YouTube Music oppure direttamente 00:00:58.780 --> 00:00:59.899 sul nostro sito. 00:01:12.954 --> 00:01:15.194 La tecnica CRISPR, di cui abbiamo 00:01:15.194 --> 00:01:17.194 parlato in una delle primissime puntate 00:01:17.194 --> 00:01:19.354 del podcast, è ormai diventata uno 00:01:19.354 --> 00:01:21.994 strumento fondamentale nella ricerca biomedica. 00:01:22.420 --> 00:01:23.780 Grazie a una proteina, 00:01:23.780 --> 00:01:26.500 la Cas9, è infatti possibile modificare 00:01:26.500 --> 00:01:28.579 con precisione le catene di DNA 00:01:28.579 --> 00:01:29.700 delle cellule. 00:01:29.859 --> 00:01:32.180 Recentemente, però, un gruppo di ricercatori 00:01:32.180 --> 00:01:35.140 guidato dalla University of Utah Health 00:01:35.140 --> 00:01:38.474 ha sviluppato una tecnica simile in cui, 00:01:38.474 --> 00:01:40.474 invece di modificare il DNA, 00:01:40.474 --> 00:01:42.635 questo viene distrutto completamente. 00:01:42.875 --> 00:01:44.715 Alla base c'è un'altra proteina, 00:01:44.715 --> 00:01:47.995 la Cas12a2, che una volta riconosciuto 00:01:47.995 --> 00:01:50.370 il bersaglio, ad esempio una specifica 00:01:50.370 --> 00:01:52.769 sequenza di DNA, inizia a tagliare 00:01:52.769 --> 00:01:55.010 il materiale genetico fino a portare 00:01:55.010 --> 00:01:57.090 la cellula all'autodistruzione. 00:01:57.250 --> 00:01:58.930 Lo scopo, dunque, non è quello 00:01:58.930 --> 00:02:01.170 di correggere, come nel caso delle 00:02:01.170 --> 00:02:04.064 tecniche CRISPR attuali, ma eliminare tutto 00:02:04.064 --> 00:02:05.025 ciò che incontra. 00:02:05.025 --> 00:02:07.265 E le applicazioni sono molteplici. 00:02:07.344 --> 00:02:09.344 Nello studio viene infatti dimostrato che 00:02:09.344 --> 00:02:11.425 dopo averla programmata per colpire una 00:02:11.425 --> 00:02:13.665 mutazione delle cellule che causano il 00:02:13.665 --> 00:02:15.665 tumore al polmone, questa tecnica ha 00:02:15.665 --> 00:02:17.930 avuto un'efficacia paragonabile a quella dei 00:02:17.930 --> 00:02:20.729 farmaci antitumorali, ma senza danneggiare le 00:02:20.729 --> 00:02:22.490 cellule sane circostanti. 00:02:22.569 --> 00:02:25.770 Allo stesso modo, la proteina Cas12a2 00:02:25.770 --> 00:02:27.930 si è dimostrata efficace nel distruggere 00:02:27.930 --> 00:02:31.715 le cellule infettate dal papillomavirus umano e, 00:02:31.715 --> 00:02:34.275 secondo i ricercatori, potrebbe essere facilmente 00:02:34.275 --> 00:02:36.675 adattata per colpire anche altri virus, 00:02:36.754 --> 00:02:37.715 come l'HIV. 00:02:37.715 --> 00:02:40.115 Se questi risultati verranno confermati anche 00:02:40.115 --> 00:02:41.875 su organismi più complessi, 00:02:41.875 --> 00:02:44.034 dunque, la tecnica potrebbe offrire una 00:02:44.034 --> 00:02:46.830 nuova frontiera per terapie estremamente mirate 00:02:46.830 --> 00:02:49.310 contro infezioni virali e tumori, 00:02:49.389 --> 00:02:51.310 superando uno dei limiti più importanti 00:02:51.310 --> 00:02:53.710 dei trattamenti attuali, ovvero gli effetti 00:02:53.710 --> 00:02:55.950 collaterali sui tessuti sani. 00:02:59.069 --> 00:03:02.084 Apple pagherà 250 milioni di dollari 00:03:02.084 --> 00:03:04.245 per chiudere una class action negli 00:03:04.245 --> 00:03:06.164 Stati Uniti legata alle promesse fatte 00:03:06.164 --> 00:03:08.084 su Siri e sulle nuove funzioni 00:03:08.084 --> 00:03:11.044 di intelligenza artificiale di Apple Intelligence. 00:03:11.205 --> 00:03:14.004 Secondo l'accusa, l'azienda avrebbe pubblicizzato una 00:03:14.004 --> 00:03:17.629 versione completamente rivoluzionaria dell'assistente vocale, 00:03:17.710 --> 00:03:19.710 capace di comprendere il contesto personale 00:03:19.710 --> 00:03:21.870 degli utenti, interagire con le app 00:03:21.870 --> 00:03:24.030 in modo avanzato e offrire risposte 00:03:24.030 --> 00:03:26.590 molto più intelligenti e personalizzate. 00:03:26.750 --> 00:03:28.590 Una campagna che aveva creato grandi 00:03:28.590 --> 00:03:31.254 aspettative e aveva spinto molti consumatori 00:03:31.254 --> 00:03:33.735 ad acquistare iPhone 15 e iPhone 16, 00:03:33.814 --> 00:03:35.655 convinti di ricevere fin da subito 00:03:35.655 --> 00:03:36.694 queste novità. 00:03:36.775 --> 00:03:38.454 In realtà, però, gran parte delle 00:03:38.454 --> 00:03:40.454 funzioni promesse non è mai arrivata 00:03:40.454 --> 00:03:42.375 nei tempi annunciati e alcune non 00:03:42.375 --> 00:03:43.814 sono ancora disponibili. 00:03:43.894 --> 00:03:45.710 Per questo Apple è stata accusata 00:03:45.710 --> 00:03:48.030 di aver esagerato nelle pubblicità, 00:03:48.030 --> 00:03:49.949 vendendo un futuro che di fatto 00:03:49.949 --> 00:03:51.629 non si è mai concretizzato. 00:03:51.790 --> 00:03:54.189 L'accordo riguarda gli utenti statunitensi che 00:03:54.189 --> 00:03:55.949 hanno acquistato i dispositivi tra il 00:03:55.949 --> 00:03:59.094 2024 e il 2025 e prevede 00:03:59.094 --> 00:04:01.495 rimborsi fino a 95 dollari per 00:04:01.495 --> 00:04:02.935 ogni iPhone idoneo. 00:04:02.935 --> 00:04:04.775 Apple non ha ammesso colpe, 00:04:04.775 --> 00:04:06.694 ma intanto continua a lavorare a 00:04:06.694 --> 00:04:09.415 una nuova versione di Siri basata sull'IA. 00:04:12.215 --> 00:04:14.129 Tesla ha avviato la produzione del 00:04:14.129 --> 00:04:16.689 camion elettrico "Semi" presso lo stabilimento 00:04:16.689 --> 00:04:19.169 in Nevada, segnando il passaggio dalla 00:04:19.169 --> 00:04:22.290 fase sperimentale, iniziata circa dieci anni fa, 00:04:22.290 --> 00:04:24.449 a quella industriale, che punterà a 00:04:24.449 --> 00:04:27.865 garantire continuità, scalabilità e standardizzazione. 00:04:27.944 --> 00:04:30.105 L'impianto è stato realizzato per riuscire 00:04:30.105 --> 00:04:33.225 a produrre fino a 50.000 unità all'anno, 00:04:33.305 --> 00:04:35.705 un livello che se raggiunto consentirebbe 00:04:35.705 --> 00:04:37.305 a Semi di conquistare una quota 00:04:37.305 --> 00:04:40.120 rilevante del mercato nordamericano dei truck 00:04:40.120 --> 00:04:41.879 pesanti di classe 8, 00:04:42.039 --> 00:04:44.839 storicamente dominato dalla trazione diesel. 00:04:44.919 --> 00:04:46.199 Tuttavia, per l'anno in corso, 00:04:46.199 --> 00:04:48.360 le stime prevedono una produzione tra 00:04:48.360 --> 00:04:50.919 le 5.000 e le 15.000 unità, 00:04:50.919 --> 00:04:53.000 numeri che in realtà riflettono le 00:04:53.000 --> 00:04:54.360 normali dinamiche di avvio, 00:04:54.360 --> 00:04:57.334 per l'ottimizzazione dei cicli produttivi e 00:04:57.334 --> 00:04:59.735 la stabilità della catena di fornitura. 00:04:59.814 --> 00:05:01.175 Come annunciato poco fa, 00:05:01.175 --> 00:05:03.014 il programma Semi è stato annunciato 00:05:03.014 --> 00:05:05.095 da Tesla nel 2017, 00:05:05.254 --> 00:05:07.334 con le prime consegne effettive avviate 00:05:07.334 --> 00:05:10.449 solo nel 2022, dopo ripetuti ritardi 00:05:10.449 --> 00:05:12.370 e in quantità molto contenute. 00:05:12.449 --> 00:05:14.529 L'avvio della produzione in serie rappresenta 00:05:14.529 --> 00:05:16.050 invece il vero banco di prova 00:05:16.050 --> 00:05:17.569 per questo nuovo mezzo, 00:05:17.649 --> 00:05:19.730 soprattutto nel contesto di un segmento 00:05:19.730 --> 00:05:22.129 di mercato nel quale l'elettrico non 00:05:22.129 --> 00:05:24.194 ha molti precedenti, sia in termini 00:05:24.194 --> 00:05:27.634 di utilizzo, affidabilità e convenienza su 00:05:27.634 --> 00:05:28.435 ampia scala. 00:05:39.480 --> 00:05:41.160 Se c'è una tecnologia che negli 00:05:41.160 --> 00:05:42.839 ultimi anni ha saputo imporsi fino 00:05:42.839 --> 00:05:44.600 a essere considerata una vera e 00:05:44.600 --> 00:05:46.920 propria rivoluzione, al pari di Internet 00:05:46.920 --> 00:05:48.759 o della rivoluzione industriale, 00:05:48.759 --> 00:05:51.240 quella è l'intelligenza artificiale generativa. 00:05:51.485 --> 00:05:53.564 A differenza degli algoritmi di machine 00:05:53.564 --> 00:05:55.004 learning o deep learning, 00:05:55.004 --> 00:05:57.404 queste tipologie di intelligenze artificiali, 00:05:57.404 --> 00:05:59.165 che ormai abbiamo imparato a conoscere 00:05:59.165 --> 00:06:01.245 ed utilizzare, sono la forma più 00:06:01.245 --> 00:06:03.644 vicina a una "AGI" che l'uomo 00:06:03.644 --> 00:06:04.764 sia riuscito a sviluppare. 00:06:05.149 --> 00:06:07.069 Per chiarire, una AGI, 00:06:07.149 --> 00:06:09.389 o intelligenza artificiale generale, 00:06:09.470 --> 00:06:11.629 è un'IA in grado di comprendere, 00:06:11.629 --> 00:06:14.270 apprendere e svolgere qualsiasi compito, 00:06:14.270 --> 00:06:17.149 anche intellettuale, finora attribuito all'essere umano. 00:06:17.444 --> 00:06:19.605 Se pensiamo, quindi, che ormai applicazioni 00:06:19.605 --> 00:06:22.884 come ChatGPT, Claude o Gemini riescono 00:06:22.884 --> 00:06:24.725 non solo a capire ciò che scriviamo, 00:06:24.725 --> 00:06:26.964 ma anche a fornire risposte articolate, 00:06:26.964 --> 00:06:28.564 a usare in modo autonomo o 00:06:28.564 --> 00:06:31.205 quasi un computer e a generare immagini, 00:06:31.205 --> 00:06:32.970 video o musica, è chiaro quanto 00:06:32.970 --> 00:06:34.730 ormai ci stiamo avvicinando a quel 00:06:34.730 --> 00:06:36.009 tipo di intelligenza. 00:06:36.089 --> 00:06:37.449 E il futuro che ci aspetta 00:06:37.449 --> 00:06:40.250 è tanto sorprendente quanto spaventoso. 00:06:40.250 --> 00:06:42.410 Già oggi, infatti, è diventato quasi 00:06:42.410 --> 00:06:44.329 impossibile riconoscere una foto o un 00:06:44.329 --> 00:06:46.569 video generati da un'intelligenza artificiale. 00:06:46.875 --> 00:06:48.795 E ancora più difficile è capire 00:06:48.795 --> 00:06:50.634 se un testo, magari un articolo 00:06:50.634 --> 00:06:52.394 di giornale o un paper scientifico, 00:06:52.394 --> 00:06:55.115 sia stato generato dall'IA o meno. 00:06:55.115 --> 00:06:56.475 Ecco quindi che se 5 o 00:06:56.475 --> 00:06:58.314 6 anni fa eravamo già preoccupati 00:06:58.314 --> 00:07:00.154 dal dilagare di fake news o 00:07:00.154 --> 00:07:02.460 video deepfake, oggi la situazione è 00:07:02.460 --> 00:07:04.220 ancora più grave e può sfuggire 00:07:04.220 --> 00:07:05.900 di mano da un momento all'altro. 00:07:05.900 --> 00:07:07.740 I social sono ormai invasi da 00:07:07.740 --> 00:07:10.779 cosiddetti "AI slop", ossia video ironici 00:07:10.779 --> 00:07:13.420 o sensazionalistici generati con modelli come 00:07:13.420 --> 00:07:15.365 Sora o Gemini che stanno sempre 00:07:15.365 --> 00:07:17.444 più oscurando contenuti umani, 00:07:17.524 --> 00:07:20.404 spesso più interessanti, informativi e capaci 00:07:20.404 --> 00:07:22.485 di portare del reale valore aggiunto 00:07:22.485 --> 00:07:24.485 agli utenti e alle piattaforme. 00:07:24.485 --> 00:07:25.925 E la stessa cosa vale anche 00:07:25.925 --> 00:07:27.205 per i servizi digitali, 00:07:27.420 --> 00:07:29.100 con un web sempre più saturo 00:07:29.100 --> 00:07:31.980 di applicazioni improvvisate e sviluppate interamente 00:07:31.980 --> 00:07:34.379 con l'IA, prive di supervisione adeguata 00:07:34.379 --> 00:07:36.540 e con evidenti problemi di qualità, 00:07:36.620 --> 00:07:38.939 sicurezza e gestione delle informazioni. 00:07:38.939 --> 00:07:41.035 È dunque chiaro quanto sia diventato 00:07:41.035 --> 00:07:43.834 di fondamentale importanza affiancare allo sviluppo 00:07:43.834 --> 00:07:46.235 dell'IA generativa lo sviluppo di sistemi 00:07:46.235 --> 00:07:48.394 e tecnologie in grado di permettere 00:07:48.394 --> 00:07:50.555 ad utenti e applicazioni di riconoscere 00:07:50.555 --> 00:07:52.959 se un contenuto, sia esso un video, 00:07:52.959 --> 00:07:54.800 un testo, un'immagine o una musica, 00:07:54.800 --> 00:07:56.879 è stato generato totalmente o parzialmente 00:07:56.879 --> 00:07:58.160 da una macchina o da un 00:07:58.160 --> 00:07:58.959 essere umano. 00:07:59.040 --> 00:08:00.399 Ed è proprio questo il tema 00:08:00.399 --> 00:08:02.240 su cui ci focalizzeremo oggi. 00:08:02.319 --> 00:08:04.399 Sistemi del genere stanno infatti già 00:08:04.399 --> 00:08:06.644 venendo sviluppati e in questa puntata 00:08:06.644 --> 00:08:09.444 andremo a riconoscerli, analizzarne il funzionamento 00:08:09.444 --> 00:08:11.845 tecnico e soprattutto capire se sono 00:08:11.845 --> 00:08:13.925 veramente affidabili e pronti per il 00:08:13.925 --> 00:08:14.964 prossimo futuro. 00:08:14.964 --> 00:08:17.044 Partiamo dai metodi più intuitivi, 00:08:17.044 --> 00:08:19.044 purtroppo sempre più difficili da attuare, 00:08:19.199 --> 00:08:20.960 ma che permettono di riconoscere a 00:08:20.960 --> 00:08:23.199 colpo d'occhio soprattutto ai più esperti, 00:08:23.199 --> 00:08:24.800 i contenuti artificiali. 00:08:24.800 --> 00:08:26.400 Per il testo ci sono infatti 00:08:26.400 --> 00:08:28.879 alcune caratteristiche spesso comuni a tutti 00:08:28.879 --> 00:08:30.240 i modelli linguistici. 00:08:30.240 --> 00:08:32.559 Questi modelli producono sequenze di parole 00:08:32.559 --> 00:08:34.684 in modo probabilistico, per cui il 00:08:34.684 --> 00:08:37.644 risultato tende a essere statisticamente prevedibile, 00:08:37.804 --> 00:08:39.165 con frasi che hanno una struttura 00:08:39.165 --> 00:08:42.524 regolare e scelte lessicali tendenzialmente ovvie. 00:08:42.524 --> 00:08:45.085 Mancano poi quelle imprecisioni o quelle 00:08:45.085 --> 00:08:47.245 piccole sviste che rendono i testi più, 00:08:47.245 --> 00:08:48.524 tra virgolette, "umani". 00:08:48.769 --> 00:08:50.370 Anche la lunghezza delle frasi è 00:08:50.370 --> 00:08:52.610 più uniforme per i modelli linguistici, 00:08:52.610 --> 00:08:54.210 che tendono ad alternare frasi più 00:08:54.210 --> 00:08:55.409 lunghe a frasi più brevi, 00:08:55.409 --> 00:08:57.250 in modo più regolare rispetto a 00:08:57.250 --> 00:08:58.850 quanto farebbe un essere umano. 00:08:58.850 --> 00:09:00.370 Torna poi il discorso che abbiamo 00:09:00.370 --> 00:09:02.850 approfondito nella puntata "Abbiamo bisogno di 00:09:02.850 --> 00:09:04.129 un'IA Made in Italy?". 00:09:04.304 --> 00:09:07.024 Con modelli addestrati prevalentemente su contenuti 00:09:07.024 --> 00:09:08.784 in lingua inglese, le altre lingue 00:09:08.784 --> 00:09:10.384 tendono a ereditare strutture, 00:09:10.384 --> 00:09:12.065 o modi di dire tipici delle 00:09:12.065 --> 00:09:14.464 lingue anglosassoni, o ad italianizzare, 00:09:14.464 --> 00:09:16.705 nel nostro caso, alcuni termini tecnici. 00:09:16.950 --> 00:09:18.790 Per le immagini generate da sistemi 00:09:18.790 --> 00:09:21.750 come Midjourney, Nano Banana o Stable Diffusion, 00:09:21.750 --> 00:09:23.669 la situazione è un po' più semplice, 00:09:23.669 --> 00:09:24.710 almeno per ora. 00:09:24.710 --> 00:09:27.110 Questi modelli, per quanto migliorati enormemente 00:09:27.110 --> 00:09:29.110 negli ultimi anni, fanno ancora fatica 00:09:29.110 --> 00:09:31.144 con certi dettagli, ed è spesso 00:09:31.144 --> 00:09:34.184 possibile notare sfocature nei bordi degli oggetti, 00:09:34.184 --> 00:09:36.264 sfondi con texture incoerenti, 00:09:36.264 --> 00:09:37.865 occhi che non riflettono la luce 00:09:37.865 --> 00:09:40.264 in modo naturale o testi illeggibili 00:09:40.264 --> 00:09:41.465 integrati nell'immagine. 00:09:41.625 --> 00:09:42.904 Per i video, infine, 00:09:42.904 --> 00:09:45.029 i segnali sono, fortunatamente per ora, 00:09:45.029 --> 00:09:47.269 più evidenti, con bocche non perfettamente 00:09:47.269 --> 00:09:49.990 sincronizzate con l'audio o espressioni, 00:09:49.990 --> 00:09:51.990 luci e movimenti innaturali. 00:09:51.990 --> 00:09:53.350 Se l'essere umano è quindi in 00:09:53.350 --> 00:09:56.389 grado di riconoscere contenuti generati artificialmente, 00:09:56.389 --> 00:09:58.470 è logico chiedersi se possano esistere 00:09:58.470 --> 00:10:01.375 anche sistemi automatici in grado di farlo. 00:10:01.375 --> 00:10:02.815 La risposta è sì, 00:10:02.815 --> 00:10:04.815 e online si possono trovare servizi 00:10:04.815 --> 00:10:07.375 e modelli, anch'essi di intelligenza artificiale, 00:10:07.375 --> 00:10:10.174 che hanno proprio l'obiettivo di classificare testi, 00:10:10.174 --> 00:10:11.054 immagini o video. 00:10:11.250 --> 00:10:13.529 Uno tra i più noti è GPTZero, 00:10:13.529 --> 00:10:16.529 uno strumento sviluppato nel 2022 che 00:10:16.529 --> 00:10:18.049 - teoricamente - è in grado 00:10:18.049 --> 00:10:19.970 di riconoscere un testo generato da 00:10:19.970 --> 00:10:21.570 modelli come GPT. 00:10:21.649 --> 00:10:24.610 La realtà, però, è sfortunatamente ben diversa. 00:10:24.690 --> 00:10:26.705 Questi strumenti hanno infatti una accuratezza 00:10:26.705 --> 00:10:29.985 estremamente bassa, circa del 40% secondo 00:10:29.985 --> 00:10:31.264 studi indipendenti. 00:10:31.345 --> 00:10:33.024 Ciò significa che è molto facile 00:10:33.024 --> 00:10:34.625 o ingannare il modello, 00:10:34.625 --> 00:10:36.705 banalmente riformulando alcune frasi, 00:10:36.705 --> 00:10:38.384 o incappare in falsi positivi, 00:10:38.720 --> 00:10:41.200 ossia in contenuti che vengono erroneamente 00:10:41.200 --> 00:10:43.519 classificati come generati dall'IA, 00:10:43.519 --> 00:10:45.360 seppur scritti da esseri umani. 00:10:45.360 --> 00:10:46.639 Questo può accadere, ad esempio, 00:10:46.639 --> 00:10:48.160 con gli articoli scientifici, 00:10:48.160 --> 00:10:50.799 dove ricercatori non madrelingua tendono a 00:10:50.799 --> 00:10:53.205 utilizzare una sintassi più semplice e prevedibile, 00:10:53.205 --> 00:10:54.804 che si avvicina a quella delle 00:10:54.804 --> 00:10:56.004 IA generative. 00:10:56.004 --> 00:10:57.924 L'inaffidabilità di questi strumenti, 00:10:57.924 --> 00:11:00.004 quindi, ci porta ad approfondire una 00:11:00.004 --> 00:11:03.605 terza tecnica, ossia il "watermarking invisibile". 00:11:03.899 --> 00:11:05.420 Se qualcuno ha provato a generare 00:11:05.420 --> 00:11:07.340 un video con Sora di OpenAI 00:11:07.340 --> 00:11:10.059 o un'immagine con NanoBanana di Google, 00:11:10.059 --> 00:11:11.899 ha sicuramente notato che viene applicato 00:11:11.899 --> 00:11:14.139 il logo della piattaforma solitamente in 00:11:14.139 --> 00:11:15.980 un angolo dell'immagine o del video. 00:11:16.245 --> 00:11:17.845 Ecco, quello è un esempio di 00:11:17.845 --> 00:11:20.964 watermarking visibile, che però funziona fino 00:11:20.964 --> 00:11:21.924 a un certo punto. 00:11:22.004 --> 00:11:24.404 Basta ritagliare l'immagine o usare un'altra 00:11:24.404 --> 00:11:25.845 IA per coprire il logo, 00:11:25.845 --> 00:11:27.924 per rimuovere o nascondere la firma. 00:11:28.004 --> 00:11:30.565 Serve quindi qualcosa di molto più sofisticato. 00:11:30.840 --> 00:11:31.879 Ed è qui che entrano in 00:11:31.879 --> 00:11:34.120 gioco due tecnologie principali che si 00:11:34.120 --> 00:11:36.440 stanno affermando come riferimenti nel mercato 00:11:36.440 --> 00:11:37.879 dell'IA generativa. 00:11:37.879 --> 00:11:40.680 SynthID e lo standard C2PA. 00:11:40.680 --> 00:11:42.200 Partiamo da SynthID. 00:11:42.200 --> 00:11:43.559 Questo progetto è forse il più 00:11:43.559 --> 00:11:45.875 avanzato attualmente disponibile ed è stato 00:11:45.875 --> 00:11:48.595 sviluppato da Google DeepMind con l'obiettivo 00:11:48.595 --> 00:11:51.075 di applicare un watermark invisibile e 00:11:51.075 --> 00:11:53.315 non rimovibile a tutti i contenuti, 00:11:53.394 --> 00:11:55.075 dal testo alle immagini, 00:11:55.075 --> 00:11:57.075 dal video all'audio, generati con i 00:11:57.075 --> 00:11:58.115 modelli di Google. 00:11:58.115 --> 00:11:59.794 Per quanto riguarda immagini e video, 00:11:59.970 --> 00:12:02.850 SynthID altera in modo impercettibile all'occhio 00:12:02.850 --> 00:12:04.689 umano il colore dei pixel, 00:12:04.689 --> 00:12:06.129 creando una vera e propria firma 00:12:06.129 --> 00:12:09.009 unica e visibile solamente ad un algoritmo. 00:12:09.089 --> 00:12:10.289 Per quanto riguarda l'audio, 00:12:10.289 --> 00:12:12.529 invece, è l'onda sonora ad essere alterata, 00:12:12.695 --> 00:12:15.095 andando solitamente a toccare quelle frequenze 00:12:15.095 --> 00:12:17.095 non udibili all'orecchio umano. 00:12:17.095 --> 00:12:18.615 Per il testo il meccanismo è 00:12:18.615 --> 00:12:20.934 leggermente più complesso, e per certi 00:12:20.934 --> 00:12:22.695 versi ancora più interessante. 00:12:22.774 --> 00:12:24.375 Come abbiamo già anticipato, 00:12:24.375 --> 00:12:26.054 tutti i modelli di IA generativa 00:12:26.054 --> 00:12:28.610 che producono contenuti testuali si basano 00:12:28.610 --> 00:12:30.929 sulla statistica per scegliere di volta 00:12:30.929 --> 00:12:32.289 in volta quale è la parola, 00:12:32.289 --> 00:12:34.289 o per essere precisi il token, 00:12:34.289 --> 00:12:35.809 che ha la maggior probabilità di 00:12:35.809 --> 00:12:38.370 legarsi alle parole precedenti formando frasi 00:12:38.370 --> 00:12:39.649 di senso compiuto. 00:12:39.730 --> 00:12:42.209 SynthID interviene proprio in questa fase, 00:12:42.209 --> 00:12:45.095 alterando quella probabilità attraverso una funzione 00:12:45.095 --> 00:12:46.774 chiamata "g-function". 00:12:46.774 --> 00:12:48.215 Il risultato è una frase che 00:12:48.215 --> 00:12:50.695 rimane perfettamente sensata e corretta, 00:12:50.695 --> 00:12:52.134 ma che nasconde in realtà una 00:12:52.134 --> 00:12:54.455 firma illeggibile, in quanto solo un 00:12:54.455 --> 00:12:55.815 modello di IA che ha usato 00:12:55.815 --> 00:12:58.809 SynthID avrebbe potuto scegliere quella precisa 00:12:58.809 --> 00:13:00.089 sequenza di parole. 00:13:00.089 --> 00:13:01.769 Il codice di SynthID per la 00:13:01.769 --> 00:13:03.690 generazione di testo, tra l'altro, 00:13:03.690 --> 00:13:06.330 è open source, e disponibile pubblicamente 00:13:06.330 --> 00:13:08.009 sul sito Hugging Face, 00:13:08.009 --> 00:13:10.330 quindi accessibile a qualsiasi sviluppatore e 00:13:10.330 --> 00:13:11.129 non solo a Google. 00:13:11.264 --> 00:13:13.024 Ma veniamo ora ad analizzare i 00:13:13.024 --> 00:13:14.865 punti di forza e soprattutto i 00:13:14.865 --> 00:13:16.384 limiti di questa tecnologia. 00:13:16.545 --> 00:13:18.304 Il primo vantaggio è che SynthID 00:13:18.304 --> 00:13:21.264 non può essere rimosso facilmente ritagliando un'immagine, 00:13:21.504 --> 00:13:23.825 alterando i colori, o facendo uno screenshot. 00:13:24.149 --> 00:13:25.750 La firma è infatti applicata a 00:13:25.750 --> 00:13:27.670 livello di pixel e viene mantenuta 00:13:27.670 --> 00:13:29.750 anche in presenza di trasformazioni o 00:13:29.750 --> 00:13:32.070 alterazioni dell'immagine o del video. 00:13:32.230 --> 00:13:34.070 Addirittura, grazie a questo watermark, 00:13:34.070 --> 00:13:36.230 è possibile identificare se solo una 00:13:36.230 --> 00:13:38.035 parte del contenuto è stata generata 00:13:38.035 --> 00:13:40.754 artificialmente o meno, garantendo una granularità 00:13:40.754 --> 00:13:42.915 maggiore e più sofisticata rispetto ad 00:13:42.915 --> 00:13:43.875 altri sistemi. 00:13:43.875 --> 00:13:45.235 Per quanto riguarda i limiti, 00:13:45.235 --> 00:13:46.754 è di poche settimane fa la 00:13:46.754 --> 00:13:48.675 notizia per cui uno sviluppatore è 00:13:48.675 --> 00:13:50.675 riuscito proprio a violare il meccanismo 00:13:50.675 --> 00:13:53.509 dietro il watermarking invisibile e creare 00:13:53.509 --> 00:13:55.190 uno strumento in grado di rimuoverlo 00:13:55.190 --> 00:13:58.149 completamente alterando in modo chirurgico pixel 00:13:58.149 --> 00:13:59.029 per pixel. 00:13:59.029 --> 00:14:00.149 Per il testo, invece, 00:14:00.149 --> 00:14:01.669 la situazione è al momento più 00:14:01.669 --> 00:14:04.309 solida e attualmente l'unico modo realmente 00:14:04.309 --> 00:14:06.485 efficace per aggirare il watermark è 00:14:06.485 --> 00:14:08.164 quello di riscrivere o alterare in 00:14:08.164 --> 00:14:10.485 modo molto significativo il testo prodotto 00:14:10.485 --> 00:14:11.365 da Gemini. 00:14:11.365 --> 00:14:12.964 Ma a quel punto la questione 00:14:12.964 --> 00:14:15.044 diventa più filosofica che tecnica. 00:14:15.044 --> 00:14:16.324 Fino a che punto un testo 00:14:16.324 --> 00:14:18.404 profondamente riscritto da un essere umano 00:14:18.404 --> 00:14:20.644 può ancora essere considerato artificiale? 00:14:21.089 --> 00:14:23.650 Ovviamente a maggio 2025 Google ha 00:14:23.650 --> 00:14:26.289 anche rilasciato un tool chiamato "SynthID 00:14:26.289 --> 00:14:29.089 Detector" proprio per identificare il watermark 00:14:29.089 --> 00:14:30.929 di SynthID e permettere a chiunque 00:14:30.929 --> 00:14:32.769 di verificare se un testo, 00:14:32.769 --> 00:14:34.769 un'immagine, un video o un audio 00:14:34.784 --> 00:14:36.784 sono stati generati da modelli della 00:14:36.784 --> 00:14:37.824