WEBVTT 00:00:01.199 --> 00:00:03.279 Salve a tutti, siete all'ascolto di 00:00:03.279 --> 00:00:05.599 INSiDER - Dentro la Tecnologia, 00:00:05.599 --> 00:00:07.839 un podcast di Digital People e 00:00:07.839 --> 00:00:09.039 io sono il vostro host, 00:00:09.039 --> 00:00:10.080 Davide Fasoli. 00:00:16.945 --> 00:00:18.625 Oggi proveremo a rispondere ad una 00:00:18.625 --> 00:00:20.864 domanda sull'intelligenza artificiale a cui non 00:00:20.864 --> 00:00:23.344 abbiamo ancora risposto, ossia come funziona 00:00:23.344 --> 00:00:24.864 e cosa c'è alla base del 00:00:24.864 --> 00:00:25.904 suo addestramento. 00:00:25.984 --> 00:00:27.504 Prima di passare alle notizie che 00:00:27.504 --> 00:00:29.640 più ci hanno colpito questa settimana, 00:00:29.640 --> 00:00:31.399 vi ricordo che potete seguirci su 00:00:31.399 --> 00:00:35.240 Instagram a @dentrolatecnologia, iscrivervi alla newsletter 00:00:35.240 --> 00:00:37.000 e ascoltare un nuovo episodio ogni 00:00:37.000 --> 00:00:38.920 sabato mattina, su Spotify, 00:00:38.920 --> 00:00:42.119 Apple Podcast, YouTube Music oppure direttamente 00:00:42.119 --> 00:00:43.239 sul nostro sito. 00:00:56.304 --> 00:00:57.905 Meta, che da qualche anno si 00:00:57.905 --> 00:01:00.479 sta indirizzando verso lo sviluppo del metaverso, 00:01:00.479 --> 00:01:02.960 ha svelato Orion, un prototipo all'avanguardia 00:01:02.960 --> 00:01:04.640 di occhiali per la realtà aumentata 00:01:04.640 --> 00:01:07.200 che rappresenta il futuro di questa tecnologia, 00:01:07.280 --> 00:01:08.640 anche se il prodotto non è 00:01:08.640 --> 00:01:10.159 ancora pronto per il mercato. 00:01:10.239 --> 00:01:12.640 Orion non sarà infatti disponibile per 00:01:12.640 --> 00:01:14.854 la vendita, ma sarà testato internamente 00:01:14.854 --> 00:01:17.094 con un pubblico selezionato per raccogliere 00:01:17.094 --> 00:01:20.135 feedback e migliorare ulteriormente l'esperienza d'uso. 00:01:20.135 --> 00:01:22.375 Il dispositivo è stato progettato per 00:01:22.375 --> 00:01:24.694 sovrapporre elementi virtuali, sia in 2D 00:01:24.694 --> 00:01:26.614 che in 3D, al mondo reale, 00:01:26.614 --> 00:01:29.650 offrendo un'interazione avanzata grazie al tracciamento 00:01:29.650 --> 00:01:30.930 del movimento delle mani, 00:01:30.930 --> 00:01:34.129 possibile attraverso un innovativo braccialetto da polso. 00:01:34.129 --> 00:01:35.650 Oltre a ciò, integra un sistema 00:01:35.650 --> 00:01:38.290 di intelligenza artificiale contestuale che non 00:01:38.290 --> 00:01:40.369 solo percepisce l'ambiente circostante, 00:01:40.369 --> 00:01:41.409 ma è anche in grado di 00:01:41.409 --> 00:01:44.924 anticipare e rispondere proattivamente alle necessità dell'utente, 00:01:44.924 --> 00:01:47.804 fornendo suggerimenti personalizzati, come ad esempio 00:01:47.804 --> 00:01:51.004 ricette basate sugli alimenti presenti nel frigorifero. 00:01:51.004 --> 00:01:53.564 Mentre si lavora per migliorarne il design, 00:01:53.564 --> 00:01:55.484 la qualità degli elementi virtuali e 00:01:55.484 --> 00:01:57.325 la scalabilità della produzione, 00:01:57.405 --> 00:01:59.004 l'azienda ha già previsto che le 00:01:59.004 --> 00:02:01.859 innovazioni introdotte con Orion verranno integrate 00:02:01.859 --> 00:02:04.500 nei futuri dispositivi di realtà mista. 00:02:06.980 --> 00:02:09.219 Come era prevedibile, l'arresto del CEO 00:02:09.219 --> 00:02:10.979 di Telegram Pavel Durov, 00:02:10.979 --> 00:02:12.740 avvenuto in Francia lo scorso agosto, 00:02:12.740 --> 00:02:14.834 ha portato a dei radicali cambiamenti 00:02:14.834 --> 00:02:16.754 della piattaforma che sono ancora in 00:02:16.754 --> 00:02:18.435 corso in materia di privacy. 00:02:18.435 --> 00:02:20.194 L'arresto di Durov, infatti, 00:02:20.194 --> 00:02:22.514 è stato motivato principalmente dai continui 00:02:22.514 --> 00:02:24.354 rifiuti di collaborare con le forze 00:02:24.354 --> 00:02:26.789 dell'ordine per identificare e limitare i 00:02:26.789 --> 00:02:29.669 cybercriminali e i gruppi Telegram utilizzati 00:02:29.669 --> 00:02:31.349 per scambiare contenuti illegali, 00:02:31.349 --> 00:02:34.790 come pedopornografia, droghe o contenuti pirati. 00:02:34.949 --> 00:02:36.389 In questo senso, quindi, 00:02:36.389 --> 00:02:37.990 con l'aggiornamento di settembre, 00:02:37.990 --> 00:02:40.655 Telegram ha introdotto nuove funzionalità per 00:02:40.655 --> 00:02:42.415 poter segnalare le chat e i 00:02:42.415 --> 00:02:44.814 suoi contenuti, compresi quelli scambiati in 00:02:44.814 --> 00:02:45.775 forma privata. 00:02:45.855 --> 00:02:47.775 Un'altra novità riguarda la creazione di 00:02:47.775 --> 00:02:49.855 un team di moderatori dedicato per 00:02:49.855 --> 00:02:52.254 introdurre dei filtri nella ricerca globale 00:02:52.254 --> 00:02:55.375 della piattaforma, in modo da nascondere contenuti, 00:02:55.375 --> 00:02:57.669 canali o gruppi problematici e garantire 00:02:57.669 --> 00:02:59.830 così un ambiente sicuro per gli utenti, 00:02:59.830 --> 00:03:02.229 che possono comunque effettuare segnalazioni tramite 00:03:02.229 --> 00:03:04.389 il bot "@SearchReport". 00:03:04.469 --> 00:03:06.229 Infine, il cambiamento più importante è 00:03:06.229 --> 00:03:08.836 forse quello legato alla politica sulla privacy, 00:03:08.884 --> 00:03:10.965 dove viene introdotta la possibilità da 00:03:10.965 --> 00:03:13.444 parte della piattaforma di condividere, 00:03:13.444 --> 00:03:15.604 su richiesta delle autorità competenti, 00:03:15.604 --> 00:03:17.205 gli indirizzi IP e i numeri 00:03:17.205 --> 00:03:19.205 di telefono degli utenti che violano 00:03:19.205 --> 00:03:20.004 le regole. 00:03:20.004 --> 00:03:21.764 Telegram, dunque, si è infine visto 00:03:21.764 --> 00:03:23.770 costretto a cambiare il suo approccio, 00:03:23.770 --> 00:03:25.689 pur cercando nei limiti della legge 00:03:25.689 --> 00:03:27.689 di garantire sicurezza e privacy, 00:03:27.689 --> 00:03:29.689 ma soprattutto di garantire a tutti 00:03:29.689 --> 00:03:31.689 quei milioni di utenti quotidiani di 00:03:31.689 --> 00:03:34.169 poter utilizzare un'applicazione sicura e libera 00:03:34.169 --> 00:03:36.635 da quella cybercriminalità che tanto mina 00:03:36.635 --> 00:03:38.715 la reputazione della piattaforma. 00:03:41.355 --> 00:03:43.995 Il ministro dell'Ambiente della Sicurezza Energetica, 00:03:43.995 --> 00:03:46.235 Fratin, ha dichiarato in un'intervista al 00:03:46.235 --> 00:03:47.675 Corriere della Sera e in una 00:03:47.675 --> 00:03:49.849 risposta al presidente di Confindustria che 00:03:49.849 --> 00:03:51.210 il governo ha iniziato a lavorare 00:03:51.210 --> 00:03:52.490 a un disegno di legge per 00:03:52.490 --> 00:03:54.330 reintrodurre il nucleare in Italia. 00:03:54.330 --> 00:03:55.930 A questa dichiarazione si è aggiunta 00:03:55.930 --> 00:03:57.610 anche la notizia di Bloomberg, 00:03:57.610 --> 00:03:59.770 secondo cui sempre il Governo sarebbe 00:03:59.770 --> 00:04:01.849 pianificando la costruzione di una nuova 00:04:01.849 --> 00:04:05.014 società con partnership tecnologica straniera che 00:04:05.014 --> 00:04:06.614 consente di produrre a breve in 00:04:06.614 --> 00:04:09.094 Italia la miglior tecnologia nucleare attualmente 00:04:09.094 --> 00:04:11.254 a disposizione, ovvero quella di terza 00:04:11.254 --> 00:04:12.614 generazione avanzata. 00:04:12.614 --> 00:04:13.974 La volontà di un ritorno al 00:04:13.974 --> 00:04:16.214 nucleare dopo i referendum abrogativi del 00:04:16.214 --> 00:04:19.939 1987 e popolari del 2011 deriva 00:04:19.939 --> 00:04:21.540 da una necessità di colmare le 00:04:21.540 --> 00:04:24.259 lacune tecnologiche delle energie rinnovabili, 00:04:24.339 --> 00:04:27.300 soprattutto quelle relative alla produzione fotovoltaica 00:04:27.300 --> 00:04:29.620 in grado di garantire un'elevata produzione 00:04:29.620 --> 00:04:31.620 solamente durante il giorno e lasciando 00:04:31.620 --> 00:04:33.379 invece più scoperte le ore notturne. 00:04:33.585 --> 00:04:35.824 Con l'energia nucleare si riuscirebbe dunque 00:04:35.824 --> 00:04:38.225 a soddisfare completamente o quantomeno in 00:04:38.225 --> 00:04:39.824 parte il carico di base, 00:04:39.824 --> 00:04:41.504 ovvero il livello minimo di domanda 00:04:41.504 --> 00:04:43.665 sulla rete elettrica richiesto sia di 00:04:43.665 --> 00:04:44.625 giorno che di notte, 00:04:44.625 --> 00:04:46.920 lasciando invece alle rinnovabili il compito 00:04:46.920 --> 00:04:48.680 di coprire i picchi giornalieri. 00:04:48.680 --> 00:04:50.120 Benché non siano ancora state raggiunti 00:04:50.120 --> 00:04:52.759 e conclusioni definitive, il ministro Fratin 00:04:52.759 --> 00:04:54.199 ha comunque aggiunto che con il 00:04:54.199 --> 00:04:56.680 22% di nucleare nel futuro mix 00:04:56.680 --> 00:04:59.399 energetico nazionale si riusciranno a risparmiare 00:04:59.399 --> 00:05:01.702 nel nostro Paese fino a 34 00:05:01.702 --> 00:05:03.285 miliardi di euro l'anno. 00:05:20.620 --> 00:05:22.220 E gli ultimi anni sono emerse 00:05:22.220 --> 00:05:24.300 diverse tecnologie che hanno di volta 00:05:24.300 --> 00:05:25.899 in volta promesso di portare un 00:05:25.899 --> 00:05:28.220 contributo essenziale in diversi settori, 00:05:28.220 --> 00:05:30.860 dall'industria alla medicina all'intrattenimento. 00:05:31.259 --> 00:05:33.020 Tecnologie che per i loro aspetti 00:05:33.020 --> 00:05:36.004 innovativi sembravano veramente essere una rivoluzione 00:05:36.004 --> 00:05:37.845 pari a quella vissuta con l'avvento 00:05:37.845 --> 00:05:39.444 di Internet, in cui il modo 00:05:39.444 --> 00:05:41.685 di vivere quotidiano è stato profondamente 00:05:41.685 --> 00:05:44.805 cambiato se non addirittura completamente stravolto. 00:05:44.805 --> 00:05:46.405 Alcuni di questi esempi li abbiamo 00:05:46.405 --> 00:05:48.169 anche vissuti in prima persona e 00:05:48.169 --> 00:05:50.810 ve li abbiamo raccontati nelle nostre puntate. 00:05:50.889 --> 00:05:52.729 Stiamo parlando di tecnologie come la 00:05:52.729 --> 00:05:54.490 blockchain e i prodotti ad essa 00:05:54.490 --> 00:05:57.289 collegata come criptovalute NFT o smart 00:05:57.289 --> 00:05:59.449 contracts o come il metaverso. 00:05:59.449 --> 00:06:01.769 Probabilmente queste innovazioni avranno un ruolo 00:06:01.769 --> 00:06:03.774 centrale in futuro, ma per ora, 00:06:03.774 --> 00:06:05.855 dopo un fortissimo interesse iniziale, 00:06:05.935 --> 00:06:07.854 non sono riuscite a portare nella 00:06:07.854 --> 00:06:10.014 vita quotidiana dei contributi che si 00:06:10.014 --> 00:06:12.254 possono ritenere veramente tangibili. 00:06:12.334 --> 00:06:14.095 C'è tuttavia una tecnologia, 00:06:14.095 --> 00:06:16.014 e probabilmente già avete capito di 00:06:16.014 --> 00:06:17.740 cosa stiamo parlando, che per la 00:06:17.740 --> 00:06:20.699 sua potenza, semplicità di utilizzo e versatilità, 00:06:20.699 --> 00:06:22.620 è riuscita a diventare veramente uno 00:06:22.620 --> 00:06:24.699 strumento utilissimo, se non in alcuni 00:06:24.699 --> 00:06:26.780 casi indispensabile, nella vita di tutti 00:06:26.780 --> 00:06:27.420 i giorni. 00:06:27.500 --> 00:06:29.340 Tecnologia che, in questo caso sì, 00:06:29.514 --> 00:06:31.595 potrebbe sul serio essere paragonata alla 00:06:31.595 --> 00:06:33.835 rivoluzione che rappresentò Internet. 00:06:33.915 --> 00:06:36.875 Stiamo chiaramente parlando dell'intelligenza artificiale, 00:06:36.875 --> 00:06:39.435 e in particolar modo dell'intelligenza artificiale 00:06:39.435 --> 00:06:41.835 generativa e delle sue diverse applicazioni. 00:06:42.289 --> 00:06:44.050 Nel corso degli ultimi mesi abbiamo 00:06:44.050 --> 00:06:46.529 diverse volte affrontato questa tematica. 00:06:46.689 --> 00:06:49.089 Seguendone le notizie o approfondendone le 00:06:49.089 --> 00:06:51.169 sue diverse applicazioni da diversi punti 00:06:51.169 --> 00:06:51.810 di vista. 00:06:51.810 --> 00:06:54.129 Abbiamo quindi risposto a svariate domande come: 00:06:54.285 --> 00:06:55.485 che impatto avrà? 00:06:55.485 --> 00:06:57.004 Come può essere sfruttata? 00:06:57.004 --> 00:06:59.165 Quali sono le sue implicazioni legali? 00:06:59.165 --> 00:07:01.964 Come possiamo sviluppare un'intelligenza artificiale in 00:07:01.964 --> 00:07:03.805 modo responsabile ed etico? 00:07:03.805 --> 00:07:05.725 Tuttavia, non abbiamo ancora risposto a 00:07:05.725 --> 00:07:07.725 una delle domande principali legate a 00:07:07.725 --> 00:07:11.199 questa tecnologia, ossia: come e perché funziona? 00:07:11.279 --> 00:07:13.360 In questa puntata cercheremo proprio di 00:07:13.360 --> 00:07:15.279 rispondere a quest'ultimo quesito, 00:07:15.360 --> 00:07:17.839 ripercorrendo in parte la storia dell'intelligenza 00:07:17.839 --> 00:07:20.240 artificiale e spiegando come questi modelli 00:07:20.240 --> 00:07:21.759 funzionano da un punto di vista 00:07:21.759 --> 00:07:22.560 un po più tecnico. 00:07:22.894 --> 00:07:24.814 Lasceremo infine uno spazio per una 00:07:24.814 --> 00:07:26.654 riflessione sui limiti e sul futuro 00:07:26.654 --> 00:07:28.415 di questa tecnologia e i rischi 00:07:28.415 --> 00:07:30.254 verso cui stiamo andando incontro nel 00:07:30.254 --> 00:07:33.055 continuare ad utilizzarla in modo irresponsabile 00:07:33.055 --> 00:07:34.335 e incontrollato. 00:07:34.415 --> 00:07:37.134 Innanzitutto, bisogna definire cosa intendiamo quando 00:07:37.134 --> 00:07:40.240 parliamo di intelligenza artificiale generativa o Gen. 00:07:40.240 --> 00:07:41.040 AI. 00:07:41.040 --> 00:07:43.120 Con questo termine indichiamo infatti tutti 00:07:43.120 --> 00:07:44.720 quei modelli di IA o di 00:07:44.720 --> 00:07:46.720 Deep Learning, per la precisione, 00:07:46.800 --> 00:07:48.720 che si occupano di generare contenuti 00:07:48.720 --> 00:07:51.040 originali come testo, immagini, 00:07:51.040 --> 00:07:52.639 video, musica e così via. 00:07:52.894 --> 00:07:55.055 Di queste categorie fanno parte large 00:07:55.055 --> 00:07:56.935 language model come GPT-4, 00:07:56.935 --> 00:08:00.095 Claude o Gemini, IA specializzate nel 00:08:00.095 --> 00:08:02.735 generare immagini come Mid-Journey o Dall-E, 00:08:02.735 --> 00:08:04.654 generatori di video come Sora e 00:08:04.654 --> 00:08:05.055 così via. 00:08:05.329 --> 00:08:07.649 Per ora ci concentreremo principalmente sui 00:08:07.649 --> 00:08:09.889 large language models, che sono le 00:08:09.889 --> 00:08:13.250 IA che ormai utilizziamo maggiormente nel quotidiano. 00:08:13.329 --> 00:08:14.930 Il primo approccio ai chatbot, 00:08:14.930 --> 00:08:16.050 anche se non si può parlare 00:08:16.050 --> 00:08:17.730 proprio di intelligenza artificiale, 00:08:17.954 --> 00:08:20.995 è del 1964 con ELIZA, 00:08:20.995 --> 00:08:24.595 un software sviluppato dall'informatico Joseph Weizenbaum. 00:08:24.595 --> 00:08:26.995 Il funzionamento era relativamente semplice, 00:08:26.995 --> 00:08:29.235 in quanto il sistema sfruttava delle 00:08:29.235 --> 00:08:32.330 frasi preconfezionate che sceglieva e modificava 00:08:32.330 --> 00:08:35.210 estraendo le informazioni dalle richieste dell'utente. 00:08:35.289 --> 00:08:37.370 Un altro tassello fondamentale è lo 00:08:37.370 --> 00:08:39.769 sviluppo dei modelli RNN, 00:08:39.769 --> 00:08:41.850 le reti neurali ricorrenti. 00:08:41.929 --> 00:08:44.250 Questi modelli riescono infatti data una 00:08:44.250 --> 00:08:45.995 sequenza di dati in input a 00:08:45.995 --> 00:08:48.235 predire una sequenza di dati successivi. 00:08:48.235 --> 00:08:50.315 Sono quindi utilissimi, ad esempio, 00:08:50.315 --> 00:08:52.634 per l'analisi di dati finanziari o 00:08:52.634 --> 00:08:54.075 serie di dati temporali, 00:08:54.075 --> 00:08:56.794 ma anche come elaboratori del linguaggio naturale. 00:08:56.794 --> 00:09:00.340 Le RNN infatti possiamo considerarle la 00:09:00.340 --> 00:09:01.700 prima versione di un vero e 00:09:01.700 --> 00:09:03.940 proprio modello linguistico, che data una 00:09:03.940 --> 00:09:05.940 frase in input, riesce a predire 00:09:05.940 --> 00:09:08.100 la sequenza di parole successiva. 00:09:08.100 --> 00:09:09.460 Questo è stato uno dei modelli 00:09:09.460 --> 00:09:11.701 linguistici più promettenti, che però ha 00:09:11.701 --> 00:09:14.195 espresso il suo vero potenziale solo 00:09:14.195 --> 00:09:16.514 negli ultimi anni, grazie all'aumento della 00:09:16.514 --> 00:09:18.674 potenza di calcolo e all'enorme quantità 00:09:18.674 --> 00:09:20.434 di dati disponibili in rete da 00:09:20.434 --> 00:09:21.794 utilizzare per l'addestramento. 00:09:22.034 --> 00:09:24.355 Tuttavia, questi modelli hanno diversi problemi 00:09:24.355 --> 00:09:26.355 e sono decisamente poco performanti. 00:09:26.730 --> 00:09:28.889 Elaborando i dati in modo sequenziale, 00:09:28.889 --> 00:09:31.449 infatti, una RNN fa fatica a 00:09:31.449 --> 00:09:33.370 elaborare i testi in modo efficiente, 00:09:33.370 --> 00:09:35.370 con un conseguente rallentamento dei tempi 00:09:35.370 --> 00:09:37.610 di addestramento e l'utilizzo di enormi 00:09:37.610 --> 00:09:39.850 potenze di calcolo e di memoria, 00:09:39.850 --> 00:09:42.009 anche solo per analizzare pochi paragrafi 00:09:42.009 --> 00:09:42.490 di testo. 00:09:42.705 --> 00:09:45.264 Decisamente ben lontani dai modelli di oggi, 00:09:45.264 --> 00:09:46.785 che riescono in poco tempo ad 00:09:46.785 --> 00:09:49.345 elaborare intere opere letterarie all'interno di 00:09:49.345 --> 00:09:50.545 un singolo prompt. 00:09:50.705 --> 00:09:52.465 Arriviamo dunque al 2004, 00:09:52.465 --> 00:09:54.465 con l'introduzione da parte di Google 00:09:54.465 --> 00:09:56.945 del suo sistema di autocompletamento nel 00:09:56.945 --> 00:09:57.825 motore di ricerca. 00:09:58.059 --> 00:09:59.579 Come avviene ancora oggi, 00:09:59.579 --> 00:10:01.659 questo algoritmo riesce a generare delle 00:10:01.659 --> 00:10:04.059 potenziali frasi o parole che vadano 00:10:04.059 --> 00:10:06.139 a completare la ricerca dell'utente, 00:10:06.139 --> 00:10:07.899 man mano che le digita. 00:10:07.899 --> 00:10:09.179 Per quanto riguarda le immagini, 00:10:09.179 --> 00:10:11.419 invece, è solo nel 2013 che 00:10:11.419 --> 00:10:13.414 iniziano però a comparire i veri 00:10:13.414 --> 00:10:17.335 modelli deep learning, chiamati autoencoder variazionali, 00:10:17.335 --> 00:10:19.254 utilizzati in particolare proprio per la 00:10:19.254 --> 00:10:20.695 generazione di immagini. 00:10:20.695 --> 00:10:22.695 Questi modelli, infatti, sono composti da 00:10:22.695 --> 00:10:24.934 due parti, un encoder e un decoder, 00:10:24.934 --> 00:10:27.259 che rispettivamente si occupano di prendere 00:10:27.259 --> 00:10:31.179 l'immagine in input, codificarla e infine decodificarla, 00:10:31.179 --> 00:10:33.019 ottenendo o la stessa immagine o 00:10:33.019 --> 00:10:34.379 delle varianti di essa. 00:10:34.379 --> 00:10:36.700 Sempre legato alla generazione di immagini, 00:10:36.700 --> 00:10:39.580 nel 2014 vengono presentate le reti GAN, 00:10:39.644 --> 00:10:42.205 o Generative Adversarial Network, 00:10:42.205 --> 00:10:43.884 di cui abbiamo anche parlato in 00:10:43.884 --> 00:10:45.004 una nostra puntata. 00:10:45.004 --> 00:10:47.165 Se dovessimo tuttavia trovare una data 00:10:47.165 --> 00:10:48.524 in cui è avuto inizio la 00:10:48.524 --> 00:10:51.245 vera rivoluzione per il mondo dell'IA generativa, 00:10:51.245 --> 00:10:53.004 e per i Large Language Models 00:10:53.004 --> 00:10:55.004 in particolare, quella data sarebbe il 00:10:55.004 --> 00:10:57.929 12 giugno 2017, con la pubblicazione 00:10:57.929 --> 00:10:59.129 da parte di un team di 00:10:59.129 --> 00:11:02.009 ricercatori di Google del paper scientifico 00:11:02.009 --> 00:11:04.009 "Attention Is All You Need", 00:11:04.009 --> 00:11:04.970 in cui è stata per la 00:11:04.970 --> 00:11:07.289 prima volta proposta l'architettura che viene 00:11:07.289 --> 00:11:09.690 tuttora utilizzata da più grandi modelli 00:11:09.690 --> 00:11:10.889 linguistici in commercio. 00:11:11.264 --> 00:11:12.705 I Large Language Models, 00:11:12.705 --> 00:11:14.304 come GPT o Gemini, 00:11:14.304 --> 00:11:16.705 utilizzano i "transformers", che hanno una 00:11:16.705 --> 00:11:19.985 struttura abbastanza simile alle reti neurali ricorrenti, 00:11:19.985 --> 00:11:21.745 riuscendo però a elaborare i dati 00:11:21.745 --> 00:11:23.504 in input in modo parallelo, 00:11:23.730 --> 00:11:25.329 superando in questo modo i limiti 00:11:25.329 --> 00:11:26.529 delle RNN. 00:11:26.529 --> 00:11:28.529 Con i transformers viene poi introdotto 00:11:28.529 --> 00:11:30.850 il concetto fondamentale dell'attenzione, 00:11:31.089 --> 00:11:32.449 grazie al quale il modello si 00:11:32.449 --> 00:11:34.929 concentra solamente su alcune parti dell'input 00:11:34.929 --> 00:11:37.215 più rilevanti, ad esempio verbi, 00:11:37.215 --> 00:11:40.014 soggetti o aggettivi, e delle loro relazioni. 00:11:40.014 --> 00:11:41.855 Il risultato è un modello che, 00:11:41.855 --> 00:11:44.575 rispetto alle precedenti reti neurali ricorrenti, 00:11:44.575 --> 00:11:46.175 è molto più efficiente, 00:11:46.174 --> 00:11:47.455 e in grado di gestire una 00:11:47.455 --> 00:11:49.295 quantità di dati input molto più 00:11:49.295 --> 00:11:51.839 vasta utilizzando meno memoria e potenza 00:11:51.839 --> 00:11:54.720 di calcolo, con prestazioni molto più elevate. 00:11:54.720 --> 00:11:57.279 Per questo motivo l'architettura a transformer 00:11:57.279 --> 00:11:59.279 è diventata lo stato dell'arte per 00:11:59.279 --> 00:12:02.159 quanto riguarda l'elaborazione del linguaggio naturale, 00:12:02.240 --> 00:12:04.399 in particolare nelle traduzioni automatiche, 00:12:04.575 --> 00:12:06.894 nella classificazione del testo e nella 00:12:06.894 --> 00:12:07.934 sua generazione. 00:12:08.014 --> 00:12:09.615 L'addestramento di questi modelli, 00:12:09.615 --> 00:12:11.695 inoltre, non è supervisionato. 00:12:11.695 --> 00:12:13.695 Questo significa che l'IA impara in 00:12:13.695 --> 00:12:16.095 modo autonomo, analizzando i miliardi e 00:12:16.095 --> 00:12:17.535 miliardi di dati che gli vengono 00:12:17.535 --> 00:12:19.429 forniti come input e creando quello 00:12:19.429 --> 00:12:21.910 che viene definito "foundation model". 00:12:21.910 --> 00:12:23.350 Una volta addestrato, tuttavia, 00:12:23.350 --> 00:12:24.789 un modello di questo tipo è 00:12:24.789 --> 00:12:27.110 ben lontano dall'avere prestazioni come quelle 00:12:27.110 --> 00:12:29.750 raggiunte dai principali sistemi di IA 00:12:29.750 --> 00:12:30.710 sul mercato. 00:12:30.710 --> 00:12:33.910 Questi modelli, infatti, vengono poi ulteriormente addestrati. 00:12:33.909 --> 00:12:36.254 Questa volta in modo supervisionato, 00:12:36.334 --> 00:12:38.254 ossia utilizzando delle coppie di input 00:12:38.254 --> 00:12:40.334 e relativo output per riuscire a 00:12:40.334 --> 00:12:42.334 produrre modelli in grado di compiere 00:12:42.334 --> 00:12:44.574 task più specifici o per addestrare 00:12:44.574 --> 00:12:47.134 l'IA a rispondere in determinati modi, 00:12:47.134 --> 00:12:48.735 ad esempio per avere un comportamento 00:12:48.735 --> 00:12:51.039 eticamente corretto nei confronti degli utenti 00:12:51.039 --> 00:12:52.799 o per evitare di produrre testi 00:12:52.799 --> 00:12:56.080 a sfondo razzista, discriminatorio o violento. 00:12:56.080 --> 00:12:58.399 Se i foundation model vengono aggiornati 00:12:58.399 --> 00:12:59.839 più raramente, i loro, 00:12:59.839 --> 00:13:02.879 tra virgolette, "figli" sono costantemente migliorati, 00:13:02.879 --> 00:13:05.324 utilizzando nuovi dati o feedback raccolti 00:13:05.324 --> 00:13:06.204 dagli utenti. 00:13:06.204 --> 00:13:07.245 C'è da dire, poi, 00:13:07.245 --> 00:13:08.845 che anche questi modelli non sono 00:13:08.845 --> 00:13:10.845 esenti da problemi o da limiti. 00:13:10.845 --> 00:13:12.924 Pensiamo ad esempio alle allucinazioni. 00:13:13.004 --> 00:13:14.764 Queste IA, di fatto, 00:13:14.764 --> 00:13:16.605 non fanno altro che proporre di 00:13:16.605 --> 00:13:18.125 volta in volta la parola, 00:13:18.125 --> 00:13:19.164 o per essere precisi, 00:13:19.164 --> 00:13:21.029 il token, che ha la probabilità 00:13:21.029 --> 00:13:22.629 più alta di essere quello corretto 00:13:22.629 --> 00:13:23.910 all'interno della frase. 00:13:23.910 --> 00:13:25.350 È subito chiaro, dunque, 00:13:25.350 --> 00:13:27.029 che questi modelli non sono in 00:13:27.029 --> 00:13:28.549 grado di formulare dei veri e 00:13:28.549 --> 00:13:30.710 propri ragionamenti, come farebbe il cervello 00:13:30.710 --> 00:13:32.230 di un umano, ma si affidano 00:13:32.230 --> 00:13:34.574 completamente alla statistica, e per questo 00:13:34.574 --> 00:13:36.975 motivo non sempre l'output prodotto è 00:13:36.975 --> 00:13:38.735 corretto e soddisfacente. 00:13:38.815 --> 00:13:40.254 Le limitazioni più grandi, 00:13:40.254 --> 00:13:42.815 ad esempio, le vediamo nel campo matematico, 00:13:42.815 --> 00:13:45.855 dove le IA generative difficilmente riescono 00:13:45.855 --> 00:13:47.695 a dare la risposta corretta anche 00:13:47.695 --> 00:13:49.855 a banalissime somme o sottrazioni. 00:13:50.129 --> 00:13:51.090 C'è da dire, però, 00:13:51.090 --> 00:13:53.649 che questi modelli sono veramente potenti, 00:13:53.730 --> 00:13:55.330 e con l'aumentare del numero di 00:13:55.330 --> 00:13:57.730 parametri che possiamo paragonare ai neuroni 00:13:57.730 --> 00:13:59.570 e della potenza di calcola messa 00:13:59.570 --> 00:14:01.809 a loro disposizione, sono destinati a 00:14:01.809 --> 00:14:03.490 diventare sempre più intelligenti, 00:14:03.570 --> 00:14:05.705 precisi e di estrema utilità in 00:14:05.705 --> 00:14:08.345 numerosi campi, soprattutto se combinati con 00:14:08.345 --> 00:14:09.384 altre tecnologie. 00:14:09.384 --> 00:14:11.304 Pensiamo ad esempio, alle estensioni di 00:14:11.304 --> 00:14:13.225 ChatGPT o alle RAG, 00:14:13.225 --> 00:14:16.345 acronimo per "retrieval augmented generation", 00:14:16.345 --> 00:14:18.889 dove i modelli linguistici vengono utilizzati 00:14:18.889 --> 00:14:20.970 per capire le richieste degli utenti, 00:14:21.049 --> 00:14:23.610 eseguire determinate azioni e restituire quindi 00:14:23.610 --> 00:14:24.570 il risultato. 00:14:24.730 --> 00:14:26.649 Alcuni esempi possono essere il riassunto 00:14:26.649 --> 00:14:28.330 di ricerche su Google o su 00:14:28.330 --> 00:14:31.129 determinati documenti, ad esempio di carattere legale, 00:14:31.365 --> 00:14:32.884 per estrarre e mostrare i dati 00:14:32.884 --> 00:14:34.725 da un database, o per generare 00:14:34.725 --> 00:14:37.125 le azioni da fornire ad un robot. 00:14:37.445 --> 00:14:39.524