WEBVTT 00:00:01.360 --> 00:00:03.439 Salve a tutti, siete all'ascolto di 00:00:03.439 --> 00:00:05.759 INSiDER - Dentro la Tecnologia, 00:00:05.759 --> 00:00:08.000 un podcast di Digital People e 00:00:08.000 --> 00:00:09.199 io sono il vostro host, 00:00:09.199 --> 00:00:10.240 Davide Fasoli. 00:00:17.015 --> 00:00:19.015 Oggi parleremo di come comprendere il 00:00:19.015 --> 00:00:22.054 funzionamento e il ragionamento dell'intelligenza artificiale 00:00:22.054 --> 00:00:23.814 e delle sfide che ne derivano. 00:00:23.815 --> 00:00:25.335 Prima di passare alle notizie che 00:00:25.335 --> 00:00:27.254 più ci hanno colpito questa settimana, 00:00:27.254 --> 00:00:28.960 vi ricordo che potete seguirci su 00:00:28.960 --> 00:00:32.799 Instagram a @dentrolatecnologia, iscrivervi alla newsletter 00:00:32.799 --> 00:00:34.719 e ascoltare un nuovo episodio ogni 00:00:34.719 --> 00:00:36.719 sabato mattina, su Spotify, 00:00:36.719 --> 00:00:39.679 Apple Podcast, YouTube Music oppure direttamente 00:00:39.679 --> 00:00:40.879 sul nostro sito. 00:00:53.975 --> 00:00:56.960 Nelle ultime settimane l'azienda cinese DeepSeek 00:00:56.960 --> 00:00:58.719 ha rilasciato dei nuovi modelli di 00:00:58.719 --> 00:01:01.920 IA generativa, in particolare DeepSeek V3 00:01:01.920 --> 00:01:03.920 e R1 per i ragionamenti e 00:01:03.920 --> 00:01:06.319 Janus Pro per la generazione di immagini. 00:01:06.319 --> 00:01:07.920 Annuncio che ha fatto molto parlare 00:01:07.920 --> 00:01:09.520 di sé soprattutto per il forte 00:01:09.520 --> 00:01:12.079 impatto che ha avuto sul mercato occidentale, 00:01:12.239 --> 00:01:13.444 tra cui un crollo del quasi 00:01:13.444 --> 00:01:15.924 17% delle azioni Nvidia. 00:01:15.924 --> 00:01:18.084 I modelli di DeepSeek infatti hanno 00:01:18.084 --> 00:01:20.004 messo in discussione la supremazia degli 00:01:20.004 --> 00:01:22.564 Stati Uniti nel mondo dell'intelligenza artificiale 00:01:22.564 --> 00:01:24.165 per alcune loro particolarità. 00:01:24.409 --> 00:01:26.650 La prima è che sono Open Source, 00:01:26.650 --> 00:01:28.010 o meglio "open weights", 00:01:28.010 --> 00:01:30.569 e di conseguenza sono liberamente scaricabili 00:01:30.569 --> 00:01:32.250 ed eseguibili localmente. 00:01:32.329 --> 00:01:34.329 Dopodiché le prestazioni di questi modelli 00:01:34.329 --> 00:01:36.329 sono paragonabili e in certi casi 00:01:36.329 --> 00:01:38.810 superiori alle più grandi intelligenze artificiali 00:01:38.810 --> 00:01:41.465 sul mercato, come quelle di OpenAI 00:01:41.465 --> 00:01:42.504 o Google. 00:01:42.504 --> 00:01:44.265 Prestazioni che i più grandi modelli 00:01:44.265 --> 00:01:46.185 Open Source, come Llama di Meta, 00:01:46.185 --> 00:01:48.185 non avevano finora mai raggiunto. 00:01:48.185 --> 00:01:49.465 Ciò che ha fatto più scalpore, 00:01:49.465 --> 00:01:52.185 tuttavia, è quanto DeepSeek ha investito 00:01:52.185 --> 00:01:52.984 in questi prodotti. 00:01:53.280 --> 00:01:55.599 Per addestrarli infatti sono stati spesi 00:01:55.599 --> 00:01:57.119 poco meno di 6 milioni di 00:01:57.119 --> 00:01:59.119 dollari contro le decine di miliardi 00:01:59.119 --> 00:02:01.439 di investimenti delle aziende americane. 00:02:01.439 --> 00:02:03.200 E questo ovviamente ha messo in 00:02:03.200 --> 00:02:06.239 discussione quanto effettivamente sia necessario acquistare 00:02:06.239 --> 00:02:08.319 sempre più schede grafiche e investire 00:02:08.319 --> 00:02:10.775 così tanto nella potenza di calcolo, 00:02:10.775 --> 00:02:13.094 quando si potrebbe, come ha fatto DeepSeek, 00:02:13.094 --> 00:02:16.375 concentrarsi piuttosto sull'ottimizzazione dei consumi. 00:02:19.094 --> 00:02:21.014 Un significativo passo avanti nel campo 00:02:21.014 --> 00:02:23.655 dell'aviazione civile supersonica è stato compiuto 00:02:23.655 --> 00:02:24.935 da Boom Supersonic. 00:02:24.935 --> 00:02:27.709 Il prototipo XB-1 ha infatti superato 00:02:27.709 --> 00:02:30.509 il muro del suono raggiungendo Mach 1.1, 00:02:30.509 --> 00:02:32.909 durante il suo dodicesimo volo di prova. 00:02:32.909 --> 00:02:34.830 L'aereo mobile, che rappresenta una versione 00:02:34.830 --> 00:02:36.189 in scala del futuro aereo di 00:02:36.189 --> 00:02:38.430 linea Overture, ha mantenuto la velocità 00:02:38.430 --> 00:02:40.685 supersonica per circa 4 minuti a 00:02:40.685 --> 00:02:43.485 un'altitudine di 10.300 metri nei cieli 00:02:43.485 --> 00:02:44.525 della California. 00:02:44.525 --> 00:02:46.205 Questo risultato si inserisce in un 00:02:46.205 --> 00:02:47.564 programma di test che ha visto 00:02:47.564 --> 00:02:49.885 una rapida progressione dalle prove subsoniche 00:02:49.885 --> 00:02:51.564 di marzo 2024. 00:02:51.564 --> 00:02:54.205 L'XB-1, dotato di tre motori General 00:02:54.205 --> 00:02:58.310 Electric J85-15 Turbojet, sta aprendo la 00:02:58.310 --> 00:03:01.189 strada a Overture, progettato per trasportare 00:03:01.189 --> 00:03:04.310 64 passeggeri a Mach 1.7. 00:03:04.389 --> 00:03:05.909 La compagnia, che ha raccolto oltre 00:03:05.909 --> 00:03:08.230 700 milioni di dollari in finanziamenti, 00:03:08.504 --> 00:03:11.145 punta a sviluppare autonomamente i propri motori, 00:03:11.145 --> 00:03:14.585 dopo la conclusione della partnership con Rolls-Royce. 00:03:14.585 --> 00:03:16.665 Con ordini già confermati da United 00:03:16.665 --> 00:03:19.064 Airlines e American Airlines, 00:03:19.064 --> 00:03:20.905 Boom Supersonic mira a far decollare 00:03:20.905 --> 00:03:23.625 il primo Overture commerciale entro il 2030, 00:03:23.810 --> 00:03:26.370 promettendo di portare il trasporto supersonico 00:03:26.370 --> 00:03:28.209 civile a livelli mai visti dal 00:03:28.209 --> 00:03:30.449 ritiro del Concorde nel 2003. 00:03:33.009 --> 00:03:35.009 Waymo, l'azienda di veicoli a guida 00:03:35.009 --> 00:03:36.849 autonoma di proprietà di Alphabet, 00:03:36.849 --> 00:03:38.324 la società madre di Google, 00:03:38.324 --> 00:03:40.805 ha annunciato che nel 2025 testerà 00:03:40.805 --> 00:03:42.884 i suoi veicoli autonomi in dieci 00:03:42.884 --> 00:03:45.204 nuove città, iniziando da Las Vegas 00:03:45.204 --> 00:03:46.084 e San Diego. 00:03:46.084 --> 00:03:48.084 L'obiettivo è verificare come il sistema 00:03:48.084 --> 00:03:49.830 di guida autonoma si adatta a 00:03:49.830 --> 00:03:52.469 nuovi ambienti urbani con caratteristiche differenti, 00:03:52.629 --> 00:03:54.949 come condizioni climatiche variabili e stili 00:03:54.949 --> 00:03:55.990 di guida locali. 00:03:55.990 --> 00:03:57.590 A Las Vegas i test si 00:03:57.590 --> 00:04:00.069 concentreranno sulla gestione del traffico intenso 00:04:00.069 --> 00:04:02.069 e delle caotiche aree di carico 00:04:02.069 --> 00:04:03.830 e scarico lungo la Strip, 00:04:03.830 --> 00:04:05.784 la strada più trafficata della città, 00:04:05.784 --> 00:04:07.944 oltre alla presenza di "Botts' dots", 00:04:07.944 --> 00:04:10.745 ovvero dei piccoli rilievi rotondi sull'asfalto 00:04:10.905 --> 00:04:13.385 utilizzati come segnaletica stradale al posto 00:04:13.385 --> 00:04:15.865 delle classiche linee di corsia dipinte. 00:04:15.865 --> 00:04:18.024 San Diego, invece, rappresenta un contesto 00:04:18.024 --> 00:04:19.589 più simile a quello delle città 00:04:19.589 --> 00:04:21.189 in cui Waymo è già attiva, 00:04:21.189 --> 00:04:23.350 permettendo di valutare le prestazioni senza 00:04:23.350 --> 00:04:25.189 un ampio storico di dati locali. 00:04:25.189 --> 00:04:27.350 L'azienda invierà meno di 10 veicoli 00:04:27.350 --> 00:04:29.589 per città, che saranno guidati manualmente 00:04:29.589 --> 00:04:31.750 per alcuni mesi nelle aree commerciali 00:04:31.750 --> 00:04:33.464 più trafficate, con lo scopo di 00:04:33.464 --> 00:04:35.625 raccogliere dati per migliorare la capacità 00:04:35.625 --> 00:04:37.384 di adattamento del sistema. 00:04:37.384 --> 00:04:39.545 Waymo sta lavorando affinché in futuro 00:04:39.545 --> 00:04:42.425 sia possibile avviare un servizio di robotaxi, 00:04:42.425 --> 00:04:44.745 con test minimi, in nuove città, 00:04:44.745 --> 00:04:48.769 rendendo il proprio sistema sempre più generalizzabile. 00:05:00.285 --> 00:05:03.324 L'intelligenza artificiale, ormai l'abbiamo capito, 00:05:03.324 --> 00:05:04.925 ha negli ultimi anni pervaso ogni 00:05:04.925 --> 00:05:06.925 ambito delle nostre vite quotidiane, 00:05:06.925 --> 00:05:08.845 diventando per molti parte integrante del 00:05:08.845 --> 00:05:11.004 proprio lavoro e delle proprie abitudini. 00:05:11.004 --> 00:05:11.965 Quella che è entrata in modo 00:05:11.965 --> 00:05:14.525 così prorompente nella nostra quotidianità, 00:05:14.525 --> 00:05:16.759 l'IA generativa, come quella che alimenta 00:05:16.759 --> 00:05:19.399 ChatGPT o Midjourney, però non è 00:05:19.399 --> 00:05:21.560 l'unica IA esistente, ma anzi ne 00:05:21.560 --> 00:05:22.920 esistono di diversi tipi, 00:05:22.920 --> 00:05:25.079 ognuna adibita a scopi ben precisi. 00:05:25.079 --> 00:05:27.560 Nella penultima puntata del 2024, 00:05:27.560 --> 00:05:29.694 ad esempio, abbiamo approfondito gli algoritmi 00:05:29.694 --> 00:05:32.095 di raccomandazione, ossia quei software di 00:05:32.095 --> 00:05:34.975 intelligenza artificiale, utilizzati da piattaforme come 00:05:34.975 --> 00:05:36.894 Netflix o Amazon, che si occupano 00:05:36.894 --> 00:05:38.814 di proporci contenuti o prodotti che 00:05:38.814 --> 00:05:40.014 potrebbero interessarci. 00:05:40.220 --> 00:05:42.860 Puntata che, tra le riflessioni conclusive, 00:05:42.860 --> 00:05:44.379 è stato un ottimo pretesto per 00:05:44.379 --> 00:05:46.860 introdurre l'argomento di cui parleremo oggi, 00:05:46.860 --> 00:05:49.180 ossia l'intelligenza artificiale spiegabile, 00:05:49.180 --> 00:05:50.622 o XAI, eXplainable AI. 00:05:50.622 --> 00:05:53.900 Quando si tratta di algoritmi di 00:05:53.900 --> 00:05:56.425 apprendimento automatico, infatti, si fa molto 00:05:56.425 --> 00:05:59.225 spesso riferimento al concetto della black box, 00:05:59.225 --> 00:06:00.985 o scatola nera, per cui non 00:06:00.985 --> 00:06:02.824 ci è dato sapere come l'algoritmo 00:06:02.824 --> 00:06:05.305 sia riuscito a produrre un certo risultato, 00:06:05.305 --> 00:06:06.745 ma ci, tra virgolette, 00:06:06.745 --> 00:06:10.519 "accontentiamo" che il risultato sia generalmente corretto. 00:06:10.680 --> 00:06:12.039 Tant'è vero che di fronte a 00:06:12.039 --> 00:06:14.039 modelli immensi, come il large language 00:06:14.039 --> 00:06:17.240 model di ChatGPT o Claude ci 00:06:17.240 --> 00:06:18.839 resta che accettare il fatto che 00:06:18.839 --> 00:06:21.595 questi algoritmi semplicemente funzionino, 00:06:21.595 --> 00:06:23.595 e anche incredibilmente bene. 00:06:23.595 --> 00:06:25.194 Questa sorta di rassegnazione, 00:06:25.194 --> 00:06:27.035 però, può andare bene finché la 00:06:27.035 --> 00:06:30.154 tecnologia viene utilizzata in contesti generalisti, 00:06:30.154 --> 00:06:31.675 come la creazione di immagini, 00:06:31.675 --> 00:06:33.595 la generazione di riassunti o la 00:06:33.595 --> 00:06:34.475 produzione musicale. 00:06:34.769 --> 00:06:36.930 Ma, dall'altro lato, esistono ambiti in 00:06:36.930 --> 00:06:39.410 cui sarebbe estremamente grave o pericoloso 00:06:39.410 --> 00:06:43.009 fidarsi ciecamente della risposta di un'intelligenza artificiale. 00:06:43.089 --> 00:06:45.329 Pensiamo, ad esempio, al mondo della 00:06:45.329 --> 00:06:46.930 medicina o della giustizia, 00:06:46.930 --> 00:06:49.089 dove una risposta sbagliata potrebbe causare 00:06:49.089 --> 00:06:51.754 danni irreparabili, al mondo finanziario, 00:06:51.754 --> 00:06:52.954 al mondo delle auto a guida 00:06:52.954 --> 00:06:54.555 autonoma o nella robotica, 00:06:54.555 --> 00:06:56.235 di cui abbiamo parlato nella recente 00:06:56.235 --> 00:06:58.235 puntata con Boston Dynamics, 00:06:58.235 --> 00:07:00.794 soprattutto dove questi algoritmi interagiscono con 00:07:00.794 --> 00:07:03.354 il mondo esterno, co-occupando gli spazi 00:07:03.354 --> 00:07:04.235 con gli esseri umani. 00:07:04.439 --> 00:07:06.120 Se pensiamo poi a quanto facilmente 00:07:06.120 --> 00:07:07.639 i modelli di AI possano essere 00:07:07.639 --> 00:07:09.879 manipolabili o attaccabili, ecco che in 00:07:09.879 --> 00:07:13.080 questi contesti diventa assolutamente necessario capire 00:07:13.080 --> 00:07:16.120 non solo il risultato dell'algoritmo in questione, 00:07:16.199 --> 00:07:17.639 ma anche il, tra virgolette, 00:07:17.639 --> 00:07:19.274 "ragionamento" e il modo in cui 00:07:19.274 --> 00:07:21.355 è arrivato a formulare la risposta. 00:07:21.595 --> 00:07:23.914 Ma cos'è quindi l'IA spiegabile? 00:07:23.914 --> 00:07:24.875 Come funziona? 00:07:24.875 --> 00:07:25.995 A cosa serve? 00:07:25.995 --> 00:07:27.595 E soprattutto, a che punto siamo 00:07:27.595 --> 00:07:29.834 nella comprensione dei modelli di intelligenza 00:07:29.834 --> 00:07:31.834 artificiale che utilizziamo tutti i giorni? 00:07:31.834 --> 00:07:34.009 In questa puntata cercheremo di rispondere 00:07:34.009 --> 00:07:35.930 a queste domande, iniziando proprio a 00:07:35.930 --> 00:07:39.129 specificare cosa si intende per IA spiegabile. 00:07:39.129 --> 00:07:41.529 Quando si parla di eXplainable AI, 00:07:41.529 --> 00:07:44.410 XAI, generalmente non si fa riferimento 00:07:44.410 --> 00:07:46.410 infatti a particolari tipi di modelli 00:07:46.410 --> 00:07:48.544 di apprendimento automatico, quanto più a 00:07:48.544 --> 00:07:49.985 una serie di tecniche che hanno 00:07:49.985 --> 00:07:51.985 proprio l'obiettivo di rendere questi modelli 00:07:51.985 --> 00:07:54.625 più trasparenti, permettendoci di analizzare i 00:07:54.625 --> 00:07:56.384 passaggi e le motivazioni che hanno 00:07:56.384 --> 00:07:58.464 portato a una determinata conclusione. 00:07:58.464 --> 00:08:00.144 Come abbiamo detto più volte e 00:08:00.144 --> 00:08:01.745 ripetuto all'inizio di questa puntata, 00:08:01.745 --> 00:08:03.810 però, non esiste un solo algoritmo 00:08:03.810 --> 00:08:05.729 di intelligenza artificiale, ma, 00:08:05.729 --> 00:08:07.810 al contrario, ne esistono di diverse 00:08:07.810 --> 00:08:10.370 tipologie e ognuno è specializzato per 00:08:10.370 --> 00:08:12.610 risolvere un particolare tipo di problema. 00:08:12.610 --> 00:08:14.689 Esistono di conseguenza modelli più o 00:08:14.689 --> 00:08:16.529 meno complessi, e che si prestano 00:08:16.529 --> 00:08:18.285 meglio o peggio a essere compresi 00:08:18.285 --> 00:08:19.165 e spiegati. 00:08:19.165 --> 00:08:20.925 Facciamo alcuni esempi per capire meglio 00:08:20.925 --> 00:08:22.285 di cosa stiamo parlando. 00:08:22.444 --> 00:08:24.685 Algoritmi come la regressione lineare, 00:08:24.685 --> 00:08:26.045 in cui viene tracciata la linea 00:08:26.045 --> 00:08:27.645 che collega meglio i punti usati 00:08:27.645 --> 00:08:30.959 per l'addestramento, i modelli k-NN che 00:08:30.959 --> 00:08:32.720 dividono i dati in cluster in 00:08:32.720 --> 00:08:34.159 base alla loro distanza, 00:08:34.159 --> 00:08:35.840 o gli alberi decisionali. 00:08:35.840 --> 00:08:39.200 Tutti questi sono detti interpretabili "by design", 00:08:39.279 --> 00:08:41.200 e quindi facilmente spiegabili proprio per 00:08:41.200 --> 00:08:42.480 come sono progettati. 00:08:42.559 --> 00:08:43.807 In un albero decisionale, 00:08:43.855 --> 00:08:45.695 ad esempio, si può ricostruire la 00:08:45.695 --> 00:08:47.936 catena delle decisioni che l'algoritmo ha 00:08:47.936 --> 00:08:50.095 preso prima di arrivare al risultato, 00:08:50.174 --> 00:08:52.495 mentre in una regressione lineare sappiamo 00:08:52.495 --> 00:08:54.174 che l'output è dato da una 00:08:54.174 --> 00:08:56.495 formula matematica in cui l'algoritmo ha 00:08:56.495 --> 00:08:57.855 ottimizzato le costanti. 00:08:58.169 --> 00:08:59.929 Quando invece ci spostiamo su modelli 00:08:59.929 --> 00:09:03.049 più complessi, come le reti neurali profonde, 00:09:03.049 --> 00:09:05.209 decisamente molto più comuni e potenti, 00:09:05.209 --> 00:09:06.970 la situazione è ben diversa e 00:09:06.970 --> 00:09:08.649 notevolmente più complicata. 00:09:08.649 --> 00:09:11.495 Questi modelli, infatti, sono sì estremamente 00:09:11.495 --> 00:09:13.735 potenti e capaci di eseguire compiti 00:09:13.735 --> 00:09:15.815 molto più articolati, ma alla loro 00:09:15.815 --> 00:09:17.415 complessità fa sì che anche il 00:09:17.415 --> 00:09:21.174 loro funzionamento sia meno trasparente e incomprensibile, 00:09:21.174 --> 00:09:23.014 tanto ad arrivare a descriverli come 00:09:23.014 --> 00:09:24.639 le famose scatole nere. 00:09:24.639 --> 00:09:26.320 Tra questi casi più complicati, 00:09:26.320 --> 00:09:28.879 però, per fortuna, sono state presentate 00:09:28.879 --> 00:09:30.480 diverse tecniche per poter, 00:09:30.480 --> 00:09:33.600 tra virgolette, "entrare nella testa" dell'intelligenza 00:09:33.600 --> 00:09:35.920 artificiale e capirne meglio i suoi ragionamenti. 00:09:36.304 --> 00:09:37.824 In particolare, e qui si entra 00:09:37.824 --> 00:09:39.745 in una sfera un po' più complicata, 00:09:39.824 --> 00:09:42.544 esistono quattro principali tecniche utilizzate, 00:09:42.544 --> 00:09:47.745 chiamate LIME, ossia Local Interpretable Model-agnostic Explanations, 00:09:47.824 --> 00:09:51.345 SHAP o Shapley Additive Explanations, 00:09:51.450 --> 00:09:53.450 e l'utilizzo di heatmaps. 00:09:53.529 --> 00:09:55.290 Vediamo brevemente cosa sono. 00:09:55.290 --> 00:09:57.290 La prima, LIME, è una tecnica 00:09:57.290 --> 00:09:58.889 che punta a spiegare le decisioni 00:09:58.889 --> 00:10:01.049 di un'IA approssimando parti del modello 00:10:01.049 --> 00:10:03.610 con altri, che invece sono interpretabili 00:10:03.610 --> 00:10:05.290 come quelle di cui abbiamo parlato 00:10:05.290 --> 00:10:05.690 poco fa. 00:10:05.825 --> 00:10:07.745 In questo modo la catena decisionale 00:10:07.745 --> 00:10:09.585 può essere suddivisa in parti più 00:10:09.585 --> 00:10:11.664 piccole e comprensibili anche a noi. 00:10:11.664 --> 00:10:13.585 La seconda tecnica, SHAP, 00:10:13.585 --> 00:10:15.424 analizza le variabili in input, 00:10:15.424 --> 00:10:17.904 assegnando un indicatore chiamato valore di 00:10:17.904 --> 00:10:20.071 Shapley che rappresenta quanto impatto ha 00:10:20.071 --> 00:10:22.950 avuto la singola variabile sul risultato finale. 00:10:22.950 --> 00:10:24.149 Nel caso di un modello che 00:10:24.149 --> 00:10:26.950 calcoli la predisposizione a una certa malattia, 00:10:26.950 --> 00:10:28.710 ad esempio, le variabili in input 00:10:28.710 --> 00:10:30.389 possono essere lo stato di salute 00:10:30.389 --> 00:10:31.990 del paziente, il sesso, 00:10:32.144 --> 00:10:34.065 l'età, la città di nascita, 00:10:34.144 --> 00:10:35.985 l'uso o meno di certe sostanze 00:10:35.985 --> 00:10:36.945 e così via. 00:10:36.945 --> 00:10:38.865 Grazie a SHAP è possibile quindi 00:10:38.865 --> 00:10:40.945 capire meglio se e quanto ognuno 00:10:40.945 --> 00:10:42.384 di questi fattori ha avuto un 00:10:42.384 --> 00:10:44.384 peso nella decisione finale dell'algoritmo. 00:10:44.759 --> 00:10:46.679 Per modelli ancora più complessi, 00:10:46.679 --> 00:10:48.840 come le reti neurali convoluzionali o 00:10:48.840 --> 00:10:50.600 gli algoritmi di computer vision, 00:10:50.600 --> 00:10:52.440 invece, sono spesso di grande aiuto 00:10:52.440 --> 00:10:55.160 le heatmaps, attraverso metodi come il 00:10:55.160 --> 00:10:57.080 Class Activation Mapping. 00:10:57.080 --> 00:10:58.519 Queste reti neurali, infatti, 00:10:58.519 --> 00:11:00.865 sono divise in strati specializzati nel 00:11:00.865 --> 00:11:03.745 riconoscimento di singole caratteristiche delle immagini, 00:11:03.825 --> 00:11:05.504 come linee dritte o curve, 00:11:05.504 --> 00:11:07.585 colori, forme e così via. 00:11:07.585 --> 00:11:08.785 Man mano che ci si avvicina 00:11:08.785 --> 00:11:10.384 agli strati che poi andranno a 00:11:10.384 --> 00:11:12.305 determinare l'output del modello, 00:11:12.305 --> 00:11:14.865 vengono identificate caratteristiche e forme sempre 00:11:14.865 --> 00:11:17.559 più complesse fino a riconoscere interi soggetti. 00:11:17.559 --> 00:11:19.320 Ed è qui che le heatmaps, 00:11:19.319 --> 00:11:20.600 o zone di attivazione, 00:11:20.600 --> 00:11:22.839 giocano un ruolo fondamentale nel mostrarci 00:11:22.839 --> 00:11:25.000 graficamente quali sono state le aree 00:11:25.000 --> 00:11:27.319 dell'immagine che maggiormente hanno stimolato i 00:11:27.319 --> 00:11:28.485 neuroni di questa rete, 00:11:28.485 --> 00:11:30.725 e permettendoci quindi di comprendere meglio 00:11:30.725 --> 00:11:34.084 il processo decisionale o risolvere eventuali problemi. 00:11:34.084 --> 00:11:35.125 Nel caso di un modello che 00:11:35.125 --> 00:11:36.404 riconosce cani e gatti, 00:11:36.404 --> 00:11:37.924 ad esempio, nella foto di un 00:11:37.924 --> 00:11:39.684 cane le zone dell'immagine più attive 00:11:39.684 --> 00:11:41.445 potrebbero essere quelle del muso, 00:11:41.445 --> 00:11:43.284 in qualità di discriminante maggiore tra 00:11:43.284 --> 00:11:44.084 i due soggetti. 00:11:44.159 --> 00:11:45.839 Per questo motivo la tecnica in 00:11:45.839 --> 00:11:48.000 questione è utilissima anche per la 00:11:48.000 --> 00:11:50.399 diagnostica e per migliorare l'algoritmo, 00:11:50.559 --> 00:11:52.639 rendendolo più sicuro e robusto. 00:11:52.639 --> 00:11:54.319 A questo punto, dopo aver parlato 00:11:54.319 --> 00:11:56.240 di reti neurali, viene quasi naturale 00:11:56.240 --> 00:11:58.000 il paragone con il funzionamento del 00:11:58.000 --> 00:11:59.894 cervello umano, da cui questi modelli 00:11:59.894 --> 00:12:01.335 prendono in parte spunto. 00:12:01.414 --> 00:12:03.654 Lo stesso cervello che tuttora facciamo 00:12:03.654 --> 00:12:05.654 molta fatica a comprendere per la 00:12:05.654 --> 00:12:06.695 sua complessità. 00:12:06.774 --> 00:12:09.335 Tuttavia negli anni abbiamo sviluppato tecnologie 00:12:09.335 --> 00:12:11.495 come quella del neuroimaging che ci 00:12:11.495 --> 00:12:13.495 permettono di visualizzare le zone del 00:12:13.495 --> 00:12:16.429 cervello che maggiormente rispondono a certi stimoli, 00:12:16.429 --> 00:12:18.269 colmando sempre di più quella distanza 00:12:18.269 --> 00:12:21.070 che ci separa dalla completa comprensione 00:12:21.070 --> 00:12:22.670 del nostro funzionamento. 00:12:22.750 --> 00:12:25.149 Ecco dunque che l'intelligenza artificiale in 00:12:25.149 --> 00:12:27.070 confronto non sembra poi così tanto 00:12:27.070 --> 00:12:29.105 complessa e le stesse tecniche che 00:12:29.105 --> 00:12:31.745 utilizziamo per comprendere il cervello potrebbero 00:12:31.745 --> 00:12:33.985 essere adottate per studiare le reti 00:12:33.985 --> 00:12:35.425 neurali artificiali. 00:12:35.504 --> 00:12:38.065 Infine, parliamo di un'altra categoria di modelli, 00:12:38.065 --> 00:12:41.184 quelli che, erroneamente, abbiamo nell'immaginario comune 00:12:41.184 --> 00:12:44.909 associato all'intelligenza artificiale, i Large Language Models, 00:12:44.909 --> 00:12:46.909 ossia quei modelli linguistici su cui 00:12:46.909 --> 00:12:49.070 si basano IA come ChatGPT, 00:12:49.070 --> 00:12:50.429 Claude o Gemini. 00:12:50.429 --> 00:12:51.389 Anche in questo caso, 00:12:51.389 --> 00:12:53.230 come è prevedibile, è molto difficile 00:12:53.230 --> 00:12:55.870 guardare nelle scatole nere di questi modelli, 00:12:55.870 --> 00:12:57.149 e la strada verso la loro 00:12:57.149 --> 00:12:58.750 comprensione è ancora molto lunga. 00:12:58.995 --> 00:13:01.554 C'è, però, una tecnica ampiamente utilizzata 00:13:01.554 --> 00:13:03.554 che consente ai modelli stessi di 00:13:03.554 --> 00:13:05.315 avere un approccio più trasparente, 00:13:05.394 --> 00:13:08.195 ed è la cosiddetta "Chain of Thoughts", 00:13:08.195 --> 00:13:09.634 o catena di pensieri. 00:13:09.634 --> 00:13:11.315 In sostanza, siamo noi stessi, 00:13:11.315 --> 00:13:13.790 nel prompt, a suggerire all'IA di 00:13:13.790 --> 00:13:16.350 suddividere il ragionamento in piccoli passaggi 00:13:16.350 --> 00:13:18.750 sequenziali logici, e sulla base di 00:13:18.750 --> 00:13:20.750 questi generare la risposta. 00:13:20.830 --> 00:13:22.910 Imitando il funzionamento del nostro cervello, 00:13:22.910 --> 00:13:24.750 infatti, si è notato come anche 00:13:24.750 --> 00:13:27.184 i modelli linguistici ottengono risultati di 00:13:27.184 --> 00:13:29.345 gran lunga migliori, soprattutto dove è 00:13:29.345 --> 00:13:31.504 richiesto un ragionamento, se gli si chiede, 00:13:31.504 --> 00:13:33.824 appunto, di formare una risposta passo 00:13:33.824 --> 00:13:34.784 dopo passo. 00:13:34.865 --> 00:13:36.865 Se ci pensiamo, è esattamente ciò 00:13:36.865 --> 00:13:38.704 che anche noi esseri umani facciamo 00:13:38.704 --> 00:13:40.625 ogni qual volta dobbiamo prendere una 00:13:40.625 --> 00:13:42.850 decisione o formulare un ragionamento. 00:13:42.850 --> 00:13:44.610 Tra l'altro, è proprio su processi 00:13:44.610 --> 00:13:46.769 di questo tipo, chiaramente ottimizzati, 00:13:46.769 --> 00:13:48.850 che OpenAI ha costruito i suoi 00:13:48.850 --> 00:13:50.929 recenti modelli o1 e o3, 00:13:50.929 --> 00:13:53.009 che ci hanno positivamente stupito proprio 00:13:53.009 --> 00:13:54.850 per la loro capacità di ragionamento 00:13:54.975 --> 00:13:58.254 e generalizzazione di situazioni anche complesse. 00:13:58.334 --> 00:14:00.095 Utilizzando la Chain of Thoughts, 00:14:00.095 --> 00:14:01.454 dunque, non solo si, 00:14:01.454 --> 00:14:04.894 tra virgolette, "obbliga" l'intelligenza artificiale a ragionare, 00:14:04.894 --> 00:14:06.735 ma ne possiamo studiare in tempo 00:14:06.735 --> 00:14:09.480 reale i ragionamenti, comprenderli e verificare 00:14:09.480 --> 00:14:11.240 se il modello ha commesso errori 00:14:11.240 --> 00:14:12.759 logici o se è affetto da 00:14:12.759 --> 00:14:14.679 bias e pregiudizi che ne possono 00:14:14.679 --> 00:14:17.000 alterare l'affidabilità delle risposte. 00:14:17.080 --> 00:14:20.440 In conclusione, riprendendo l'introduzione della puntata, 00:14:20.440 --> 00:14:21.639 in un mondo che fa sempre 00:14:21.639 --> 00:14:23.080 più uso di queste tecnologie, 00:14:23.144 --> 00:14:25.545 non possiamo permetterci di fidarci ciecamente 00:14:25.545 --> 00:14:27.865 di questi algoritmi, soprattutto in campi 00:14:27.865 --> 00:14:29.785 come la medicina, la giustizia o 00:14:29.785 --> 00:14:32.504 nei processi aziendali, dove l'affidabilità e 00:14:32.504 --> 00:14:34.585 la trasparenza di questi sistemi è 00:14:34.585 --> 00:14:36.904 fondamentale per comprendere i ragionamenti e 00:14:36.904 --> 00:14:39.919