WEBVTT

00:00:01.360 --> 00:00:03.439
<v Davide>Salve a tutti, siete all'ascolto di

00:00:03.439 --> 00:00:05.759
<v Davide>INSiDER - Dentro la Tecnologia,

00:00:05.759 --> 00:00:08.000
<v Davide>un podcast di Digital People e

00:00:08.000 --> 00:00:09.199
<v Davide>io sono il vostro host,

00:00:09.199 --> 00:00:10.240
<v Davide>Davide Fasoli.

00:00:16.934 --> 00:00:19.175
<v Davide>Nella quarta puntata dell'edizione estiva,

00:00:19.175 --> 00:00:21.494
<v Davide>Luca Martinelli, autore del podcast,

00:00:21.494 --> 00:00:23.814
<v Davide>ci parlerà della fissazione di ChatGPT

00:00:23.814 --> 00:00:25.494
<v Davide>per i goblin e altri personaggi

00:00:25.494 --> 00:00:27.734
<v Davide>fantasy e della recente scoperta del

00:00:27.734 --> 00:00:30.269
<v Davide>J-Space di Claude, per capire quanto

00:00:30.269 --> 00:00:32.989
<v Davide>davvero conosciamo l'Intelligenza Artificiale.

00:00:34.030 --> 00:00:36.670
<v Luca>L'Intelligenza Artificiale è ormai diventata un

00:00:36.670 --> 00:00:38.909
<v Luca>tema ricorrente, sia nella vita quotidiana

00:00:38.909 --> 00:00:40.270
<v Luca>che in questo podcast,

00:00:40.270 --> 00:00:42.909
<v Luca>dove abbiamo affrontato l'argomento sotto innumerevoli

00:00:42.909 --> 00:00:44.844
<v Luca>punti di vista, dal suo funzionamento

00:00:44.844 --> 00:00:47.564
<v Luca>pratico all'impatto dell'IA generativa nel mondo

00:00:47.564 --> 00:00:48.284
<v Luca>del lavoro.

00:00:48.284 --> 00:00:50.684
<v Luca>Oggi però affronteremo una storia divertente

00:00:50.684 --> 00:00:52.765
<v Luca>legata proprio ai modelli linguistici,

00:00:52.765 --> 00:00:54.924
<v Luca>ChatGPT in particolare, ma che porta

00:00:54.924 --> 00:00:56.684
<v Luca>con sé un quesito che tutti noi,

00:00:56.820 --> 00:00:58.979
<v Luca>dai ricercatori agli utenti finali,

00:00:58.979 --> 00:01:00.100
<v Luca>dovremmo chiederci.

00:01:00.100 --> 00:01:03.140
<v Luca>Quanto sappiamo, veramente, cosa succede dentro

00:01:03.140 --> 00:01:05.379
<v Luca>i modelli linguistici quando rispondono?

00:01:05.379 --> 00:01:06.659
<v Luca>Partiamo dalla storia.

00:01:06.739 --> 00:01:08.819
<v Luca>Qualche mese fa, tra aprile e maggio,

00:01:08.819 --> 00:01:10.180
<v Luca>gli utenti di Codex,

00:01:10.180 --> 00:01:13.025
<v Luca>il sistema di OpenAI per scrivere codice,

00:01:13.025 --> 00:01:14.784
<v Luca>hanno cominciato a notare qualcosa che

00:01:14.784 --> 00:01:16.944
<v Luca>il chatbot continuava, in modo molto

00:01:16.944 --> 00:01:19.024
<v Luca>randomico e con una frequenza sempre

00:01:19.024 --> 00:01:20.545
<v Luca>più insistente di giorno in giorno,

00:01:20.545 --> 00:01:21.504
<v Luca>a citare.

00:01:21.584 --> 00:01:22.384
<v Luca>I goblin.

00:01:22.384 --> 00:01:24.545
<v Luca>Chiamava "piccoli goblin" i bug che

00:01:24.545 --> 00:01:27.120
<v Luca>trovava nel codice, si autodefiniva "goblin

00:01:27.120 --> 00:01:28.719
<v Luca>con la torcia" quando andava a

00:01:28.719 --> 00:01:29.599
<v Luca>caccia di errori.

00:01:29.599 --> 00:01:31.439
<v Luca>Ma questa specie di fissazione non

00:01:31.439 --> 00:01:33.280
<v Luca>era limitata solo ai goblin,

00:01:33.280 --> 00:01:35.040
<v Luca>ma anche ad altri elementi fantasy

00:01:35.040 --> 00:01:36.560
<v Luca>e non, come gremlin,

00:01:36.560 --> 00:01:38.879
<v Luca>procioni, troll, orchi o piccioni.

00:01:39.215 --> 00:01:42.015
<v Luca>OpenAI ha chiaramente subito approfondito e

00:01:42.015 --> 00:01:43.721
<v Luca>sistemato il problema, ma ne ha

00:01:43.721 --> 00:01:45.135
<v Luca>anche raccontato l'origine.

00:01:45.215 --> 00:01:47.135
<v Luca>L'azienda ha infatti notato per la

00:01:47.135 --> 00:01:48.895
<v Luca>prima volta un uso più frequente

00:01:48.895 --> 00:01:50.575
<v Luca>di queste parole a novembre,

00:01:50.575 --> 00:01:53.935
<v Luca>in coincidenza con il rilascio di GPT-5.1,

00:01:54.030 --> 00:01:56.030
<v Luca>che secondo alcuni utenti aveva un

00:01:56.030 --> 00:01:58.349
<v Luca>tono fin troppo amichevole e presentava

00:01:58.349 --> 00:02:00.269
<v Luca>alcuni strani tic linguistici.

00:02:00.269 --> 00:02:02.109
<v Luca>Con i modelli successivi il fenomeno

00:02:02.109 --> 00:02:04.030
<v Luca>è esploso, con la parola "goblin"

00:02:04.030 --> 00:02:05.549
<v Luca>che ha visto una crescita di

00:02:05.549 --> 00:02:07.469
<v Luca>uso di svariate migliaia di punti

00:02:07.469 --> 00:02:09.709
<v Luca>percentuali rispetto alla versione precedente.

00:02:10.085 --> 00:02:12.485
<v Luca>Indagando, OpenAI ha scoperto che il

00:02:12.485 --> 00:02:14.645
<v Luca>grosso di questa impennata arrivava da

00:02:14.645 --> 00:02:16.805
<v Luca>una specifica "personalità" che gli utenti

00:02:16.805 --> 00:02:19.044
<v Luca>potevano scegliere per il proprio chatbot,

00:02:19.044 --> 00:02:21.125
<v Luca>chiamata "Nerd", e pensata per chi

00:02:21.125 --> 00:02:23.365
<v Luca>ama la scienza, l'informatica e certe

00:02:23.365 --> 00:02:25.365
<v Luca>nicchie culturali proprio come il fantasy

00:02:25.365 --> 00:02:26.669
<v Luca>o i giochi da tavolo.

00:02:26.669 --> 00:02:27.550
<v Luca>Il problema è che,

00:02:27.550 --> 00:02:30.110
<v Luca>senza che gli sviluppatori se ne accorgessero,

00:02:30.110 --> 00:02:31.629
<v Luca>era stato creato un sistema di

00:02:31.629 --> 00:02:34.189
<v Luca>valutazione che premiava le risposte più

00:02:34.189 --> 00:02:36.270
<v Luca>creative e stravaganti, e tra queste,

00:02:36.270 --> 00:02:38.590
<v Luca>guarda caso, quelle che citavano creature

00:02:38.590 --> 00:02:40.590
<v Luca>fantasy come goblin e gremlin.

00:02:40.715 --> 00:02:43.435
<v Luca>Il modello, ricevendo un feedback positivo

00:02:43.435 --> 00:02:44.795
<v Luca>ogni volta che le usava ha

00:02:44.795 --> 00:02:47.034
<v Luca>quindi cominciato a farlo sempre di più,

00:02:47.034 --> 00:02:49.275
<v Luca>contaminando pian piano anche le altre

00:02:49.275 --> 00:02:52.715
<v Luca>personalità disponibili inserendosi direttamente nella fase

00:02:52.715 --> 00:02:53.435
<v Luca>di addestramento.

00:02:53.870 --> 00:02:55.789
<v Luca>Quello che sembra quasi una barzelletta,

00:02:55.789 --> 00:02:57.629
<v Luca>insomma, è un esempio perfetto di

00:02:57.629 --> 00:02:59.709
<v Luca>un problema alla base molto più ampio,

00:02:59.709 --> 00:03:01.949
<v Luca>e che ci porta alla domanda iniziale.

00:03:02.030 --> 00:03:04.509
<v Luca>Nessuno in OpenAI aveva previsto,

00:03:04.509 --> 00:03:06.909
<v Luca>tanto meno voluto, questo comportamento,

00:03:07.069 --> 00:03:08.375
<v Luca>ma è emerso da solo come

00:03:08.375 --> 00:03:10.694
<v Luca>effetto collaterale del sistema di ricompensa.

00:03:10.694 --> 00:03:12.534
<v Luca>E questo ha reso ancor più

00:03:12.534 --> 00:03:15.175
<v Luca>difficile capire l'origine di questa fissazione.

00:03:15.254 --> 00:03:17.094
<v Luca>Perché, quindi, sempre più spesso,

00:03:17.094 --> 00:03:18.775
<v Luca>i modelli di IA si comportano

00:03:18.775 --> 00:03:20.294
<v Luca>in modi che nemmeno chi li

00:03:20.294 --> 00:03:21.495
<v Luca>costruisce riesce a spiegare?

00:03:21.689 --> 00:03:23.290
<v Luca>La risposta breve è che questi

00:03:23.290 --> 00:03:26.010
<v Luca>sistemi non vengono programmati istruzione per

00:03:26.010 --> 00:03:28.569
<v Luca>istruzione come un software tradizionale,

00:03:28.569 --> 00:03:30.010
<v Luca>ma vengono addestrati.

00:03:30.010 --> 00:03:32.010
<v Luca>Si mostrano loro enormi quantità di

00:03:32.010 --> 00:03:34.330
<v Luca>dati e si premiano certi comportamenti

00:03:34.330 --> 00:03:36.075
<v Luca>rispetto ad altri, un po' come

00:03:36.075 --> 00:03:37.514
<v Luca>si farebbe con un animale che

00:03:37.514 --> 00:03:39.275
<v Luca>impara per prove ed errori.

00:03:39.275 --> 00:03:40.876
<v Luca>Il risultato è che dentro a

00:03:40.876 --> 00:03:43.194
<v Luca>questi modelli si formano milioni di

00:03:43.194 --> 00:03:45.514
<v Luca>connessioni e associazioni che nessun essere

00:03:45.514 --> 00:03:46.635
<v Luca>umano ha scritto a mano,

00:03:46.635 --> 00:03:48.395
<v Luca>e che spesso restano un mistero

00:03:48.395 --> 00:03:49.835
<v Luca>anche per chi li ha creati,

00:03:49.835 --> 00:03:51.115
<v Luca>la cosiddetta "black box".

00:03:51.379 --> 00:03:52.500
<v Luca>Proprio su questo fronte,

00:03:52.500 --> 00:03:54.419
<v Luca>tra l'altro, poche settimane fa è

00:03:54.419 --> 00:03:56.580
<v Luca>arrivata da Anthropic una notizia che

00:03:56.580 --> 00:03:57.939
<v Luca>ha fatto molto discutere.

00:03:58.020 --> 00:04:00.419
<v Luca>L'azienda ha infatti pubblicato una ricerca

00:04:00.419 --> 00:04:02.180
<v Luca>in cui racconta di aver individuato

00:04:02.180 --> 00:04:03.621
<v Luca>- dentro ai propri modelli -

00:04:03.621 --> 00:04:05.300
<v Luca>una piccola area interna a cui

00:04:05.300 --> 00:04:06.900
<v Luca>ha dato il nome di "J-Space".

00:04:07.354 --> 00:04:08.555
<v Luca>Si tratta di una piccola collezione

00:04:08.555 --> 00:04:10.634
<v Luca>di pattern neurali interni che,

00:04:10.634 --> 00:04:12.474
<v Luca>rispetto a tutto il resto dell'elaborazione

00:04:12.474 --> 00:04:15.194
<v Luca>del modello, sembrano giocare un ruolo speciale.

00:04:15.275 --> 00:04:17.595
<v Luca>Ogni pattern del J-Space è infatti

00:04:17.595 --> 00:04:19.194
<v Luca>legato a una parola specifica,

00:04:19.194 --> 00:04:21.089
<v Luca>e quando viene coinvolto sembra che

00:04:21.089 --> 00:04:22.689
<v Luca>il modello stia in qualche modo

00:04:22.689 --> 00:04:23.969
<v Luca>pensando a quella parola,

00:04:23.969 --> 00:04:26.850
<v Luca>senza però esporla come output all'utente.

00:04:26.930 --> 00:04:27.729
<v Luca>Un esempio?

00:04:27.729 --> 00:04:29.329
<v Luca>Chiedendo a Claude "Qual è il

00:04:29.329 --> 00:04:32.209
<v Luca>numero di zampe dell'animale che tesse ragnatele?",

00:04:32.209 --> 00:04:34.129
<v Luca>i ricercatori hanno notato che nel

00:04:34.129 --> 00:04:36.824
<v Luca>J-Space si accende la parola "ragno" e,

00:04:36.824 --> 00:04:40.425
<v Luca>successivamente, il modello risponde semplicemente con "8".

00:04:40.425 --> 00:04:42.504
<v Luca>Modificando la parola "ragno" in "formica"

00:04:42.504 --> 00:04:44.824
<v Luca>nel J-Space e rifacendo la domanda,

00:04:44.824 --> 00:04:46.904
<v Luca>anche la risposta di Claude è cambiata,

00:04:46.904 --> 00:04:48.504
<v Luca>erroneamente, in "6".

00:04:48.504 --> 00:04:50.264
<v Luca>Il funzionamento è molto simile alla

00:04:50.264 --> 00:04:52.024
<v Luca>teoria dello spazio di lavoro globale,

00:04:52.310 --> 00:04:54.790
<v Luca>un'idea della neuroscienza secondo cui il

00:04:54.790 --> 00:04:56.949
<v Luca>cervello funzionerebbe come un teatro,

00:04:56.949 --> 00:04:59.189
<v Luca>con tanti processi specializzati che lavorano

00:04:59.189 --> 00:05:00.870
<v Luca>in parallelo dietro le quinte,

00:05:00.870 --> 00:05:02.310
<v Luca>mentre solo una piccola parte di

00:05:02.310 --> 00:05:04.389
<v Luca>informazioni finisce sotto i riflettori e

00:05:04.389 --> 00:05:07.029
<v Luca>diventa quello che percepiamo come pensiero cosciente.

00:05:07.324 --> 00:05:09.324
<v Luca>Anthropic è stata molto attenta a

00:05:09.324 --> 00:05:11.165
<v Luca>chiarire che questo non dimostra che

00:05:11.165 --> 00:05:13.004
<v Luca>Claude sia cosciente, ma è comunque

00:05:13.004 --> 00:05:14.524
<v Luca>una scoperta che cambia il modo

00:05:14.524 --> 00:05:16.125
<v Luca>di guardare a questi sistemi,

00:05:16.125 --> 00:05:18.365
<v Luca>ossia non più solo output da

00:05:18.365 --> 00:05:21.529
<v Luca>valutare a posteriori, ma processi interni che,

00:05:21.529 --> 00:05:23.529
<v Luca>almeno in parte, si possono osservare

00:05:23.529 --> 00:05:24.649
<v Luca>mentre accadono.

00:05:24.649 --> 00:05:26.089
<v Luca>E questo dimostra anche che,

00:05:26.089 --> 00:05:28.250
<v Luca>forse senza saperlo, i modelli AI

00:05:28.250 --> 00:05:30.250
<v Luca>stanno diventando ben più di semplici

00:05:30.250 --> 00:05:32.889
<v Luca>"pappagalli statistici", come li definisce qualcuno,

00:05:33.165 --> 00:05:35.165
<v Luca>ossia modelli in grado di concatenare

00:05:35.165 --> 00:05:37.165
<v Luca>parole l'una dopo l'altra nel modo

00:05:37.165 --> 00:05:39.485
<v Luca>più probabile possibile, ma potrebbero star

00:05:39.485 --> 00:05:41.725
<v Luca>diventando qualcosa di molto più complesso.

00:05:41.725 --> 00:05:43.564
<v Luca>E questo significa anche che la

00:05:43.564 --> 00:05:45.725
<v Luca>nostra capacità di prevedere e controllare

00:05:45.725 --> 00:05:48.099
<v Luca>questi sistemi, che diventano ogni mese

00:05:48.099 --> 00:05:50.899
<v Luca>sempre più potenti, è ancora troppo limitata.

00:05:50.899 --> 00:05:52.579
<v Luca>I goblin di Codex e il

00:05:52.579 --> 00:05:54.259
<v Luca>J-Space di Claude sono in fondo

00:05:54.259 --> 00:05:56.019
<v Luca>due facce della stessa medaglia,

00:05:56.019 --> 00:05:57.939
<v Luca>da un lato un comportamento buffo

00:05:57.939 --> 00:06:00.259
<v Luca>e innocuo nato da un incentivo sbagliato,

00:06:00.634 --> 00:06:03.115
<v Luca>dall'altro, invece, una scoperta che potrebbe

00:06:03.115 --> 00:06:05.514
<v Luca>invece rivelarsi decisiva per comprendere e

00:06:05.514 --> 00:06:08.074
<v Luca>intercettare comportamenti ben più delicati.

00:06:08.074 --> 00:06:10.074
<v Luca>Forse, quindi, è il caso di smettere,

00:06:10.074 --> 00:06:11.995
<v Luca>per un momento, di accelerare lo

00:06:11.995 --> 00:06:13.914
<v Luca>sviluppo alla ricerca del modello più

00:06:13.914 --> 00:06:15.870
<v Luca>potente e intelligente degli altri,

00:06:15.870 --> 00:06:17.949
<v Luca>e fermarsi per studiare e approfondire

00:06:17.949 --> 00:06:20.829
<v Luca>a 360 gradi una tecnologia di cui,

00:06:20.829 --> 00:06:23.389
<v Luca>forse, conosciamo ancora troppo poco e che,

00:06:23.389 --> 00:06:25.790
<v Luca>chissà, potrebbe anche aiutarci a comprendere

00:06:25.790 --> 00:06:27.470
<v Luca>qualcosa di più su noi stessi.

00:06:36.634 --> 00:06:38.634
<v Davide>E così si conclude questa puntata

00:06:38.634 --> 00:06:40.714
<v Davide>di INSiDER - Dentro la Tecnologia,

00:06:40.714 --> 00:06:43.110
<v Davide>io ringrazio come sempre la redazione

00:06:43.110 --> 00:06:45.029
<v Davide>e in special modo Matteo Gallo

00:06:45.029 --> 00:06:47.029
<v Davide>e Luca Martinelli che ogni sabato

00:06:47.029 --> 00:06:49.270
<v Davide>mattina ci permettono di pubblicare un

00:06:49.270 --> 00:06:50.389
<v Davide>nuovo episodio.

00:06:50.470 --> 00:06:52.069
<v Davide>Per qualsiasi tipo di domanda o

00:06:52.069 --> 00:06:56.310
<v Davide>suggerimento scriveteci a redazione@dentrolatecnologia.it,

00:06:56.584 --> 00:07:00.185
<v Davide>seguiteci su Instagram a @dentrolatecnologia dove

00:07:00.185 --> 00:07:03.705
<v Davide>durante la settimana pubblichiamo notizie e approfondimenti.

00:07:03.705 --> 00:07:05.785
<v Davide>In qualsiasi caso nella descrizione della

00:07:05.785 --> 00:07:08.024
<v Davide>puntata troverete tutti i nostri social.

00:07:08.139 --> 00:07:11.099
<v Davide>Se trovate interessante il podcast condividetelo

00:07:11.099 --> 00:07:12.379
<v Davide>che per noi è un ottimo

00:07:12.379 --> 00:07:14.219
<v Davide>modo per crescere e non dimenticate

00:07:14.219 --> 00:07:15.659
<v Davide>di farci pubblicità.

00:07:15.659 --> 00:07:17.819
<v Davide>Noi ci sentiamo la settimana prossima.