Salve a tutti, siete all'ascolto di INSiDER - Dentro la Tecnologia, un podcast di Digital People e io sono il vostro host, Davide Fasoli.

Oggi parleremo di come la tecnologia, nonostante la sua apparente "perfezione", sia tutt'altro che infallibile.

Ripercorreremo i fallimenti più clamorosi della storia moderna, dal Samsung Galaxy Note 7 al Boeing 737 MAX fino all'incidente di CrowdStrike del 2024, cercando di capire come dietro a ogni disastro si nascondano scorciatoie, pressioni commerciali e

il pericoloso accumulo di "debito tecnico", che prima o poi viene riscosso con interessi molto più alti del previsto.

Prima di passare alle notizie che più ci hanno colpito questa settimana, vi ricordo che potete seguirci su Instagram a @dentrolatecnologia, iscrivervi alla newsletter e ascoltare un nuovo episodio ogni sabato mattina, su Spotify, Apple Podcast, YouTube Music oppure direttamente sul nostro sito.

Volkswagen ha annunciato un richiamo globale che coinvolge oltre 94.000 veicoli elettrici costruiti sulla piattaforma MEB, tra cui diversi modelli della gamma ID, tra cui la 3, la 4, la 5, più la Cupra Born.

Il difetto riguarda i moduli batteria ad alta tensione, nei quali si è visto che un disallineamento degli elettrodi interni potrebbe causare una riduzione dell'autonomia, l'accensione di spie sul cruscotto e nei casi più gravi un rischio di incendio.

Il problema era già emerso a gennaio negli Stati Uniti, dove la NHTSA aveva disposto un richiamo limitato alle Volkswagen ID.4.

Il provvedimento europeo, però, risulta più ampio per numero di modelli coinvolti.

In questo caso la soluzione prevede un aggiornamento software e l'ispezione fisica delle batterie, con sostituzione dei moduli non conformi.

Per fortuna, però, ad oggi non si registrano danni a persone o cose riconducibili al difetto.

Si tratta, questo, di un tema che affronteremo più nel dettaglio proprio nella puntata di oggi, poiché questa vicenda ci ricorda come anche le tecnologie più avanzate non sono immuni da possibili vulnerabilità.

Dopo più di un anno dal lancio al pubblico, OpenAI ha annunciato la chiusura di Sora, il suo software di generazione video, che ha spopolato sui social fin dal suo debutto.

Ma non solo, l'azienda ha infatti anche rinviato a tempo indeterminato la tanto attesa "Adult Mode" di ChatGPT.

Tra le conseguenze, Disney ha immediatamente rescisso l'accordo da un miliardo di dollari che avrebbe portato l'universo Marvel e Star Wars nei modelli di OpenAI.

Ma quali sono le ragioni dietro questa scelta?

Le ipotesi principali sono legate ai costi di mantenimento, eccessivi secondo gli analisti, e, dall'altro, una scarsa domanda reale di mercato per video sintetici di lunga durata.

Per quanto riguarda la modalità per adulti, invece, il rinvio è dovuto a diversi problemi di sicurezza.

Test interni hanno infatti rivelato che gli algoritmi di verifica falliscono nel 12% dei casi, esponendo potenzialmente milioni di minori a contenuti espliciti.

Dall'altro lato, invece, l'introduzione di chat erotiche sarebbe rischiosa per numerosi utenti, con il chatbot che alimenterebbe dipendenze emotive che potrebbero, come nel caso del sedicenne Adam Raine, portare a conseguenze tragiche come il suicidio.

L'azienda ha quindi dichiarato che continuerà a investire in progetti di intelligenza artificiale generativa, ma si concentrerà su aree più produttive e meno controverse, come la programmazione e la robotica.

La decisione di chiudere Sora e rinviare l'Adult Mode è stata accolta con sorpresa e delusione da molti utenti, ma riflette una strategia più ampia di OpenAI per concentrarsi su prodotti "core" e affrontare le sfide etiche e sociali legate all'intelligenza artificiale generativa.

Una giuria del New Mexico ha condannato Meta per aver danneggiato consapevolmente la salute mentale dei minori e nascosto i rischi di sfruttamento sessuale sulle proprie piattaforme social.

Dopo un lungo processo è stato stabilito che l'azienda ha violato le leggi sulle pratiche commerciali scorrette, dando la priorità ai profitti, piuttosto che alla tutela dei giovanissimi.

La sanzione inflitta ammonta 375 milioni di dollari, una cifra che tuttavia non ha minimamente scosso il valore in borsa del colosso di Mark Zuckerberg.

Questa sentenza storica rappresenta un punto di svolta decisivo nell'offensiva governativa americana contro le big tech e fa da apripista a oltre 40 cause simili già promosse da altri stati americani.

L'accusa ha dimostrato tramite indagini sotto copertura e documenti interni sfuggiti al controllo, come gli algoritmi di Meta siano volutamente progettati per creare un'estrema dipendenza, esponendo gli adolescenti a contenuti nocivi e a predatori senza un adeguato filtro.

Sebbene l'azienda abbia annunciato ricorso difendendo l'efficacia dei propri sistemi di sicurezza, a maggio il giudice deciderà se Meta dovrà anche finanziare programmi pubblici per riparare i pesanti danni sociali causati.

C'è un'idea molto rassicurante che accompagna ogni grande lancio tecnologico.

La percezione che questa volta sia diverso, che il prodotto appena presentato sul palco, con le sue forme perfette e con le sue prestazioni da capogiro, rappresenti finalmente il punto di arrivo e la soluzione definitiva ai problemi del passato.

Ogni nuova generazione di processori è più sicura della precedente, ogni smartphone è più affidabile di quello che ha sostituito, ogni sistema software è stato progettato tenendo conto degli errori altrui.

È una narrazione sicuramente efficace a livello comunicativo, ma come vedremo tra poco è in larga parte falsa.

La storia della tecnologia moderna, letta senza l'abbellimento dei comunicati stampa, è costellata di fallimenti clamorosi.

Esplosioni nelle tasche, aerei precipitati per colpa di un sensore difettoso, razzi esplosi in cielo per un errore di conversione tra tipi di dato, infrastrutture globali mandate in tilt da un aggiornamento di 40 kilobyte.

Questi eventi non sono anomalie isolate, sono il risultato di dinamiche ricorrenti, come la pressione di mercato che comprime i tempi di sviluppo o la tendenza a eliminare le ridondanze nel nome dell'efficienza.

L'obiettivo della puntata di oggi è riprendere il filo del discorso iniziato lo scorso dicembre, quando ci siamo interrogati sui rischi legati alle estreme digitalizzazioni di funzioni un tempo puramente analogiche.

Proseguendo questo nostro viaggio attraverso le fragilità del mondo tecnologico, andremo a ripercorrere gli eventi storici più clamorosi in cui l'innovazione ha mancato il proprio obiettivo.

Cercheremo di analizzare a fondo i fattori scatenanti di questi disastri, scoprendo come, dietro a collassi di un'intera rete o perdite milionarie, si nascondano molto spesso leggerezze, pressioni commerciali o banali disattenzioni umane.

Uno dei casi più noti che si potrebbero citare riguarda il Samsung Galaxy Note 7, lanciato nell'agosto 2016 e ricordato come lo smartphone che ha preso fuoco nelle mani delle persone che l'hanno acquistato.

Samsung era, all'epoca, il produttore di dispositivi mobili più potente al mondo.

L'obiettivo del Note 7 era di consolidare il dominio nel segmento premium e anticipare l'uscita dell'iPhone 7 di Apple.

Per raggiungere questo obiettivo, Samsung aveva progettato un dispositivo con una batteria ad alta capacità, racchiusa in un telaio di alluminio e vetro estremamente sottile e sigillato.

Il problema, tuttavia, è che non c'era spazio sufficiente per la normale espansione termica delle celle della batteria.

Quando perciò la batteria si caricava, gli elettrodi interni venivano compressi meccanicamente, generando cortocircuiti interni, e le conseguenze erano esplosioni e incendi, documentati in video da tutto il mondo.

Samsung rispose con un primo richiamo globale, dichiarando il problema circoscritto a un singolo fornitore di batterie.

I dispositivi sostitutivi arrivarono rapidamente.

Pochi giorni dopo, però, anche questi presero fuoco.

Era dunque la dimostrazione che il difetto non era del fornitore, ma dell'architettura del telefono.

Il telaio, infatti, era semplicemente troppo compresso per contenere in sicurezza quella densità energetica.

Senza possibili soluzioni, nell'ottobre del 2016, Samsung ritirò definitivamente oltre 2,5 milioni di unità, con stime che indicarono una perdita di almeno 17 miliardi di dollari in ricavi potenziali.

Se il Note 7 è un esempio di fallimento nell'elettronica di consumo, il caso del Tesla Cybertruck illustra come delle banalissime leggerezze nella catena di montaggio possano compromettere sistemi tecnologicamente avanzati e in questi casi funzionanti.

Il pick-up di Tesla, nel suo primo anno di vendite del 2024, ha accumulato almeno otto richiami ufficiali, un numero insolitamente alto.

Tra tutti i difetti, il più grave riguarda il pedale della acceleratore.

La sua copertura metallica tendeva a scivolare in avanti e a incastrarsi sotto il rivestimento del cruscotto, bloccando il pedale in posizione di massima accelerazione.

In un veicolo elettrico con coppia praticamente istantanea, questa condizione introduceva un rischio potenzialmente fatale.

L'indagine tecnica rivelò una causa al limite del paradossale.

Per agevolare il montaggio in fabbrica, i lavoratori avevano iniziato a usare sapone industriale come lubrificante.

Il sapone residuo aveva eliminato l'attrito necessario a mantenere il componente in posizione.

Il risultato fu che la National Highway Traffic Safety Administration impose il richiamo di tutte le 3878 unità prodotte.

Per trovare invece uno dei fallimenti più formativi nella storia dei semiconduttori, bisogna tornare al 1994, quando Intel aveva appena lanciato il Pentium.

A differenza dei casi precedenti, questo non fu né un fallimento termico né meccanico.

Fu puramente matematico.

L'unità in virgola mobile del processore, deputata ai calcoli con i decimali, conteneva un errore nell'algoritmo di divisione.

Per accelerare i calcoli, il chip utilizzava una tabella di valori precompilata direttamente nel silicio.

In fase di progettazione, alcune celle di questa tabella erano state accidentalmente omesse.

Il risultato era che, per certi parametri specifici, il processore produceva risultati di divisione errati a partire da una certa cifra decimale.

Nella pratica quotidiana, la probabilità di incontrare l'errore era statisticamente remota.

Ma la comunità scientifica e finanziaria non lavorava con calcoli casuali, ma con parametri precisi e una minuscola imprecisione sarebbe stata inaccettabile.

La reazione iniziale di Intel fu quella di minimizzare, ma quando IBM sospese le vendite dei PC basati su Pentium, Intel fu costretta a fare marcia indietro, adottando una politica di sostituzione totale senza condizioni.

Si tratta in questo caso del primo richiamo completo di un processore nella storia industriale al costo di 475 milioni di dollari.

Questo errore spinse Intel e l'intera industria ad adottare tecniche di verifica formale del silicio prima della produzione, trasformando il modo in cui i chip vengono progettati ancora oggi.

Le lezioni date dall'Intel Pentium hanno dimostrato che non ci si può fidare ciecamente di nessun sistema, e la complessità non giustifica la rinuncia alle verifiche.

Purtroppo, l'industria dell'aviazione commerciale le aveva già dimenticate quando, nel 2018, si abbatté il più grande scandalo della storia dei trasporti globali.

Il Boeing 737 MAX nacque da una scelta di mercato.

Quando Airbus annunciò l'A320 Neo, con motori di nuova generazione più efficienti del 15%, Boeing si trovò di fronte ad un bivio.

Sviluppare un aereo completamente nuovo avrebbe richiesto quasi un decennio, dunque l'opzione non era percorribile.

La soluzione scelta fu invece più rapida e meno costosa, aggiornare il vecchio 737 montando i nuovi motori.

I motori però erano più voluminosi e il telaio del 737 aveva un'altezza da terra limitata.

Per farli stare, gli ingegneri li spostarono più avanti e più in alto sulle ali.

Questa modifica alterò il baricentro del velivolo, introducendo un'instabilità strutturale, ovvero che in certe condizioni il muso dell'aereo tendeva a sollevarsi eccessivamente.

Invece di riprogettare l'aereo, Boeing introdusse un sistema software nascosto, l'MCAS, con il compito di correggere qualsiasi instabilità, spingendo automaticamente il muso verso il basso.

Il sistema però aveva due difetti cruciali: il primo è che si affidava ai dati di un singolo sensore esterno senza ridondanza; il secondo deriva dal fatto che Boeing ottenne dalla FAA, la Federal Aviation Administration statunitense, l'approvazione

per omettere completamente qualsiasi menzione dell'MCAS nei manuali operativi dei piloti, che volavano su un aereo senza sapere che quel sistema esistesse.

Nell'ottobre del 2018 il volo Lion Air 610 precipitò nel mar di Giava, nel marzo del 2019 il volo Ethiopian Airlines 302 si schiantò poco dopo il decollo da Addis Abeba.

In totale 346 persone morirono, le scatole nere rivelarono la stessa dinamica in entrambi i casi.

Tutto partiva quando un sensore difettoso inviava valori falsi.

L'MCAS dunque si attivava ripetutamente, spingendo infine il muso verso il basso e in tutto ciò i piloti non potevano capire da dove venisse quella forza.

L'aereo fu messo a terra per oltre 22 mesi e le inchieste rivelarono che la FAA aveva delegato parti del processo di certificazione agli stessi dipendenti Boeing, sotto pressione per rispettare le scadenze.

Il 737 MAX rimane oggi l'esempio più drammatico di come i costi del debito tecnico e della subordinazione dell'etica ingegneristica vengano scavalcati dalle logiche meramente commerciali.

A volte i fallimenti più costosi nascono però da errori di pochi byte, praticamente invisibili e nascosti in un codice scritto anni prima per un contesto completamente diverso.

Il 4 giugno 1996 l'Agenzia Spaziale Europea vide disintegrarsi il suo nuovo lanciatore pesante Ariane 5 nel volo V88, appena 37 secondi dopo il lancio inaugurale dalla Guyana francese.

Con esso andarono distrutti quattro satelliti scientifici del programma Cluster.

La perdita fu stimata intorno ai 370 milioni di dollari, ma anche in questo caso la causa non era più semplicemente riconducibile alla propulsione o alla struttura.

Era in una riga di codice e il software di bordo era incaricato, tra le altre cose, di misurare in tempo reale la velocità laterale del velivolo durante l'ascesa, un dato fondamentale per la rotta corretta.

Quel numero veniva calcolato con grande precisione e conservato in memoria in un formato capace di rappresentare valori enormi, come si farebbe scrivendo un importo su un foglio di carta con molte cifre a disposizione.

A un certo punto però il programma doveva trasferire quel valore in uno spazio di memoria molto più piccolo, capace di contenere solo numeri fino a circa 32.000.

Era come voler copiare un numero a 10 cifre in una casella disegnata per accoglierne al massimo 5.

Semplicemente non ci stava.

Il problema era che quel codice era stato scritto un decennio prima per l'Ariane 4, un razzo molto meno potente.

Su quel vecchio velivolo, la velocità laterale durante il decollo non aveva mai prodotto un numero abbastanza grande da causare quel traboccamento, e quindi nessuno aveva pensato di aggiungere un controllo di sicurezza per gestire l'eventualità.

L'Ariane 5 però era appunto molto più potente e accelerava in modo molto aggressivo.

Già nei primi secondi di volo generava valori ben oltre il limite tollerato.

Quando perciò il codice tentò l'operazione, il numero, per così dire, "straripò fuori" dallo spazio disponibile.

Il computer di bordo andò così in crash, e il sistema di riserva, identico al primo, fece la stessa fine pochi decimi di secondo dopo.

Privo di qualsiasi informazione sul proprio orientamento, il computer di volo scambiò i messaggi di errore con istruzioni di manovra reali, comandò ai motori una brusca rotazione e il razzo si spezzò sotto la pressione dell'aria.

In tale contesto il sistema di sicurezza innescò le cariche esplosive per evitare che i detriti cadessero su zone abitate.

Il rapporto finale sottolineò un fatto che avrebbe dovuto essere ovvio, ovvero che le simulazioni pre-volo erano state condotte usando i dati registrati dai voli dell'Ariane 4, non quelli dell'Ariane 5.

Se i test fossero stati eseguiti con i parametri fisici del nuovo razzo, il bug sarebbe emerso in laboratorio mesi prima del lancio.

Se tutti i fallimenti descritti finora hanno colpito singoli prodotti o singoli settori, quello che si verificò il 19 luglio 2024 fu un evento che paralizzò simultaneamente aeroporti, ospedali, banche e media in tutto il mondo nel giro di meno di due ore.

Il protagonista fu CrowdStrike, un'azienda texana di cybersicurezza che aveva costruito la sua fortuna vendendo la piattaforma Falcon Sensor, installata su centinaia di milioni di macchine Windows in tutto il mondo.

Alle 6 di mattina in Italia distribuì automaticamente un aggiornamento di configurazione, come faceva ogni giorno.

In questo caso si trattava di un file di circa 40 kilobyte, ma che conteneva un errore elementare.

Prevedeva in pratica 21 campi di variabili logiche, mentre il codice del sensore installato sui computer era stato progettato per leggerne esattamente 20.

Quando il sensore tentò di leggere il ventunesimo campo, cercò in memoria un'area che non esisteva.

Questa operazione, chiamata "out-of-bounds memory read", è una delle violazioni più gravi che il kernel di Windows possa rilevare in un processo con i massimi privilegi di sistema.

La risposta fu la famosa schermata blu, il riavvio forzato, e poi di nuovo la schermata blu.

In un ciclo infinito da cui le macchine non riuscivano ad uscire.

Nel giro di 78 minuti, secondo le stime di Microsoft, 8,5 milioni di sistemi Windows erano fuori uso, e come conseguenza di ciò vennero cancellati quasi 17.000 voli nelle 72 ore successive.

Gli ospedali inoltre non riuscivano ad accedere alle cartelle cliniche, i supermercati non potevano processare i pagamenti con carta, mentre le reti televisive non riuscivano a trasmettere.

CrowdStrike rilasciò rapidamente una correzione, ma il paradosso era che per scaricare il fix via internet, un computer doveva prima riuscire ad avviarsi normalmente.

Decine di migliaia di tecnici in tutto il mondo trascorsero perciò un lungo weekend, spostandosi fisicamente da un computer all'altro per intervenire manualmente su ogni singola macchina.

Dopo aver discusso di questi episodi, emerge un pattern che attraversa settori e decenni con una coerenza paradossale.

In tutti questi casi, il fallimento non nasce dall'impossibilità fisica di fare meglio, ma dalla scelta di non farlo, per ragioni di tempo, di costo o di convenienza commerciale.

Samsung sapeva che il telaio del Note 7 era al limite della gestione termica, ma il calendario commerciale non ammetteva ritardi.

Boeing sapeva che il 737 MAX aveva un'instabilità aerodinamica strutturale, ma il costo di una ricertificazione completa avrebbe compromesso l'intero progetto.

Gli sviluppatori di CrowdStrike avevano un sistema di validazione, ma conteneva un difetto logico che permetteva ai file malformati di passare inosservati.

I programmatori dell'Ariane 5 riutilizzarono il codice dell'Ariane 4 senza testarlo nel nuovo contesto.

In tutti questi casi, dunque, il sistema di controllo qualità esisteva, ma era stato costruito in modo da non rilevare l'errore specifico che poi causò il disastro.

C'è anche un'altra costante, ovvero il "single point of failure", il singolo nodo critico la cui rottura compromette l'intero sistema.

L'MCAS del 737 MAX si affidava a un solo sensore.

Il bug del Pentium era localizzato in una sola tabella di valori, senza meccanismi di verifica indipendente.

Perciò ogni volta che un sistema complesso viene semplificato eliminando le ridondanze, si risparmia nel breve periodo e si accumula fragilità nel lungo periodo.

E la fragilità, prima o poi, si manifesta nel momento meno opportuno.

La lezione più profonda che emerge da questi fallimenti non è tecnica, perché non si tratta solo di imparare a scrivere codice migliore o a fare test più accurati, anche se entrambe le cose sono necessarie.

Si tratta di riconoscere che il debito tecnico, ovvero l'accumulo di compromessi e scorciatoie nella progettazione, non è una metafora, ma un debito reale, che prima o poi viene riscosso con interessi molto più alti di quanto previsto.

Intel pagò 475 milioni di dollari per un errore in una tabella di valori.

Boeing pagò con 346 vite umane.

CrowdStrike mise in crisi un'economia globale per un disallineamento di un singolo parametro.

Forse il contributo più onesto che queste storie possono offrire non è un manuale di istruzioni, ma una forma di umiltà necessaria.

La tecnologia non è magia e non è infallibile, è il prodotto di decisioni umane prese in contesti di pressione e incertezza.

L'obiettivo, perciò, non deve essere l'assenza totale di errori, che è un'utopia, ma la capacità di costruire sistemi che, quando falliscono, falliscano in modo contenuto, prevedibile e recuperabile.

E così si conclude questa puntata di INSiDER - Dentro la Tecnologia, Io ringrazio come sempre la redazione e in special modo Matteo Gallo e Luca Martinelli, che ogni sabato mattina ci permettono di pubblicare un nuovo episodio.

Per qualsiasi tipo di domanda o suggerimento scriveteci a redazione@dentrolatecnologia.it, seguiteci su Instagram a @dentrolatecnologia dove durante la settimana pubblichiamo notizie e approfondimenti.

In qualsiasi caso nella descrizione della puntata troverete tutti i nostri social.

Se trovate interessante il podcast condividetelo che per noi è un ottimo modo per crescere e non dimenticate di farci pubblicità.

Noi ci sentiamo la settimana prossima.