Responsabilità morale, intelligenza artificiale e il vuoto che nessuno vuole riempire
In una puntata di Beyond, lo speciale di Sky TG24 dedicato all’innovazione, Luciano Floridi e Mariarosaria Taddeo si trovano sullo stesso palco a parlare di intelligenza artificiale. Non di come funziona, quello lo sanno tutti, ormai, o credono di saperlo, ma di cosa succede quando qualcosa va storto. Quando la macchina agisce, produce un risultato, e quel risultato ha conseguenze, chi ne risponde?
La domanda resta ancora sospesa perché la risposta è scomoda: in molti casi, oggi, non risponde nessuno.
Il divorzio tra agire e comprendere
Floridi, filosofo dell’informazione, direttore del Centro di Etica Digitale a Yale e professore all’Università di Bologna, ha formulato una tesi che dovrebbe togliere il sonno a chiunque si occupi di tecnologia: l’intelligenza artificiale non è intelligenza. È agentività.
Un agente intelligente, un essere umano, agisce perché comprende. Valuta, decide, si assume le conseguenze. Un agente artificiale agisce perché è stato addestrato a produrre output statisticamente plausibili sulla base di enormi quantità di dati. Non comprende nulla. Non ha intenzioni. Non sa cosa sta facendo. Eppure agisce.
E agisce con un’efficacia che spesso supera quella dell’agente umano. Diagnostica malattie, scrive codice, genera testi, suggerisce investimenti, seleziona candidati per un colloquio di lavoro. Lo fa senza capire cosa sia una malattia, un programma, un testo, un investimento, un lavoro.
Floridi chiama questo fenomeno il “divorzio senza precedenti tra agentività e intelligenza”. Per la prima volta nella storia, qualcosa può agire nel mondo, in modo consequenziale, senza avere la minima idea di quello che sta facendo. E noi gli stiamo delegando decisioni che contano.
La catena spezzata
Qui entra Mariarosaria Taddeo. Filosofa italiana, professoressa di Digital Ethics and Defence Technologies all’Oxford Internet Institute, membro del pannello etico consultivo del Ministero della Difesa britannico, autrice di The Ethics of Artificial Intelligence in Defence. Una che la responsabilità morale non la studia in astratto: la studia dove le decisioni uccidono.
Il suo punto, nella puntata di Beyond, è chirurgico: è difficile risalire all’azione originaria che ha determinato un certo comportamento della macchina. E poiché si è responsabili moralmente solo se si ha l’intenzione di fare qualcosa, in un mondo dove sempre più azioni vengono delegate alle macchine ci sarà, c’è già, un problema serio di comprensione della responsabilità.
Proviamo a sbobinare questa frase. La responsabilità morale, da Aristotele in poi, funziona lungo una catena: qualcuno decide, qualcuno agisce, qualcuno risponde. L’intenzione è il primo anello. Se fai qualcosa sapendo cosa fai e scegliendo di farlo, sei responsabile. Se la tua azione produce un danno che non potevi prevedere, la responsabilità si attenua. È il principio su cui si regge il diritto, la deontologia professionale, la vita civile.
L’intelligenza artificiale spezza questa catena in un punto che nessuno sa indicare con precisione. Un algoritmo nega un mutuo a una famiglia. Chi ha deciso? Il programmatore che ha scritto il codice due anni prima? Il data scientist che ha scelto i dati di addestramento? Il manager che ha deciso di automatizzare il processo? L’azienda che ha venduto il software alla banca? La banca che lo ha adottato? Il regolatore che non ha vietato l’uso?
Ognuno di questi attori può legittimamente dire: non sono stato io. Il programmatore ha scritto un algoritmo generico, non sapeva che sarebbe stato usato per i mutui. Il data scientist ha selezionato dati storici che riflettevano bias esistenti, non li ha inventati. Il manager ha seguito una direttiva di efficienza. L’azienda ha venduto un prodotto legale. La banca ha cercato di ridurre i costi. Il regolatore non aveva gli strumenti per intervenire.
Il risultato è un danno reale, una famiglia che non ottiene casa, prodotto da una catena in cui nessun singolo anello porta il peso della decisione. La responsabilità è evaporata ed è diventata irrintracciabile.
L’infosfera come campo di battaglia
Il lavoro congiunto di Floridi e Taddeo illumina un altro aspetto della questione, forse il più inquietante. Nel 2014 hanno curato insieme The Ethics of Information Warfare, un volume in cui Taddeo propone il concetto di “Just Information Warfare”, una guerra dell’informazione giusta, modellata sulla Just War Theory classica ma integrata con l’etica dell’informazione di Floridi.
L’idea di fondo è che il cyberspazio non è un campo di battaglia metaforico ma reale, dove si producono danni reali alla privacy, alle infrastrutture, alla democrazia, attraverso azioni che non coinvolgono proiettili, esplosioni o corpi feriti, ma che alterano, corrompono o distruggono entità informazionali. E queste entità, per Floridi, hanno un valore intrinseco: non solo perché servono agli esseri umani, ma perché l’infosfera, l’ambiente informazionale in cui viviamo immersi, è un ecosistema che merita protezione in quanto tale.
Nel 2018, sempre insieme, hanno scritto su Nature un appello a regolamentare l’intelligenza artificiale per evitare una corsa agli armamenti cyber. L’argomento era limpido: senza governance, l’IA applicata al dominio militare avrebbe prodotto un’escalation incontrollabile. Non perché le macchine si sarebbero ribellate, ma perché nessuno avrebbe saputo chi stava decidendo cosa. La stessa opacità della catena di responsabilità, trasferita dal mutuo negato al missile lanciato.
Nel 2025 hanno pubblicato un paper su un approccio regolatorio basato sul rischio per i sistemi d’arma autonomi, e un altro che propone di ripensare il controllo umano sull’IA: non più come supervisione dall’alto, ma come teaming, collaborazione tra umano e macchina. Se non possiamo eliminare l’agentività artificiale, dobbiamo almeno costruire strutture in cui l’umano resti dentro il processo decisionale, non fuori, come coresponsabile.
Il giornalismo e il fantasma dell’autore
La responsabilità non si dissolve solo nei domini estremi della difesa e della finanza ma, e forse soprattutto, nel dominio dell’informazione. Quello che ci riguarda tutti, ogni giorno, ogni volta che apriamo un giornale, un sito, un feed.
Nel gennaio 2023, la testata americana CNET ha pubblicato 77 articoli di consulenza finanziaria generati da un’intelligenza artificiale interna, firmandoli con il nome generico “CNET Money Staff”. I lettori dovevano passare il mouse sulla firma per scoprire che quei testi erano stati prodotti “con tecnologia automatizzata”. Quando il sito Futurism ha scoperto e reso pubblica la cosa, un audit interno ha rivelato che più della metà di quegli articoli, 41 su 77, conteneva errori. Alcuni “sostanziali”, come un articolo sull’interesse composto che sbagliava il calcolo in almeno cinque punti. Altri articoli presentavano frasi copiate quasi identiche da pezzi pubblicati in precedenza su altre testate.
Qui l’articolo del Washington Post che ne parla.
Chi ha risposto? La direttrice di CNET ha pubblicato un editoriale. Ha ammesso le correzioni. Ha messo in pausa lo strumento. E ha dichiarato che l’uso dell’IA sarebbe ripreso appena il processo editoriale fosse stato migliorato. Il danno, nel frattempo, era fatto: consigli finanziari sbagliati, pubblicati a nome di una testata autorevole, letti e presumibilmente seguiti da un numero imprecisato di persone. Il programmatore che ha costruito il motore IA non sapeva quali articoli sarebbero stati scritti. I redattori che dovevano verificare i testi non li hanno verificati a sufficienza. La direzione ha inseguito il risparmio e la velocità. L’intelligenza artificiale ha prodotto dati falsi perché è quello che fa quando non sa qualcosa: inventa con sicurezza.
La catena della responsabilità editoriale, che è il fondamento del giornalismo, la ragione per cui esiste una firma sotto ogni articolo, un direttore responsabile in ogni testata, si è spezzata nello stesso punto esatto in cui si spezza nel caso del mutuo e del drone. Nel punto in cui l’agentività artificiale entra nel processo e nessuno sa più dire dove finisce il contributo della macchina e dove inizia quello dell’umano.
E c’è un’aggravante specifica nel caso dell’informazione. Un mutuo negato ingiustamente danneggia una famiglia. Un articolo falso danneggia la fiducia, e la fiducia, una volta persa, non si ripristina con un aggiornamento software. Quando i lettori scoprono, e prima o poi lo scoprono, che la catena editoriale si è spezzata in un punto che nessuno sa indicare, smettono di fidarsi del giornalismo. E una democrazia senza giornalismo credibile non è una democrazia, ma solo uno spettacolo.
A chi conviene il vuoto
C’è un punto che va detto con chiarezza: la catena della responsabilità non si è spezzata per caso, ma perché a qualcuno l’opacità conviene.
L’azienda tecnologica che sviluppa il modello inserisce un disclaimer nelle condizioni d’uso: i risultati possono contenere inesattezze. Con quella riga si lava le mani in anticipo. L’impresa che adotta lo strumento risparmia sul personale, accelera la produzione, scala i volumi. Se qualcosa va storto, il problema è del modello. L’utente finale, il lavoratore, il giornalista, il medico che usa l’IA come supporto, si ritrova con la responsabilità scaricata addosso senza avere gli strumenti per verificare ogni singolo output.
L’evaporazione della responsabilità è una sorta di funzionalità: un sistema opaco produce profitto perché l’opacità consente di esternalizzare il rischio verso il basso e concentrare il vantaggio verso l’alto. Lo sviluppatore guadagna vendendo il modello. La piattaforma guadagna distribuendolo. L’impresa guadagna tagliando i costi. E quando il danno si manifesta, ciascuno punta il dito altrove.
Chi ha letto Debord riconosce il meccanismo: lo spettacolo funziona esattamente così, rendendo irrintracciabile il soggetto del potere. L’IA generativa aggiunge un livello ulteriore: non solo il soggetto è irrintracciabile, ma in senso stretto non esiste. L’agente che ha prodotto il danno non ha coscienza, non ha intenzione, non ha interesse. È il vettore perfetto per una deresponsabilizzazione strutturale. E il fatto che questa deresponsabilizzazione venga presentata come progresso tecnologico rende il quadro ancora più netto.
L’AI Act: la promessa e il rinvio
L’Unione Europea ha provato a costruire quell’architettura della responsabilità che Floridi e Taddeo invocano. L’AI Act (Regolamento UE 2024/1689), il primo quadro normativo al mondo interamente dedicato all’intelligenza artificiale, è entrato in vigore il 1° agosto 2024 con un’applicazione graduale. Dal febbraio 2025 sono operativi i divieti sui sistemi a rischio inaccettabile. Dall’agosto 2025 valgono gli obblighi sui modelli di IA general purpose. La piena applicazione, compresi gli obblighi sui sistemi ad alto rischio, è prevista per agosto 2026.
Il principio è chiaro: nessuna decisione ad alto impatto può essere delegata integralmente a un sistema automatizzato. Le aziende che usano IA ad alto rischio dovranno garantire supervisione umana, tracciabilità delle decisioni, gestione documentata del rischio. La responsabilità ricade direttamente sull’impresa.
Sulla carta è un passo avanti enorme. Nella pratica, il quadro si è già complicato. A maggio 2026, il Consiglio e il Parlamento europeo hanno raggiunto un accordo sul cosiddetto “Digital Omnibus“, un pacchetto di semplificazione che rinvia diversi obblighi sui sistemi ad alto rischio dal 2026 al 2027 o al 2028, attenua le responsabilità dirette e trasforma alcuni doveri vincolanti in “formule di incoraggiamento”. Come ha scritto Oreste Pollicino, il testo conserva il lessico dei diritti fondamentali ma ne diluisce la forza operativa proprio nel momento decisivo della loro attuazione.
Il sospetto, fondato, è che la semplificazione risponda più alle pressioni delle Big Tech americane che alla tutela dei cittadini europei. L’Europa conserva la retorica della sovranità digitale mentre alleggerisce proprio i segmenti normativi che l’industria tecnologica contestava. Il risultato: un regolamento che assegna obblighi per categorie di rischio, ma che non risolve, e forse non può risolvere, il nodo filosofico di fondo. Puoi imporre trasparenza e documentazione, puoi obbligare le aziende a dichiarare come funzionano i loro modelli, puoi sanzionare chi non si adegua. Ma non puoi, per legge, ricomporre una catena causale che per sua natura è distribuita, opaca e priva di un soggetto morale al centro.
Il diritto arriva fin dove può. Il resto è etica, e l’etica è più lenta e meno finanziata.
L’uso responsabile come atto politico
Questo non è un articolo contro l’intelligenza artificiale. Sarebbe come argomentare contro l’elettricità perché qualcuno può prendere la scossa. L’IA è qui, è utile, è potente, e non se ne andrà.
Taddeo e Floridi, ciascuno dal proprio angolo, convergono su un punto: serve un’architettura della responsabilità. Non bastano i principi etici, ne abbiamo già troppi, e Floridi stesso ha scritto dell’ “inflazione normativa” che rischia di produrre un effetto al lupo al lupo. Servono strutture, meccanismi, regole che assegnino la responsabilità in modo tracciabile lungo tutta la catena.
Ma serve anche, e forse prima di tutto, competenza, nel senso di comprendere cosa si sta usando, quali sono i limiti, dove si generano i rischi, e quale responsabilità ci si assume nel momento in cui si preme invio. Su questo fronte, vale la pena segnalare un’iniziativa concreta. La Harvard Kennedy School ha reso interamente accessibile e gratuito il corso The Science and Implications of Generative AI, tenuto dai professori Sharad Goel, Dan Levy e Teddy Svoronos. È un percorso completo, con video, slide e attività pratiche, che tiene insieme tre livelli che di solito vengono trattati separatamente: come funziona l’IA generativa (dalla scienza dei modelli al problema dell’allineamento), come usarla in modo efficace (prompting, RAG, system prompt), e quali implicazioni porta con sé per la società (rischi, copyright, futuro del lavoro, disinformazione). Il corso è disponibile qui, sotto licenza Creative Commons.
È significativo che questo corso venga da una scuola di public policy, non da un dipartimento di informatica. Perché la questione, ancora una volta, non è tecnica ma politica: chi decide come si usa questa tecnologia, chi ne beneficia, chi ne paga le conseguenze, e chi ha gli strumenti per capire la differenza.
La domanda giusta
Nella puntata di Beyond, Taddeo dice una cosa che resta: in un mondo dove sempre più azioni sono svolte da macchine, ci sarà un problema di comprensione della responsabilità morale. Ovvero: non sappiamo più cosa significhi essere responsabili quando l’agente che ha agito non è umano, non ha intenzioni, non comprende le conseguenze delle proprie azioni, e la catena causale che lo ha portato ad agire è così lunga e ramificata che nessuno può ricostruirla per intero.
Floridi, dal canto suo, ci ha dato il vocabolario per nominare il problema: agentività senza intelligenza. Un’azione senza un soggetto morale dietro. Un effetto senza una causa che abbia una coscienza.
Smettiamo quindi di chiederci se l’intelligenza artificiale sia buona o cattiva, ma semplicemente chi risponde quando la macchina sbaglia? E il fatto che ancora oggi, nella maggior parte dei casi, la risposta sia nessuno, ecco, quel silenzio è già di per sé una risposta. Ed è la peggiore possibile.