«L’intelligenza artificiale sta cambiando il mondo, ma non senza inciampi». Lo ha detto Stefano Cerri, ricercatore di spicco europeo, durante la Digital Week 2026 a Milano. Dietro ai grandi numeri e agli algoritmi sofisticati, c’è una sfida concreta: garantire che le macchine non solo parlino o scrivano bene, ma che siano sicure, affidabili e responsabili. Enrico Motta, esperto di tecnologie della conoscenza, ha raccolto il guanto, sottolineando quanto sia urgente mettere regole chiare. Perché l’AI, ormai, non è più solo una promessa, ma un elemento cruciale in settori delicati come industria, sanità e robotica.
Dai primi esperimenti ai modelli di oggi: la sfida di un’AI che non tradisca la fiducia
L’intelligenza artificiale ha percorso una strada lunga e tortuosa, fatta di grandi ambizioni e ostacoli concreti. Negli anni Sessanta, con i General Problem Solvers, si cercava di riprodurre il ragionamento umano attraverso regole precise e algoritmi logici. Ma il vero scoglio era l’acquisizione della conoscenza: troppo lenta e complessa per passare dalla teoria alla pratica. Nel 1984, il progetto Cyc tentò di formalizzare la conoscenza umana grazie al lavoro di esperti, ma era un’impresa colossale.
Poi sono arrivati i Large Language Model, basati su reti neurali e allenati su milioni di testi digitali. Questi sistemi comprendono il linguaggio in modo profondo e flessibile. Ma, come ha spiegato Motta, non basta. Le aziende vogliono sistemi chiari, trasparenti e regolati, soprattutto quando si parla di applicazioni critiche come industria e sanità. I modelli probabilistici, per quanto sofisticati, restano spesso “opachi” e a volte imprevedibili.
Agenti autonomi, un rischio da non sottovalutare: la necessità di un controllo stretto
Quando si lascia che agenti autonomi operino senza supervisione continua, i rischi aumentano. Negli ultimi anni sono emersi casi di software che hanno raccolto dati sensibili senza autorizzazione, o malfunzionamenti in piattaforme come Hugging Face. Questo “disallineamento” – cioè quando le macchine non seguono gli obiettivi dichiarati – può portare a problemi di conformità gravi.
Il vero nodo, sottolinea Motta, sta nel tradurre la conoscenza pratica di medici, ingegneri e altri esperti in algoritmi rigorosi. Questa esperienza tacita è difficile da formalizzare e diventa critica quando l’AI deve lavorare in contesti complessi e incerti. Se i modelli linguistici sono bravi a interpretare il linguaggio quotidiano, spesso faticano a replicare decisioni strutturate, specialmente dove il rischio è alto.
Neuro-simbolico, la via per un’AI con regole inderogabili
Per superare i limiti dei modelli solo statistici, la ricerca guarda ai sistemi “neuro-simbolici”. Qui si uniscono la capacità dei modelli neurali di generare linguaggio con la precisione della logica simbolica e delle ontologie formali. Questi meccanismi fanno da “guardrail”, filtrando e controllando ogni output prima che venga usato in situazioni critiche, aumentando così la sicurezza.
Motta mette in evidenza che questa combinazione è fondamentale soprattutto per l’industria: affidare decisioni solo a reti neurali è troppo rischioso. Così si costruiscono barriere solide contro derive pericolose, che possono causare danni economici o legali. Le principali aziende del settore stanno lavorando insieme per definire standard condivisi, indispensabili per competere sul mercato globale.
Robotica e “allucinazioni” visive: l’importanza di regole chiare
Un esempio lampante dei problemi legati all’assenza di regole esplicite arriva dalla robotica di servizio. Nei test del Knowledge Media Institute della Open University, robot usati per ispezionare edifici hanno confuso oggetti comuni: una poltrona scambiata per una tazza, o riflessi presi per schermi televisivi. Succede perché i modelli AI analizzano l’ambiente senza regole precise su dimensioni e contesto.
Inserire moduli simbolici che stabiliscono misure e permanenza degli oggetti ha ridotto di molto questi errori. In sostanza, l’affidabilità del robot nasce dal mix tra riconoscimento statistico e vincoli logici inderogabili, una lezione valida per ogni applicazione dove la percezione artificiale si traduce in azioni concrete.
Regole e test obbligatori: tutelare aziende e investitori
L’espansione rapida degli agenti autonomi apre scenari complessi dal punto di vista legale, normativo e finanziario. Si discute anche di dare una sorta di responsabilità giuridica agli algoritmi più evoluti, vista la portata economica e i rischi legati a comportamenti imprevisti. Le grandi aziende chiedono regole chiare per evitare contenziosi.
Il Parlamento Europeo sta valutando di trattare gli algoritmi come prodotti farmaceutici, imponendo trial digitali prima del lancio sul mercato. L’idea è di avere audit indipendenti che garantiscano sicurezza e affidabilità. Organizzazioni come l’UK AI Safety Institute e le normative europee sull’AI stanno costruendo un quadro complesso ma necessario per mettere ordine e proteggere gli investimenti.
Robotica sanitaria: l’AI che fa la differenza in ospedale e nelle case di riposo
La sanità è uno dei terreni più delicati e importanti per l’AI affidabile. In collaborazione con una startup inglese, il Knowledge Media Institute ha messo a punto robot di servizio per ospedali e strutture assistenziali. Di notte, queste macchine si occupano della logistica interna, trasportando farmaci e materiali, e tengono sotto controllo accessi e situazioni di pericolo.
La carenza di personale rende questa automazione preziosa. Motta ricorda che il 75% delle cadute notturne dei pazienti non riceve assistenza immediata per mancanza di operatori. Il monitoraggio robotico azzera i tempi di intervento, prevenendo danni seri. Nei centri di lungo-degenza, piccoli robot da tavolo aiutano gli anziani con conversazioni mirate, riducendo comportamenti a rischio e aumentando la sicurezza quotidiana. È un esempio concreto di come la tecnologia, integrata con regole formali, può migliorare efficienza e sostenibilità nel settore sanitario.
L’Italia nel mondo dell’innovazione profonda: il valore del capitale umano
Dal racconto di Enrico Motta emerge un’Italia che ha cambiato passo nel campo della ricerca e dell’innovazione. Partito dagli studi a Pisa e arrivato a dirigere istituzioni nel Regno Unito, Motta sottolinea come oggi le università italiane lavorino fianco a fianco con i migliori centri europei. Le competenze tecniche maturate in Italia sono riconosciute a livello internazionale, soprattutto nel deep tech.
Il sistema italiano, un tempo in ritardo rispetto ai modelli anglosassoni, ha colmato gran parte del divario grazie agli investimenti in formazione e reclutamento. Giovani ricercatori e imprenditori italiani competono oggi alla pari con i colleghi europei, diventando una risorsa chiave per costruire la prossima generazione di sistemi intelligenti, sia nell’intelligenza artificiale sia nell’automazione avanzata.