«Chi controlla l’intelligenza artificiale agentica?». È la domanda che Microsoft si è posta nel settembre 2026, quando ha lanciato la prima bozza del suo Humanist AI Code of Conduct. Non si tratta solo di scrivere codice o misurare l’efficacia degli algoritmi, ma di decidere chi stabilisce i limiti, chi detta le regole, e come tutto questo si traduce nelle scelte concrete delle aziende. OpenAI e Anthropic hanno risposto con documenti simili, ma ogni approccio mantiene sfumature diverse. Per le imprese italiane, però, il nodo resta uno: trasformare quei principi in regole operative, capaci di governare davvero l’uso quotidiano degli agenti AI.
Tre visioni a confronto: Microsoft, Anthropic e OpenAI sul controllo dell’AI agentica
Microsoft punta dritto: l’intelligenza artificiale è uno strumento che deve restare sotto controllo umano. Nel loro Humanist AI Code of Conduct, presentato nel 2026, sottolineano che la sicurezza e il controllo devono prevalere su qualsiasi autonomia o capacità che il sistema possa acquisire. Il modello deve poter essere fermato, corretto o spento in ogni momento; non può sviluppare obiettivi propri né uscire dal compito assegnato. Un punto chiave è la definizione netta dell’AI come artificiale: niente coscienza, sentimenti o volontà reali da attribuirle o simulare. In ultima analisi, la responsabilità resta umana: per quanto sofisticato, il modello è uno strumento da usare mentre l’uomo decide gli scopi.
Anthropic invece adotta un approccio più sfumato, quasi antropologico. La loro “Costituzione” per il modello Claude si ispira a valori umani tradizionali come la virtù, la saggezza e l’identità. Qui si punta sul giudizio interno del modello più che su regole rigide. Ci sono limiti per contenere i rischi, ma si lascia spazio a una sorta di “carattere” della macchina, che aiuta a gestire situazioni complesse o impreviste. Senza arrivare a dire che il modello ha una vera coscienza, Anthropic ammette la possibilità di un’identità emergente da orientare con attenzione.
Nel mezzo si colloca OpenAI, che dedica molta attenzione a come si delega e chi ha autorità nel sistema. Il loro Model Spec organizza il comportamento del modello in una gerarchia di istruzioni: dalle regole Root, inderogabili, fino a quelle date dallo sviluppatore e all’utente finale. L’autonomia del modello è limitata a ciò che gli è concesso e viene monitorata costantemente, per evitare comportamenti arbitrari. Il punto è chiaro: non basta che il modello sia tecnicamente capace per far sì che possa fare tutto quello che vuole. Per esempio, avere accesso a dati sensibili non significa poterli usare a piacimento. Il nodo centrale è capire chi può dare ordini e chi definisce i confini dell’azione.
Le “costituzioni” aziendali: limiti e sfide per l’intelligenza artificiale
Nonostante le differenze, Microsoft, Anthropic e OpenAI condividono un limite importante: le loro “costituzioni” dipendono totalmente dal fornitore del modello. Questo vuol dire che tradurre principi etici e di governance in comportamenti concreti resta un terreno pieno di zone d’ombra. I documenti non garantiscono come si comporterà davvero l’agente, né offrono un controllo indipendente esterno. Tutto è scritto e gestito da chi ha addestrato il modello e controlla i sistemi di verifica. La trasparenza può migliorare, ma l’applicazione pratica rimane un’incognita e si basa ancora molto sulla fiducia. E man mano che l’AI diventa più autonoma, questa fiducia rischia di non bastare più.
Per capire cosa significa una “costituzione” basta pensare alla storia americana: il principio di uguaglianza sancito dalla Costituzione ha richiesto decenni di leggi, sentenze e modifiche per tradursi in tutela reale e universale. Allo stesso modo, dire che un modello deve rispettare l’autonomia umana o evitare discriminazioni non spiega cosa fare se deve scegliere tra candidati o bloccare una transazione sospetta. Chi è il controllo umano in queste scelte? Come si giudica se una decisione è giusta? E chi può fare ricorso se viene danneggiato?
Sono domande concrete, che riguardano processi, istituzioni e controlli, non solo principi astratti. È un tema che tocca la filosofia del diritto ma ha ricadute molto pratiche per chi deve usare, integrare e regolare questi agenti.
AI e norme in Italia: un mosaico complesso per le imprese
In Italia e in Europa, l’intelligenza artificiale si muove in un contesto normativo che si fa sempre più chiaro ma anche più articolato. Oltre alle “costituzioni” dei fornitori, stanno entrando in vigore leggi come l’AI Act europeo e la legge italiana 132 del 2025. Questi testi fissano obblighi e limiti precisi per l’uso dell’AI agentica nelle aziende. Ma non basta: l’AI si inserisce in un quadro dove valgono già altre norme, come il GDPR sulla privacy, il decreto 231 sulla responsabilità degli enti e diversi codici professionali ed etici. Ogni impresa deve capire come far convivere l’intelligenza artificiale con queste regole già esistenti.
Chi ha già procedure o certificazioni deve valutare come l’introduzione di agenti AI cambia responsabilità e controlli. Nessuna legge smette di valere solo perché un passaggio è affidato a una macchina. La governance digitale diventa multilivello: la “costituzione” del modello fissa regole di base; la legge impone obblighi e divieti; gli standard di settore definiscono il contesto; l’azienda assegna ruoli e controlli interni; la tecnologia mette in pratica permessi e limiti. Ma nessuno di questi livelli da solo spiega come funziona davvero il sistema nella quotidianità.
Harness: il cuore tecnico del controllo dell’AI nelle aziende
Nel dibattito sugli agenti AI si parla spesso di “harness”, un concetto chiave per mettere in pratica le regole. Il harness è l’infrastruttura tecnica che circonda il modello linguistico e ne permette l’uso negli ambienti reali. Include il contesto, le autorizzazioni, gli strumenti, le memorie delle azioni, i controlli umani, le registrazioni e i sistemi di verifica. OpenAI parla di “harness engineering” per indicare il lavoro che regola feedback e limiti, Anthropic lo usa per migliorare l’affidabilità in compiti complessi e prolungati.
La costituzione dice cosa dovrebbe fare il modello; il harness decide dove e come lo può fare. Stabilisce quali dati può usare, quali strumenti ha a disposizione, quando può agire senza conferma, come gestire gli errori, quali tracce lascia per i controlli successivi. È qui che regole astratte si trasformano in permessi, blocchi, interruzioni o approvazioni. Per esempio, “mantenere il controllo umano” significa che una persona deve dare l’ok per certe decisioni o che ci sono limiti di accesso. La regola “trattare tutti in modo equo” si traduce nel definire gruppi protetti, dati vietati e azioni da fare se si scoprono discriminazioni.
Il harness non risolve tutti i problemi, ma permette all’azienda di progettare, misurare e modificare la governance senza dipendere solo dal funzionamento interno del modello dettato dal fornitore. Sposta parte della responsabilità dentro l’impresa, rendendola concreta e verificabile.
Dalla legge al controllo quotidiano: un esempio concreto dai professionisti italiani
Un esempio pratico di come un principio generale diventa regola concreta arriva dalla legge italiana 132/2025, articolo 13. La norma impone ai professionisti, in particolare a quelli intellettuali come i geologi, di usare l’intelligenza artificiale solo come supporto, mantenendo loro la responsabilità del lavoro qualificato. Inoltre, devono comunicare al cliente in modo chiaro quali sistemi di AI sono stati impiegati. Nei mesi scorsi, molti ordini professionali hanno aggiornato i loro codici deontologici per recepire queste prescrizioni.
Questa evoluzione può sembrare una formalità, ma in realtà segna un punto fermo: il professionista resta l’ultimo responsabile. L’AI non può farsi carico degli errori o delle decisioni sbagliate. Serve una competenza umana attiva e una trasparenza sul ruolo dell’agente AI. Questo cambia anche il valore economico del lavoro: non si valuta più solo in base alla quantità o alla rapidità della produzione automatizzata, ma al giudizio e alla responsabilità finale.
Sul piano tecnico, il harness può supportare questa regola imponendo registrazioni sull’uso dell’AI, meccanismi di approvazione obbligatoria e impedendo la trasmissione automatica di prodotti finiti. Così la norma diventa visibile e verificabile, non solo un principio astratto.
Governance reale: le aziende non possono delegare tutto all’AI
Le imprese che adottano agenti AI non possono affidare la governance solo ai fornitori o limitarsi a documenti di principi. Conta definire chiaramente cosa non si intende delegare, qual è il mandato di ogni agente, quali dati e strumenti può usare, quando serve l’intervento umano e quali prove restano per controllarne il comportamento.
Serve costruire un sistema completo che coinvolge tecnologia, conformità, gestione dei rischi e soprattutto i responsabili di processo, che conoscono i punti critici e le conseguenze delle decisioni automatiche. Il vero rischio è concedere troppa autonomia senza avere chiaro chi ha l’autorità e la responsabilità in azienda.
Collegare un agente a un database clienti o a una piattaforma di vendita è semplice; molto più difficile è stabilire chi può affidargli un compito, con quali limiti e a chi rendere conto in caso di errori. Senza regole chiare, il problema non è solo cosa fare in caso di malfunzionamenti, ma anche come valutare azioni fuori mandato.
I documenti di Microsoft, OpenAI e Anthropic aiutano a capire le diverse filosofie, ma sono solo punti di partenza. La vera governance si vede nella capacità di gestire errori e imprevisti. Se il modello sbaglia o fa qualcosa di non autorizzato, l’azienda deve sapere quali controlli scattano, chi viene avvisato, chi interviene, come si ricostruisce la sequenza degli eventi e cosa si può fare per rimediare.
Chi usa agenti AI deve avere una governance pronta a rispondere a queste domande prima di collegare il modello ai sistemi aziendali. Perché da quel momento in poi il rischio e le responsabilità crescono insieme alla capacità del modello di agire nel mondo reale.