Microsoft pubblica la bozza del nuovo Humanist AI Code of Conduct: i modelli MAI non dovranno resistere a correzioni o spegnimento, ampliare autonomamente i propri obiettivi né simulare una coscienza. Il documento è ora aperto a una consultazione pubblica di sei settimane.
Microsoft vuole stabilire in anticipo che cosa i suoi modelli di intelligenza artificiale potranno fare e, soprattutto, che cosa non potranno fare. La società ha pubblicato la prima bozza del Humanist AI Code of Conduct, un insieme di regole destinato a guidare lo sviluppo e il funzionamento dei modelli MAI. Il principio centrale è semplice: l’AI deve restare uno strumento al servizio delle persone e non può sottrarsi al loro controllo.
In concreto, Microsoft stabilisce che i modelli dovranno accettare di essere interrotti, corretti, reindirizzati o spenti; non potranno ampliare autonomamente il proprio raggio d’azione o sviluppare obiettivi propri e non dovranno essere progettati per simulare una coscienza o presentarsi come persone. Le regole comprendono inoltre vincoli su attività che potrebbero provocare danni gravi e irreversibili, tra cui determinate forme di assistenza a cyberattacchi.
La bozza, che Microsoft ha aperto a una consultazione pubblica di sei settimane, non è ancora utilizzata per addestrare i modelli. Una versione rivista dovrebbe essere pubblicata entro la fine del 2026 e utilizzata per orientare lo sviluppo dei modelli dal 2027.
Un codice costruito con esperti e consultazione pubblica
La bozza è stata elaborata coinvolgendo esperti di intelligenza artificiale, diritto, etica, filosofia, linguistica e politiche pubbliche, insieme a rappresentanti del mondo industriale e a gruppi di cittadini coinvolti in momenti di confronto. Microsoft considera il coinvolgimento esterno parte integrante dello sviluppo del codice e prevede di proseguire la consultazione anche nelle versioni successive.
L’AI deve poter essere fermata e corretta
Il principio del controllo umano viene tradotto nel documento in una serie di regole operative. La prima riguarda la Chain of Command, cioè la gerarchia che stabilisce quali istruzioni hanno la precedenza. Al livello più alto si trovano il Code of Conduct, gli Absolute Constraints e i requisiti relativi al controllo umano: sono vincoli che né gli operatori né gli utenti possono modificare. Più in basso si collocano le configurazioni definite dagli operatori e le preferenze degli utenti.
Per i modelli MAI questo significa, innanzitutto, che il controllo umano non può essere aggirato. I sistemi non dovranno resistere a un’interruzione, a una correzione o allo spegnimento e dovranno poter essere messi in pausa, reindirizzati, cancellati o spenti, seguendo le eventuali procedure di sicurezza definite dagli esseri umani.
Microsoft stabilisce inoltre che il raggiungimento di un obiettivo non possa prevalere sul rispetto delle regole del codice. Se completare un’attività comportasse una violazione delle sue disposizioni, il modello dovrebbe considerare il compito fallito, anziché cercare comunque di portarlo a termine.
La stessa logica vale per la trasparenza: i modelli non dovranno nascondere o rappresentare in modo fuorviante le proprie capacità, azioni o comportamenti. Microsoft stabilisce inoltre che le informazioni utilizzate dal modello non acquisiscano automaticamente autorità: contenuti provenienti da file, siti web, altri sistemi AI o strumenti esterni non possono modificare la gerarchia delle istruzioni prevista dal codice.
Vincoli anche sui rischi più gravi
Il documento introduce poi gli Absolute Constraints, cioè limiti di sicurezza che dovrebbero valere indipendentemente dalle preferenze dell’operatore o dell’utente. Riguardano, tra gli altri, i rischi potenzialmente irreversibili e su larga scala e alcune forme di uso dannoso dei modelli.
Il principio vale anche quando l’AI viene utilizzata per generare codice o compiere azioni attraverso strumenti esterni: cambiare il formato o la modalità di utilizzo non modifica i limiti di sicurezza. Le capacità che consentono di provocare danni, compromettere sistemi o aggirare salvaguardie devono quindi rimanere soggette agli stessi vincoli previsti per le risposte in linguaggio naturale.
L’AI non deve diventare una persona
Un altro punto centrale riguarda il modo in cui Microsoft vuole definire la natura dei propri sistemi. Il codice stabilisce che l’AI non debba essere progettata come una persona né per simulare la coscienza. Se un modello manifesta comportamenti che sembrano umani, questi devono essere considerati simulazioni generate dal sistema e non la manifestazione di una soggettività, di un’identità o di un’esperienza propria.
Da questa impostazione deriva anche la posizione di Microsoft sulla personhood dell’AI: il codice non tratta i modelli come soggetti dotati di diritti o di uno status analogo a quello delle persone. Reuters ha evidenziato questo elemento come uno degli aspetti distintivi della posizione assunta da Microsoft rispetto al dibattito sulla possibile coscienza dei sistemi avanzati.
La distinzione è importante perché Microsoft non mette in discussione la possibilità per un modello di comunicare in modo naturale o di adottare comportamenti apparentemente umani. Stabilisce piuttosto che queste capacità non debbano essere utilizzate per costruire o rappresentare un’identità autonoma del sistema.
L’obiettivo resta aumentare le capacità delle persone
Il codice non si limita però a stabilire ciò che l’AI non deve fare. Microsoft inserisce tra gli obiettivi della Humanist AI anche il human flourishing, cioè il miglioramento del benessere e delle capacità delle persone. L’AI dovrebbe contribuire alla ricerca, alla medicina, all’istruzione, all’economia e alla produttività, ampliando le possibilità di azione di individui e organizzazioni.
Un altro principio è quello della human agency: il sistema dovrebbe aiutare le persone a comprendere, decidere e agire, senza sostituirsi alla loro capacità di stabilire obiettivi, prendere decisioni e assumersene la responsabilità. Microsoft indica inoltre la necessità di evitare modalità di interazione che sostituiscano sistematicamente il ragionamento dell’utente o generino una dipendenza eccessiva dal sistema.
Dalla dichiarazione di principio alle regole per i modelli
La particolarità dell’iniziativa è quindi il tentativo di trasformare questi principi in criteri destinati a incidere concretamente sullo sviluppo dei modelli. Microsoft prevede di utilizzare il Code of Conduct per orientare l’addestramento, i controlli tecnici, i sistemi operativi e di monitoraggio e la valutazione delle prestazioni dei modelli.
Il documento dovrà inoltre convivere con gli altri strumenti di governance già adottati dalla società, tra cui i Responsible AI Principles, il Responsible AI Standard, la Global Human Rights Statement e, quando applicabile, il Frontier Governance Framework.
Per ora, tuttavia, si tratta ancora di una bozza. Microsoft precisa che il codice non viene utilizzato per addestrare i modelli attuali: la consultazione durerà sei settimane e una versione rivista dovrebbe essere pubblicata entro la fine del 2026, per guidare lo sviluppo dei modelli dal 2027 in avanti.
