
Chi dà i valori all’IA?
AiIndice dei contenuti
Quando chiedo a un’IA come configurare un firewall, posso verificare la risposta. Posso leggere la documentazione, provare l’impostazione e vedere se il risultato è corretto.
Per altre domande manca quel criterio chiaro. Dovrei dare una seconda possibilità a un dipendente? Una certa forma di sorveglianza è giustificata? Quanta libertà personale può costare la sicurezza?
Un’IA può rispondere con calma, chiarezza e convinzione. Proprio per questo voglio sapere quali criteri usa. Di quali interessi tiene conto? Dove pone i limiti? E chi ha deciso che quei limiti sono giusti?
Di Anthropic e OpenAI mi interessano quindi sia le capacità dei modelli sia le convinzioni e le strutture che li sostengono. Entrambe sviluppano sistemi ai quali le persone dovrebbero affidare decisioni. Il loro modo di intendere la responsabilità merita un esame attento.
L’altruismo efficace offre un punto di partenza interessante. L’idea mi attrae. Alcune sue conclusioni, però, mi rendono prudente.
Fare più bene possibile sembra convincente
L’altruismo efficace si chiede come usare denaro, tempo e capacità limitati per aiutare gli altri il più possibile. Ricerca e argomentazioni ragionate dovrebbero aiutare a scegliere fra opzioni diverse. Il movimento comprende cause che vanno dalla salute globale al benessere animale e ai rischi di un’IA avanzata.
Trovo ragionevole giudicare l’aiuto dai suoi effetti. Una buona intenzione dice poco sul fatto che qualcuno sia stato davvero aiutato. Chi dona denaro o investe anni di lavoro dovrebbe poter chiedere se un impiego diverso produrrebbe di più.
Diventa più difficile quando confrontiamo effetti di natura molto diversa.
Il lungotermismo attribuisce particolare peso morale al futuro lontano. Le persone che potrebbero viverci devono contare nelle decisioni attuali. Ne deriva, fra l’altro, l’argomento di prendere sul serio i rischi capaci di distruggere definitivamente quel futuro.
All’inizio ho poche obiezioni anche a questo. Chiediamo di considerare le generazioni future anche quando affrontiamo l’inquinamento o le scorie nucleari.
Il mio scetticismo comincia dall’affidabilità delle previsioni. Quanto possiamo stabilire con certezza quale decisione di oggi migliorerà la vita fra secoli? Come confrontiamo un beneficio dimostrabile oggi con la possibilità di evitare una catastrofe in un futuro lontano?
Un calcolo può essere matematicamente corretto pur basandosi su ipotesi molto incerte. Se il beneficio futuro ipotizzato è abbastanza grande, può superare quasi qualsiasi priorità presente. È proprio lì che voglio vedere le ipotesi, le incertezze e i limiti di ciò che il beneficio atteso dovrebbe giustificare.
Come le idee diventano influenza
Il legame con lo sviluppo dell’IA emerge almeno da decisioni concrete di finanziamento. Open Philanthropy, oggi Coefficient Giving, elencava per il 2017 una sovvenzione di 30 milioni di dollari a OpenAI. Le riflessioni filosofiche sul futuro non sono quindi rimaste nei libri e nei dibattiti. Hanno influenzato quali ricerche ricevessero sostegno.
Questo non dimostra un’ideologia uniforme di tutte le aziende coinvolte. Una sovvenzione non spiega ogni decisione commerciale successiva né le convinzioni di tutti i dipendenti.
Terrei dunque distinti altruismo efficace, lungotermismo e ricerca sulla sicurezza dell’IA. Si può mettere in guardia da capacità pericolose senza condividere una particolare filosofia del futuro. Si può anche sostenere l’aiuto efficace e criticare le priorità di singole organizzazioni.
Nel valutare Anthropic e OpenAI, mi importa soprattutto cosa decidono oggi, quale potere esercitano con quelle decisioni e come quel potere viene limitato.
Anthropic: valori dichiarati apertamente
Anthropic rende visibili le proprie intenzioni per Claude con un dettaglio insolito. La sua «Costituzione» pubblicata descrive valori e comportamenti desiderati e, secondo l’azienda, viene usata nell’addestramento. Tratta fra l’altro onestà, prevenzione dei danni e supervisione umana. Anthropic riconosce inoltre che il comportamento effettivo di Claude può discostarsi da quegli obiettivi.
Lo considero un merito. Un documento pubblico offre una base per la critica. Posso confrontarvi una risposta e chiedere se Claude rispetti le proprie direttive. Posso anche rifiutare le direttive stesse.
Resto però prudente con la parola «costituzione». Evoca un accordo sociale e regole legittimate collettivamente. Qui un’azienda descrive le intenzioni per un prodotto. È una forma importante di trasparenza, ma non conferisce al pubblico un diritto vincolante di partecipare alle decisioni.
Merita attenzione anche il modo in cui Anthropic giustifica il proprio ruolo. Presenta lo sviluppo di IA potenti come una scommessa deliberata: se questi sistemi nasceranno comunque, laboratori attenti alla sicurezza dovrebbero lavorare alla frontiera.
Capisco l’argomento. Contiene però un conflitto d’interessi che le buone intenzioni, ai miei occhi, non risolvono. Chi si ritiene più responsabile dei concorrenti può concludere anche di dover crescere più rapidamente e ottenere maggiore influenza.
Per questo mi interessano le condizioni verificabili che limitano la scommessa. Quando Anthropic dovrebbe ritardare uno sviluppo? Quali risultati la spingerebbero a mettere in discussione la propria strategia?
Per la supervisione aziendale Anthropic ha creato il Long-Term Benefit Trust. I suoi membri dovrebbero essere isolati dagli interessi finanziari nell’azienda e disporre di diritti speciali sulla composizione del consiglio. Alla presentazione, l’azienda stessa definiva la struttura un esperimento.
Prendo sul serio questo tentativo. La sua esistenza, però, non dimostra da sola quanto il controllo sia efficace in caso di conflitto. I documenti borsistici pubblicati descrivono diritti del Trust, limiti e procedure per modificarli. Questi dettagli meritano più attenzione della rassicurante parola «indipendente».
Il mio giudizio provvisorio: Anthropic rende i propri valori concreti e contestabili. È un punto di forza. Per fidarmi mi servono anche prove che i controlli previsti reggano quando una decisione di sicurezza costa crescita o ricavi.
OpenAI: missione sociale e interessi economici
Anche per OpenAI sarebbe semplicistico guardare solo agli interessi commerciali. Secondo la struttura pubblicata, la OpenAI Foundation senza fini di lucro controlla OpenAI Group, organizzata come Public Benefit Corporation. La Foundation può nominare e sostituire i membri del consiglio del Group. Possiede anche una partecipazione al suo capitale.
È una struttura di controllo rilevante. La narrazione generica secondo cui la missione non profit sarebbe semplicemente scomparsa del tutto non le rende giustizia.
Allo stesso tempo vedo una tensione: se le risorse finanziarie della Foundation beneficiano del successo commerciale del Group, la missione di tutela e gli interessi di crescita possono intrecciarsi strettamente. Non deve per forza derivarne una cattiva decisione. Diventa però importante chiedersi con quanta indipendenza possa essere valutata una rinuncia alla crescita.
OpenAI pubblica anche regole sul comportamento dei modelli. La Model Spec descrive fra l’altro controllo umano, onestà e prevenzione dei danni. Cita inoltre la tutela dell’azienda dai danni legali e reputazionali come obiettivo. OpenAI ammette che i modelli impiegati non soddisfano ancora interamente la specifica.
Trovo utile che questi interessi diversi siano nominati esplicitamente. Un’azienda deve poter restare economicamente e giuridicamente sostenibile. Da utente voglio comunque capire come si decide quando la mia richiesta, l’interesse pubblico e quello del fornitore divergono.
Il mio metro è lo stesso usato per Anthropic: le regole pubblicate sono preziose. La loro applicazione e la possibilità di contestare efficacemente le decisioni vanno valutate separatamente.
I documenti da soli non permettono quindi una classifica seria di quale azienda sia «più altruista». Mostrano intenzioni e strutture. Per giudicare gli effetti mi servono anche decisioni concrete e risultati verificabili.
Come valuterei entrambe le aziende
Mi interessano soprattutto le situazioni in cui la responsabilità diventa scomoda.
Ritardare l’uscita di un modello mentre i concorrenti recuperano. Documentare un errore in modo che persone esterne ne comprendano la portata. Offrire agli interessati un reclamo efficace. Dare ai valutatori indipendenti accesso sufficiente per trarre conclusioni proprie.
Porrei a entrambe le aziende le stesse domande:
- Quale effetto sociale è stato realmente dimostrato?
- Quali limiti sono vincolanti e chi può modificarli?
- Chi può fermare una decisione rischiosa?
- Come vengono divulgati errori, controargomenti e conflitti d’interessi?
- Quali possibilità hanno le persone coinvolte da un sistema senza esserne clienti?
Quest’ultima domanda mi preoccupa particolarmente. Un’azienda può trattare bene i clienti e prendere decisioni le cui conseguenze ricadono su altri. Un contratto d’acquisto rappresenta quegli interessi solo in parte.
La questione dei valori diventa pratica
Se un assistente suggerisce soltanto un testo, posso scartarlo. Quando un sistema con i permessi appropriati invia email, preseleziona candidature o accede a dati aziendali, le sue direttive hanno conseguenze immediate.
Una discussione filosofica diventa allora una questione di competenze e responsabilità. L’assistente può rifiutare un’istruzione esplicita? Quando deve chiedere chiarimenti? Quali informazioni può condividere? E chi risponde se interpreta male un compito autorizzato?
Per sistemi simili chiederei limiti tecnici: autorizzazioni chiare, azioni tracciabili e modi per fermare o annullare un’operazione. Un insieme di valori ben formulato può integrare questi controlli. Non può dimostrarne l’efficacia.
Vedo in modo simile il livello sociale. Gli sviluppatori hanno bisogno di spazio per progettare prodotti. Gli utenti hanno bisogno di scelta. Quando sono in gioco diritti fondamentali o danni gravi a terzi, servono anche regole vincolanti e supervisione indipendente. La loro definizione deve poter essere discussa pubblicamente.
Cosa rafforzerebbe la mia fiducia
Voglio riconoscere che in Anthropic e OpenAI ci sono persone impegnate seriamente per un’IA utile e sicura. I principi pubblicati meritano attenzione. Trovo ingiusto liquidare ogni riflessione sulla sicurezza come marketing o dedurre ipocrisia morale da ogni decisione commerciale.
Non voglio neppure concedere fiducia a un’azienda soltanto perché descrive gli obiettivi in modo particolarmente convincente.
Dell’altruismo efficace apprezzo l’invito a chiedere quali siano gli effetti reali. Applicherei lo stesso criterio alle aziende di IA. Quali benefici producono i loro sistemi? Quali danni emergono? Quali ipotesi proprie hanno corretto? E quale potere sono disposte a sottoporre a un controllo efficace?
La mia posizione resta quindi aperta, ma esigente. Non ho bisogno della certezza che le persone dietro un modello abbiano sempre ragione moralmente. Voglio capire come prendono le decisioni, poterle contestare e sapere che gli errori comportano conseguenze per i responsabili.
Più decisioni affidiamo all’IA, più queste possibilità diventano importanti.
Alla prossima,
Joe


