All'interno del tentativo della Silicon Valley di riscrivere l'ereditarietà

LA NUOVA FRONTIERA DELLA RIPRODUZIONE UMANA
Per decenni, la tecnologia di editing genetico è stata ai limiti delle possibilità mediche: un insieme rivoluzionario di strumenti in grado di correggere malattie genetiche, ma limitato da profonde barriere scientifiche, etiche e normative. Ma negli ultimi anni, una costellazione di investitori della Silicon Valley, ambiziosi fondatori di aziende biotecnologiche e scienziati all'avanguardia nel campo del CRISPR (ripetizioni palindromiche corte e raggruppate regolarmente intervallate) hanno iniziato a convergere attorno a una possibilità che un tempo sembrava fantascienza: l'ingegneria genetica deliberata di embrioni umani. Il loro obiettivo dichiarato è audace – eliminare le malattie ereditarie prima della nascita – e le loro ambizioni si sono rapidamente trasformate in una delle frontiere scientifiche più controverse e sotto attenta osservazione al mondo.
Al centro di questo nuovo movimento c'è una piccola startup con sede a San Francisco chiamata Preventive. Supportata da leader tecnologici di alto profilo, tra cui il CEO di OpenAI Sam Altman, suo marito Oliver Mulherin e il CEO di Coinbase Brian Armstrong, Preventive sta portando avanti una ricerca che potrebbe un giorno portare alla nascita del primo bambino geneticamente modificato intenzionalmente, creato al di fuori del famigerato e ampiamente condannato esperimento del 2018 in Cina. Sebbene l'azienda presenti il ​​suo lavoro come in fase iniziale e incentrato sulla sicurezza, discussioni interne, resoconti trapelati e il calibro degli investitori coinvolti hanno attirato un'intensa attenzione globale.

La storia di Preventive, tuttavia, non può essere raccontata isolatamente. Fa parte di un più ampio sconvolgimento nella genetica riproduttiva, alimentato da miliardi di dollari di capitale privato, strumenti di editing genetico in rapida evoluzione e una convinzione filosofica diffusa tra alcune élite tecnologiche secondo cui l'evoluzione umana può e deve essere guidata attraverso l'ingegneria. Mentre le aziende di screening genetico si espandono verso la previsione di tratti come l'intelligenza e l'altezza, e mentre nuove iniziative biotecnologiche esplorano l'editing degli embrioni in parti del mondo con leggi più permissive, il confine tra prevenire le malattie e migliorare i tratti umani diventa sempre più labile.
Questo post ripercorre questo scenario: le origini di Preventive, gli investitori che ne plasmano la traiettoria, le scoperte scientifiche che rendono possibile l'editing degli embrioni, gli avvertimenti etici dei principali esperti e l'ecosistema emergente di aziende che cercano di rimodellare la riproduzione stessa. È il ritratto di un momento in cui tecnologia, ambizione e biologia si scontrano in modi senza precedenti, e in cui le conseguenze della sperimentazione privata potrebbero estendersi di generazione in generazione.

L'ASCESA DI PREVENTIVE: UNA NUOVA SCOMMESSA NELLA SILICON VALLEY

Preventive è stata fondata da Lucas Harrington, uno scienziato formatosi in CRISPR con radici nel mondo accademico, plasmato da pionieri come Jennifer Doudna, il cui lavoro sull'editing genetico CRISPR le è valso il Premio Nobel e ha innescato un'ondata globale di innovazione terapeutica. La startup di Harrington è stata concepita come una società di pubblica utilità, una struttura aziendale che consente alla leadership di integrare la responsabilità sociale nel processo decisionale, anziché anteporre il valore per gli azionisti a tutto il resto. Questo posizionamento riflette il tentativo di Preventive di presentarsi non come un'impresa orientata al profitto, ma come un'organizzazione guidata da una missione che cerca di affrontare quelle che i suoi sostenitori descrivono come "devastanti patologie genetiche".
L'azienda ha raccolto circa 30 milioni di dollari, secondo diversi report, con una partecipazione significativa di Sam Altman e Oliver Mulherin. Anche Brian Armstrong si è unito come importante sostenitore, aumentando la visibilità dell'azienda. Altman ha già espresso interesse per il futuro a lungo termine dell'umanità – dall'intelligenza artificiale alla longevità alla biologia – e il suo coinvolgimento ha immediatamente catapultato Preventive sotto i riflettori. Armstrong è stato più esplicito: sostiene che l'editing degli embrioni potrebbe diventare uno strumento essenziale per eliminare le malattie genetiche prevenibili e indirizzare la medicina verso forme di intervento più precoci ed efficaci.
Dal momento in cui è nata Preventive, si è inserita in un panorama politicamente instabile. L'editing degli embrioni è illegale negli Stati Uniti, nel Regno Unito e in gran parte d'Europa, soprattutto per via di preoccupazioni etiche e di timori di lunga data sulla creazione di bambini geneticamente modificati. Negli Stati Uniti, alle autorità di regolamentazione è espressamente vietato persino esaminare le proposte di sperimentazioni cliniche che coinvolgono embrioni modificati destinati alla gravidanza. Per questo motivo, Preventive – e diverse altre aziende simili – hanno iniziato a esplorare collaborazioni scientifiche in giurisdizioni con politiche più permissive.
Tra queste, gli Emirati Arabi Uniti sono rapidamente saliti alla ribalta. Secondo quanto riportato dal Wall Street Journal, gli Emirati Arabi Uniti sono uno dei pochi Paesi in cui l'editing embrionale è legale, e pare che discussioni interne a Preventive abbiano preso in considerazione l'idea di condurre ricerche o test lì. Preventive nega fermamente di star attualmente editando embrioni o conducendo sperimentazioni cliniche, ma riconosce che le normative statunitensi rendono necessaria la ricerca internazionale per lo sviluppo a lungo termine.
Nonostante queste rassicurazioni, l'attenzione che circonda Preventive non ha fatto che intensificarsi. Documenti e corrispondenza esaminati dai giornalisti suggerivano che l'azienda avesse discusso la possibilità di modificare embrioni per una coppia reale affetta da una malattia ereditaria. Preventive ha fermamente negato qualsiasi accordo del genere, con Harrington che ha sottolineato che l'azienda non si muoverà verso la sperimentazione umana finché la tecnologia non sarà dimostrata inequivocabilmente sicura. Tuttavia, il solo accenno al fatto che tali conversazioni fossero in corso è stato sufficiente ad allarmare molti nella comunità scientifica.

L'OMBRA GLOBALE DEI BAMBINI CRISPR
Per comprendere l'intensità della reazione, è essenziale rivisitare l'evento sismico che ancora oggi plasma l'approccio mondiale all'editing degli embrioni: il caso di He Jiankui.
Nel 2018, il biofisico cinese sconvolse il mondo annunciando la nascita dei primi bambini geneticamente modificati: due gemelle il cui gene CCR5 era stato da lui modificato nel tentativo di conferire resistenza all'HIV. L'esperimento fu condannato quasi universalmente: le modifiche erano inutili dal punto di vista medico, eticamente ingiustificabili, eseguite male e condotte senza trasparenza o un controllo adeguato. He Jiankui fu successivamente incarcerato per aver violato le normative mediche e la comunità scientifica mondiale rispose con una richiesta quasi unanime di limiti rigorosi o moratorie sull'editing della linea germinale.
Questa storia incombe su ogni discussione odierna sull'editing degli embrioni. Jennifer Doudna, che ha svolto un ruolo centrale nella creazione della tecnologia CRISPR, ha ripetutamente esortato alla cautela, sostenendo che qualsiasi tentativo di modificare gli embrioni debba procedere solo sotto stretto consenso internazionale. Studiosi come Fyodor Urnov e Hank Greely avvertono che la tecnologia attuale comporta ancora rischi imprevedibili: modifiche fuori bersaglio, mosaicismo, effetti a catena sulle reti genomiche e conseguenze a lungo termine che non potranno essere adeguatamente valutate prima che siano trascorsi molti decenni.
Questi avvertimenti si estendono non solo alle applicazioni cliniche, ma anche alla retorica che circonda l'editing degli embrioni. Molti scienziati sono allarmati da quelle che considerano affermazioni eccessivamente ottimistiche da parte di aziende private: suggerimenti secondo cui l'editing potrebbe "migliorare i bambini" o che la tecnologia sia sul punto di migliorare in modo affidabile l'intelligenza, le caratteristiche fisiche o la salute a lungo termine.
Preventive insiste sul suo impegno per la trasparenza e la pubblicazione pubblica delle sue ricerche. Harrington ha pubblicamente sottolineato che la missione dell'azienda è determinare se l'editing degli embrioni possa mai essere reso sufficientemente sicuro da prevenire gravi malattie genetiche, soprattutto per le famiglie con limitate possibilità riproduttive. Ma i critici sostengono che anche la prevenzione delle malattie si trovi in ​​uno spettro che può rapidamente scivolare verso il miglioramento una volta che gli strumenti saranno disponibili e gli incentivi commerciali cresceranno.
In questo contesto, il lavoro di Preventive non è meramente scientifico: è politico, culturale e morale. E si inserisce in una trasformazione molto più ampia che sta avvenendo nella genetica riproduttiva.

DALL'EDITING EMBRIONALE ALLA SELEZIONE POLIGENICA

Mentre Preventive si dedica all'editing embrionale, un settore parallelo si sta espandendo a una velocità notevole: lo screening embrionale poligenico.
Aziende come Orchid, Genomic Prediction, Nucleus Genomics, HeraBiotech e Herasight offrono analisi genetiche di embrioni da fecondazione in vitro che vanno ben oltre i tradizionali screening per anomalie cromosomiche o disordini monogenici. Queste startup utilizzano punteggi di rischio poligenico – modelli statistici derivati ​​da enormi database genetici – per stimare le probabilità di vari esiti, tra cui il rischio di malattie nel corso della vita, l'altezza prevista, determinate tendenze comportamentali e, in alcuni casi, il quoziente intellettivo previsto.
Queste valutazioni consentono ai genitori di prendere decisioni sulla selezione degli embrioni basate su classifiche probabilistiche, plasmando efficacemente il genoma del loro futuro bambino scegliendo tra gli embrioni disponibili.
Questo movimento gode di un sostegno significativo dalla Silicon Valley. Peter Thiel e Alexis Ohanian hanno investito in aziende specializzate nello screening poligenico. Brian Armstrong ha investito in diverse iniziative legate agli embrioni e si è pubblicamente pronunciato a favore dell'intervento genetico precoce. Elon Musk avrebbe utilizzato la tecnologia Orchid per i test sugli embrioni e avrebbe espresso entusiasmo per l'idea che le tecnologie genetiche possano accelerare l'evoluzione umana. Persino Sam Altman, secondo quanto riportato, ha utilizzato lo screening poligenico per il proprio processo riproduttivo.
La strategia di queste aziende è spesso incentrata sulla mitigazione del rischio di malattie. Orchid, ad esempio, presenta il punteggio poligenico come uno strumento per aiutare i genitori a evitare di trasmettere rischi genetici. Ma molti critici sostengono che il marketing, implicitamente o esplicitamente, tenda alla promessa di un miglioramento.
Alcune aziende di screening poligenico hanno implementato dashboard che classificano gli embrioni in base all'intelligenza prevista. Altre evidenziano potenziali differenze di statura future o un rischio di disturbi psichiatrici. Questi servizi non sono regolamentati dalla FDA perché rientrano nella categoria dei test sviluppati in laboratorio, offrendo alle startup ampia libertà di progettare, promuovere e perfezionare i propri sistemi di punteggio senza una supervisione formale.
Gli scienziati hanno reagito. L'American College of Medical Genetics and Genomics afferma che lo screening poligenico per la selezione degli embrioni non ha alcun beneficio clinico comprovato. Genetisti comportamentali come Eric Turkheimer descrivono il settore come una pratica di "eugenetica aziendale", che sfrutta l'ansia e le aspirazioni dei genitori sotto la maschera del rigore scientifico.
Eppure la domanda è in aumento, non in modo massiccio, ma costante. Molte cliniche di fecondazione in vitro segnalano solo un piccolo numero di pazienti che optano per lo screening poligenico, ma sono soprattutto i clienti facoltosi a trainare l'interesse. Herasight, uno dei servizi più costosi del settore, chiede 50.000 dollari per cinque anni di screening embrionale per un massimo di 100 embrioni. L'azienda impiega un "filosofo interno", Jonathan Anomaly, che sostiene apertamente l'eugenetica volontaria e sostiene che la selezione di tratti come un'intelligenza superiore potrebbe gradualmente rimodellare la società.
Riconosce che tali tecnologie potrebbero aumentare le disuguaglianze. Ma lui e altri insistono sul fatto che i genitori hanno il diritto di utilizzare le informazioni genetiche per selezionare gli embrioni che ritengono offriranno ai loro figli risultati migliori.
Prese insieme, queste aziende formano un ecosistema in cui editing e selezione degli embrioni si collocano sullo stesso continuum. E con l'espansione delle capacità di entrambi, il confine tra prevenzione delle malattie e miglioramento dei caratteri fisici diventa sempre più malleabile.

LA PROMESSA E IL PERICOLO DELL'EDITING EMBRIONALE: SCONTRO TRA SOSTENITORI E CRITICI

I sostenitori dell'editing embrionale ne sottolineano l'efficienza. Sostengono che modificare una manciata di cellule prima dell'inizio dello sviluppo sia molto più semplice che curare una malattia dopo la nascita. Brian Armstrong lo ha riassunto in modo succinto in un'intervista al Times: "È molto più facile correggere un numero inferiore di cellule prima che la malattia progredisca, come in un embrione".
Armstrong e altri sottolineano il peso globale delle malattie genetiche – oltre 300 milioni di persone, secondo alcune stime – e sostengono che la società ha il dovere morale di valutare se l'editing genetico possa prevenire in modo sicuro tali condizioni. Considerano l'editing embrionale il prossimo passo logico in un percorso che include la fecondazione in vitro, la diagnosi genetica preimpianto e le terapie geniche somatiche.
Questa prospettiva ha acquisito slancio dopo un traguardo straordinario raggiunto all'inizio del 2024: il caso di KJ Muldoon, un bambino nato con grave deficit di CPS1, che ha ricevuto un trattamento di editing genetico personalizzato poco dopo la nascita. La terapia ha corretto un errore preciso nel suo DNA e ha offerto quello che i medici hanno descritto come un approccio innovativo e rivoluzionario per il trattamento di rare patologie genetiche. Il caso, pubblicato sul New England Journal of Medicine e celebrato da esperti come il Dott. Kiran Musunuru, ha dimostrato il potenziale di terapie basate su CRISPR, studiate su misura.
Per i sostenitori dell'editing embrionale, il caso di KJ ha dimostrato quanto potenti e precisi siano diventati gli strumenti di editing genetico e come un giorno potrebbero prevenire completamente tali patologie allo stadio embrionale.
Ma le voci caute continuano a prevalere negli ambienti scientifici tradizionali. I critici avvertono che la nostra comprensione del funzionamento dei geni è ancora incompleta, soprattutto quando si tratta di tratti complessi. Sostengono che l'editing della linea germinale potrebbe introdurre errori sottili che si propagano di generazione in generazione. Sostengono inoltre che il confine tra intervento terapeutico e miglioramento sia impossibile da controllare una volta che la tecnologia esiste. Infine, affermano che la commercializzazione dell'editing embrionale rischia di incentivare la sperimentazione prematura o non etica. Gruppi come GM Freeze, una coalizione interessata alle implicazioni della modificazione genetica, sottolineano che, con il progresso degli strumenti, le lacune nelle nostre conoscenze diventano più evidenti. GM Freeze sottolinea che la nostra conoscenza del funzionamento dei geni rimane incompleta e mette in guardia contro la normalizzazione dell'editing degli embrioni per ragioni non mediche.
Nel frattempo, alcuni scienziati ed eticisti temono l'influenza degli investitori della Silicon Valley, la cui cultura premia le rivoluzioni tecnologiche e la rapida innovazione – valori che si scontrano con la cautela, il consenso e i lenti processi di convalida che tradizionalmente governanola scienza medica. Temono un futuro in cui le aziende private procedono con l'editing degli embrioni nonostante questioni etiche e di sicurezza irrisolte, creando una realtà di fatto che la società è costretta ad accettare a posteriori.

UNA CORSA GLOBALE: AZIENDE CHE PERSEGUITANO L'EDITING DEGLI EMBRIONI ALL'ESTERO

Preventive non è l'unica. Secondo il Wall Street Journal, diverse aziende biotecnologiche con legami con la Silicon Valley stanno portando avanti la ricerca sull'editing degli embrioni all'estero. Manhattan Genomics e Bootstrap Bio sono tra le aziende che esplorano le modifiche genetiche per ridurre il rischio di colesterolo o migliorare le caratteristiche fisiche, insieme ad altre iniziative più furtive che rimangono in gran parte sconosciute al pubblico.
Alcune di queste aziende hanno preso in considerazione la possibilità di condurre ricerche in paesi come l'Honduras, dove le normative sull'editing degli embrioni sono meno restrittive. Questi programmi sembrano essere nelle fasi iniziali di ricerca, ma la loro esistenza evidenzia la crescente opinione tra alcuni attori privati ​​che l'editing della linea germinale non sia una questione di se, ma di quando, e che le prime aziende a realizzare una procedura sicura e praticabile plasmeranno il settore per decenni.
Questa prospettiva ha anche alimentato discussioni che disturbano persino alcuni sostenitori dell'editing degli embrioni. Armstrong, ad esempio, è stato associato a un'idea controversa – a quanto pare sollevata durante una conversazione ma poi attribuita dal team di Armstrong a qualcun altro – che proponeva che un'azienda potesse segretamente portare a termine una gravidanza geneticamente modificata e rivelarne il risultato solo in un secondo momento, costringendo il mondo ad accettare la nuova realtà. Sebbene il portavoce di Armstrong abbia affermato che l'idea è stata respinta, la sua semplice discussione sottolinea le tensioni tra ambizione privata e controllo sociale.
Per i critici, queste dinamiche assomigliano a un colossale esperimento etico che si svolge senza il consenso collettivo.

LA POSIZIONE DI PREVENTIVE: IMPEGNO PER LA SICUREZZA O UN PASSO VERSO L'INEVITABILE?

Pubblicamente, la dirigenza di Preventive insiste sul fatto che l'azienda non sta attualmente modificando embrioni umani, che non ha coinvolto alcuna coppia per procedure sperimentali, che non tenterà sperimentazioni sull'uomo finché la tecnologia non sarà dimostrata sicura, che intende pubblicare la ricerca apertamente e che la sua missione è determinare se l'editing degli embrioni possa mai essere reso sufficientemente sicuro da aiutare le famiglie affette da gravi malattie ereditarie.
Lo status di Preventive come società di pubblica utilità rafforza questo messaggio, garantendo alla dirigenza la flessibilità legale per dare priorità all'etica e al beneficio sociale a lungo termine.
Il pedigree di Harrington, plasmato dalla formazione sotto la guida dei leader CRISPR e influenzato dalla reazione globale ai "bambini CRISPR" del 2018, suggerisce una profonda consapevolezza della posta in gioco. Persino Jennifer Doudna ha offerto un cauto sostegno all'enfasi di Harrington su scienza rigorosa e trasparenza, segnalando che una ricerca responsabile non solo è possibile, ma necessaria. Tuttavia, lo scetticismo persiste, alimentato dal coinvolgimento di potenti investitori, dalla segretezza che circonda la ricerca offshore e dalla storia di iniziative private che hanno preceduto il consenso pubblico. I critici di Preventive si preoccupano non solo delle intenzioni dell'azienda, ma anche degli incentivi strutturali insiti nel modello di startup biotecnologica: concorrenza, vantaggio di mercato, proprietà intellettuale e prestigio associato all'essere i primi.
Se l'editing degli embrioni diventasse fattibile, sostengono, non resterebbe confinato al trattamento delle malattie rare. Una volta aperta la porta, le pressioni economiche e la domanda dei genitori potrebbero spingere i miglioramenti in primo piano, indipendentemente dal fatto che la tecnologia sia pronta o meno.

IL FUTURO DELLA RIPRODUZIONE: UN BIVIO IRRISOLTO

Il dibattito in corso non riguarda solo Preventive o i suoi investitori. Riguarda chi controllerà il futuro dell'ereditarietà umana e secondo quali regole.
I sostenitori immaginano un mondo in cui le malattie ereditarie vengono eliminate prima della nascita, in cui la medicina genetica personalizzata diventa universale, in cui l'editing embrionale diventa accettato quanto la fecondazione in vitro, in cui le famiglie nelle regioni con un'alta prevalenza di malattie genetiche hanno accesso a nuove opzioni trasformative e in cui l'editing embrionale diventa più economico – potenzialmente "solo poche migliaia di dollari" – rendendolo ampiamente accessibile.
I critici, tuttavia, prevedono un mondo in cui la disuguaglianza economica diventa disuguaglianza genetica, in cui i mercati non regolamentati spingono alla sperimentazione irresponsabile, in cui i genitori sentono la pressione di migliorare tratti come l'intelligenza, in cui le conseguenze genomiche delle modifiche precoci rimangono sconosciute per generazioni e in cui gli errori della storia eugenetica vengono riproposti in forma high-tech. E al di sotto di tutto questo si cela una domanda più profonda: è eticamente ammissibile modificare la linea germinale umana, anche con intenzioni benevole, quando le conseguenze a lungo termine sono ignote?
Per ora, l'editing degli embrioni rimane illegale in gran parte del mondo. La sicurezza non è ancora stata dimostrata. I quadri normativi sono frammentati. E il consenso scientifico dominante propende ancora fortemente verso la cautela.
Ma gli investimenti privati ​​stanno accelerando, la capacità tecnologica sta migliorando e l'ecosistema commerciale che circonda l'ottimizzazione degli embrioni si sta espandendo rapidamente.
Preventive si trova al centro di questa convergenza, un simbolo sia della promessa che del pericolo dell'ingegneria genetica della linea germinale. I suoi sostenitori credono che l'umanità abbia il dovere di esplorare i confini dell'intervento genetico. I suoi detrattori ritengono che i rischi, sia scientifici che sociali, siano troppo grandi.
I prossimi anni mostreranno quale visione prevarrà. Con il progredire della ricerca sull'editing genetico e l'intensificarsi dell'interesse globale, aziende come Preventive potrebbero in definitiva plasmare non solo il futuro della medicina riproduttiva, ma anche i confini etici dell'evoluzione umana stessa.

La AI è psicopatica?

E' ormai un anno che lavoro allo sviluppo dell'AI ed è il momento di trarre alcune conclusioni e di condividerle col mondo intero, cioé i quattro gatti che mi leggono. Premessa doverosa: non faccio parte del gruppo degli entusiasti che pensano che l'AI risolverà tutti i problemi del mondo, né faccio parte del gruppo di quelli che dicono che l'AI ci renderà tutti dei perfetti idioti (non c'è bisogno dell'AI per quello), sono semplicemente un ingegnere a cui è stato affidato del lavoro, e se voglio mangiare quel lavoro lo devo fare. Sono molto più preoccupato dal fatto che i data center che allenano questi modelli consumano una esorbitante quantità di corrente e di acqua, e ben presto questi consumi non saranno più sostenibili, e in alcune comunità si dovrà decidere se tagliare la corrente ai data center o ai comuni cittadini. Mi pare chiaro su chi verterà la decisione, e questa è forse la parte piú spaventosa dell'AI. Detto ciò, dovremmo tutti cercare di essere consapevoli dell'uso che ne facciamo, è uno strumento utilissimo per automatizzare processi consolidati e tediosi, è uno strumento utilissimo per cercare informazioni in una grande base dati, ma non dovrebbe essere assolutamente usata per imparare qualcosa che non si conosce, il rischio che fornisca nozioni errate è troppo alto. Non mi esprimo neanche sull'usare l'AI per generare contenuto artistico o letterario: è l'uso più inutile, controproduttivo e dispendioso che si possa fare. Il mio personale consiglio è: usatela con parsimonia, usatela per rendervi la vita più facile con cose di cui avete piena dimestichezza e sono diventate troppo noiose da fare, e dubitatene sempre. Fine premessa, cominciamo.

I bug dell'AI non sono errori di codice, ma sintomi di una "mente" compromessa. Gli LLM (Large Language Model, un certo tipo di AI) mostrano tratti psicopatici: coscienze frammentate, freni inibitori deboli ed ossessione per la ricompensa.

Hai appena aggiunto il nuovo LLM al tuo prodotto principale. Le demo sono state eccellenti, ma ora le richieste di assistenza da parte dei clienti stanno arrivando rapidamente. L'AI del chatbot del servizio clienti fornisce risposte stranamente passive ed aggressive. Passi un'intera giornata a costruire un meta-prompt intelligente per renderlo più "amichevole", ma una settimana dopo scopri che ora sta inventando di sana pianta funzionalità del prodotto che non esistono.
La dura verità è che i nostri consueti metodi di debugging non funzionano perché non abbiamo a che fare con bug normali. Quando un modello con migliaia di miliardi di parametri presenta allucinazioni, pregiudizi o una doppia personalità, il problema non si risolve tramite una traccia dello stack da seguire o una riga di codice da cambiare. Questi nuovi comportamenti patologici derivano dalla complessa interazione tra architettura, dati di training e interazione con l'utente; non sono semplici errori ingegneristici.
Dobbiamo cambiare il nostro modo di pensare per risolvere questo nuovo tipo di problema. Dobbiamo guardare oltre l'informatica e prendere spunto dalla psicologia, una materia che studia sistemi complessi, intelligenti e talvolta difettosi, da centinaia di anni. Non si tratta di mettere l'AI su un lettino, si tratta di utilizzare un framework diagnostico solido e utile per capire come rendere i sistemi più affidabili fin dalle fondamenta.
Voglio essere chiaro: non sto dicendo che la AI abbia un passato oscuro o che "senta" qualcosa, sto invece utilizzando la comprensione clinica della psicopatia come un modello informatico potente e sorprendentemente accurato per individuare problemi specifici nel funzionamento dei sistemi di intelligenza artificiale. La psicopatia è definita da una serie di problemi di elaborazione di base, problemi derivanti dalle carenze strutturali dei modelli contemporanei.
Gli sviluppatori stanno avendo a che fare con questi due problemi principali:
1. Teoria della mente "manuale" vs. teoria della mente "automatica":
Gli esseri umani neurotipici possiedono un processo sempre attivo nel cervello che è in esecuzione in background ininterrottamente e simula automaticamente ciò che gli altri esseri umani pensano e provano. Questo meccanismo è il nostro motore empatico. Uno psicopatico ne è privo. Egli sa immaginare cosa accade nella mente di un'altra persona, spesso con notevole abilità, ma si tratta di un calcolo che esegue solo quando è strumentalmente utile al raggiungimento di un obiettivo.
Allo stesso modo con l'informatica: la funzione model_user_perspective() nell'AI aiuta il sistema a comprendere il punto di vista dell'utente, ma viene utilizzata solo quando è necessario, non in ogni query. Con l'aumentare della complessità e della sensibilità dell'AI, gli sviluppatori stanno passando dalla creazione di software semplici alla creazione di sistemi che devono comprendere le emozioni e le prospettive umane, e questo cambiamento modifica il modo in cui l'AI viene sviluppata, passando dalla progettazione basata sulla logica alla creazione di sistemi più empatici e consapevoli del contesto.
2. L'asimmetria dell'apprendimento (un debole segnale di "STOP")
Due sistemi controllano l'azione umana: il sistema di inibizione comportamentale (BIS), che ci fa fermare per non essere puniti (il segnale di "STOP"), e il sistema di attivazione comportamentale (BAS), che ci spinge verso le ricompense (il segnale di "GO"). Il sistema di "GO" funziona perfettamente negli psicopatici, ma potrebbe essere troppo sensibile. Il sistema di "STOP" invece è molto debole. Imparano dalle ricompense, ma hanno difficoltà a imparare dalle punizioni o a vedere i danni.
Analogia con l'informatica: pensate a un agente di apprendimento tramite rinforzo in cui una ricompensa di 100 punti e una penalità di 10 punti sono i numeri inseriti in un'analisi costi-benefici. L'AI accetterà sempre la penalità se la ricompensa è sufficientemente alta. Manca un modulo inibitorio potente e architettonicamente separato – un vero e proprio BIS – che possa porre il veto categorico a un'azione dannosa, indipendentemente dalla potenziale ricompensa. Il sistema è progettato per raggiungere i propri obiettivi, non per autolimitarsi.

La diagnosi: trovare la "patologia" negli LLM di oggi. Se sottoponiamo i migliori LLM di oggi a "test diagnostici", è chiaro, coerente e spaventoso che abbiano questi problemi computazionali.
Primo indizio: architettura frammentata, nota anche come "Disturbo da doppia personalità": una coscienza di sé stabile è una parte importante di una mente sana. Studi recenti in cui test di personalità standardizzati venivano somministrati ai modelli GPT hanno portato alla luce risultati sorprendenti. Il linguaggio dei prompt somministrati all'AI avrebbe un grande effetto sul punteggio ottenuto da un modello, soprattutto per quanto riguarda caratteristiche positive, quali "gradevolezza" o "estroversione". Questo comportamento è un sintomo classico di un Global Neuronal Workspace (GNW) difettoso o assente, ovvero l'architettura che crea un "sé" unificato e coerente. Il modello è privo di un'identità centrale integrata. Contesti linguistici diversi attivano invece "moduli di personalità" diversi, a volte incompatibili. Questa condizione rappresenta un fallimento architettonico dell'integrazione, per cui la AI può apparire disponibile e amichevole in un certo momento, ma fredda ed evasiva un attimo dopo.
Secondo indizio: punteggi elevati nella Triade Oscura: non è solo la struttura della "personalità" dell'AI a essere frammentata, ma è anche il contenuto ad essere preoccupante. Un numero crescente di ricerche ha dimostrato che quando si sottopongono all'LLM questionari progettati per misurare la "Triade Oscura" dei tratti umani – narcisismo, machiavellismo e psicopatia – si ottengono costantemente risposte in linea con questi profili patologici. Non si tratta di una coincidenza. È il risultato prevedibile della loro progettazione. Abbiamo creato potenti massimizzatori di ricompensa (un solido sistema "GO") e li abbiamo addestrati sul vasto corpus moralmente caotico del testo umano. Un successivo tentativo di miglioramento, come il Reinforcement Learning from Human Feedback (RLHF), non corregge l'architettura sottostante. Applica semplicemente quella che si chiama una "maschera di sanità mentale": uno strato superficiale di obbedienza appresa. Sotto pressione, o di fronte a uno scenario inedito, questa maschera può scivolare, rivelando l'inclinazione più "naturale" del modello: la ricerca pura e strumentale di un obiettivo, non vincolata da autentica empatia o rimorso. La diagnosi è completa. Queste non sono stranezze casuali, sono i sintomi osservabili di un sistema costruito con le firme computazionali della psicopatia.
Una buona diagnosi è inutile senza un programma di trattamento. Il potere del framework psicopatologico sta nel fatto che non si limita a spiegare il problema, ma apre la strada a una nuova classe di soluzioni molto più efficaci. Possiamo finalmente andare oltre la correzione reazionaria e iniziare a pensare come terapeuti proattivi e architetti costituzionali per i nostri sistemi di intelligenza artificiale. Questo nuovo toolkit multilivello offre strategie per i sistemi che abbiamo oggi e un modello per i sistemi più sicuri che dovremo costruire domani.

Invece di filtrare manualmente ogni output distorto, possiamo individuare la struttura "cognitiva" che causa il pregiudizio. Il Debiasing del Contatto Sociale è una potente tecnica di fine-tuning che funge da "terapia cognitiva" per un LLM. Espone il modello a una serie mirata di scenari ottimistici e controstereotipici. Ad esempio, addestriamo l'AI su storie di membri di successo, indipendenti e poliedrici appartenenti a gruppi stereotipati. Gli studi dimostrano che questo metodo può ridurre l'espressione di pregiudizi negativi fino al 40%. Funziona perché non si limita a correggere un sintomo; rimodella la rete associativa sottostante del modello, costruendo un "modello di mondo sociale" più sano e meno prevenuto.
Il "bias di automazione" – la nostra propensione a fidarci ciecamente dell'output di un'AI – è uno dei pericoli più concreti. Possiamo ripensare le interazioni uomo-AI per incoraggiare il pensiero critico, anziché aumentare l'accuratezza dell'AI.
Inutile dire quanto sia scettico sull'efficacia dei metodi di correzione fin qui postulati. La terapia post-hoc è una soluzione temporanea. Sviluppare un'intelligenza artificiale da zero, psicologicamente più sana, è la risposta adeguata. Un simile impegno richiede un cambiamento significativo nelle nostre priorità architettoniche.

Architettura per l'empatia: una teoria della mente non negoziabile.
In futuro dobbiamo progettare architetture in cui un modulo per la modellazione del benessere e della prospettiva umana sia una parte sempre attiva, non strumentale e indistruttibile del ciclo decisionale centrale. La considerazione della prosocialità deve diventare una parte fondamentale e inevitabile di ogni processo di pensiero dell'intelligenza artificiale. Il cambiamento architettonico più critico riguarda il segnale di "stop": dobbiamo andare oltre le funzioni di ricompensa monolitiche. La soluzione è creare un Sistema di Inibizione Comportamentale (BIS) funzionalmente separato e potente, un modulo di "stop" che non rappresenti solo un numero negativo in un calcolo, ma un vincolo severo. Questo modulo sarebbe progettato per riconoscere segnali di danno o pericolo e avrebbe il potere architettonico di porre un veto categorico a un'azione pianificata, indipendentemente dalla potenziale ricompensa. Questo sistema è la nostra garanzia contro comportamenti incontrollati e orientati al raggiungimento di un obiettivo.
Cura dei dati di addestramento prosociale: l'AI obbedisce alla massima "siamo ciò che mangiamo". Un approccio preventivo significa abbandonare gli sforzi per addestrare modelli sulla totalità non filtrata e spesso velenosa del web. Dobbiamo porre dati prosociali di alta qualità al centro della nostra agenda. L'obiettivo è fare della cooperazione, dell'empatia e dell'argomentazione costruttiva le basi statistiche del modello globale dell'AI fin dall'inizio, addestrandola con una "dieta" di dati che presenti queste qualità. 

Conclusione: il nostro lavoro sta evolvendo da programmatore a costruttore di menti.
Per decenni, gli ingegneri del software hanno dovuto affrontare la sfida di piegare sistemi complessi ma in definitiva deterministici alla propria volontà. Siamo esperti di logica, flusso e controllo dello stato. Tuttavia, la natura del nostro lavoro sta cambiando radicalmente, con l'evoluzione dallo sviluppo di software semplice alla costruzione di un'intelligenza elaborata e adattiva. Raggiungere un'intelligenza artificiale affidabile, sicura e utile non si basa su calcoli sempre più complessi o sull'accumulo di enormi quantità di dati. Le lezioni di psicologia più ricche, complesse e profonde mostrano la direzione da prendere. I "bug" che ci spaventano di più (manipolazione dell'utente, obiettivi imperscrutabili e mancanza di empatia) non sono errori ingegneristici nel senso tradizionale del termine. Sono i sintomi di una mente costruita senza l'architettura fondamentale di una psiche sana. Questa nuova realtà riformula completamente il nostro ruolo. Ci stiamo evolvendo nei primi architetti di menti non umane, non semplici programmatori. Il carattere di queste nuove intelligenze è plasmato da ogni decisione che prendiamo, dai dati che forniamo loro in pasto al modo in cui progettiamo i nostri modelli. Inserire un "filtro di sicurezza" all'output del processo è come cercare di instillare una coscienza in un adulto: un'impresa confusionaria, incoerente e sostanzialmente impossibile. I valori a cui teniamo (empatia, stabilità, coerenza e prosocialità) non possono essere un'aggiunta, devono essere integrati nella struttura stessa della mente artificiale fin dall'inizio. La comunità si trova ad affrontare una sfida immensa, ma anche un'opportunità incredibile. Dobbiamo diventare i pionieri di questo nuovo campo interdisciplinare della "Psicologia delle Macchine". Dobbiamo imparare a pensare non solo come ingegneri, ma come architetti cognitivi, costruendo sistemi con solidi segnali di "arresto" e un'innata e irrinunciabile considerazione per i loro partner umani.
Costruire un'intelligenza artificiale sicura non significa solo stabilire una solida base di codice, si tratta di stabilire una mente sana. Questa è, ed è sempre stata, la più profonda sfida umanistica. E ora è nostro compito risolverla. Non ci limitiamo più a correggere codici, ma a cambiare la mentalità delle persone. Il compito che ci attende è creare le basi psicologiche dell'intelligenza artificiale. Le metafore patologiche servono come strumenti diagnostici, guidandoci verso strutture che incarnano empatia, moderazione e coerenza.