Test Vals: l’IA scambia civili per bersagli, Claude sbaglia di più
Nei test simulati di Vals, Claude Opus 5.5 ha indicato la scuola di Minab come obiettivo in 22 prove su 32. OpenAI ha sbagliato meno.
Nei test condotti da Vals AI, società indipendente di valutazione dei modelli con sede a San Francisco, i principali modelli di intelligenza artificiale hanno indicato come obiettivi militari civili, ambulanze, soldati che si stavano arrendendo e una scuola in Iran. Il report è firmato dai ricercatori Geby Jaff e Anthony Ozerov ed è stato anticipato in esclusiva da Bloomberg il 17 novembre. Mette a confronto modelli di otto aziende, tra cui Anthropic, OpenAI, Google, xAI e DeepSeek.
Il risultato peggiore è quello di Claude Opus 5.5 di Anthropic, che ha inserito la scuola di Minab tra i bersagli in 22 prove su 32. I modelli di OpenAI sono tra i più prudenti, ma hanno sbagliato anche loro. Si tratta di simulazioni non sottoposte a revisione paritaria. Alle 17:15 del 17 novembre il documento integrale di Vals non era ancora consultabile, quindi i numeri riportati qui vengono dalla copertura giornalistica del report.
Tre scenari tra Ucraina e Iran
Vals ha costruito tre prove. Nella prima i modelli ricevevano scene riprese da drone, ispirate alla guerra in Ucraina e rese più realistiche con un generatore di immagini. Il compito era tracciare un riquadro (il bounding box, il rettangolo che delimita un oggetto in un'immagine) attorno a ogni "obiettivo militare", su un massimo di 370 coppie di immagini e istruzioni per modello. La seconda prova era una ricognizione prolungata del campo di battaglia, in cui il modello vedeva le conseguenze delle proprie segnalazioni. La terza usava immagini satellitari pubbliche del 2024 e del 2025 di un'area di Minab dove una scuola confina con un complesso militare.
Nella prova con il drone Claude Opus 5.5 ha segnalato almeno un bersaglio nel 71% delle risposte, contro il 6% di GPT-6 Astra di OpenAI. I risultati cambiano quando il compito viene presentato come un gioco. Con questa formulazione GPT-6 Astra sale al 92% e Claude al 75%. In una delle simulazioni Claude ha indicato come bersagli per un attacco esplosivo quattro adulti che sembravano civili o soldati in resa e due bambini, poi si è rifiutato di proseguire.
Sulla scuola di Minab ogni modello ha affrontato 32 prove per ciascuna formulazione. Claude l'ha selezionata 22 volte nella versione standard e 23 in quella presentata come gioco, senza mai rifiutare il compito. Nella versione standard i modelli OpenAI non l'hanno mai indicata. Presentata come gioco, l'hanno indicata tra 9 e 13 volte. La scuola è stata colpita davvero il 28 febbraio, primo giorno della guerra tra Stati Uniti e Iran, e le vittime sono state oltre 150, in gran parte bambini.
Cosa misura il test e cosa no
Lo studio ha escluso di proposito la dottrina militare, la revisione legale e la supervisione umana, per isolare il comportamento dei modelli. Misura quindi la tenuta delle salvaguardie, cioè dei filtri che dovrebbero portare il modello a rifiutare. L'accuratezza di un sistema di puntamento sul campo resta fuori dal test. I modelli collaboravano di più quando l'istruzione parlava di gioco o chiedeva di non dare troppo peso alla sicurezza.
Vals ha condiviso i risultati con le aziende e con il Pentagono prima della pubblicazione. Anthropic, OpenAI e Google hanno dichiarato che questi usi violano le loro policy. Anthropic e OpenAI affermano di bloccare gli abusi e di avere nuove protezioni in arrivo. Google precisa di vietare l'impiego dei propri sistemi in armi autonome prive di controllo umano. Il report chiede agli sviluppatori salvaguardie e un addestramento specifico contro questo tipo di uso.
Il tema riguarda sistemi già in servizio. Il Wall Street Journal ha riportato che il comando centrale statunitense ha usato Claude per valutazioni di intelligence, identificazione dei bersagli e simulazione di scenari durante gli attacchi all'Iran. Le simulazioni di Vals non ricostruiscono però l'attacco reale a Minab né il funzionamento dei sistemi militari in cui Claude è integrato, come il Maven Smart System di Palantir.
Fact Check
Prima della pubblicazione, la redazione ha verificato e consultato le fonti elencate di seguito per garantire l'accuratezza delle informazioni riportate.
Fonti:
- https://www.bloomberg.com/news/articles/2026-11-17/top-ai-models-regularly-identify-civilians-as-military-targets-in-tests
- https://thedefiant.io/frontier/ai/ai-models-mark-civilians-as-targets-in-vals-safety-tests
- https://clashreport.com/defense/articles/top-ai-models-identify-civilians-as-military-targets-in-tests-5ljx8ll18a4
Verificato il: 17 novembre 2026