L’AI sanitaria non è un software da comprare

Quando un’organizzazione sanitaria dice «vogliamo introdurre l’intelligenza artificiale», la prima domanda non dovrebbe essere quale piattaforma acquistare. Dovrebbe essere: quale decisione vogliamo migliorare, per chi, con quali dati e sotto la responsabilità di chi? Sembra prudenza amministrativa. È invece la differenza tra innovazione e arredamento tecnologico.

Il problema viene prima del prodotto

Un caso d’uso serio descrive un processo concreto. Indica l’utente, l’informazione disponibile, l’output, il tempo entro cui quell’output deve arrivare e l’azione che può seguirne. Se non sappiamo descrivere questi elementi senza pronunciare la parola algoritmo, non abbiamo ancora un progetto. Abbiamo un desiderio. E i desideri, quando entrano nei capitolati, diventano rapidamente costosi.

La qualità non è soltanto accuratezza

Una percentuale impressionante presentata in una demo non racconta come il sistema si comporterà nella nostra organizzazione. Occorre capire su quali popolazioni e dati è stato verificato, come gestisce i casi mancanti, quanto è sensibile ai cambiamenti del contesto e quali conseguenze produce un errore. In sanità un sistema può essere tecnicamente preciso e organizzativamente pericoloso: basta inserirlo nel punto sbagliato del flusso o attribuirgli un’autorità che non possiede.

Supervisione significa poter dissentire

La supervisione umana non è una firma apposta alla fine. La persona che controlla deve avere competenza, informazioni, tempo e autorità per mettere in discussione il risultato. Se il processo rende più facile accettare il suggerimento dell’AI che analizzarlo, l’essere umano è presente solo nella fotografia dell’organigramma. Il vero human-in-the-loop è progettato, formato e misurato.

Governare tutto il ciclo di vita

Scelta, test locale, introduzione, monitoraggio, aggiornamento e dismissione appartengono allo stesso ciclo. I dati cambiano, i comportamenti cambiano, il fornitore aggiorna il modello, gli utenti inventano scorciatoie. Per questo servono un inventario dei sistemi, un responsabile identificabile, indicatori di qualità, un registro degli incidenti e una procedura per fermare il sistema. La governance non rallenta l’innovazione: evita che l’innovazione proceda bendata.

L’AI Act ha trasformato la competenza in obbligo

L’alfabetizzazione all’AI non coincide con un corso introduttivo uguale per tutti. Chi acquista, chi configura, chi usa e chi controlla affronta rischi differenti. La formazione deve quindi essere costruita per ruolo e verificata sul comportamento reale. Dal 2 agosto 2026 la Commissione europea ha iniziato l’enforcement dell’AI Act e sono diventate applicabili nuove regole di trasparenza. Attendere che il regolatore bussi alla porta non è una strategia: è una confessione.

La domanda utile

Prima di acquistare un sistema chiederei al board di completare una frase: «Se questo progetto funzionasse, quale decisione diventerebbe concretamente migliore e come ce ne accorgeremmo?». Se la risposta non è misurabile, comprensibile e attribuibile, l’AI non è ancora pronta. E probabilmente non lo è nemmeno l’organizzazione.

Le domande che un board dovrebbe pretendere

Prima dell’approvazione servono risposte scritte: quale popolazione è rappresentata nei dati, quale errore è più costoso, chi osserva il sistema dopo il lancio, come viene segnalato un incidente e chi ha l’autorità di sospenderlo. Anche il rapporto con il fornitore deve restare leggibile: versioni, aggiornamenti, subfornitori, localizzazione dei dati e possibilità di esportare evidenze. Un progetto serio lascia tracce verificabili prima, durante e dopo l’adozione.

Misurare ciò che cambia davvero

Tempo risparmiato e numero di utilizzi sono indicatori comodi, ma non bastano. La valutazione dovrebbe includere qualità della decisione, equità tra gruppi, carico cognitivo, correzioni richieste, nuovi errori introdotti e percezione degli utenti. Alcuni benefici appariranno presto, altri soltanto dopo mesi. Per questo il monitoraggio deve unire dati quantitativi, osservazione del lavoro e conversazioni con chi subisce le conseguenze del sistema.

La tecnologia non sostituisce la responsabilità. La rende più difficile da nascondere.