L'IA clinica è un software che supporta decisioni di diagnosi, triage o trattamento nell'assistenza sanitaria. Può sintetizzare le cartelle cliniche dei pazienti, segnalare rischi, raccomandare esami o classificare i casi per la revisione di un clinico. In pratica, è una tecnologia di supporto decisionale: può informare l'assistenza, ma non dovrebbe sostituire il giudizio professionale.
Per la sicurezza informatica, l'IA clinica è importante perché gestisce dati altamente sensibili e può influenzare risultati nel mondo reale. Gli attaccanti possono prendere di mira i dati di addestramento, la pipeline di input o i pesi del modello per avvelenare i risultati, introdurre bias nelle raccomandazioni o causare consigli non sicuri. Possono anche rubare dati dei pazienti tramite controlli di accesso scadenti o estrarre il comportamento del modello attraverso query ripetute. I difensori riducono questi rischi con autenticazione forte, crittografia, registri di audit, convalida degli output del modello, segmentazione e supervisione umana. Nelle revisioni di sicurezza, la domanda chiave non è solo se il sistema funziona, ma se i suoi output sono affidabili, tracciabili e resilienti alle manomissioni.