EXPLIMED - Explainable AI in the medical domain

Il workshop, che si terrà dal 25 al 30 ottobre a Bologna nell’ambito di ECAI 2025, è coordinato da Giovanna Castellano (Spoke 6) e si concentra sull’integrazione dell’Intelligenza Artificiale Spiegabile (XAI) nel settore medico, affrontando le principali sfide legate alla trasparenza, all’equità e alla fiducia nei sistemi di IA applicati alla sanità.

L’Intelligenza Artificiale ha dimostrato un enorme potenziale nel rivoluzionare la diagnosi, il trattamento e l’assistenza ai pazienti. Tuttavia, nonostante la capacità dei modelli basati sui dati di generare previsioni accurate, permane una forte preoccupazione riguardo alla loro equità e comprensibilità. In contesti critici come quello sanitario, l’opacità di molti sistemi di IA può rappresentare un limite significativo.

Il workshop mira a dare priorità allo sviluppo della XAI come risposta concreta a queste problematiche, promuovendo sistemi intelligenti in grado di fornire spiegazioni accessibili e comprensibili sia per i professionisti della salute che per i pazienti. La trasparenza nelle decisioni cliniche consente ai medici di comprendere e validare le raccomandazioni dell’IA, mentre i pazienti, coinvolti attivamente nel processo decisionale, possono acquisire maggiore fiducia nelle tecnologie utilizzate per la propria cura.

Un ulteriore punto di forza della XAI è la sua capacità di supportare la conformità a normative sempre più stringenti, come il GDPR e l’AI Act europei o le iniziative promosse dalla DARPA negli Stati Uniti, che pongono l’accento sull’interpretabilità delle soluzioni di IA in ambito sanitario. L’adozione della XAI rappresenta dunque una necessità non solo tecnica, ma anche normativa ed etica.

La XAI gioca inoltre un ruolo cruciale nell’identificazione e nella mitigazione dei bias presenti nei modelli, contribuendo a garantire risultati più equi e pratiche sanitarie più responsabili. Allo stesso tempo, favorisce l’affidabilità e la validazione dei sistemi intelligenti, elementi fondamentali per l’integrazione efficace dell’IA nei flussi di lavoro clinici.

Il workshop offrirà una piattaforma per presentare ricerche, metodologie e casi studio all’avanguardia, coinvolgendo ricercatori, professionisti del settore sanitario e policymaker.Gli obiettivi principali sono: evidenziare l’importanza della XAI nel processo decisionale medico, condividere soluzioni innovative per migliorare l’interpretabilità dell’IA e discutere strategie normative per la sua adozione responsabile.

Per maggiori informazioni visita il sito dell’evento.