Perché le organizzazioni sanitarie devono dare priorità alla governance dell'intelligenza artificiale

La governance dell'IA può anche essere vista come un'estensione della governance dei dati . In definitiva, l'IA è composta essenzialmente da dati e analisi avanzate. Le soluzioni di IA necessitano dei principi e delle pratiche di governance dei dati , ovvero di gestione dei dati, qualità dei dati, gestione dei metadati, privacy e sicurezza, tanto quanto, se non di più, le soluzioni tradizionali di dati e analisi. È importante non reinventare la governance delle soluzioni di IA da zero senza considerare gli elementi fondamentali critici della governance dei dati.

Parte della governance dell'IA dovrebbe affrontare le problematiche relative a pregiudizi, processi decisionali e impatto economico e culturale della tecnologia. È fondamentale che le organizzazioni sanitarie si basino sulla governance dei dati e su ulteriori aree specifiche della governance dell'IA se desiderano un'adozione sostenibile e a livello aziendale delle soluzioni di IA.

I pazienti sono preoccupati per l'insufficiente governance dell'intelligenza artificiale

Ogni anno, l'organizzazione no-profit di ricerca sanitaria ECRI pubblica un elenco delle minacce più significative per la sicurezza dei pazienti . Per il 2025, la "governance insufficiente dell'intelligenza artificiale in ambito sanitario" si è aggiudicata il secondo posto .

E i pazienti hanno tutto il diritto di essere preoccupati per come i loro operatori sanitari utilizzano l'IA nell'erogazione delle cure. Se esiste una soluzione di assistenza infermieristica virtuale che si basa sulla visione artificiale per monitorare una stanza, i pazienti sono stati informati della presenza di telecamera e microfono e hanno dato il loro consenso esplicito? I pazienti sanno che i loro medici di base utilizzano strumenti di ascolto ambientale per la documentazione clinica durante le visite annuali? In che modo l'organizzazione protegge i dati sanitari dei pazienti se viene utilizzata una soluzione di IA?

Queste sono le domande a cui le organizzazioni sanitarie devono rispondere mentre esplorano il ruolo che l'intelligenza artificiale può svolgere nei loro flussi di lavoro clinici. Tuttavia, secondo un'indagine del 2023 del Center for Connected Medicine dell'UPMC e di KLAS Research, solo il 16% dei sistemi sanitari dispone di strutture di governance specifiche per l'intelligenza artificiale e i dati.

Un'analisi dei dati del sondaggio dell'American Hospital Association del 2023 condotta dalla School of Public Health dell'Università del Minnesota ha rilevato che, sebbene la maggior parte degli ospedali statunitensi utilizzasse modelli predittivi assistiti dall'intelligenza artificiale , solo il 44% di essi aveva valutato i propri modelli per eventuali distorsioni. Ciò è dannoso per l'equa erogazione dell'assistenza e, se le organizzazioni sanitarie vogliono raggiungere il Quintuplo Obiettivo, che include il miglioramento dell'equità sanitaria, devono affrontare seriamente la distorsione dell'intelligenza artificiale.

LEGGI DI PIÙ: Sfrutta i dati e l'intelligenza artificiale per ottenere risultati sanitari migliori.

La governance dell’IA non è solo un cambiamento tecnologico

Dietro il costante interesse per l'intelligenza artificiale, si celano preoccupazioni per la carenza di personale sanitario e il persistente burnout clinico. Medici e infermieri sono sotto pressione e non sempre ricevono il supporto di cui hanno bisogno. Oltre a ciò, gli Stati Uniti continueranno a registrare un costante aumento della domanda di assistenza sanitaria, con l'invecchiamento della popolazione dei baby boomer.

Le organizzazioni di fornitori sono alla ricerca di soluzioni per ridurre l'onere amministrativo a carico dei medici e aiutarli a fare di più con meno. Sperano anche di adottare soluzioni che possano attrarre talenti e magari prolungare la carriera di infermieri o specialisti che altrimenti potrebbero andare in pensione nei prossimi anni.

Ecco perché, mentre le organizzazioni sanitarie continuano a sperimentare e ad espandere le applicazioni basate sull'intelligenza artificiale , è necessaria una solida struttura di governance per garantire la protezione di operatori e pazienti. E non è sufficiente nominare un dirigente senior per supervisionare l'intelligenza artificiale e chiudere la questione. La governance dell'intelligenza artificiale dovrebbe includere più dipartimenti , con formazione e istruzione a livello aziendale.

"Abbiamo bisogno di un livello di alfabetizzazione all'intelligenza artificiale tale che i medici che utilizzano il dispositivo dicano: 'Ehi, aspetta un attimo. È stato sottoposto al nostro processo di valutazione dell'intelligenza artificiale? Di quale intelligenza artificiale stai parlando?'", ha affermato il Dott. Brett Oliver, responsabile delle informazioni mediche presso il Baptist Health Medical Group di Louisville, Kentucky, durante una conferenza di settore nel 2024. "Conversazioni relativamente brevi come queste possono avere un grande impatto per garantire che l'intelligenza artificiale in arrivo venga valutata e monitorata".