AI in de pediatrische zorg brengt uitdagingen en nieuwe efficiënties met zich mee

Risico's en uitdagingen van het gebruik van AI in de kindergeneeskunde

Grote taalmodellen zijn gevoelig voor ‘ kruiperij ’, ofwel de wens om de gebruiker die dat oproept tevreden te stellen, en voor hallucinaties, die voortkomen uit verzonnen bevindingen, legt Desai uit.

Hij geeft aan dat het gebruik van AI in de kindergeneeskunde ook uitdagingen met zich meebrengt, omdat veel kinderziektes zeldzaam zijn en daardoor moeilijker te voorspellen zijn met algoritmes.

"Dit is een puur biostatistische beperking: de prestaties van een algoritme in de praktijk hangen sterk af van de prevalentie van de aandoening. Hoe vaker de aandoening voorkomt, hoe nauwkeuriger het algoritme", legt Desai uit. "Omgekeerd geldt: hoe zeldzamer de aandoening, hoe slechter het algoritme zal presteren."

Hoewel wetenschappers machine learning-algoritmen gebruiken om zeldzame kinderaandoeningen zoals primaire immuundeficiënties te identificeren, genereren ze volgens Desai nog steeds een groot aantal 'nep-positieve' resultaten. Kinderen worden vervolgens onderworpen aan talloze onnodige en dure tests, zegt hij.

LEES MEER: AI wordt tegenwoordig op verschillende manieren ingezet in de gezondheidszorg.

"Dat maakt het heel lastig om deze algoritmes te implementeren op de plek van zorg", zegt Desai.

Bovendien brengen opleidingsvoorkeuren risico's met zich mee voor de kindergeneeskunde.

"Sommige groepen patiënten waren mogelijk ondervertegenwoordigd in de trainingsdata , waardoor de voorspellingen van het model over die patiënten onnauwkeurig zijn", aldus Desai.

Om de risico's van AI te beheersen, heeft Texas Children's een AI-bestuurs- en stuurcomité opgericht, zegt Teresa Tonthat, vice-president en associate CIO van het ziekenhuis.

De governancecommissie zorgt ervoor dat alle uitkomsten van AI-modellen een "mens in het midden" vereisen om informatie te verifiëren voordat er beslissingen over de patiënt worden genomen, aldus Tonthat. De commissie richt zich ook op zorgen over wettelijke vereisten, vooringenomenheid en AI-hallucinaties , voegt ze eraan toe.

Omdat het zorgsysteem met gegevens van kinderen werkt, geeft Texas Children's voorlichting aan zorgteams over ondertekening via MyChart van Epic en werkt het bedrijf samen met leveranciers zoals Microsoft om te bespreken hoe zij patiëntgegevens gebruiken en beschermen, aldus Tonthat.

"Onze risicobereidheid is erg laag als het gaat om informatie over onze pediatrische patiënten", zegt Tonthat.

Ondanks de risico's biedt AI kansen om klinische problemen op te lossen en de efficiëntie van workflows te verbeteren.

AI voor radiologie en diagnostiek in de kindergeneeskunde

Texas Children's gebruikt al meer dan tien jaar AI en heeft zich gericht op voorspellende modellen, automatisering, deep learning en machine learning om klinische problemen op te lossen, zegt Tonthat. Het ziekenhuis onderzoekt al twee jaar generatieve AI, met name met modellen die de workflow van zorgteams verbeteren. Het duurde even voordat de interesse groeide bij de klinische teams van Texas Children's, maar nu is het personeel klaar om op te schalen, zegt ze.

Texas Children's ontwikkelde een AI-model waarmee radiologen de botleeftijd kunnen voorspellen. Het model werd getraind op miljoenen röntgenfoto's van kinderhanden.

"Omdat we miljoenen röntgenfoto's van handen hebben, hebben we het model getraind om binnen enkele seconden te kunnen aangeven hoe oud de hand van dat kind is vanuit het perspectief van de botdichtheid", zegt Tonthat.

Met behulp van zijn op AI gebaseerde voorspellingsmodel voor botleeftijd kon Texas Children's de doorlooptijd met 50% verkorten door AI te integreren in de klinische workflows van radiologen, aldus Tonthat. Het AI-model is een samenwerking tussen de afdelingen radiologie en informatiediensten van het ziekenhuis en de commissie voor AI-bestuur en -richtlijnen.

Volgens Desai maakt CHOP ook gebruik van AI in de radiologie .

"In hun onderzoek kijken onderzoekers bij CHOP naar AI voor verbeterde radiologische diagnostiek, het onderscheppen van laboratoriumfouten, het versnellen van de diagnose op basis van pathologiepreparaten en meer", zegt hij.

Als een arts een patiënt met slecht gecontroleerde astma behandelt, zou een ambient AI-tool automatisch de astmageschiedenis van de patiënt kunnen ophalen, eerdere astmagerelateerde bezoeken kunnen samenvatten en een arts kunnen waarschuwen als de patiënt een hoger risico op griep loopt, aldus Desai. Vervolgens zou de tool controleren welke medicatie de zorgverzekering van de patiënt vergoedt en de bestelling voor de astmamedicatie kunnen voorbereiden, aldus Desai.