FDA skal se Watson efter i sømmene

Samtidigt med, at it-virksomheden IBM på kongresser og i reklamemateriale udråber sin supercomputer Watson for Oncology til at være kræftpatienters bedste rådgiver, er der udbrudt uro i kulisserne, hvor man frygter, at Watson for Oncology i stedet kan skade patienterne.

Amerikanske læger, eksperter og forbrugergrupper kræver nemlig nu, at lovgiverne i kongressen sørger for, at computersystemer, der arbejder med sygdom og sundhed, og som i øvrigt baserer sig på kunstig intelligens som Dr. Watson, hurtigst muligt fremover skal monitoreres af de nationale sundhedsmyndigheder, FDA, som i dag ikke har ret til indsigt i Dr. Watsons kvalitet og patientsikkerhed.

Kritikken kommer blandt andet efter, at det amerikanske sundhedssite, STAT, som ejes af den respekterede avis Boston Globe, i en kulegravende rapport har kritiseret Dr. Watson for Oncology for ikke at leve op til IBM’s teknologiske og medicinske løfter. Rapporten sætter desuden et stort spørgsmålstegn ved supercomputerens sikkerhed for patienterne, da der ifølge STAT hverken foreligger tredjeparts undersøgelse af Watsons kvalitet eller nogen former for eksterne reviews eller evidens for, at Dr Watson for Oncology’s behandlingsforslag er korrekte.

“Indtil vi forstår brugen af den kunstige intelligens, og hvordan algoritmerne fungerer, er der virkelig behov for transparens og kontrol udført af tredje part. Vi ønsker at sikre, at der ikke udføres skader i den sidste del af processerne, siger Dr. Reshma Ramachandran, som er en af to formænd for FDA’s task force i lægernes faglige selskab, National Physicians Alliance.

Ifølge IBM kan Watson for Oncology ellers ved hjælp af blandt andet kunstig intelligens, kognitiv databehandling, adgang til alle relevante internationale forsknings- og behandlingsdata sammenkoble al information om den enkelte patient med henblik på i løbet af sekunder at finde de bedst mulige og særligt skræddersyede behandlingsforlag til hver enkelt patient.

Men på onkologisk afdeling på Rigshospitalet, hvor en række af Danmarks mest anerkendte kræftlæger fra hele landet i efteråret testede Watsons kompetencer overfor lungekræft, brystkræft og mave-tarm kræft, er centerleder Leif Panduro Jensen ikke uddelt begejstret for kvaliteten i behandlingsforslagene efter, at testen viste, at en tredjedel af Watsons behandlingsforslag var behæftede med fejl, at en tredjedel ikke var præcise nok, og at kun den resterende tredjedel var ok.

"Markedsføringen var for optimistisk," lyder centerlederens vurdering.

Men imens de amerikanske sundhedsmyndigheder og lægers faglige  organisation bekymrer sig for mulige, men ukendte risici, afviser IBM kravet om offentlig indsigt ifølge STAT.

"Maskinen behøver ikke regulering, for den er forskellig fra andet medicinsk udstyr. Data er hverken medicin eller medicinsk udstyr, og da den ikke kan sammenlignes med for eksempel en pacemaker eller en CT-scanner, behøver firmaet ikke bevise  overfor regeringen, at den er sikker og effektiv," lyder nogle af IBM’s argumenter imod, at FDA får adgang til at føre opsyn med Dr. Watson’s hjerne.

Sundhedspolitisk Tidsskrift har forgæves forsøgt at få en kommentar fra IBM om blandt andet den manglende indsigt fra tredjepart, men IBM har ikke ønsket at besvare spørgsmål herom, selv om IBM i løbet af tre år har solgt Dr. Watson for Oncology til flere end 50 hospitaler i 15 lande.

Hvorvidt det lykkes for kritikerne, at FDA kommer til at regulere Dr.Watson og andre tilsvarende elektroniske produkter fra 2018 forventes at blive afgjort i løbet af efteråret. Men FDA oplyser til STAT, at organisationen er på vej til at udforme vejledende regler, som vil fortælle, hvordan FDA i givet fald vil implementere sine regler i det første kvartal af 2018.