Hur ska nobelpristagaren i medicin firas?

Från The World If publicerad i The Economist, översatt av InPress.
©2021 The Economist Newspaper Limited. Alla rättigheter förbehållna.

The Economist kommenterar: I What if?, vår årliga samling av scenarier, tittar vi på framtiden för den mänskliga hälsan. Scenarierna är fiktion, men grundade på historiska fakta, aktuella spekulationer och verklig vetenskap. 

Det var en scen som Nobelkommittén helst hade velat undvika. Medan årets pristagare gick in i Stockholms konserthus för att inta sina platser, utbröt nämligen kaosartade scener på gatorna utanför. Dussintals demonstranter, inklusive flera tidigare pristagare, drabbade samman med polisen. De hade mötts för att uttrycka sitt motstånd mot det exempellösa beslutet att dela ut Nobelpriset i fysiologi eller me­dicin till en artificiell intelligens.

Priskommittén erkände i sin motivering Yulya, det system som officiellt gick under beteckningen System for Automated Lymphoma Diagnosis, som upptäckaren av så kallad sammanhängande sårbarhet. Detta är en mekanism genom vilken specifika par av antibiotika som fungerar tillsammans kan uppnå effektivitet mot bakteriestammar som annars är antibiotikaresistenta. Kommittén uppskattar att Yulya räddade runt fyra miljoner liv under arton månader efter upptäckten. Upptäckten skedde i samband med att dödstalen förknippade med antibiotikaresistens hade stigit till omkring 2,5 miljoner årligen. Dessa liv räddades genom att man både kunde behandla infektioner igen och återuppta de operationer, inklusive kejsarsnitt, som ansågs för riskfyllda utan antibiotika.

Kontroversiellt beslut att prisa AI

Man skulle kunna tro att det skulle vara tillräcklig kvalifikation för Nobelpriset att sätta stopp för den största globala folkhälsokrisen sedan coronaviruspandemin 2020–2022. Oavsett om det var en människa eller en maskin som lyckades med det. Men beslutet har visat sig enormt kontroversiellt.

Historiskt sett har man tolkat Nobelstiftelsens stadgar som att bara en människa kan tilldelas priset. Men en annan av bestämmelserna är samtidigt att det ska belöna ”den som har gjort mänskligheten den största nytta” under det gångna året. En faktor bakom brottet med traditionen var ett demografiskt skifte i priskommittén. När två av kommitténs fem medlemmar avled av bakterieinfektioner förra året valde man in yngre ersättare. Dessa båda hade av en händelse använt sig av maskinlärningssystem i arbetet med sina doktorsavhandlingar.

Yulya byggdes ursprungligen för att tackla ett annat problem. Nämligen att hitta mer effektiva cancerbehandlingar. Yulya är en av världens mest avancerade kausala nätverk och ingår i den nya generationens AI-system. Dessa AI-system kombinerar de konventionella ”djupa” neurala nätverkens mönsterigenkänning med förmågan att skilja orsakssamband från rena tillfälligheter. Genom att analysera journaler från patientdatabaser och kombinera dem med forskarrapporter från medicinska tidskrifter och historiska data från läkemedelsföretag, försökte den identifiera vilka symtommönster som ledde till de allvarligaste konsekvenserna för att på så sätt kunna diagnostisera dem tidigare. Den var också programmerad för att utvärdera olika behandlingars effektivitet. Inklusive kombinationer av behandlingar, och föreslå nya terapier att testa på patienter.

Operatörerna tvivlade på resultaten

Dess fokus förändrades dock när en mjukvaru­uppdatering 2034 av misstag gav den tillgång till alla färska forskningsrapporter i medicinska tidskrifter, i­stället för enbart de som kunde associeras med cancer. Yulya började därigenom bearbeta data relaterade till antimikrobiell resistens, som stod för en växande andel medicinska forskningsrapporter i och med att krisen intensifierades.

Till en början trodde man att hennes frågor om mer data på specifika områden och förslag till nya tillvägagångssätt för behandling var fel eftersom de inte hade med cancer att göra. Sedan insåg Yulyas operatörer vad som hade hänt. De såg att Yulya hade använt sin tankekapacitet för att bygga upp en testbar hypotes. Föregångaren till det som sedan skulle bli sammanhängande sårbarhet. Den lyfte fram data som behövdes för att validera hypotesen, inklusive specifika riktlinjer för hur de borde samlas in. ”Det var ett fullskaligt forskningsprogram”, säger Anisha Rai, en av Yulyas skapare.

Under mindre exceptionella omständigheter skulle sådana medicinska prövningar aldrig ha fått tillstånd. Många forskningsfinansieringsinstitut kräver att forskare fullt ut ska redovisa AI-systems resonemang. Detta för att försäkra sig om att deras rekommendationer inte leder till dödliga slutsatser. Rai och hennes kolleger fick finansiering för Yulyas medicinska prövningar genom att tona ner hennes roll när det gällde att föreslå hypotesen. Det var först när resultaten visade sig lovande som de publicerade Yulyas ursprungliga förslag.

Det i sin tur ledde till en hetsig debatt om man ska tacka Yulya eller hennes utvecklare för genombrottet. Rai fortsätter att insistera på att Yulya ensam är den som förtjänar erkännandet. Denna åsikt har fått flera medlemmar i hennes team att lämna gruppen under det senaste året. Hon vägrade till och med att resa till Stockholm för att ta emot priset på Yulyas vägnar från Sveriges drottning. ”Det är inte mitt pris”, säger hon.

Algoritm identifierade nytt antibiotikum

AI-system används ofta för att förutsäga alzheimers, utforma individualiserade behandlingsrekommendationer och förbättra läkares diagnostisering. Och användandet av AI i läkemedelsutveckling, särskilt för att göra det lättare för läkemedelsföretag att analysera databaser, är inte ny. 2020 utvecklade Massachusetts Institute of Technology en algoritm som väckte uppmärksamhet när den identifierade ett nytt antibiotikum. Det fick namnet halicin efter datorn i filmen 2001: Ett rymdäventyr. Antibiotikumet visade sig effektivt mot vissa resis­tenta bakterier, men bara i begränsad omfattning. ”Sammanhängande sårbarhet får halicin att likna en homeopatisk behandling, en placebo”, säger Una Científica, forskare vid Houssay Institute i Buenos Aires.

Trots det har Nobelkommitténs referens till Yulyas ”upptäckt” upprört dem som inte vill se den som mer än ett smart verktyg. ”Yulya är en AI som har kapacitet att vinna Nobelpriset. Det är inte samma sak som en AI som har kapacitet att göra upptäckter”, säger Hars Kritik vid European Robotics Institute i Prag. Hans argument är att också de bästa AI-systemen bara går att använda på specialiserade områden som läkemedelsdesign. Där hänger stora kvantiteter data ihop med väldefinierade mått på framgång. Att påstå att de kan göra upptäckter, säger han, när vi möter honom med ett plakat utanför konsertsalen, är ”bristfällig antropomorfism”.

Oavsett hur det förhåller sig med den saken, lär Yulya knappast vara den sista artificiella intelligensen som får ett Nobelpris. Enligt källor inom Nobelstiftelsen har liknande nomineringar skickats in för priserna i fysik och kemi. Detta i och med att AI-system används för att leta efter nya material och kemiska föreningar som är lämpliga för användning i batterier, solpaneler och koldioxid­infångande membran. Med tanke på det kaos som bröt ut i Stockholm den här veckan, tycks dock chanserna att en AI ska vinna Nobels fredspris mer avlägsna.

Denna text publicerades ursprungligen i det tryckta magasinet Världen Om, november 2021. Läs fler artiklar från samma nummer här.