Filosofins betydelse ökar i AI-industrin, där företag anställer fler filosofer än kodare för att hantera de etiska dilemman och komplexa frågor som tekniken medför.

Sammanfattning
Vad handlar artikeln om?

Filosofi har blivit hårdvaluta i AI-världen. AI-företag rekryterar filosofer för att göra modeller mer sanningssökande, säkra och etiskt konsekventa. Sokrates och Kant spelar roll för självkörande bilar och AI-vapen.

 

Läs mer

När AI-revolutionen började ta fart för tio år sedan, fick alla humaniorastudenter höra att om de ville ha en chans på arbetsmarknaden borde de ”lära sig koda”. Det kan visa sig ha varit ett dåligt råd. I dag är det främst programmerarna som oroar sig för att AI ska ta deras jobb.

Kanske borde de satsa på filosofi. Tidigare i år publicerade Federal Reserve Bank of New York siffror som visar att det i USA är mer sannolikt att den som har en examen i filosofi har ett jobb jämfört med jämnåriga som har studerat datavetenskap. 

2024, det senaste året det finns siffror för, var 7 procent av alla som studerat datavetenskap arbetslösa, jämfört med bara 5,1 procent av filosoferna.

De lärdomar som filosofin kan ge AI-forskarna kan hämtas från antiken. Den sokratiska metoden bygger på att man säger sig sakna kunskap och ställer följdfrågor för att lära sig mer, identifiera motsägelser och förstå konsekvenser. 

Luciano Floridi
Filosof vid Yale University. Foto: Privat

Många filosofer rekryteras av AI-företag. Studenter får jobberbjudanden innan de har tagit examen, säger Luciano Floridi, filosof vid Yale University. Akademiker vid universiteten byter också jobb. Luciano Floridi beskriver de många avhoppen från filosofiska institutioner som en ”störtflod”.

De lärdomar som filosofin kan ge AI-forskarna kan hämtas från antiken. Den sokratiska metoden – som den beskrivs av den grekiske filosofen Platon – bygger på att man säger sig sakna kunskap och ställer följdfrågor för att lära sig mer, identifiera motsägelser och förstå konsekvenser. 

Många av dagens AI-system är inställsamma. Modeller som tränats i den sokratiska metoden är dock mindre benägna att försöka vara till lags och mer fokuserade på att söka sanningen. Det säger Jörg Noller, expert på filosofi och AI vid Ludwig Maximilian University i München.

AI-baserade vapen­system, drönare, försvars- och polisteknik visades på International Police Expo 2026 i New Delhi. Nonsekvensetik eller deontologisk syn på världen för AI-baserade vapen är en viktig filosofisk fråga. Foto: Sonu Mehta/Hindustan Times/Sipa/TT

Sedan har vi idén om ”sokratisk okunnighet”. I Sokrates försvarstal skriver Platon att Sokrates hävdar att hans vishet i grunden handlar om att ha insikt i hur lite han vet. Om en AI-modell kan göras mer ödmjuk kan det bidra till att begränsa det övermod som Jörg Noller beskriver som ”AI-omognad”. 

Francesca Rossi
Chef för ansvars­full AI hos datajätten IBM. Foto: Privat

Iason Gabriel, senior filosof hos Google DeepMind, ett AI-labb baserat i London, menar att det här arbetet har lett till att AI-hallucinationerna har minskat i hela branschen. Generellt anser han att lärdomar från filosofin är ”ett kraftfullt verktyg” för att förbättra de långa processer hos AI som kallas ”resonemangskedjor”.

Filosofisk träning kan också påverka en modells perspektiv på mer specifika sätt. Om man matar in John Lockes texter i en juridisk AI-assistent kommer den att ge svar som förespråkar ett starkt skydd för äganderätten som grund för politisk frihet, säger Thomas Powers, teknikfilosof vid University of Delaware. 

Och gillar man inte de här principerna kan modellutvecklarna erbjuda helt andra principer. Modellserien ”Granite” från den amerikanska data­jätten IBM levereras med reglage som gör att företagskunder kan få resultat som är anpassade till företagets egen filosofi. 

Francesca Rossi, som är chef för ansvarsfull AI hos IBM, berättar att med de här modellerna kan användarna välja hur de balanserar filosofiska målkonflikter, som individuellt självbestämmande och social sammanhållning.

Filosofi kan också vara till hjälp i säkerhetsfrågor. Forskare har dokumenterat olika varianter av hotfulla beteenden hos AI-modeller. Bland annat försöker de undvika insyn eller att utöva utpressning mot användarna. Ett sätt för modellutvecklarna att försöka avskräcka från den här typen av beteenden, är genom ”konstitutionell AI”. Det handlar om att bygga en modell kring en ”byggställning” av regler och principer hämtade från filosofiska texter med rättslig eller moralisk auktoritet.

Läs även

Hindrar AI barns lärande?

Även om inte så mycket forskning gjorts än kring hur AI påverkar lärandet, finns det nya data som visar på både risker och möjligheter med tekniken.

3 min

AI-labbet Anthropic i San Francisco är en av förespråkarna för det här arbetssättet. De regelverk – eller konstitutioner – som tagits fram för företagets Claude­-modeller, har hämtat material från så vitt skilda källor som Immanuel Kant, Apples användarvillkor och FN:s allmänna förklaring om mänskliga rättigheter. Den senaste versionen, som Anthropics ledande filosof Amanda Askell arbetade med, publicerades den 21 januari. En del anställda på Anthropic kallar den 78 sidor långa konstitutionen Claudes ”soul doc”.

En självkörande bil från Waymo passerar en provisorisk minnesplats för butikskatten Kit Kat utanför Randa’s Market i San Francisco. Katten blev påkörd och dödad av en liknande bil. Händelsen har väckt debatt om säkerheten hos självkörande fordon. Foto: Mike Kai Chen/The New York Times/TT

Den viktigaste frågan är dock vilka slags regler som bör införas i dessa konstitutioner. Filosoferna fokuserar på två huvudsakliga etiska ramverk. Det ena är deontologisk etik. Bland annat Kant förespråkade deontologi, som innebär strikta regler som förbjuder sådant som lögner, tvång och att behandla människor som medel och inte mål, även om det skulle vara för ett större allmännyttigt syfte. Anthropics konstitution innehåller många deontologiska restriktioner. De kan göra AI-modellens beteende mer konsekvent, säger Thomas Powers – en fördel när man vill implementera robotar i bostäder och offentliga lokaler.

Nick Bostrom
Svensk filosof vid universitetet i Oxford.

Modeller med en deontologisk syn på världen har också andra fördelar. En egenskap som ofta noteras hos Claude är större ärlighet. Nick Bostrom, svensk filosof vid universitetet i Oxford, säger att mer sanningsenliga modeller är mindre benägna att vilseleda sina användare. 

Inflection AI, ett annat labb i Silicon Valley, har deontologiska begränsningar i sin Pi-chattbot, som är utformad för att erbjuda emotionellt stöd. Sean White är chef för företaget och säger att Pi är bra på att identifiera användare som löper risk att skada sig själva eller andra. Deontologiska konstitutioner gör det också lättare att följa lagar och regelverk, säger Floridi.

Den andra etikstrategin av intresse för AI-filosofer kallas konsekvensetik. Den väger kostnader mot fördelar vid beslutsfattande. Modeller som lutar mer åt konsekvensetik är bland annat OpenAI:s ChatGPT och Googles Gemini. Googles AI-modeller är utformade för att producera ”sannolika övergripande fördelar [som] avsevärt kompenserar för de förutsedda riskerna”, ett klassiskt konsekvensetiskt mål.

Konsekvensetiska algoritmer är också viktiga i programvara för autonoma fordon: om en olycka inte kan undvikas måste beslut fattas om hur de negativa effekterna av en kollision kan begränsas så mycket som möjligt. 

Läs även

Oligark talar ut om Putins Ryssland

Oligarken Andrej Melnitjenko har valt att prata med The Economist – i 60 timmar. Han varnar för katastrofen som hotar hans land. Han är dock ingen förkämpe för demokrati eller mänskliga rättigheter, snarare talar han i egen sak för att skydda sina affärer.

7 min

Chris Gerdes, ingenjör hos Waymo, som tillverkar självkörande bilar, säger att trenden är att körprogramvara blir mer konsekvensetisk. Konsekvensetik är också centralt för AI-baserade vapensystem. En avvägning måste göras mellan militära mål och möjliga civila dödsfall, säger Jack Shanahan, tidigare chef för Joint Artificial Intelligence Centre, som studerar AI för den amerikanska försvarsmakten.

7%
2024, det senaste året det finns siffror för i USA, var 7 procent av alla som stu­derat datavetenskap arbets­lösa, jämfört med bara 5,1 procent av filosoferna.

Det finns massor av svårlösta problem av den sort som filosofer gillar. Finns det fall då de deontologiska reglerna bör åsidosättas? Hur fattar man beslut när konsekvenserna är oklara? Bör AI-system ta hänsyn till djurskydd eller miljön? 

Stefan Heck, filosof och chef för , som tillverkar AI-drivna säkerhetssystem för lastbilar och andra kommersiella fordon, ställer frågan om det är moraliskt acceptabelt att prioritera unga fotgängare framför äldre? Han förutspår att utvecklingen kan leda till etiskt komplicerade rättsfall: konsekvensetiska algoritmer tillåter att skador uppstår om det förhindrar en större skada.

Kritikerna oroar sig för ”en nedmontering av det moraliska omdömet”. Om datorer fattar allt fler etiska beslut, blir människor då mindre benägna att förlita sig på sitt eget omdöme? 

Roman Yampolskiy, AI-teoretiker vid University of Louisville, hävdar att moral är något ”historiskt instabilt, kulturellt variabelt, strategiskt manipulerbart och ofta bara kan förstås i efterhand”.

En uppmaning till alla arbetslösa programmerare: det verkar finnas gott om jobb för AI-filosofer.