Debatt: "AI är obegripligt – kejsaren är naken"
Artificiell intelligens (AI) är en teknik som bär på en angelägen och unik brist, skriver IFFS-forskaren Emma Engström i Dagens Industri. Hon argumenterar att inte ens AI-experter kan förklara varför systemen kommer fram till de slutsatser som presenteras, samt att de som hyllar denna teknik bör erkänna faktumet att den ofta hittar mönster utan någon teoretisk förklaring.
Med utgångspunkt i motiveringsunderlaget till årets ekonomipris förklarar Emma Engström varför denna aspekt är så viktig. Det beror på förklarande kunskap, som nobelpristagaren Joel Mokyr kallar det. Han beskriver det som avgörande för varaktiga genombrott inom vetenskap och innovation. Vi är inte smartare än människorna som levde innan upplysningstiden, skriver Emma Engström. Vi började basera kunskap på tidigare kunskap. I stället för att förklara att någonting fungerar, ville vi förstå varför. Förbättring möjliggörs när vi vet varför någonting fungerar.
AI, i form av djupinlärning, stora artificiella neuronnät, utgörs av ofattbart många parametrar och kopplingar, som sedan tränas med jättestora mängder data. Efter det kan inte ens de som skrev koden förklara hur eller varför en viss förutsägelse gjordes, menar Emma Engström. AI är i sin natur obegripligt, skriver hon.
Även om det finns mycket teknik vi hanterar dagligen som få förstår sig på grundligen, vet vi att det finns en expert där ute som kan förklara hur och varför den fungerar. Vad gäller AI är det annorlunda, skriver Emma Engström. Det finns till och med ett forskningsfält tillägnat ämnet vid namnet ”Explainable AI” (XAI), som går ut på att hitta metoder som kan begripliggöra AI-system.
Kanske det inte spelar någon roll om meteorologerna förstår varför, om nu AI kan förutsäga vädret 99 procent av gångerna. Men om AI däremot skulle användas för att fatta myndighetsbeslut, eller till exempel avgöra vem som får vilket jobb, blir motiveringen bakom dessa beslut mycket betydande, skriver Emma Engström.
Läs debattartikeln i Dagens Industri: https://www.di.se/debatt/ai-ar-obegripligt-kejsaren-ar-naken/
