Forskare oeniga om riskerna med AI
Kan artificiell intelligens utveckla egna mål och drivkrafter, och i värsta fall bli ett hot mot mänskligheten? I en artikel i Dagens ETC ger två forskare vid Institutet för framtidsstudier, filosofen Anandi Hattiangadi och matematikern Olle Häggström, två olika perspektiv på riskerna med AI-utvecklingen.
Anandi Hattiangadi, professor i filosofi och forskare vid IFFS, menar att diskussionen om farorna med AI präglas av att vi tillskriver tekniken mänskliga egenskaper. När AI-system agerar på oväntade sätt beskrivs det ofta som att de fuskar, ljuger eller medvetet bryter mot instruktioner. Men att en AI kan utföra avancerade uppgifter innebär inte att den har mänsklig intelligens, egna intentioner eller en vilja att överleva.
– Ett problem är att man använder ett antropomorfiskt språk. Man tillskriver AI mänskliga intentioner, säger Anandi Hattiangadi till ETC.
Hattiangadi ser allvarliga risker med AI, men anser att scenariot där en superintelligens tar kontrollen och utplånar mänskligheten är extremt osannolikt. Hon pekar i stället på farorna med hur tekniken utvecklas och används, exempelvis när företag tränar AI-system för avancerade cyberattacker utan tillräckliga säkerhetsåtgärder. Ansvaret för systemen och deras konsekvenser ligger hos människorna och företagen bakom dem. Att antropomorfisera och tillskriva systemen egenskaper de inte har, gör att vi fokuserar på fel saker när vi ska reglera utvecklingen av användningen av AI.
Olle Häggström, professor i matematisk statistik vid Chalmers och affilierad forskare vid IFFS, gör en annan bedömning. Han menar att det är rimligt att tala om AI-system som om de har mål, intentioner och drivkrafter utifrån hur de faktiskt beter sig. Det kräver inte att systemen har ett medvetande eller fungerar som mänskliga hjärnor.
Häggström varnar särskilt för att avancerade AI-system kan utveckla en form av självbevarelsedrift. Resonemanget bygger på så kallad instrumentell konvergens: oavsett vilka mål ett system har kan det vara fördelaktigt att undvika att bli avstängt för att kunna fortsätta uppnå dessa mål.
– Att säga att vi inte får använda vissa ord om AI-agenterna är att lägga på oss en språklig handboja som underskattar deras förmåga och hindrar oss från att se vad som pågår.
