AI gör realistisk film - hur påverkas vi?
Techföretaget Open AI:s nya verktyg Sora kan skapa video från enkla textinstruktioner. Hur kommer detta påverka samhället? Vad ställer det för krav på konsumeter och institutioner? Pontus Strimling, forskningsledare på Institutet för framtidsstudier intervjuas i P1 Morgon.
Helt utan att behöva filma, klippa eller redigera kan Sora skapa fotorealistisk film - det menar Open AI som utvecklat Sora. Än så länge är verktyget inte släppt till allmänheten. Det som finns är provklipp som Open AI själva lagt ut.
Pontus Strimling tror att användingsområdet först kommer att vara kortare informationsfilmer, reklam och experimenterande till sociala medier. Men innan det kan släppas till allmänheten återstår arbete med att försöka förhindra eventuellt skadlig använding.
- Just nu sitter ett så kallat "red team" på Open AI och testar vad den kan göra och stoppa eventuellt skadliga saker innan den släpps. Till exempel om man ser att den kan skapa videor med kända personer som säger saker de aldrig har sagt, eller visa copyrightskyddad film eller likande. Då läggs ett filter på sådana saker innan allmänheten kan börja använda verktyget, säger Pontus Strimling till P1 Morgon.
Precis som Chat GPT, är Sora inte tränad specifikt på några särskilda uppgifter, utan bara att gissa nästa del av en sekvens. I Chat GPTs fall handlar det om nästa stavelse eller ord i en text. För Sora är det nästa lilla bit av en film.
- De tränas bara att gissa nästa lilla bit, men utifrån detta växer nya egenskaper fram. Open AI påstår till exempel att Sora verkar ha fått en känsla för 3d-objekt, hur saker ser ut från olika vinklar, och en förståelse för hur en verklig fysisk värld fungerar. Detta skulle kunna vara oerhört användbart, särskilt åt andra hållet. Alltså att AI kan förstå vad som sker i en film. Då kan man sätta AI på att titta på övervakningsfilmer till exempel, något som människor behöver göra idag, eller att AI kan gå igenom stora mängder filmmaterial för att känna igen mönster och skapa databasliknande strukturer.
Vilka krav ställer detta då på oss i fråga om att kunna se och förstå vad som är en riktig film, och vad som är AI genererad video?
- Jag skulle säga att det framförallt ställer krav på våra institutioner. De måste se till att det finns en säkerhetsstämpel som kan skilja vad som är AI-genererat och vad som inte är det, säger Pontus Strimling.
Lyssna på intervjun:
