AI-appen som hjälper dig att ljuga om vad du vill
Open AI:s Sora är ofattbart bra på deepfakes
Förra veckan kom Internetstiftelsens årliga rapport ”Svenskarna och internet”. Den kanske tydligaste trenden: vi använder mer AI. Och relationen till den blir allt starkare. AI:n är kompis, psykolog, lärare. Och vän när de riktiga vännerna sover. Eller när de inte finns.
En annan trend: ”Svenskarna och internet”, liksom internationella studier, visar att vi postar allt mindre på sociala medier. Men samtidigt ägnar vi dem lika mycket tid. Det som håller oss kvar är professionellt skapat innehåll, allt oftare genererat av AI.
Sociala medier och AI är två stigar som nu går ihop till en. De senaste veckorna har först Google kopplat ihop sin AI-videomotor Veo 3 med Youtube Shorts. Sedan, på sedvanligt skämskuddeframkallande manér, lanserade Mark Zuckerberg Metas app Vibes. Och nu senast kom den i särklass mest imponerande av dem: Open AI:s app Sora.
Sora var imponerande redan i ursprungsversionen. Men nu simuleras fysikens lagar för både bild och ljud ofattbart bra. Ljus, akustik, semiotik och alla andra filmens berättartekniska verktyg – Sora är på nästa nivå. Och som social Tiktok-utmanare, sätter Open AI dig i centrum.
Du ger appen tillåtelse att skanna ditt ansikte och din röst, Sora skapar en digital deepfake av dig. Du kan sedan dyka upp i verklighetstrogna, enkelt delningsbara filmer. Videosnuttarna skapas av prompter, till exempel: ”Bamse avfyrar luftvärnskanonen som bär hans namn, en imponerad Mattias jublar bredvid”. Japp, Open AI har – utan tillstånd och kostnad – tränat sin AI på Rune Andréassons, Astrid Lindgrens och en mängd andra författares karaktärer.
I appen finns funktionen ”Cameo”. Andra personer kan använda deepfake:n av dig i sina filmer. Och du kan göra detsamma med din kompis eller någon känd svensk. Möjligheterna till osannolika, provokativa och underhållande narrativ är stora. En stor dos självironi kommer behövas när Simona Mohamsson ser sig själv putsa Jimmie Åkessons stövlar.
Donald Trump använder regelmässigt AI-deepfakes i sin politiska kommunikation. I en post på Truth Social häromveckan verkar Chuck Schumer, Demokraternas ledare i senaten, kalla sina partikamrater för ”woke pieces of shit”. Bredvid honom står mexikansk-ättade Hakeem Jeffries, försedd med ditritad mustasch och sombrero.
Vi biktar oss för chatbottar som verkar förstå oss
Utvecklingen går mot passivisering. AI-agenter kan automatiskt skapa och posta godhetssignalerande content. Vi kan göra en cameo som deltagare i en klimatdemonstration samtidigt som vi slumrar framför AI-flödet på ett internetförsett flyg till Kanarieöarna.
Vi biktar oss för chatbottar som verkar förstå oss. Vi skyr människans oberäknelighet och dolda agendor. ”Svenskarna och internet” ger exempel: allt fler övervakar sin partner med hjälp av mobilen. Preferensen för syntetisk närhet över fysisk har nog en högst mellanmänsklig förklaring: Vi litar inte på varandra.
I en nyutkommen bok – ”If anyone builds it, everyone dies” – jämför AI-doomern Eliezer Yudkowsky oss med aztekerna. De lurades att konvertera till katolicismen för att sedan se sina nya herrar utplåna deras kultur.
Men för att parafrasera Parisa Liljestrand: ”AI är en ju en så viktig del av litteraturen.” Kulturministern har anvisat Kungliga Biblioteket att trolla fram språkmodeller av böcker och annat material. Detta utan ersättningsmodell för författare och andra upphovsrättsinnehavare. Precis som aztekernas, ses den svenska kulturen som gratis råvara.
Inhemsk generativ- och samhällsnyttig AI är viktigt, Sora är genuint kul. Men såväl språkmodeller som deepfakes byggda på stulen folksjäl bör ses även i Yudkowskys mörker.
Café Bambino: Alkoholdemens, mördade journalister & dumma telefoner
Konstpodd: I själva verket
