SVT låter AI hallucinera fram dina undertexter

Lekstuga för ny teknik

Signe Krantz

Aftonbladets ledarsida är oberoende socialdemokratisk.

helskärm

Jag vet inte hur det är med er, men själv försöker jag att använda AI så lite som möjligt. Teknologin har ofta fel och bygger på miljontals stulna bilder, ljudfiler och texter. Men det blir allt svårare att undvika den nya tekniken.

SVT väljer till exempel att texta vissa program helt eller delvis med hjälp av AI. Den automatiska textningen har bland annat skrivit “husbollar” istället för “Hizbollah” och “urindirektiven” istället för ”EU-direktiven”. Sådana misstag kallas för ”AI-hallucinationer”.

Granskningsnämnden har kommit fram till att felen innebär “betydande kvalitetsbrister” som till och med utgör ett brott mot lagen om tillgänglighet.

Själv använder jag nästan alltid undertexter, oavsett språk. Trots att min hörsel fungerar bra kan jag ha svårt att uppfatta exakt vad som sägs så fort någon mumlar eller det är mycket bakgrundsljud. Undertexter hjälper mig att fokusera.

Samtidigt förstår jag varför SVT tar en genväg. Bra textning är dyrt och har sina egna brister. Att transkribera ljudfiler är riktigt plågsamt och där gör jag själv undantag från min AI-strejk.

Men jag ansvarar inte heller för en av Sveriges viktigaste samhällsfunktioner. Det finns en hel yrkeskår av textare och översättare som lagt decennier på att göra tv tillgängligt för döva eller de med nedsatt hörsel.

En av de vanligaste tjänsterna är OpenAI – samma kod som driver ChatGPT.

OpenAI:s vd är techoligarken Sam Altman, som är djupt involverad i amerikansk politik. Han har både samlat in pengar till demokratiska politiker och donerat till Donald Trumps installationsceremoni.

Han påstår själv att AI är oundvikligt. Men sanningen är att teknologin är långt ifrån lönsam. Tusentals miljarder kronor har investerats i förhoppningen att stora språkmodeller kommer att revolutionera världen. Ingen vill vara sist på bollen.

Det är därför Google trycker upp AI-sammanfattningar i sökresultaten och därför som alla stora appar har egna AI-assistenter. Det är inte för att göra produkterna bättre, utan för att göra oss beroende av AI och sedan höja priset.

Bakom de snabba men enkla AI-genererade texterna och bilderna vet vi inte hur koden ser ut. Vi vet inte heller hur bra kontroll SVT har över verktygen som de använder.

Vi vet inte exakt hur SVT jobbar med AI, men vi vet att de redan hyr molntjänster från Amazon, med risken att information läcker till USA:s underrättelsetjänst och att deras kapacitet påverkas av USA.

SVT bör vara Sveriges klippa, den trygga punkten som man kan lita på i vått och torrt. Då kan de inte vara en lekstuga för experiment med nya teknologier.

Man kan inte be ChatGPT om en stark och demokratisk public service.

SVT har sökts för kommentarer om hur de arbetar med AI.