AI-filtren finns men ingen plattform vill slå på dem

Verktygen för att identifiera AI-genererat material och låta användare filtrera bort AI-skräp finns redan. Googles SynthID vattenstämplar syntetiskt innehåll. Den öppna standarden C2PA spårar en fils ursprung från skapande till publicering. Trots det erbjuder ingen stor plattform utom Deezer något filter. Techjättarna har tekniken på hyllan men saknar ett enda affärsskäl att plocka ned den.

The Verge ställde nyligen frågan rakt ut till Meta, Google, TikTok och Spotify: kommer ni erbjuda era användare möjligheten att välja bort AI-genererat innehåll? Meta och Google svarade utan att svara. TikTok och Spotify svarade inte alls. Det mönstret är inte slarvigt, det är strategiskt.

Algoritmen belönar exakt det AI levererar

YouTubes rekommendationsmotor värderar tre parametrar högst: visningstid, klickfrekvens och uppladdningstakt. En person med tillgång till rätt AI-verktyg kan producera hundratals videoklipp i veckan, var och ett optimerat för att maximera alla tre. Att konkurrera med den volymen genom att faktiskt filma, klippa och redigera material är ungefär lika realistiskt som att springa ikapp en bil.

Musikstreaming visar samma mekanism i komprimerad form. Deezer har redovisat att över fyra av tio uppladdade låtar skapats med AI. Spotify har inte publicerat en motsvarande siffra. I stället lanserade de verktyg som hjälper användare att skapa AI-genererad musik, och valde att märka mänskliga artister snarare än att flagga det syntetiska. Det valet berättar mer om plattformens prioriteringar än någon pressrelease.

Fler låtar innebär fler spelningar. Fler spelningar innebär mer lyssnardata. Mer lyssnardata innebär mer precisa annonserbjudanden. Kedjan är enkel och den pekar åt samma håll oavsett om innehållet skapades av en människa i en studio eller av en språkmodell på en server.

Varför vattenstämplar aldrig når gränssnittet

C2PA, standarden bakom Content Credentials, fungerar ungefär som en digital signatur. Varje redigering, varje verktyg som rört filen, loggas i metadata som följer med hela vägen till publicering. Adobe, Microsoft och BBC stödjer redan formatet. Parallellt har Google byggt SynthID, som bäddar in osynliga vattenstämplar direkt i material som skapas av Googles egna modeller.

Inget av systemen är perfekt. Vattenstämplar kan i teorin manipuleras bort, och metadata kan försvinna vid formatkonvertering. Men som grund för ett filtreringsalternativ, en kryssruta i inställningarna som säger ”visa bara verifierat mänskligt innehåll”, duger de redan. Det som hindrar implementering är inte tekniska brister utan att en sådan kryssruta skulle göra en stor del av plattformarnas innehållsbibliotek osynligt. Det kostar annonsintäkter direkt.

Google flaggar AI-skräp och producerar det samtidigt

Tidigare i år meddelade Google att algoritmuppdateringar ska minska lågkvalitativt innehåll i sökresultaten med uppemot 40 procent. Företaget har kallat AI-genererad spam för precis vad det är, skräp som inte hör hemma bland seriösa sökträffar. Sett isolerat låter det lovande.

Men Google tränar samtidigt sin videomodell Veo 3 på material från YouTube och erbjuder inte plattformens två miljarder användare något sätt att filtrera bort syntetiskt material. Positionen blir allt svårare att försvara: flagga andras AI-innehåll i sökmotorn för att skydda Googles trovärdighet, men låta det passera obemärkt på YouTube för att skydda annonsintäkterna. Att samma företag kontrollerar båda systemen gör det inte mindre anmärkningsvärt, det gör det mer. Den här formen av maktkoncentration, där ett fåtal amerikanska bolag kontrollerar hela AI-infrastrukturen, betyder att besluten fattas av aktörer som saknar motpart.

Deezer valde annorlunda och står helt ensam

Deezer sticker ut. Tjänsten har aktivt implementerat åtgärder för att identifiera och begränsa AI-genererat musikinnehåll. Det är den enda stora streamingtjänsten som gjort det. Att Deezer, med sin betydligt mindre marknadsandel jämfört med Spotify och Apple Music, är den som går före säger en del om incitamentsstrukturen. Ett företag som kämpar om relevans har mer att vinna på att differentiera sig genom kvalitet. Ett företag som redan dominerar har mer att förlora på att krympa sitt bibliotek.

Den asymmetrin förklarar varför Deezers exempel sannolikt inte smittar av sig frivilligt. Spotify har ingen kommersiell anledning att kopiera strategin så länge användarna inte lämnar plattformen. Och användarna lämnar inte plattformen, de vet oftast inte ens att det de lyssnar på är AI-genererat.

Regulering som enda realistiska tryck

EU:s AI-förordning innehåller krav som på pappret borde förändra situationen. Enligt artikel 50 måste AI-system som genererar syntetiskt innehåll märka utdata i maskinläsbart format och göra det upptäckbart som artificiellt genererat. Leverantörerna ska dessutom säkerställa att de tekniska lösningarna är effektiva och interoperabla.

Formuleringen är tydlig. Frågan är genomförande. Plattformar som opererar globalt tenderar att anpassa sig till den striktaste jurisdiktionen, GDPR visade det, men bara om sanktionerna är kännbara och tillsynen faktisk. Utan tydlig praxis riskerar kravet att bli ytterligare en checkbox i en compliance-rapport som ingen användare märker av.

Annonsörer utgör en annan möjlig tryckpunkt. Varumärken som upptäcker att deras annonser visas bredvid AI-genererat lågkvalitetsinnehåll har redan börjat ifrågasätta sina medieinvesteringar. Det räcker inte för att tippa balansen ännu, men det är den typen av signal som plattformar historiskt reagerat på, pengar som hotar att röra sig åt fel håll.

Vad det betyder i praktiken

Att Meta nyligen förvärvade en AI-startup inom robotik, som vi rapporterat om i vår artikel om Metas köp av robotik-AI, understryker att de stora plattformsbolagen investerar djupt i AI-produktion, inte i verktyg som låter användare begränsa den. Riktningen är tydlig och den pekar inte mot fler valmöjligheter.

Den mest sannolika utvecklingen på kort sikt är att ingenting förändras frivilligt. Plattformarna kommer fortsätta producera retoriskt stöd för ”autenticitet” och ”kvalitet” samtidigt som deras algoritmer belönar volym. Förändring kräver antingen regulering med verkliga konsekvenser eller att annonsmarknaden aktivt börjar straffa plattformar som inte kan garantera mänskligt skapat innehåll. Inget av det händer över en natt, men EU:s AI-förordning ger åtminstone ett juridiskt ramverk att peka på. Frågan är om någon pekar tillräckligt hårt.