Därför berör det nya AI-förbudet fler företag än många tror
Den 29 juni 2026 gav rådet sitt slutliga godkännande till den digitala omnibusen, det ändringspaket till förordning (EU) 2024/1689 (AI-förordningen) som de flesta företag förknippar med uppskjutna högrisk-deadlines. Många drar slutsatsen att ändringarna enbart handlar om tidsplaner. Så är det inte. Samma paket för in en ny förbjuden praxis i artikel 5: ett förbud mot AI-system som skapar eller manipulerar sexualiserade bilder, videor eller ljud av verkliga personer utan deras samtycke, så kallade avklädningsverktyg, samt material som sexuellt utnyttjar barn. Ansvaret ligger på leverantörer och användare av systemen, inte bara på de plattformar där resultatet till slut sprids.
Vad omfattar det nya förbudet egentligen?
Den ändrade artikel 5 förbjuder att släppa ut på marknaden eller ta i drift ett AI-system som är avsett att skapa eller ändra bilder, video, ljud eller liknande innehåll som avbildar en verklig, identifierbar person i ett sexuellt eller intimt sammanhang utan personens samtycke, och förbjuder separat att generera övergreppsmaterial mot barn med hjälp av något AI-system. Avgörande är att förbudet inte begränsas till verktyg som byggts i just det syftet. Det träffar även generella bild-, video- eller ljudgenereringssystem där sådant resultat är en rimligen förutsebar och reproducerbar följd, uppnåbar utan väsentlig teknisk ändring, om leverantören inte byggt in rimliga och adekvata skyddsåtgärder för att förhindra det.
Vem bär efterlevnadsansvaret?
Tre grupper omfattas. Leverantörer som släpper ut ett system på marknaden i syfte att generera sådant innehåll är förbjudna rakt av. Leverantörer som släpper ut ett generellt system utan rimliga tekniska skyddsåtgärder mot förutsebart missbruk bryter också mot förordningen, även om det aldrig var avsikten. Användare av systemen, det vill säga varje företag som utnyttjar ett sådant system i detta syfte, internt eller mot kunder, är ansvariga i egen rätt. Det berör marknadsföringsbyråer, appar för foto- och videoredigering, sociala plattformar, HR-verktyg med fotofunktioner och alla företag som bygger in tredjepartsverktyg för bildgenerering i sin egen produkt.
Hur förhåller sig detta till svensk straffrätt?
Sverige har sedan 2018 kriminaliserat spridning av sexuella bilder genom olaga integritetsintrång i 4 kap. 6 c § brottsbalken. Men den bestämmelsen träffar individer som sprider material, inte de företag vars verktyg skapat det, och dess räckvidd över AI-manipulerade eller helt syntetiska bilder är fortfarande juridiskt oprövad. Enligt SVT har ingen dömts enligt bestämmelsen för spridning av AI-manipulerat material under de sju år lagen funnits, och kvinnoorganisationer har efterlyst ett klargörande av om falskt, AI-genererat material omfattas alls. Det nya EU-förbudet är inte beroende av den osäkerheten. Det skapar ett direkt, EU-gemensamt ansvar för de företag som bygger eller använder de underliggande AI-systemen, oavsett hur svenska domstolar till slut tolkar olaga integritetsintrång.
Ett praktiskt exempel: en marknadsföringsbyrås bildverktyg
En svensk marknadsföringsbyrå erbjuder kunder en generativ AI-funktion där användare laddar upp ett fotografi och får stiliserade varianter för sociala medier-kampanjer. Byrån har aldrig konstruerat verktyget för att klä av eller sexualisera någon, men intern testning visar senare att modellen, med små justeringar av instruktionerna, kan skapa intima bilder av den uppladdade personen utan dennes samtycke. Enligt den ändrade artikel 5 avgörs byråns exponering helt av om den byggt in och dokumenterat skyddsåtgärder, som innehållsfilter, begränsningar av instruktioner och övervakning av resultat, innan verktyget släpptes på marknaden. Att upptäcka sårbarheten och inte göra något åt den förvandlar en förutsebar risk till en överträdelse.
Vanliga misstag företag gör
Det vanligaste misstaget är att behandla förbudet som ett problem för stora plattformar som inte berör ett mindre företag med foto- eller videoverktyg för en begränsad kundkrets. Företagets storlek saknar betydelse för förbudet. Ett annat misstag är att anta att verksamheten automatiskt är i säkerhet bara för att ett verktyg aldrig var tänkt för detta syfte. Det stämmer inte längre när missbruket blir rimligen förutsebart och skyddsåtgärder saknas. Vissa företag missar också ansvaret som användare av systemen och tror felaktigt att ansvaret enbart ligger hos leverantören av den underliggande modellen. Slutligen väntar flera företag på att den digitala omnibusen ska publiceras i den officiella tidningen innan de gör något alls, trots att det tar betydligt längre tid att bygga fungerande skyddsåtgärder än vad övergångsperioden medger.
Rekommenderade åtgärder
Börja med att kartlägga varje AI-system som verksamheten erbjuder eller använder och som kan generera eller redigera bilder, video eller ljud av verkliga personer, inklusive verktyg som är inbyggda i tredjepartsprogram. Testa systemen för förutsebart missbruk, inte bara för avsedd användning, och dokumentera resultaten. Där en risk finns, lägg till tekniska skyddsåtgärder som filter, vattenmärkning och övervakning av resultat, och skriv ner varför de bedöms tillräckliga. Uppdatera policyer för godtagbar användning så att personal och kunder inte kan använda företagets system för att skapa sådant innehåll, och säkerställ att kundvillkoren speglar samma begränsning. Utse en tydlig ägare för att granska nya generativa funktioner före lansering, och håll koll på den officiella tidningen för formell publicering av den digitala omnibusen, eftersom övergångsperioden löper till den 2 december 2026 oavsett när texten formellt publiceras.
Vanliga frågor
Gäller det här bara plattformar som hostar användargenererat innehåll?
Nej. Förbudet gäller varje leverantör eller användare av ett AI-system som kan generera sådant innehåll, oavsett om företaget driver en publik plattform. Ett internt verktyg, en kundriktad funktion eller en vitmärkt tredjepartsmodell kan alla utlösa ansvar.
Gäller förbudet även om vårt verktyg aldrig var avsett för det här?
Ja, om missbruket är rimligen förutsebart och uppnåbart utan väsentlig teknisk ändring, och adekvata skyddsåtgärder saknas. Avsikten skyddar inte när en förutsebar brist lämnas oåtgärdad, så en dokumenterad riskbedömning före lansering, inte efter en anmälan, är avgörande.
När börjar förbudet gälla fullt ut?
Övergångsperioden löper till den 2 december 2026. Ändringen får rättslig verkan när den digitala omnibusen formellt publicerats i den officiella tidningen, vilket väntas ske före den 2 augusti 2026, så nuvarande datum bör betraktas som preliminära fram till dess.
Slutsats
Förbudet mot avklädningsverktyg och övergreppsmaterial är en smal bestämmelse i ett mycket större reformpaket, men det bär samma maximala sanktioner som AI-förordningens övriga förbjudna metoder, upp till 35 miljoner euro eller 7 procent av den globala årsomsättningen. Företag som bygger, integrerar eller använder generativa verktyg för bild, video eller ljud bör behandla förutsebart missbruk som en designfråga, inte en eftertanke. På Lawgent hjälper vi företag att bedöma AI-system mot AI-förordningens förbjudna metoder och bygga de skyddsåtgärder och policyer som krävs för att följa reglerna. Hör av dig om du vill veta om era AI-verktyg omfattas av det nya förbudet.
