Nya transparenskrav i AI-förordningen har börjat gälla

Regelverket är fortfarande nytt och flera frågor om hur reglerna ska tolkas återstår. Det innebär att det ännu inte går att ge entydiga svar i alla situationer. Här svarar Johan Hetting, näringspolitisk expert på Svensk Handel, på några vanliga frågor.

Vad innebär de nya reglerna?

Artikel 50 innehåller regler om transparens. Syftet är att människor ska kunna förstå när de interagerar med AI eller möter innehåll som har skapats eller manipulerats med hjälp av AI. För handelsföretag är reglerna främst relevanta:

• när AI används för att kommunicera direkt med kunder eller andra användare
• när AI används för att skapa eller manipulera bilder och videor
• när AI används för att skapa vissa typer av innehåll som riktar sig till allmänheten
• när AI-genererat innehåll riskerar att uppfattas som äkta eller verkligt

Vilka företag berörs?

Reglerna gäller inte bara teknikföretag. Även handelsföretag som använder AI i exempelvis kundservice, marknadsföring, på webbplatser eller i sociala medier kan beröras. De flesta företag utvecklar inte egna AI-system, men många använder färdiga AI-tjänster och behöver därför ha en grundläggande förståelse för reglerna.

Vad gäller för AI-genererade texter?

AI används i dag för att ta fram exempelvis produktbeskrivningar, webbtexter, marknadsföringsmaterial, nyhetsbrev och innehåll till sociala medier. EU-kommissionen lyfter även AI-genererade texter som publiceras för att informera allmänheten i frågor av allmänt intresse.

Om du använder AI som stöd för att skriva en text men sedan själv granskar, redigerar och ansvarar för innehållet kan bedömningen bli en annan än om texten publiceras automatiskt utan mänsklig kontroll. EU-kommissionen har publicerat vägledning om hur transparenskraven ska tolkas. Hur reglerna kommer att tillämpas i praktiken blir dock tydligare först efter hand.

Vad gäller för AI-genererade bilder och videor?

AI-genererade bilder och videor används i allt från annonser och kampanjer till presentationer och innehåll i sociala medier. För vissa typer av AI-genererat eller AI-manipulerat innehåll kan transparenskrav bli aktuella. Särskilt fokus ligger på så kallade deepfakes, alltså innehåll som har skapats eller manipulerats med hjälp av AI på ett sätt som kan få det att framstå som äkta.

Det kan exempelvis handla om produktbilder, reklamfilmer eller annat marknadsföringsmaterial som ser verkligt ut. I vissa fall kan företaget då behöva vara öppet med att innehållet har skapats eller manipulerats med hjälp av AI.

Vilka skyldigheter som gäller beror på vilken typ av innehåll det handlar om, hur det används och i vilket sammanhang det publiceras. Företag bör därför ha koll på vilka AI-genererade eller AI-manipulerade bilder och videor som används externt.

När kunder möter AI

Om ett AI-system är utformat för att interagera direkt med människor ska användaren normalt informeras om att kommunikationen sker med ett AI-system.

För handeln kan det exempelvis handla om AI-baserade chattfunktioner, digitala assistenter eller andra lösningar i kunddialogen.

Tre frågor att ställa redan nu

Många företag använder redan AI i marknadsföring, kundservice eller innehållsproduktion utan att alltid tänka på att nya krav kan bli aktuella. Ett första steg är därför att skapa en överblick över hur AI används i verksamheten:

• Används AI i direkt kundkommunikation?
• Används AI-genererade bilder eller videor externt?
• Hur granskas AI-genererat innehåll innan det publiceras?

Fler delar av AI-förordningen väntar 

Fler delar av AI-förordningen kommer att börja tillämpas under de kommande åren. Därför kan det vara klokt att redan nu skapa en överblick över hur AI används i verksamheten och vem som ansvarar för att granska och publicera AI-genererat innehåll.

Eftersom vägledning och praxis fortfarande utvecklas kan bedömningen skilja sig åt beroende på hur AI används. En AI-policy eller andra interna riktlinjer kan vara ett praktiskt stöd, även om det inte är något krav enligt AI-förordningen. Svensk Handel följer utvecklingen löpande.