Når EU's Digital Services Act (DSA) træder i kraft 17. februar 2024, er det første gang i historien, at EU indfører lovgivning, der er rettet specifikt mod techgiganter som Meta (Facebook), Google, Amazon, Instagram, YouTube og andre sociale platforme.
Databeskyttelsesreglerne GDPR (General Data Protection Regulation) trådte i kraft tilbage i 2018, og har allerede betydet, at virksomheder som Meta, Google og Amazon har fået bøder i milliardklassen. Men hvor GDPR i store træk var baseret på et allerede eksisterende persondatadirektiv, er de nye forordninger DSA (Digital Services Act) og DMA (Digital Markets Act) rettet direkte mod at regulere de store, sociale platforme.
Seniorforsker ved Institut for Menneskerettigheder, Rikke Frank Jørgensen, der bl.a. har udgivet bogen ’Human Rights in the Age of Platforms’, forklarer, at DSA er vokset ud af diskussionen om, hvordan vi får en mere effektiv håndtering af det ulovlige indhold, der findes på de sociale medieplatforme, ikke mindst af hensyn til ofrene.
Som eksempel nævner hun Marokko-sagen, hvor henrettelsesvideoer af en dansk og en norsk kvinde på vandretur i Marokko blev ved med at florere på sociale medier længe efter den tragiske hændelse. Selv om de sociale platforme var opmærksomme på, at videoerne var ulovlige, blev de alligevel ved med at dukke op, fordi platformene reagerede for langsomt.
”Vi har set en lang række sager, herunder hævnporno, hvor ofrene oplever, at det en tung og langsommelige proces at få indholdet fjernet og få det til at forblive væk fra platformene. Dette har ført til, at man i EU nu præciserer platformenes ansvar og pligt til at handle hurtigt, når de bliver gjort opmærksomme på ulovligt indhold. Det er platformenes ansvar og pligter i forbindelse med brugernes indhold, der især reguleres i den nye DSA-forordning,” siger Rikke Frank Jørgensen.
Techgiganter får sparket døren ind
En af grundstenene i de sociale platforme er de algoritmer, der styrer, hvilket indhold den enkelte bruger bliver præsenteret for. Fordi sensationelt og hadefuldt indhold engagerer og fastholder brugerne på platformen i længere tid, bliver opslag af den type vægtet højt af algoritmerne, og kan derfor få en uforholdsmæssig stor plads på de sociale medier. Ligeledes kan indholdet komme til at videregive et dybt fortegnet verdensbillede, hvor fake news bliver præsenteret side om side med rigtige nyheder.
Den tidligere Facebook-medarbejder Frances Haugen afslørede i 2021, at Facebook/Meta (som også ejer Instagram) udmærket er klar over, at platformens algoritmer har negative effekter f.eks. i forhold til at forstærke unge pigers selvværdsproblemer, men at ønsket om at fastholde brugerne og tjene annoncepenge langt overstiger hensynet til de unge.
Med de nye regler skal techgiganterne sørge for, at deres algoritmer ikke er skadelige. Det vil sige, at brugerne skal have klar information om, hvordan algoritmerne virker, ligesom de skal have mulighed for at vælge algoritmer fra, der er baseret på personlig profilering.
Det er ganske vist virksomhederne selv, der skal vurdere, hvor risikable deres algoritmer er, men EU får mulighed for at føre tilsyn i et hidtil uset omfang. De ellers notorisk lukkede techgiganter skal give både uafhængige forskere og EU's kontrollanter adgang til at se algoritmerne efter i sømmene – noget, de ellers altid kategorisk har afvist.
”EU får mulighed for at kigge helt ind i maskinrummet på de store platforme og se, om de risici, der måtte være i algoritmerne, bliver imødegået tilstrækkeligt. Det betyder også, at der skal placeres personer med både dyb juridisk og teknisk indsigt i EU’s nye tilsyn,” understreger Rikke Frank Jørgensen.
Ytringsfrihed og selvskabte regler
Selv om det øgede tilsyn er skrevet ind i den nye forordning, er der stadig en lang række uafklarede forhold, som venter på at blive afprøvet i praksis. Det gør sig også gældende for balancen mellem det, de sociale platforme betragter som ulovligt indhold, og hensynet til brugernes ytringsfrihed.
Som det er i dag, kan techgiganterne gennem deres fællesskabsregler selv bestemme, hvad de betragter som upassende (og dermed uønsket) indhold, og fjerne uønskede opslag uden at give de berørte parter besked –såkaldt shadow banning. Men med den status, de sociale medier har opnået, er det ikke længere en holdbar løsning.
”Når de sociale platforme de facto spiller en væsentlig rolle i den offentlige debat, er det også relevant at se på, hvor smalt spillerummet for debatten bliver. Hvis meget indhold af væsentlig samfundsmæssig betydning ikke får lov til at være der på grund af platformenes fællesskabsregler, vil det være et problem for ytringsfriheden,” forklarer Rikke Frank Jørgensen.
Derfor kommer der også på dette punkt yderligere regulering fra EU's side. Når DSA træder i kraft næste år, skal det ikke kun være nemmere for den enkelte bruger at anmelde ulovligt indhold. Den, der får et opslag anmeldt, skal også have besked om det med det samme. Når platformen efterfølgende træffer beslutning om, hvorvidt indholdet helt eller delvist skal fjernes, skal begge parter igen have besked - med en klar og specifik begrundelse for beslutningen.
”Det handler om borgernes retssikkerhed. Der stilles nu en række konkrete krav til, hvad platformene skal gøre, når de fjerner indhold, og der stilles krav til deres fællesskabsregler og afvejning af hensynet til ytringsfriheden. Dette skulle gerne gøre det nemmere at se platformenes praksis efter i kortene,” siger Rikke Frank Jørgensen.
Samtidig skal det være lettere at klage direkte til det sociale medie. Der bliver også oprettet en uafhængig mæglingsinstans under EU, der kun skal behandle klager over sociale platforme.
Platformene snor sig
Selv om EU med DSA-forordningen indfører en lang række regler og begrænsninger for den måde, techgiganterne må opføre sig på, er den i store træk blevet positivt modtaget af branchen.
”De giver udtryk for, at de er glade for at der kommer nogle enslydende regler for håndteringen af ulovligt indhold,” siger Rikke Frank Jørgensen. ”Men når det er sagt, taler de selvfølgelig også ind i en politisk diskurs, hvor de godt ved, at der er en stigende opmærksomhed på området. Det kan være en fordel for dem at tingene bliver reguleret, fordi det kan fjerne noget af det politiske tryk,” vurderer hun.
Omvendt har techgiganterne siden indførelsen af GDPR-reglerne i 2016 været dygtige til at manøvrere i et kraftigt reguleret rum, uden at det er gået voldsomt ud over deres forretningsmodel.
”Det er jo ikke sådan, at der ikke sker massiv datahøst, efter at vi har fået GDPR,” konstaterer Rikke Frank Jørgensen.
”De sociale platforme har været rigtig dygtige til at spille efter GDPR-reglerne uden at blive taget med bukserne nede. Der har været nogle sager, ja, men så mange har der heller ikke været i forhold til, hvor udbredt forretningsmodellen med datahøst fortsat er.”
Retssager skal danne præcedens
Platformenes succes med at drive forretning på trods af GDPR-reglerne hænger blandt andet sammen med, at deres brugere selv kan give tilladelse til, at platformen må indsamle data, der er ’nødvendig’ for at give en god, personaliseret oplevelse.
Ved at bruge den slags abstrakte og generelle termer giver de sociale platforme sig selv et ekstremt stort spillerum at agere indenfor. Rammerne bliver først afgrænset, når der dukker sager op, som kan efterprøve, hvad reglerne egentlig betyder og hvordan de konkret skal fortolkes.
”Vi mangler stadig at se nogle sager, der går helt i clinch med den måde, dataindsamlingen bliver beskrevet – og foregår på - i forhold til GDPR-reglerne. Det samme kommer til at gøre sig gældende i forhold til DSA-forordningen,” siger Rikke Frank Jørgensen.
”Det er først når reglerne har været gældende i et stykke tid og de er blevet efterprøvet ved konkrete sager, at vi kan se, hvilken betydning de reelt får.”
