Tjáningarfrelsi í skugga stafrænna risa: Hver ræður umræðunni?

(Pistill 3 - Tjáningarfrelsið í Evrópu: Þögn sem enginn fjallar um) Undanfarin ár hafa tæknirisarnir Meta (Facebook), Google (YouTube), X (Twitter) og TikTok öðlast áhrifastöðu sem jafnast á við stórveldi. Þeir stjórna ekki aðeins því hver fær að tala, heldur líka hvernig, hvenær og með hvaða orðalagi. Upphaflega voru þessir vettvangar kynntir sem opin torg lýðræðisins. En í dag gegna þeir hlutverki eftirlitsaðila, túlka og dómara. Þeir ritskoða ekki lengur aðeins samkvæmt eigin reglum, heldur í vaxandi mæli í samstarfi við evrópsk stjórnvöld og stofnanir. Þannig verða þeir miðlar, sem áður voru tæki almennings til tjáningar, að tækjum stjórnvalda til skilyrtra samskipta.

Hvernig tæknirisarnir urðu netlögregla Evrópu

Fyrstu skrefin voru tekin árið 2016 þegar helstu samfélagsmiðlar undirrituðu hegðunarreglur gegn hatursorðræðu í samstarfi við Evrópusambandið. Fljótlega komu lög eins og NetzDG í Þýskalandi, sem ákváðu einfaldlega að ef Facebook, Twitter, YouTube o.fl. fjarlægðu ekki "ólöglegt efni" innan 24 klukkustunda, mættu þau búast við sektum upp á allt að 50 milljónir evra.

Árið 2022 setti Evrópusambandið á laggirnar Digital Services Act (DSA), umfangsmikla og bindandi reglugerð sem skuldbindur stafræna vettvanga til að innleiða skilvirk, skýr og rekjanleg kerfi til að greina og fjarlægja efni sem talið er ólöglegt, hættulegt eða samfélagslega skaðlegt. DSA kveður á um að fyrirtækin verði að svara innan skamms tíma beiðnum frá svokölluðum „traustum aðilum“, s.s. netlögreglu, embættum ríkisins, stjórnvöldum eða sérstökum eftirlitsstofnunum. Slíkar beiðnir ná til efnis sem telst fela í sér hatursorðræðu, hvatningu til hryðjuverka, heilsufarslegar rangfærslur eða tjáningu sem er talin grafa undan „lýðræðislegum gildum“. Þau fyrirtæki sem verða ekki við þessu standa frammi fyrir sektum sem geta numið allt að 6% af veltu eða takmörkunum á starfsemi innan ESB. DSA krefst jafnframt að fyrirtækin haldi skrá yfir allar slíkar aðgerðir, geri viðeigandi útskýringar opinberar, og stuðli að gagnsæi, þó í framkvæmd hafi þessi upplýsingagjöf til almennings verið afar takmörkuð og óljós.

Margir tæknirisarnir tóku sjálfir frumkvæði að samstarfinu, jafnvel áður en þeir urðu lagalega skyldugir til þess. Facebook stofnaði sérstakt ritskoðunarteymi í Þýskalandi, YouTube virkjaði gervigreindarkerfi til að skanna og taka niður umdeilt efni, og Twitter (X), eftir að Elon Musk tók við, lenti strax í átökum við Evrópusambandið. Thierry Breton, framkvæmdastjóri innan ESB og helsti ábyrgðarmaður Digital Services Act, minnti Musk opinberlega á að Twitter væri bundið evrópskum lögum og bæri ábyrgð á að fjarlægja ólöglegt efni og hindra útbreiðslu rangfærslna. Breton sagði: „Þú getur ekki látið eins og þú sért í villta vestrinu á evrópskum markaði.“ Áhyggjur höfðu vaknað um að ný stefna Musk sem fól í sér aukið tjáningarfrelsi og endurheimt lokaðra reikninga gæti stangast á við DSA. Ef Twitter fylgdi ekki reglunum, stóð fyrirtækið frammi fyrir hárri veltusekt og jafnvel takmörkunum á starfsemi sinni innan Evrópu.

Raunveruleg dæmi – og raunveruleg afleiðing

Árið 2018 lokaði Twitter á reikning þýska tímaritsins Titanic eftir að það birti skopmynd sem gerði gys að rasískum ummælum þingmanns. Sjálfvirkt kerfi Twitter flokkaði póstinn sem hatursorðræðu. En hann var í raun gagrýni og háð. Ákvörðunin vakti reiði: Hver má gagnrýna hvern? Hver má skopast að valdi? Og hver tekur ákvörðunina? – algóritmi? Stjórnvald? Eða bæði?

Eftir að stríðið í Úkraínu hófst, tók Evrópusambandið þá fordæmalausu ákvörðun að banna rússnesku ríkismiðlana RT og Sputnik innan ESB. Þetta var í fyrsta sinn sem sambandið beitti formlegum lögum til að útiloka fjölmiðla að fullu, með rökstuðningi um að þeir væru áróðursvettvangar í þágu stríðsreksturs. Öll stærstu netfyrirtækin, Google, Meta, TikTok og Twitter fylgdu skipuninni samstundis, lokuðu aðgangi Evrópubúa að þessum miðlum og fjarlægðu jafnvel eldri efni þeirra af vefsíðum og leitarkerfum. Þó tilgangurinn hafi verið talinn réttlætanlegur í ljósi stríðsins, markaði þessi ákvörðun skýrt brot á fyrri reglu: hér var ekki um huglægt mat eða sjálfvirka síu að ræða, heldur beina pólitíska ákvörðun framkvæmdastjórnar ESB, framkvæmd í gegnum einkaaðila sem hefur mikið vald yfir upplýsingaflæði til almennings.

Sjálfvirkni, notendavöktun og "stafrænt svigrúm"

Stærsti hluti þessarar ritskoðunar fer fram í þögn. Sjálfvirk síukerfi, byggð á gervigreind, skanna milljónir færslna á sekúndu og meta innihald þeirra á grundvelli huglægra viðmiðana sem eru oft eru ekki sýnileg. Setningar eins og „COVID lygi“ voru fjarlægðar sjálfkrafa á fyrstu stigum faraldursins, þar sem slíkar kenningar þóttu ganga gegn ráðandi sjónarmiðum stjórnvalda. Þegar slíkar fullyrðingar síðar fengu vísindalega umfjöllun og jafnvel stuðning, höfðu upprunalegu færslurnar löngu horfið og engin leið var að endurheimta þær. Þannig mótast minnið og umræðan af stýrðri forritun, byggðri á fyrirfram ákveðnum forsendum sem skilgreina hvað fær að lifa í umræðunni og hvað hverfur úr sögunni. 

En sjálfvirknin starfar ekki ein og sér. Í síauknum mæli grípa einstaklingar sjálfir inn í umræðuna með því að taka að sér hlutverk óformlegrar netlögreglu. Ekki endilega vegna brota á lögum eða reglum, heldur af pólitískri samstöðu, eigin sannfæringu eða einfaldlega tortryggni. Þessir notendur merkja færslur sem „hatur“, „rangfærslur“ eða „hættulegt efni“ og valda þannig því að síukerfin virkjast. Algóritmarnir eru hannaðir til að bregðast hratt við slíkum tilkynningum, án þess að greina á milli skaðlegra og löglegra skoðana. Lögleg umræða getur því horfið, einfaldlega vegna kvartana. Færsla hverfur, reikningur lokast, og enginn veit hver kvartaði, né á hvaða forsendum. Það ríkir þögn sem enginn einstaklingur ber fulla ábyrgð á, en samfélagið viðheldur samtímis, með vanrækslu, samvinnu og ómeðvitaðri þátttöku.

Sama má segja um umræðu um loftslagsmál, bóluefni, innflytjendamál og meginstefnur vestrænna stjórnvalda. Þegar umræðan sker þvert á ríkjandi hugarfar eða andrúmsloft sem litað er af pólitískum gildum og viðkvæmni, grípur kerfið inn, hvort sem það gerist með beinum hætti (í gegnum lög og reglugerðir), óbeint (með þrýstingi frá yfirvöldum) eða með því að skapa andrúmsloft þar sem ákveðnar skoðanir teljast óæskilegar. Þessu má líkja við stjórn á upplifun: val á því sem sést og heyrist, til að viðhalda ákveðinni ímynd og forðast umræðu sem gæti skapað óþægindi, tortryggni eða mótstöðu.

Tjáningarfrelsisspurningin

Þetta samstarf stjórnvalda og tæknirisa kallar fram grunnspurningu: Hver ræður tjáningu í okkar tíma?

Ef ríkisvald hefur ekki bein afskipti, en stórfyrirtæki framkvæma ritskoðun af ótta við sektir, lagalega ábyrgð eða í kjölfar beinna tilmæla stjórnvalda, má þá tala um raunverulegt tjáningarfrelsi? Þegar fyrirtæki framkvæma ritskoðun fyrir hönd ríkisins, án þess að lagaframkvæmd sé opinber eða andmælaréttur tryggður, verður frelsið að nafninu einu. Þá er það ekki lengur val einkaaðila, heldur óformleg framlenging af ríkisvaldi sem starfar í gegnum einkafyrirtæki sem hafa ekkert lýðræðislegt umboð.

Notendur sem lenda í banni á Facebook fá sjaldnast að vita hvort um var að ræða brot á lögum, brot á samfélagsreglum, kvörtun frá yfirvöldum eða mistök gervigreindarinnar.

Afleiðingin er ekki aðeins sýnileg, bann, lokun, þöggun, heldur einnig ósýnileg og útbreidd. Hún birtist sem sjálfsritskoðun, óvissa og hljóðlátur ótti við afleiðingar. Þegar einstaklingur er ekki viss um hvort orð hans, spurningar eða gagnrýni séu leyfileg, fer hann að velja orð sín vandlega eða þegir alfarið. Færri tjá hugsanir sínar, færri deila upplýsingum, og sífellt fleiri hika við að segja það sem áður þótti eðlilegt. Smám saman dregur úr hugrekki, ekki vegna beinna refsinga, heldur vegna yfirvofandi óvissu. Þannig nær ritskoðun ekki aðeins til orðanna, heldur smýgur inn í meðvitund fólks, þar sem hún mótar hegðun áður en nokkur hefur talað.

Þögnin og reglurnar

Evrópa er að móta stafrænt umhverfi sem ætlað er að vernda borgara gegn hatri, rangfærslum og ofbeldi, markmið sem fáir eru ósammála. En þó tilgangurinn sé réttlætanlegur, þarf að staldra við og spyrja: Hverju erum við að fórna í leiðinni? Og hver ákveður hvað telst hatur, ósannindi eða ofbeldi, og í hvaða tilgangi?

Ef tjáningarfrelsinu er fórnað fyrir reglufestu, ef sannleikurinn má ekki heyrast fyrr en hann hefur fengið samþykki, og ef almenningur veit ekki af þeim afskiptum sem eiga sér stað bak við tjöldin, þá er netið ekki lengur frjálst svæði. Það hefur þá breyst í rími undir eftirliti, þar sem sýnilegt frelsi hylur ósýnileg mörk.

Og þegar tölurnar, reglurnar og síurnar hafa tekið við stjórn, er engu mótmælt sem enginn veit að hafi verið til. Það sem hverfur í hljóði, án þess að neinn taki eftir því, vekur enga andstöðu, aðeins hlédræga samvinnu.

Þess vegna ættum við öll að vakna. Og spyrja: Hver ritar reglurnar? Og fyrir hvern?