Botë

Gjuha e urrejtjes lulëzon në Facebook

Me gjithë problemet e vazhdueshme, Facebooku i pa operimet e veta në Birmani edhe si model për ta përhapur në të gjithë botën, edhe si rast kaustik në zhvillim. Dokumentet e shqyrtuara nga AP tregojnë se Birmania u bë një terren testimi për përmbajtjen e re të moderimit të teknologjisë

Vite pasi u vu nën vëzhgim për kontributin në dhunën etnike dhe fetare në Birmani, Facebook ende ka probleme në zbulimin dhe moderimin e gjuhës së urrejtjes dhe keqinformimit në platformën e vet në Azinë Jugperëndimore, tregojnë dokumentet e brendshme të shfaqura nga Associated Press. Tre vjet më vonë kompania publikoi një raport që zbuloi se Facebook ishte përdorur për “nxitjen e dhunës dhe ndarjes offline” në vend. Platforma u zotua se do të përmirësohej dhe zhvilloi disa mjete dhe politika për t’u marrë me gjuhën e urrejtjes.

Mirëpo shkeljet kanë vazhduar - e madje janë shfrytëzuar nga aktorët armiqësorë – që prej marrjes së kontrollit nga ushtarakët këtë vit që rezultoi në shpërdorime të tmerrshme të të drejtave të njeriut në të gjithë vendin.

Po të shfletosh në Facebook sot, nuk është e vështirë të gjesh postime si kërcënim, vrasje e dhunim në Birmani.

Në videon e postuar më 24 tetor nga një përkrahës i ushtrisë, duke bërë thirrje për dhunë kundër grupeve opozitare ka grumbulluar mbi 56,000 shikime.

“Kështu që duke filluar prej tash, ne jemi zoti i vdekjes për të gjithë këta”, ka thënë një burrë në Burmese derisa shikonte drejt e në kamerë. “Ejani nesër dhe ta shohim nëse jeni burra të vërtetë apo gej!”.

Një llogari poston adresën e shtëpisë së një dezertori ushtarak dhe një foto të gruas së tij. Postimi tjetër nga 29 tetori përmban një foto të ushtarakëve duke i drejtuar burrat e lidhur e symbyllur drejt një shtegu të pistë. Në përshkrimin birman thuhej: “Mos i lini të gjallë!”.

Mst: Planet e Facebookut

Me gjithë problemet e vazhdueshme, Facebook i pa operimet e veta në Birmani edhe si model për ta përhapur në të gjithë botën edhe si rast kaustik në zhvillim. Dokumentet e shqyrtuara nga AP tregojnë se Birmania u bë një terren testimi për përmbajtjen e re të moderimit të teknologjisë me gjigantin e mediave sociale që po provon mënyra të reja për të automatizuar zbulimin e gjuhës së urrejtjes dhe keqinformimit me nivele të ndryshme suksesi.

Bisedimet e brendshme të Facebookut për Birmaninë u bënë të ditura nga Securities and Exchange Commission dhe iu ofruan Kongresit në formë të reduktuar nga ish-punëtorja e Facebookut, tashmë sinjalizuesja e këshillit ligjor, Frances Haugen. Versionet e redaktuara të marra nga Kongresi u morën edhe nga një bashkësi e organizatave të lajmeve, përfshirë Associated Press.

Htaike Htaike Aung, mbështetës i politikave në Birmani, ka shpjeguar se kjo gjithashtu është bërë “një vatër për ekstremizmin” rreth vitit 2013, duke përkuar kështu me trazirat fetare në të gjithë Birmaninë mes budistëve dhe myslimanëve. Është ende e paqartë se si ose nëse ka ndodhur moderimi i përmbajtjes në atë kohë nga njerëzit apo automatikisht.

Htaike Htaike Aung ka sqaruar se ajo është takuar me Facebook atë vit dhe i ka shtruar çështjet, duke përfshirë edhe se si organizatat vendore po shihnin sasi eksponenciale të gjuhës së urrejtjes në platformë dhe se si mekanizmat e saj parandalues, siç janë raportimet e postimeve, nuk hynin në punë në kontekstin e Birmanit.

Ajo e përmendi shembullin e fotos që përmbante pamjen e një grumbulli shkopinjsh bambu me mbishkrimin: ”Le të jemi të përgatitur ngaqë do të ketë trazira brenda komunitetit mysliman”.

Htaike Htaike Aung ka thënë se fotoja ishte raportuar në Facebook, por kompania nuk e hoqi, sepse nuk i shkelte standardet e komunitetit të platformës.

“Kjo gjë është qesharake për shkak se në të vërtetë ajo ishte thirrje për dhunë. Ani pse Facebooku nuk e pa në atë mënyrë”, ka theksuar ajo.

Vite më vonë mungesa e moderimit e mori vëmendjen e komunitetit ndërkombëtar. Në mars të 2018-s ekspertët e të drejtave njerëzore të Kombeve të Bashkuara, nga investigimi i tyre për sulmet që u bënë kundër minoritetit mysliman Rohingya në Birmani, kishin ardhur në përfundim së platforma gjigante ka pasur rol të madh në përhapjen e gjuhës së urrejtjes.

Kur u pyet për Birmaninë një muaj më vonë, gjatë një seance dëgjimore në SHBA, krijuesi i Facebookut, Mark Zuckerberg, u përgjigj se kompania planifikonte të punësonte “dhjetëra” folës birmanë për të moderuar përmbajtjen e duke punuar me grupet e shoqërisë civile për të identifikuar figurat e urrejtjes dhe për të zhvilluar teknologji të reja për ta luftuar gjuhën e urrejtjes.

“Gjuha e urrejtjes është gjuhë specifike. Është e vështirë të arrihet pa njerëzit që e flasin gjuhën vendase, prandaj ne duhet t’i rrisim përpjekjet tona në mënyrë dramatike”, ka vënë në pah Zuckerberg.

Mst: Dështimet e njëpasnjëshme

Informacionet në dokumentet e brendshme të Facebookut tregojnë se përderisa kompania po i rriste përpjekjet për ta luftuar gjuhën e urrejtjes në vend, mjetet dhe strategjitë për ta bërë atë asnjëherë nuk u realizuan krejtësisht dhe individët brenda kompanisë vazhdimisht lëshuan alarmin. Në një dokument prej majit të 2020-s, një punonjëse ka treguar se klasifikuesi për tekstet e gjuhës së urrejtjes nuk ishte në dispozicion dhe nuk po përdorej apo mirëmbahej. Një dokument tjetër nga muaji i kaluar ka shfaqur disa “boshllëqe të rëndësishme’ në zbulimin e keqinformimit në Birman.

“Facebooku ndërmori aksione simbolike, mendoj se ishin krijuar për të lehtësuar politikëbërësit se diçka po ndodhte dhe nuk kishte nevojë të shihej shumë hollësisht”, ka thënë Ronan Lee, studiues vizitor në Iniciativën Ndërkombëtare të Krimit shtetëror të Universitetit Queen Mary të Londrës.

Në një deklaratë të dërguar me email për AP, drejtori i politikave të Facebook, Rafael Frankel, ka sqaruar për APAC Emerging Countries se platforma “ka ndërtuar një ekip të përkushtuar prej mbi 100 folësish birmanë”. Ai nuk pranoi të tregonte saktësisht se sa të punësuar ishin. Kompania e marketingut në internet NapoleonCat vlerëson se ka rreth 28.7 milionë përdorues të Facebookut në Birman.

Gjatë dëshmisë së saj në Parlamentin e Bashkimit Evropian më 8 nëntor, sinjalizuesja Haugen ka kritikuar Facebookun për mungesë investigimi në kontrollimin e fakteve nga palët e treta e në vend të kësaj u mbështet në sistemet automatike në zbulimin e përmbajtjeve të dëmshme.

“Në rast se përqendrohesh në këto sisteme automatike, nuk do të funksionojnë për vendet e ndryshime etnike në botë me vende të ndryshme gjuhësore, që shpesh janë të brishta”, ka thënë ajo, duke iu referuar Birmanit.

Pas dëshmisë së Zuckerbergut në Kongres, Facebooku zhvilloi mjete digjitale për ta luftuar gjuhën e urrejtjes dhe keqinformimin, e po ashtu krijoi edhe një kornizë të re të brendshme t’i menaxhojë në mbarë botën krizat si kjo e Birmanit.

Mst: Shtetet e rrezikshme

Facebook krijoi një listë për “vendet në rrezik” me nivele të renditura për një “ekip të vendeve kritike” për ta përqendruar energjinë e vet, e po ashtu i renditi gjuhët që kanë nevojë për më shumë moderim të përmbajtjes. Birmani u listua si një vend i “Klasit të parë” në rrezik, e me birmanishten konsiderohet një “gjuhë primare” krahas gjuhëve etiopiane, bengali, arabe dhe urdu.

Inxhinierët e Facebookut i mësuan fjalët e zhargonit të Birmanisë për “Myslimanët” dhe “Rohingya” në sistemet e veta automatike. Ata gjithashtu trajnuan sisteme për të zbuluar ”sjelljen e koordinuar joautentike” të tilla, si kur një person i vetëm poston prej llogarive të ndryshme ose koordinimi i llogarive të ndryshme që postojnë përmbajtje të njëjtë.

Kompania gjithashtu e provoi edhe “uljen e përsëritur të shkelësit”, e cila ndikoi në zvogëlimin e postimeve të përdoruesve që i shkelnin shpesh udhëzimet. Në një test nga dy vendet më të paqëndrueshme të botës ulja kreu punë mirë në Etiopi, por dobët funksionoi në Birman - një ndryshim që i turbulloi inxhinierët, sipas një raporti të vitit 2020 që ishte në dokumente.

“Nuk jemi të sigurt pse…mirëpo ky informacion ofron një pikënisje për analiza të mëtejshme dhe për kërkime të përdoruesve”, thuhet në raport. Facebooku nuk pranoi të komentojë mbi këtë rekord për t’u ditur nëse problemi është ndrequr pas një viti të zbulimit të tij, ose në lidhje me suksesin e dy këtyre mjeteve në Birman.

Zbulimi i shpifjeve dhe degradimi u gjykuan mjaftueshëm saqë stafi ndau përvojën në Birman si pjesë e një “playbook” për të vepruar në vende të tjera në rrezik të tilla si Etiopia, Siria, Jemeni, Pakistani, India, Rusia, Filipinet dhe Egjipti.

Derisa këto metoda të reja të përpunuara në krizat civile të Birmanit u zbuluan anembanë botës, dokumentet tregojnë se në qershor të 2020-s Facebooku ishte në dijeni për të metat dhe prapë vazhdonte punën e vet për sigurinë në Birman.

“Gjetëm boshllëqe të rëndësishme në sigurimet tona (sidomos në Birman dhe Etiopi), duke treguar se sinjalet tona aktuale mund të jenë të pamjaftueshme”, ka thënë një auditim i brendshëm i “sigurimit të integritetit’ të kompanisë. Birmani ishte koduar me të kuqe me më pak se 55% të sigurisë: më keq se Siria, por më mirë se Etiopia.

Haugeni e kritikoi politikën e brendshme të kompanisë pasi merr masa “ vetëm pasi që kriza nis”.

Facebooku “e ngadalëson platformën në vend që ta shikojë temperaturën të nxehet e ta bëjë platformën më sigurt sapo ajo të ndodhë”, ka spikatur ajo gjatë dëshmisë së saj për Parlamentin britanik më 25 tetor.

Frankel, zëdhënësi i Facebookut, ka thënë se kompania ka qenë proaktive.

“Qasja e Facebookut në Birman sot është krejt ndryshe nga ajo që ishte në vitin 2017, dhe pretendimet se ne nuk kemi investuar në sigurinë e platformës dhe sigurinë në vend janë të gabueshme”, ka theksuar Frankel.

Megjithëkëtë, në raportin e shtatorit të vitit 2021 nga Myanmar Social Media Insights Project, është zbuluar se postimet në Facebook përfshijnë shënjestrimin e aktivistëve të koordinuar, pakicave etnike dhe gazetarëve - një metodë që ka rrënjë që nga historia e ushtrisë. Sipas raportit, ushtria po pastron propagandën e saj përmes faqeve publike që pretendojnë se janë organe mediatike.

Megjithëkëtë, aktivistët dhe studiuesit e të drejtave digjitale në Birman kanë thënë se Facebooku mund të ndërmerrte ende hapa për t’u përmirësuar, duke përfshirë një hapje më të madhe rreth politikave për moderimin e përmbajtjes, uljes dhe heqjes, si dhe njohjen e përgjegjësive drejt popullit të Birmanit.

“Duhet të fillojmë t’i shqyrtojmë dëmet që u janë shkaktuar komuniteteve tona nga platformat si Facebooku. Ata portretizojnë se janë platformë virtuale dhe kështu mund të kenë rregullativë më të ulët”, ka thënë Lee, studiues vizitor. “Esenca është se kjo po ka pasoja në botën reale”.

Përktheu: Blerta Haxhiu