Një organ evropian për të drejtat e njeriut ka konstatuar se algoritmi i Facebook-ut favorizon njëanshmërinë gjinore në promovimin e reklamave për vende pune, duke e cilësuar këtë si një hap të rëndësishëm në mbajtjen e gjigantëve të teknologjisë përgjegjës për dizajnin e platformave të tyre.
Instituti Holandez për të Drejtat e Njeriut vendosi më 18 shkurt se algoritmi i Facebook-ut përforcon stereotipat gjinorë, pasi u shfaq kryesisht profesione të konsideruara “tipike për gratë” përdorueseve gra në Holandë, shkruan CNN, transmeton Katror.info.
Meta (META), korporata amë e Facebook-ut, duhej ta kishte monitoruar dhe rregulluar algoritmin për të parandaluar diskriminimin.
Mundesh me e lexu edhe…
Ky vendim erdhi pas raportimit nga CNN As Equals, i cili zbuloi se disa përdorues në Evropë po humbnin mundësi pune për shkak të paragjykimit gjinor të algoritmit të Facebook-ut.
Një artikull i vitit 2023, i bazuar në hulumtimin e organizatës ndërkombëtare jofitimprurëse Global Witness, tregoi se reklamat për vende pune në Facebook shpesh synonin përdoruesit në bazë të stereotipave gjinorë historikë në Holandë dhe pesë vende të tjera.
Për shembull, reklamat për pozita mekanikësh u shfaqën kryesisht për burra, ndërsa ato për mësuese kopshti për gratë.
Global Witness deklaroi se eksperimentet e saj në Holandë, Francë, Indi, Irlandë, Mbretërinë e Bashkuar dhe Afrikën e Jugut dëshmuan se algoritmi prodhonte të njëjtat paragjykime në mbarë botën. Ky hulumtim çoi në katër ankesa nga organizata holandeze për të drejtat e njeriut Bureau Clara Wichmann dhe organizata franceze Fondation des Femmes.
Instituti Holandez për të Drejtat e Njeriut deklaroi në vendimin e tij të shkurtit se Meta Platforms Ireland Ltd., e cila menaxhon reklamat e Facebook-ut në Evropë, nuk arriti të dëshmojë se algoritmi i saj i reklamave nuk kryen diskriminim të ndaluar gjinor. Ky organ holandez theksoi se Facebook duhet të rishikojë algoritmin e tij të reklamave për të parandaluar diskriminimin e mëtejshëm.
Bashkimi Evropian ka disa direktiva që ndalojnë diskriminimin mbi bazë gjinore, përfshirë edhe në reklamat online.
Në vendimin e tij, Instituti vuri në dukje se “Meta Ireland ka pranuar se pika e të dhënave mbi gjininë mund të jetë pjesë e algoritmit. Meta Ireland nuk e ka mohuar që kjo pikë e të dhënave mund të nxisë stereotipe përmes algoritmit.”
Një zëdhënës i Meta-s i tha CNN-it se kompania nuk do të komentonte mbi këtë çështje.
Më herët, zëdhënësja e Meta-s, Ashley Settle, i kishte thënë CNN-it se kompania aplikon “kufizime për reklamuesit kur vendosin fushata për punësim, si dhe për reklama për banesa dhe kredi.” Këto kufizime për synimin e audiencës janë në fuqi në Shtetet e Bashkuara, Kanada dhe mbi 40 vende e territore evropiane, përfshirë Francën dhe Holandën, sipas Meta-s.
“Nuk u lejojmë reklamuesve të synojnë këto reklama bazuar në gjini,” tha Settle në një deklaratë të vitit 2023. “Ne vazhdojmë të punojmë me palët e interesuara dhe ekspertët nga akademia, grupet për të drejtat e njeriut dhe disiplina të tjera për të studiuar dhe adresuar çështjen e drejtësisë algoritmike.”
Në atë kohë, Meta nuk iu përgjigj pyetjeve të CNN-it se si trajnohet algoritmi që menaxhon sistemin e reklamave të saj.
Në një postim në blog të vitit 2020 mbi sistemin e saj të shpërndarjes së reklamave, Facebook deklaronte se reklamat u shfaqen përdoruesve bazuar në një sërë faktorësh, përfshirë “sjelljen brenda dhe jashtë” platformës.
Reagimet ndaj vendimit
Berty Bannor nga Bureau Clara Wichmann e përgëzoi vendimin e Institutit Holandez, duke deklaruar për CNN se kjo përfaqëson një arritje të rëndësishme.
“Sot është një ditë e shkëlqyer për përdoruesit holandezë të Facebook-ut, të cilët tani kanë një mekanizëm të qasshëm për të mbajtur përgjegjëse kompanitë shumëkombëshe të teknologjisë si Meta dhe për të siguruar që të drejtat që gëzojnë jashtë internetit të respektohen edhe në hapësirën digjitale,” tha Bannor.
“Ajo që po shoh këtu është një hap i parë drejt tregimit se ligjet kundër diskriminimit vlejnë po aq edhe për kompanitë e mëdha të teknologjisë, ashtu siç vlejnë në botën jashtë internetit,” shtoi ajo.
Rosie Sharpe, fushatë-bërëse e lartë për Kërcënimet Digjitale në Global Witness, deklaroi se ky vendim “përfaqëson një hap të rëndësishëm drejt mbajtjes së kompanive të mëdha të teknologjisë përgjegjëse për mënyrën se si dizajnojnë shërbimet e tyre dhe ndikimin diskriminues që algoritmet e tyre mund të kenë te njerëzit.”
“Shpresojmë që ky vendim të përdoret si një pikënisje për veprime të mëtejshme, si në Evropë, ashtu edhe përtej saj,” shtoi ajo.
Edhe pse vendimi i Institutit Holandez për të Drejtat e Njeriut nuk është juridikisht detyrues, ekspertët thonë se nëse çështja çon në një proces gjyqësor, gjykata do të duhet të marrë në konsideratë gjetjet e Institutit.
Implikimet e mundshme ligjore
Avokati holandez Anton Ekker, i specializuar në inteligjencën artificiale dhe të drejtat digjitale, i tha CNN-it se vendimi i Institutit mund të çojë në gjoba nga autoriteti holandez për mbrojtjen e të dhënave ose në urdhra për të modifikuar algoritme specifike, veçanërisht ato që përforcojnë pabarazitë dhe dëmtojnë në mënyrë disproporcionale grupet e margjinalizuara bazuar në gjini, racë, etni ose religjion.
Nëse Meta nuk ndërmerr masa për të rregulluar algoritmin e reklamave të vendeve të punës, OJQ-të mund të vendosin të ndjekin çështjen në rrugë ligjore për të ndaluar përdorimin diskriminues të algoritmeve të saj, shtoi ai.
Ndryshimet e politikave të Meta-s dhe kritikat
Vendimi holandez vjen në një kohë kur mbrojtja e të drejtave digjitale është dobësuar ndjeshëm, veçanërisht për gratë dhe grupet e margjinalizuara, theksoi Bannor.
Muajin e kaluar, Meta njoftoi se do të mbyllë programet e saj për diversitetin, barazinë dhe përfshirjen, do të ndryshojë politikat e saj për gjuhën e urrejtjes në platformat e saj dhe do të heqë programet e verifikimit të fakteve nga palët e treta në SHBA.
Sipas ndryshimeve të reja, përdoruesit tani lejohen të etiketojnë “gratë si objekte shtëpiake ose si pronë” apo “personat transgjinorë ose jo-binarë si ‘gjëra’,” sipas një seksioni të politikës që më parë ndalonte këtë lloj gjuhe, por që është hequr.
Më parë, komente të tilla do të ishin fshirë nga moderatorët e Meta-s.
Gjatë dekadës së fundit, Meta është përballur me akuza të shumta për diskriminim, përfshirë padi në SHBA mbi reklamat për banesa, punësim dhe kredi. Si rezultat, kompania ka ndryshuar algoritmin e saj për këto lloj reklamash në SHBA.
Sharpe nga Global Witness i tha CNN-it se është “skandaloze” që këto ndryshime nuk janë zbatuar në të gjithë botën, duke argumentuar se algoritmet dhe inteligjenca artificiale po ndikojnë gjithnjë e më shumë në jetën e përditshme dhe paraqesin rreziqe serioze për drejtësinë shoqërore. /Katror.info
Burimi: CNN
Përktheu dhe përshtati katror.info.
Përgatiti:
