Maarten Sap, et.al., "The Risk of Racial Bias in Hate Speech Detection” (2019)
Datubāze par naida runas un naida noziegumu jautājumiem » Ziņojumi, pētījumi, publikācijas » Dažādas publikācijas un raksti
Gads: 2021 | Ievietošanas datums: Dec. 15, 2021
We investigate how annotators’ insensitivity to differences in dialect can lead to racial bias in automatic hate speech detection models, potentially amplifying harm against minority populations. We first uncover unexpected correlations between surface markers of African American English (AAE) and ratings of toxicity in several widely-used hate speech datasets. Then, we show that models trained on these corpora acquire and propagate these biases, such that AAE tweets and tweets by self-identified African Americans are up to two times more likely to be labelled as offensive compared to others. Finally, we propose dialect and race priming as ways to reduce the racial bias in annotation, showing that when annotators are made explicitly aware of an AAE tweet’s dialect they are significantly less likely to label the tweet as offensive.
Pielikumi
Datubāze
No 1. 01.2021 līdz 31.12.2022. datubāze par diskriminācijas un naida runa/naida noziegumu jautājumiem tiek papildināta projektā "Ceļā uz iecietīgāku sabiedrību - informēšana, izglītošana, atbalsts un sadarbība". Projektu finansē Islande, Lihtenšteina un Norvēģija caur EEZ un Norvēģijas grantu programmu “Aktīvo iedzīvotāju fonds"
Datubāze par diskriminācijas jautājumiem ir izveidota ar Eiropas Savienības finansiālu atbalstu. Par šīs datubāzes saturu pilnībā atbild Latvijas Cilvēktiesību centrs un tas nevar tikt uzskatīts par Eiropas Savienības viedokli.
No 1.09.2015 līdz 30.11.2015 datu bāze tika papildināta ar jaunu sadaļu "Slēgtās iestādes" Atvērtās sabiedrības institūta (OSI-Assistance Foundation) finansētā projekta - "OPCAT ratifikācijas veicināšana Latvijā"
No 1.11.2013 līdz 1.11.2015 datu bāze tiek papildināta ar jaunu sadaļu par naida noziegumu un naida runas jautājumiem Sabiedrības integrācijas fonda atbaltītā projekta "NVO rīcībspējas stiprināšana naida kurināšanas ierobežošanai internetā” ietvaros. Projektu finansiāli atbalsta Islande, Lihtenšteina un Norvēģija. Programmu finansē EEZ finanšu instruments un Latvijas valsts.
2012.gadā (aprīlī, maijā, jūnijā) datu bāze par diskriminācijas jautājumiem papildināta projektā "Atšķīrīgs klients daudzveidīgā Latvijā: stiprinot pretdiskriminācijas kapacitāti"(IF/2010/3.1./01) ietvaros. Projekts tiek līdzfinansēts Eiropas trešo valstu valstspiederīgo integrācijas fonda ietvaros (vadošā iestāde LR Kultūras Ministrija)
2011.gadā datu bāze par diskriminācijas jautājumiem tika papildināta projekta „Diskriminācijas gadagrāmata: no likumdošanas līdz tiesu praksei” ietvaros. Projekts tiek līdzfinansēts Rīgas domes Izglītības, kultūras un sporta departamenta Sabiedrības integrācijas programmas ietvaros.
