Furduescu, Bogdan – Alexandru (2025), Cercetări asupra discursului instigator la ură în mediul online, Cunoașterea Științifică, 4:3, 65-71, https://www.cunoasterea.ro/cercetari-asupra-discursului-instigator-la-ura-in-mediul-online/

 

Research on Hate Speech in Online Environment

Abstract

The consequences of hate speech can be identified in all forms of manifestation of social polarization, violence of any kind and social, political and military conflicts. The approach consists of creating and infusing historical and linguistic knowledge about a particular protected group into hate speech detection models, analyzing historical data about discrimination against a protected group to better predict peaks of hate speech against that group, and critically evaluating of hate speech detection models through the lenses of intersectionality and ethics. This article represents a contribution to the definition of the concept of online hate speech and the problems associated with this phenomenon (actors, contexts and consequences), it inventories the international, European and Romanian governmental and non-governmental organizations with attributions in combating hate speech and suggests that incorporating context from the knowledge graph can help models capture subtle stereotypes. Due to the nature of this work, some sample data and evaluation criteria contain offensive language and stereotypes. This article does not reflect the values of the author, its purpose is to detect and mitigate such hateful language and stereotypes.

Keywords: hate speech, cyberbullying, discrimination, online, racism, xenophobia

Rezumat

Consecințele discursului instigator la ură pot fi identificate în toate formele de manifestare a polarizării sociale, violenței de orice fel și conflictelor sociale, politice și militare. Abordarea constă în crearea și infuzarea cunoștințelor istorice și lingvistice despre un anumit grup protejat în modele de detectare a discursului instigator la ură, analiza datelor istorice despre discriminarea împotriva unui grup protejat pentru a prezice mai bine vârfurile discursului instigator la ură împotriva acelui grup și evaluarea critică a modelelor de detectare a discursului instigator la ură, prin prisma intersecționalității și eticii. Acest articol reprezintă o contribuție la definirea conceptului de discurs instigator la ură online și a problemelor asociate acestui fenomen (actori, contexte și consecințe), inventariază organizațiile guvernamentale și neguvernamentale internaționale, europene și române cu atribuții în combaterea discursului instigator la ură și sugerează că încorporarea contextului din graficul cunoștințelor poate ajuta modelele să captureze stereotipuri subtile. Datorită naturii acestei lucrări, unele exemple de date și criterii de evaluare conțin limbaj și stereotipuri jignitoare. Acest articol nu reflectă valorile autorului, scopul acestuia fiind de a detecta și atenua un astfel de limbaj și stereotipuri de ură.

Cuvinte cheie: discurs instigator la ură, hărțuire cibernetică, online, rasism, xenofobie

 

CUNOAȘTEREA ȘTIINȚIFICĂ, Volumul 4, Numărul 3, Septembrie 2025, pp. 65-71
ISSN 2821 – 8086, ISSN – L 2821 – 8086
URL: https://www.cunoasterea.ro/cercetari-asupra-discursului-instigator-la-ura-in-mediul-online/
© 2025 Bogdan – Alexandru FURDUESCU. Responsabilitatea conținutului, interpretărilor și opiniilor exprimate revine exclusiv autorilor.

 

Cercetări asupra discursului instigator la ură în mediul online

Bogdan – Alexandru FURDUESCU[1]
bogdan.furduescu@ici.ro

[1] Institutul Național de Cercetare– Dezvoltare în Informatică – ICI București

 

1. Introducere

Detectarea și atenuarea discursului instigator la ură au devenit din ce în ce mai importante probleme de interes tehnic și societal, în special odată cu creșterea platformelor mari de rețele sociale cu volume ridicate de conținut. Multe sisteme de producție la scară tratează detectarea discursului instigator la ură ca o problemă de predicție care este independentă de grupul vizat. În mediul online, războaiele invizibile sunt purtate constant împotriva indivizilor, grupurilor, comunităților, instituțiilor și autorităților prin discursuri instigatoare la ură, instituțiile, agențiile internaționale și organizațiile neguvernamentale mobilizându-se încă de la apariția rețelelor sociale pentru prevenirea și combaterea discursului instigator la ură în mediul online. Au fost elaborate coduri de conduită online, linii directoare pentru combaterea dezinformării și a știrilor false, legi, strategii și planuri de acțiune pentru a contracara efectele discursului instigator la ură. Această lucrare pleacă de la definirea și operaționalizarea conceptului de „discurs de ură” (DIU), inventariază și descrie principalele instituții, agenții și organizații internaționale, europene și românești cu atribuții în prevenirea și combaterea acestui fenomen, prezintă în sinteză contribuțiile la cercetarea discursului antisemit în mediul online din România, subliniind rolul tehnologiilor digitale în combaterea antisemitismului online și a altor forme de discriminare, marginalizare și excluziune socială.

2. Despre discursul instigator la ură în mediul online

DIU nu este nimic nou în interacțiunea umană. Pe de altă parte, discursul instigator la ură în mediul online este o formă relativ recentă de manifestare a discursului instigator la ură, care a căpătat amploare în contextul dezvoltării comunicării online, a rețelelor sociale și a platformelor digitale (Facebook, Twitter, Youtube, Instagram, TikTok, Telegram, Reddit și LinkedIn etc.) mai ales în perioada pandemiei de COVID-19, când relațiile sociale au fost menținute la un nivel rezonabil, în condițiile distanțării fizice impuse de măsurile de securitate a sănătății. În mediul online, războaiele invizibile sunt purtate în mod constant împotriva indivizilor, grupurilor, comunităților, instituțiilor și autorităților prin discursuri instigatoare la ură. Instituțiile, agențiile internaționale, organizațiile neguvernamentale s-au mobilizat încă de la apariția rețelelor sociale pentru prevenirea și combaterea discursului instigator la ură online, elaborând coduri de conduită pentru comportamentul online, linii directoare pentru combaterea dezinformării și a știrilor false, legi, strategii și planuri de acțiune pentru a contracara efectele DIU online. Cu toate acestea, lipsa unei definiții clare sau a unei înțelegeri unificate a acestui fenomen face dificilă stabilirea clară a amplorii acestuia și, mai concret, îngreunează identificarea grupurilor vulnerabile, emitenților și a celor mai populare canale de transmitere a discursului instigator la ură online. La data elaborării prezentei lucrări, aceste acțiuni sunt intensificate de mișcările extremiste și populiste și amplificate și mai mult de social media. Din păcate, nu s-au înregistrat progrese semnificative în rândul statelor membre UE, iar unanimitatea necesară pentru aprobarea acestei decizii nu a fost atinsă.

Institutul de cercetare Athena⁽⁸⁾ (Athena Institute) a desfășurat o cercetare în 13 țări europene cu scopul de a analiza fenomenul extremist. Astfel, în cele 13 state incluse în cercetare, au fost identificate peste 100 de grupuri extremiste (atât de stânga, cât și de dreapta), aproape jumătate dintre aceștia incitând la ură sau au o propagandă constantă îndreptată împotriva grupurilor minoritare sau vulnerabile. Restul grupurilor au fost identificate ca fiind responsabile pentru violență și infracțiuni grave motivate de ură. De asemenea, în cadrul raportului intitulat „Noua Față a Populismului Digital”, Jamie Bartlett și colab.⁽²⁾ semnalează creșterea remarcabilă în ultimii ani a mișcărilor și a partidelor extremiste/populiste, dar mai ales prezența acestora în spațiul online. În studiu au fost incluși susținători din rețelele sociale (mediu online) din 13 țări europene, aceștia fiind motivați, în primul rând, de valorile părților și de dorința de a proteja identitatea națională și culturală. Mulți dintre ei susțin unul sau altul dintre partidele extremiste ca reacție la prezența imigranților și a multiculturalismului, despre care cred că ar putea distruge identitatea națională. În plus, sunt dezamăgiți de politică, au niveluri de încredere generalizate comparabile cu mediile naționale relativ scăzute, dar au niveluri substanțial mai scăzute de încredere în instituții precum mass-media sau justiția. Un aspect important menționat în raport este că aceștia nu sunt doar activiști online, ci și foarte participanți din punct de vedere politic. Concluzia trasă, în consecință, este că complexitatea unui discurs variază de la simpla părere (atitudine exprimată verbal), pe stradă, la o persoană sau în cadrul unui grup (aparținând sau de referință), până la conținutul scris, care pot fi atașate imagini și simboluri, distribuite online pentru a da putere unui public numeros.

3. Detectarea și combaterea discursului instigator la ură în mediul online

Pe lângă avantaje, utilizarea pe scară largă a tehnologiei informației și comunicațiilor (TIC) prezintă și o serie de dezavantaje, precum proliferarea discursului instigator la ură online la un nivel greu de controlat. În ultima perioadă, blogurile, posturile de radio locale, presa scrisă, dar mai ales media online au transmis mesaje de propagandă, alimentând conflictul și violența motivată de ură. DIU în mediul online poate fi analizat și ca o formă de hărțuire cibernetică (cyberbullying) care are loc prin intermediul smartphone-urilor, laptopurilor și tabletelor conectate la Internet, sub forma unor mesaje text distribuite pe platforme online sau rețele de social media, prin utilizarea mesageriei electronice, forumurilor de discuții sau aplicațiilor online. Hărțuirea cibernetică presupune trimiterea, afișarea sau partajarea de conținut negativ (text, imagine, mesaj audio, video) cu intenția de a schimba (constrânge) în mod abuziv comportamentul unei persoane sau al unui grup de persoane și poate lua forma intimidării, amenințărilor și violenței cibernetice.

Mesajele denigratoare și de ură sunt transmise în principal de partidele și mișcările de extremă dreapta, susținătorii acestora, dar cel mai alarmant lucru este că astfel de mesaje sunt transmise foarte des de persoane publice sau politicieni vizibili public, cu putere în formarea și influențarea opiniei publice. Nu în ultimul rând, canalele de transmitere a acestor mesaje sunt încă reprezentate de media tradițională (atât componenta offline, cât și mai ales cea online), dar de departe mediul online și rețelele sociale sunt cele mai utilizate. Iar exprimarea discursului instigator la ură și comiterea infracțiunilor motivate de ură nu sunt doar un atac la demnitatea umană, ci erodează și structura societății și compromit principiile fundamentale ale unității.

Analizând o serie de proiecte extrem de interesante în vederea monitorizării și combaterii DIU în mediul on-line, dintre care amintim Action Alliance against Violence, Right-Wing Extremism and Xenophobia⁽⁷⁾, ghidul CEJI de monitorizare a infracțiunilor motivate de ură⁽⁹⁾, International Federation of Professional Footballers’Associations⁽¹⁰⁾, ISPA⁽¹¹⁾, Migrants’ Rights Network⁽¹³⁾, The Living History Forum⁽¹⁴⁾, True Vision⁽¹⁵⁾, Internet Hate Crime⁽¹⁶⁾ și Show Racism the Red Card⁽¹⁸⁾, se poate observa varietatea abordărilor și tehnicilor, dar mai ales a modului de raportare și înțelegere a fenomenului. Marea majoritate a acestor inițiative vizează colectarea, raportarea și monitorizarea mesajelor de ură (atât online, cât și offline). În ceea ce privește combaterea DIU prin măsuri de auto-reglementare, recomandările vin spre completarea acestor măsuri cu programe de educare și abilitare a consumatorilor de media. În mod similar, măsurile de combatere a DIU în mediul online sunt recomandate să urmeze atât direcția de reglementare, cât și dezvoltarea tehnologiei capabile să detecteze mesajele de ură, precum și o direcție educațională, prin dezvoltarea unui spirit critic în rândul utilizatorilor.

În România, „Strategia Națională de prevenire și combatere a antisemitismului, xenofobiei, radicalizării și discursului instigator la ură 2021-2023”⁽⁵⁾ identifică următoarele probleme legate de DIU, formele și conținutul acestuia: (1) lipsa datelor statistice privind modalitățile și amploarea manifestării antisemitismului, xenofobiei, radicalizării, DIU în România, (2) lipsa unui sistem de monitorizare și analiză a proliferării DIU online, inclusiv a teoriilor conspirației și a știrilor false, (3) lipsa instrumentelor adecvate (de exemplu, tehnologii digitale) pentru monitorizarea și sancționarea DIU și a altor fenomene conexe manifestate în mediul online și (4) colaborare internațională insuficientă cu instituțiile guvernamentale și organizațiile neguvernamentale pentru prevenirea și combaterea DIU. În „Raportul de etapă cu privire la progresul înregistrat în implementarea strategiei naționale pentru prevenirea și combaterea antisemitismului, xenofobiei, radicalizării și discursului instigator la ură”⁽³⁾, aferent perioadei mai-noiembrie 2022, se apreciază că fenomenele monitorizate prezintă o „amenințare la un nivel general mediu constant”. În ceea ce privește DIU și xenofobia, se constată un „potențial de amplificare, cele mai vulnerabile grupuri fiind considerate etnicii romi și comunitatea LGBTIQ+”. Incidentele cu caracter antisemit înregistrate în România sunt izolate și prezintă un nivel scăzut de radicalizare, se mai notează în textul raportului. Ca obiectiv de perspectivă, în raport se mandatează Inspectoratul General al Poliției Române (IGPR) cu misiunea dezvoltării unui sistem de colectare a datelor statistice privind infracționalitatea motivată de ură, sub coordonarea metodologică a Institutului Național de Statistică (INS), fără a se furniza detalii privind metodologia, tehnologia, resursele/costurile și rezultatele așteptate⁽⁵⁾.

4. Concluzii

Discursul instigator la ură, pe plan național și internațional, poate funcționa foarte diferit, chiar și față de același grup, în alte țări din cauza diferențelor semantice și culturale. Acesta a început să prolifereze în special din cauza dezvoltării comunicării online și a anonimității pe care aceasta o oferă. Deși legislația românească prevede sancțiuni pentru discursul instigator la ură, aplicarea acestora este deficitară. Instituții precum Consiliul Național al Audiovizualului sau Consiliul Național pentru Combaterea Discriminării sunt depășite de amploarea fenomenului, iar absența unei structuri care să medieze relația dintre platformele pe care au loc abuzurile și avertizori duce la un răspuns lent și ineficient. Chiar dacă unele ONG-uri raportează conținut toxic la nivel european, rețelele sociale rămân un spațiu necontrolat în care ura se răspândește nestingherită. Cercetarea este în principal calitativă, realizată prin cercetare documentară, prin urmare rezultatele acesteia nu pot fi considerate relevante din punct de vedere statistic. Scopul este colectarea și ilustrarea principalelor tipuri de probleme care și-au făcut cea mai puternică prezență în spațiul public. De asemenea, conceptul de discurs de ură (HDS) cu care am operat nu s-a limitat strict la acele forme de vorbire care pot genera sancțiuni; mai degrabă, am inclus în această categorie orice discurs care reprezintă sau încurajează neacceptarea grupurilor sociale expuse riscului. Această lucrare este menită să propună o abordare complementară a detectării discursului instigator la ură și sugerează câteva direcții care pot fi explorate în continuare, propunând ca detectarea discursului instigator la ură să fie îmbunătățită cu o abordare de cercetare specifică grupului care include infuzia de cunoștințe istorice, analize socio-științifice ale urii online într-un context lumesc și tabele de punctaj specifice grupului pentru evaluarea părtinirii în modelele NLP în general.

Bibliografie

1. Angi, D., Bădescu, G., Curt, C., Greab, C., Teampau, P. & Paul, C. (2014) – „Discursul instigator la ura in România”, Fundația pentru Dezvoltarea Societății Civile, București, România;
2. Bartlett, J., Birdwell, J. & Littler, M. (20110 – „The New Face of Digital Populism”, Centre for the Analysis of Social Media, Demos, http://www.demos.co.uk/files/Demos_OSIPOP_Book-web_03.pdf?1320601634;
3. Guvernul României (2022) – „Raportul de etapă cu privire la progresul înregistrat în implementarea strategiei naționale pentru prevenirea și combaterea antisemitismului, xenofobiei, radicalizării și discursului instigator la ură”, https://gov.ro/ro/obiective/strategii-politici-programe/raportul-anual-cu-privire-la-progresul-inregistrat-in-implementarea-strategiei-nationale-pentru-prevenirea-i-combaterea-antisemitismului-xenofobiei-radicalizarii-i-discursului-instigator-la-ura-aferenta-perioadei-2021-2023&page=1;
4. Halevy, K. (2023) – „A Group-Specific Approach to NLP for Hate Speech Detection”, https://arxiv.org/abs/2304.11223;
5. Iftimoaei, C. (2024) – „Cercetări asupra discursului antisemit în mediul online din România” în „Polis. Revistă de științe politice”, Vol. XII, 1(43), pp. 73-98, Ed. Institutului European Iași, România;
6. Secretariatul General al Guvernului României (2021) – „Strategia națională pentru prevenirea și combaterea antisemitismului, xenofobiei, radicalizării și discursului instigator la ură 2021-2023”, https://sgg.gov.ro/1/wp-content/uploads/2021/05/ANEXA-1-4.pdf;
7. https://aktionsbuendnis-brandenburg.de/en/who-we-are;
8. http://athenainstitute.eu/en/index/;
9. https://ceji.org/facing-facts-hate-crime-monitoring-guidelines-spanish/;
10. https://www.fifpro.org/en;
11. https://www.ispa.at/startseite/;
12. https://www.levandehistoria.se/english/connect-and-facilitate;
13. https://migrantsrights.org.uk/migration-pulse;
14. http://www.opensocietyfoundations.org/voices/homophobia-romanian-football-receives-red-card-european-union-court;
15. https://www.report-it.org.uk/home;
16. https://www.report-it.org.uk/reporting_internet_hate_crime;
17. https://www.stopline.at/en/home;
18. https://www.theredcard.org/.