Ekstremistai socialiniuose tinkluose neproporcingai nukreipia ir nutyla lotynų, musulmonų ir žydų žmones

Daniel Zender už „BuzzFeed News“

Pažeidžiamų nariųgrupės, tokios kaip lotynų, musulmonų ir žydų bendruomenės, yra neproporcingai nukreiptos internete su dezinformacija, priekabiavimu ir skaičiavimo propaganda - ir jos nepasitiki didelėmis socialinėmis platformomis, kurios jiems padeda, pagal naujus tyrimus Palo Alto įsikūręs ateities institutas Skaitmeninio intelekto laboratorija bendrinama tik su „BuzzFeed News“.



Mokslininkai nustatė, kad internetinės žinutės ir vaizdai tokiose platformose kaip „Twitter“, kilę iš lotynų, musulmonų ir žydų bendruomenių, ekstremistai bendrai pasirenka skleisti susiskaldymą ir dezinformaciją, todėl dažnai ekstremistai labiau įsitraukia į socialinę žiniasklaidą. Tai verčia socialinių grupių narius atsitraukti nuo internetinių pokalbių ir platformų ir nustoti juos naudoti, kad įsitrauktų ir organizuotų, toliau perleidžiant trolius ir ekstremistus.

Manome, kad bendras šios [veiklos] tikslas yra sukurti tylos spiralę, kuri neleistų žmonėms dalyvauti politikoje internete, arba neleisti jiems naudotis šiomis platformomis organizuoti ar bendrauti, sakė skaitmeninės žvalgybos direktorius Samuelis Woolley. Lab. Tuo tarpu, remiantis tyrimais, platformos šiuos skundus iš esmės tenkino neveikdamos.



Woolley sakė, kad jis tikisi, jog artėjančiuose 2020 m. Rinkimuose bus panaudotos tokios strategijos kaip skilimo skatinimas, dezinformacijos skleidimas ir bendrai pasirenkami pasakojimai, kuriais naudojosi blogi 2016 m. Pasak jo, 2020 m. Mes manome, kad socialinės grupės, religinės grupės ir balsavimo grupės bus pagrindinis šios veiklos tikslas.



Laboratorija užsakė aštuonis atvejus iš akademikų ir ekspertų grupių tyrėjų, norėdama išsiaiškinti, kaip JAV socialines ir problemų grupes veikia tai, ką tyrėjai vadina skaičiavimo propaganda (socialinės žiniasklaidos platformų, autonominių agentų ir didelių duomenų, kuriems pavesta manipuliuoti viešąja nuomone, ty skaitmeninės propagandos, rinkinys). Tirtos grupės buvo amerikiečiai musulmonai, lotynų amerikiečiai, nuosaikūs respublikonai, imigracijos aktyvistai, juodųjų moterų ginklų savininkės, aplinkosaugos aktyvistės, kovos su abortais ir abortų teisių gynėjos bei žydės amerikietės.

Viename pavyzdyje imigracijos aktyvistai sakė tyrėjams, kad žiniaraštis apie jūsų teises, nurodantis žmonėms, ką daryti, kai juos sustabdo ICE, buvo nufotografuotas, kad būtų įtraukta melagingos informacijos, o vėliau paskleista socialinėje žiniasklaidoje. Amerikos ir islamo santykių tarybos narys sakė, kad su organizacijos pavadinimu susijusią grotažymę (#CAIR) perėmė nekentėjai ir ji buvo naudojama priekabiauti prie musulmonų. Mokslininkai, peržiūrėję „Latdino“ pranešimus „Reddit“, taip pat nustatė, kad ekstremistų balsai, aptariantys lotynų kalbos temas, atrodo garsesni nei jų šalininkai.

Tyrėjų kalbinti amerikiečiai žydai teigė, kad pokalbiai internete apie Izraelį pasiekė naują toksiškumo lygį. Jie kalbėjo apie ne robotų „Twitter“ minias, nukreiptas į žmones, ir koordinavo žydų organizacijų vykdomas dezinformacijos kampanijas, bandančias propaguoti žydus.



Mes supratome, kad dažnai pažeidžiamiausios socialinės grupės ir mažumų bendruomenės yra skaičiavimo propagandos taikiniai, Woolley sakė „BuzzFeed News“.

Šios išvados sutampa su kitais duomenimis, kurie sustiprina tai, kaip šios socialinės grupės patiria didžiausią priekabiavimą internete. Remiantis 2019 m. ADL ataskaita, 27% juodaodžių amerikiečių, 30% lotynų, 35% musulmonų ir 63% JAV LGBTQ+ bendruomenių dėl savo tapatybės buvo persekiojami internete.

Botai

Amerika užgrobta / Via archyvas.is

Kol buvo robotaipaprastai nėra dominuojantis dalyvavimas „Twitter“ pokalbiuose, kuriuos analizuoja tyrėjai, automatinės paskyros buvo naudojamos neapykantos ar priekabiavimo žinioms skleisti skirtingoms bendruomenėms.



„Twitter“ žinutėse apie Arizonos respublikonų rinkimus Senate ir jo laidotuvėse praėjusiais metais buvo pakeistas Johnas McCainas, ir paaiškėjo, kad robotai bandė nukreipti nuosaikius respublikonus į antisemitinę sąmokslo svetainę america-hijacked.com. (Ji neskelbia naujos medžiagos nuo 2017 m.) Mokslininkai taip pat nustatė, kad „Twitter“ diskusijose apie reprodukcines teises buvo matyti, kad kovos su abortais robotai skleidžia įžeidžiančią kalbą, o už abortus pasisakantys robotai skleidžia politiškai nesutariančias žinutes.

Tyrėjai naudojo Botometras įrankį, skirtą tikėtinoms automatizuotoms paskyroms identifikuoti, ir surinko milijonus tviterių, pagrįstų žetonų analizei. Jie sujungė šią duomenų analizę su interviu, atliktu su tiriamų bendruomenių nariais. Pasak Woolley, tikslas buvo nustatyti ir kiekybiškai įvertinti žmogiškąsias skaičiavimo propagandos pasekmes.

Rezultatai svyruoja nuo atvėsinančio poveikio ir teisės atimti teisę iki psichologinės ir fizinės žalos, rašoma Woolley ir laboratorijos tyrimų direktorės Katie Joseff santraukoje.

Joseffas sakė, kad tirtų bendruomenių žmonės mano, kad yra nukreipti į ekstremistų grupuotes ir juos įveikia, ir kad jie neturi platformų sąjungininkų.

Ji nepasitikėjo, kad platformos jiems padės.

Atsakydamas į prašymą pakomentuoti, „Twitter“ atstovas spaudai nurodė kompaniją savo pastangų peržiūrą apsaugoti rinkimų vientisumą per 2018 m. vidurio rinkimus.

„Kadangi visame pasaulyje vyksta rinkimai iki 2020 m., Mes ir toliau tęsiame savo pastangas kovodami su priešiškų užsienio ir vidaus veikėjų keliamomis grėsmėmis. Mes stengiamės sukurti aplinką, palankią sveikiems ir prasmingiems pokalbiams apie mūsų paslaugą “, - sakoma atstovo spaudai pranešime. („Reddit“, kita tyrime ištirta socialinė platforma, iš karto neatsakė į prašymą pakomentuoti.)

Joseffas ir Woolley sakė, kad ekstremalios ir izoliuotos socialinės žiniasklaidos platformos, tokios kaip Gab ir 8Chan, yra inkubuojamos priekabiavimo kampanijos ir pranešimai apie tam tikras socialines grupes. Šiose platformose prasidėjusios idėjos vėliau diktuoja pokalbį, vykstantį labiau įprastose socialinės žiniasklaidos platformose.

Nišinės platformos, tokios kaip „Gab“ ar „8Chan“, yra erdvės, kuriose tokios kalbos kultūra fermentuojasi ir yra kuriama, sakė Woolley. Štai kodėl jūs matote kryžminį išpuolių apvaisinimą visose populiariose socialinės žiniasklaidos platformose ... nukreiptas į kelias skirtingas grupes.

Bendras pasirinkimas

Mokslininkai nustatė, kad kelios tirtos bendruomenės užsiima hashtag’u ir turinio kooptavimu-tai procesas, kurio metu kažkas, ką grupė naudoja pranešimui ar tikslui reklamuoti, apsisuka ant galvos ir juo pasinaudoja oponentai.

Pavyzdžiui, vieno atvejo tyrimo metu apklausti imigracijos aktyvistai teigė matę prieš imigraciją nukreiptų kampanijų vaizdo įrašų aktyvistus, vaizduojančius juos internete kaip ICE pareigūnus, ir pertvarkę vaizdus, ​​kad imigrantų organizacijos būtų baltųjų viršenybės šalininkų.

Apklaustieji teigė, kad nusikaltėliai yra išmanantys technologijas, naudoja socialinę žiniasklaidą aktyvumo įvykiams sekti ir sutrikdyti, taip pat sukūrė memes apie mažumas, plėšiančias po stichinės nelaimės.

Tyrėjai nustatė, kad iš pradžių imigracijos aktyvistų išstumti pranešimai buvo nuosekliai pasirenkami jų oponentų-ir kad šie priešpasakojantys pranešimai sukelia daugiau įsitraukimo nei originalas, kaip parodyta šioje grafikoje, parodančioje vieną pavyzdį:

Skaitmeninio intelekto laboratorija

Visais atvejais, išskyrus vieną, pasakojimą nuosekliai užgožė priešinis pasakojimas, rašė tyrėjai.

Kitas atvejo tyrimas apie lotynų amerikiečius surinko duomenis iš „Reddit“. Buvo nustatyta, kad r/The_Donald, pagrindinio Trumpui palankaus subreddito, kuriame dažnai atsiranda rasistinis ir ekstremistinis turinys, nariai turėjo didžiulę įtaką organizuojant ir skatinant diskusijas, susijusias su lotynų bendruomene. Pripildydami „Reddit“ savo turiniu, taip pat organizuodami mega siūlus ir kitas grupines diskusijas, jie užgožė lotynų balsus. Tyrėjai taip pat rašė, kad troliai kartais apsimetinėjo ekspertais bandydami pasėti nesantaiką ir melagingus pasakojimus, susijusius su lotynų kalbos problemomis.

Senieji tropai

Skaitmeninio intelekto laboratorija / „Twitter“

Mokslininkų nustatyta konkreti dezinformacija dažnai buvo susijusi su ilgai trunkančiais sąmokslais ar klaidingais teiginiais. Atvejų studijos apie internetinius pokalbius apie moterų reprodukcines teises ir klimato mokslą parodė, kad seni tropai ir melas ir toliau skatina nesutarimus keliančius pokalbius.

Kalbant apie moterų reprodukcines teises, tyrėjai ištyrė 1,7 milijono tviterių, paskelbtų nuo praėjusių metų rugpjūčio 27 iki rugsėjo 7 d., Kad sutaptų su Kavanaugh patvirtinimo klausymo laiku. Nustatytos dvi ryškiausios dezinformacijos kampanijos buvo melagingi teiginiai apie planuojamą tėvystę. Vienas melagingas teiginys buvo tas, kad organizacijos įkūrėjas pradėjo ją nukreipti į juodus žmones dėl abortų. Tai pagrįsta sąmoninga klaidinga citata apie tai, ką iš tikrųjų pasakė Margaret Sanger, kuri iš tikrųjų turėjo įspėti žmones, manančius, kad organizacija taikosi į juodaodžius amerikiečius.

Josefas sakė, kad daugelyje atvejų tyrimų pasikartojo senų sąmokslų ar tropų.

Neapykantos, susiskaldymo ir dezinformacijos plitimo internete raktas yra socialinės žiniasklaidos įmonių neveiklumas. Daugelis iš apklaustųjų tyrimams teigė, kad, kai vyksta priekabiavimo kampanija, jie neturi kur kreiptis, o technologijų gigantai nesiima jokių veiksmų.

Tiesiog yra tiek daug, tai negali būti darbas visu etatu,-CAIR skyriaus direktorius sakė tyrėjams, paklaustas apie nutildymą ar blokavimą tiems, kurie siunčia nekenčiančias žinutes.

Kai platformos imasi veiksmų, jos kartais uždraudžia netinkamus žmones. Vienas interviu dalyvis, dalyvaujantis internetinėje veikloje, susijusioje su imigracijos problemomis, teigė, kad „Twitter“ pernai birželį pašalino pagrindinio „Black Lives Matter“ eitynių organizatoriaus paskyrą.

Vėliau žygis buvo sujauktas ir jo būtų galima išvengti, jei pokalbyje būtų girdėti dideli socialinių teisių aktyvistų organizatorių balsai, rašė tyrėjai.

Atvejų studijose taip pat nustatyta, kad blogi veikėjai lengvai pasirenka algoritmus ir kitus pagrindinius socialinės žiniasklaidos platformų veikimo elementus.

Jų algoritmai yra žaidžiami ir gali sukelti šališkas ar neapykantos tendencijas, sakoma santraukoje. Tai, kas plinta jų platformose, gali sukelti labai realų politinį smurtą neprisijungus, jau nekalbant apie psichologinį trolinimo ir priekabiavimo poveikį internete. ●

Daugiau apie priekabiavimą internete

  • Prieš musulmonus nukreipta neapykantos kalba socialinėje žiniasklaidoje yra visiškai negailestinga, net kai platformos žlugdo kitas ekstremistines grupesJane Lytvynenko 2019 m. Kovo 18 d
  • Tikri juodaodžiai aktyvistai nerimauja dėl netikrų, kurie juos paskandins „Twitter“ Ryanas C. Brooksas 2019 m. Vasario 28 d
  • Laiko juosta, kaip Notre Dame ugnis buvo paversta antisulmonišku pasakojimuJane Lytvynenko 2019 m. Balandžio 17 d