Spustenie dnes: nová štúdia o spolupráci zameraná na zníženie zneužívania na Twitteri

Pri viacerých metódach môže byť zneužívanie online veľmi obmedzené - ak zistíme, ktoré metódy skutočne fungujú v ktorých situáciách.

Susan Benesch a J. Nathan Matias

Zneužívanie online sa stalo tak rozšíreným a všadeprítomným, že predstavuje vážnu výzvu pre verejné blaho na celom svete. Rovnako ako iné zložité sociálne problémy si vyžaduje dôsledné a rozmanité hľadanie riešení. Nedá sa to vyriešiť iba pokusom o odstránenie všetkého škodlivého obsahu online (aj keď to bolo technicky možné dosiahnuť), pretože ani tak drakonické politiky nezabránia poškodeniu ďalšieho obsahu. Je to ako pripomenúť si nebezpečné potraviny bez toho, aby ste zabránili kontaminácii a predaju nových potravín - alebo odtiahnutiu havarovaných automobilov bez toho, aby ste sa snažili urobiť nové automobily bezpečnejšie. Zneužívanie sa nedá vyriešiť žiadnou jednotnou metódou, pretože je zverejnená v mnohých podobách, rôznymi ľuďmi a z mnohých dôvodov.

Pri viacerých metódach môže byť zneužívanie online veľmi obmedzené - ak zistíme, ktoré metódy skutočne fungujú v ktorých situáciách. V priebehu 35-ročnej histórie internetu sa objavilo pomerne veľa sľubných nápadov, ale väčšina z nich sa nikdy systematicky netestovala. Z dôvodu nedostatku dôkazov môžu technické spoločnosti pretrvávať v postupoch, ktoré zhoršujú zneužívanie, a môžu prehliadať jednoduché myšlienky, ktoré by mohli pomôcť miliónom ľudí.

Výskum ukázal, že keď inštitúcie uverejňujú pravidlá jasne, ľudia s väčšou pravdepodobnosťou ich dodržiavajú.

Dnes Twitter začne testovať takúto myšlienku: že zobrazovanie pravidiel internetovej platformy používateľom zlepší správanie na tejto platforme. Sociálne normy, ktoré sú presvedčením ľudí o tom, čo inštitúcie a iní ľudia považujú za prijateľné správanie, silne ovplyvňujú to, čo ľudia robia a nerobia. Výskum ukázal, že keď inštitúcie uverejňujú pravidlá jasne, ľudia s väčšou pravdepodobnosťou ich dodržiavajú. Z prieskumu spoločnosti Nathan s redditovými komunitami tiež máme prvé dôkazy, že zviditeľnenie politík môže zlepšiť správanie online. V experimente, ktorý sa začína dnes, Twitter zverejňuje svoje pravidlá, aby otestoval, či sa tým zlepší obľuba.

Túto myšlienku sme navrhli na Twitteri a navrhli sme experiment na jej vyhodnotenie. Tento projekt je priekopníkom otvoreného prístupu založeného na dôkazoch, ktorý zlepšuje skúsenosti ľudí online a zároveň chráni ich súkromie. Vedci z priemyslu a univerzity už predtým spolupracovali. Toto úsilie je jedinečné, pretože sme sa rozhodli viesť ho ako otvorenú spoluprácu v rámci súboru právnych, etických a vedeckých obmedzení. Tým sa ochránia používatelia služby Twitter, zabezpečí sa dôveryhodnosť našej práce a zabezpečí sa, že poznatky z nej získané budú mať k dispozícii pre všetkých - dokonca aj pre iné internetové spoločnosti.

Tento projekt je priekopníkom otvoreného prístupu založeného na dôkazoch, ktorý zlepšuje skúsenosti ľudí online a zároveň chráni ich súkromie.

Dúfame, že tento projekt prinesie praktické znalosti o predchádzaní zneužívaniu online a že náš proces bude inšpirovať k ďalším transparentným a nezávislým hodnoteniam mnohých ďalších nápadov na zníženie zneužívania online.

Výskumný proces

Pri testovaní nápadov na predchádzanie zneužívaniu náš výskumný tím testuje aj proces nezávislého externého hodnotenia politík a koncepčných zásahov, ktoré uskutočňujú technické spoločnosti. Takto to funguje.

nezávislosť

Základom tohto procesu je naša nezávislosť od služby Twitter. Sme akademickí vedci, nepracujeme pre Twitter a ani sme nehľadali ani nedostali peniaze z Twitteru na tento projekt. V spolupráci so spoločnosťou sme stanovili dve podmienky pre realizáciu projektu: aby zdieľali informácie, ktoré potrebujeme na analýzu výsledkov, a aby sme si ponechali slobodu zverejňovať výsledky v recenzovanom akademickom časopise. Rokovali sme a podpísali právne dohody, v ktorých spoločnosť Twitter súhlasila s týmito podmienkami, a dohodli sme sa na ochrane obchodného tajomstva v technických záležitostiach, ktoré nesúvisia s našimi hlavnými otázkami.

Ochrana osobných údajov používateľa

V záujme ochrany súkromia nám spoločnosť poskytne iba anonymné súhrnné informácie. Keďže nebudeme dostávať identifikačné informácie o žiadnej jednotlivej osobe alebo konte Twitter, v našich publikáciách nemôžeme a nespomenieme nikoho ani jeho Tweety.

Ochrana osobných údajov je ústredným prvkom nášho procesu, ktorý preto obmedzuje údaje, s ktorými pracujeme, chráni údaje pri vykonávaní analýzy a naše použitie akýchkoľvek údajov obmedzuje iba na túto štúdiu. Štúdiu sme navrhli s Twitterom takým spôsobom, ktorý nám umožňuje vyhodnotiť experiment bez toho, aby sme museli poznať mená alebo iné osobné informácie akéhokoľvek účtu. Po dokončení štúdie Twitter pripraví pre našu analýzu agregovaný súbor údajov. Údaje zo služby Twitter zostanú v našom zašifrovanom systéme, v ktorom vykonáme analýzu, a nebudeme zdieľať údaje mimo tohto systému. Po potvrdení integrity prijatých údajov sa budeme riadiť dohodnutým plánom na analýzu výsledkov. Keďže vzájomné hodnotenie môže nejaký čas trvať a keďže nás ostatní výskumníci môžu požiadať o podrobnú kontrolu podrobností, údaje a všetky zálohy budeme uchovávať dva roky po ukončení štúdie a potom ich všetky vymažeme.

Transparentnosť a zodpovednosť

Aby bola štúdia čo najtransparentnejšia, verejne oznamujeme štúdiu pred jej začiatkom. Keďže to nemôžeme teraz podrobne opísať bez toho, aby sme ohrozili integritu výsledkov, našli sme dve alternatívy. Po prvé, návrh úplného štúdia schválili dva výbory pre etické otázky univerzít (ktorých úlohou je zabezpečiť, aby výskumní pracovníci dodržiavali pravidlá, ktoré chránia ľudí, ktorých by mohol výskum ovplyvniť). Po druhé, predložili sme náš plán analýzy - podrobný opis spôsobu, akým sa štúdia uskutoční - s neutrálnou treťou stranou s názvom Open Science Framework. To zaisťuje, že my a Twitter môžeme niesť zodpovednosť za presne to, čo robíme.

Táto prax pri podávaní plánu neutrálnej tretej strane sa nazýva predregistrácia a to znamená, že sme podrobne opísali, aké sú naše hypotézy, presne to, ako by Twitter vykonal zásah, aké výsledky by sme pozorovali a aké štatistické metódy by použil na analýzu výsledkov - to všetko pred začiatkom štúdie. To zaisťuje, že robíme analýzu presne tak, ako sme plánovali predtým, ako sme videli výsledky, aj keď táto analýza vedie k neuspokojivým zisteniam. Predbežná registrácia, čo je najlepší postup v oblasti otvorenej vedy, chráni dôveryhodnosť výskumu nášho tímu a zapojenie služby Twitter. Náš plán analýzy sme odovzdali do rámca Open Science Framework - neutrálnej tretej strany. Po skončení štúdie a sme pripravení zverejniť naše výsledky, zverejníme tento plán v OSF, aby ostatní mohli potvrdiť, že sme sa riadili plánom, a čo je rovnako dôležité, môžeme zopakovať štúdiu.

Naše zistenia sprístupníme každému, aby ich bolo možné voľne používať. Náš výskum odovzdáme na akademické partnerské preskúmanie a uverejníme ho v akademickom časopise.

Etika

Náš proces tiež zodpovedá štandardným univerzitným postupom v oblasti etiky výskumu. Tento projekt bol preskúmaný a schválený všetkými našimi etickými radami: MIT COUHES a McBill University REB, v koordinácii s etickou komisiou na University of Bath.

Pri vypracúvaní tejto štúdie sme zvážili žiadosť každej osoby o súhlas vopred alebo, alternatívne, upozornenie ľudí po ukončení štúdie, že by sa mohli do projektu zapojiť. V tomto výskume by požiadavka ľudí, aby sa prihlásili, mohla viesť k neobjektívnym nálezom. Oznámenie po ukončení štúdia prostredníctvom Twitteru bolo tiež nepraktické, pretože Twitter by nebol schopný osloviť ľudí, ktorí opustili platformu, a náš výskumný tím by nebol schopný osloviť nikoho, pretože nebudeme mať žiadne názvy účtov ani kontaktné informácie. , V takýchto podmienkach si výskumné etické zásady USA vyžadujú, aby experimenty spĺňali štandardy minimálneho rizika. Sme presvedčení, že správy, ktoré testujeme, spĺňajú túto normu a etické výbory MIT a McGill túto štúdiu schválili. Pretože vydanie súhlasu je také dôležité, niektorí z nášho tímu navrhujú nové spôsoby koordinácie súhlasu a zodpovednosti rozsiahleho výskumu. Ak máte otázky týkajúce sa etiky tohto výskumu, kontaktujte, prosím, J. Nathana Matiasa na adrese jnmatias@mit.edu.

poďakovanie

Sme veľmi vďační niektorým vynikajúcim kolegom, ktorí pomohli pri tomto projekte. Lindsay Blackwell napísala prieskum relevantného výskumu v sociálnej vede, ktorý usmerňoval naše myslenie pri navrhovaní experimentu. Marc Brackett tiež poskytoval včasné usmernenie. Andrew Sellars na klinike BU / MIT Technology & Cyberlaw Clinic pomohol vypracovať a prerokovať dohody o spolupráci. Sme tiež vďační mnohým ľuďom na Twitteri, ktorí pracovali na tom, aby bol tento projekt možný.

O vedcoch

Tento projekt vedie Susan Benesch a J. Nathan Matias. Novinári s otázkami o projekte by nás mali kontaktovať na adrese (susan@dangerousspeech.org a jnmatias@mit.edu).

Susan Benesch (@susanbenesch) je členkou fakulty Centra Berkmana Kleina pre internet a spoločnosť na Harvardskej univerzite. Založila a riadi projekt Nebezpečná reč, ktorý študuje reč, ktorá môže inšpirovať násilie - a spôsoby, ako predchádzať takýmto škodám bez toho, aby bola porušená sloboda prejavu. Zahŕňa to rozsiahle práce na online komunikácii a projekt Dangerous Speech je súčasťou Rady dôveryhodnosti a bezpečnosti na Twitteri.

J. Nathan Matias (@natematias) je postdoktorandským výskumným pracovníkom na psychologickom oddelení Princetonskej univerzity, v Centre pre politiku informačných technológií a sociológie. Je hosťujúcim učiteľom v MIT Media Lab Center pre občianske médiá a je zakladateľom spoločnosti CivilServant, ktorá organizuje behaviorálnu vedu občanov pre spravodlivejší, bezpečnejší a pochopiteľnejší internet. CivilServant priamo spolupracoval s komunitami desiatok miliónov ľudí s cieľom objaviť efektívne nápady na zlepšenie online života a vyhodnotiť vplyv sociálnych technológií.

Derek Ruths je docentom na Počítačovej vede na McGill University, kde vedie laboratórium Network Dynamics. Vo svojom výskume Derek študuje spôsoby použitia údajov na meranie a predpovedanie rozsiahleho ľudského správania.

Adam Joinson (@joinson) je profesorom informačných systémov na University of Bath, kde vykonáva výskum v oblasti priesečníkov medzi technológiou a správaním - vrátane práce na komunikačných modeloch, vplyve, bezpečnosti a súkromí a ako môže dizajn ovplyvniť správanie.