Ako sa povie „algoritmus“ v Kiswahili?

Tento príspevok bol spoluautormi Mercy Musya a Grace Kamau z Busara Centra pre behaviorálnu ekonomiku v Nairobi v Keni so vstupmi od Dan Bjorkegrena z Brown University a Joshua Blumenstock z UC Berkeley a CEGA.

Úver: Busara Centrum pre behaviorálnu ekonomiku

Rozhodnutia, ktoré kedysi robili ľudia, sa čoraz viac robia pomocou algoritmov, či už ide o poskytnutie pôžičky, diagnostiku choroby alebo dokonca objednanie reštaurácie. Zatiaľ čo niektoré z týchto rozhodnutí sú triviálne, iné týkajúce sa osobných financií nie sú, čo vyvoláva obavy, že ak sa na rozhodovanie používajú algoritmy, mali by objasniť, ako sa tieto rozhodnutia prijímajú. Európska únia napríklad presadzuje „právo na vysvetlenie“ digitálnych rozhodnutí. Ako by sme však mali vysvetliť rozhodnutia založené na zložitých modeloch? Je možné vysvetliť rozhodnutia všetkým, ktorých sa to týka, dokonca aj tým, ktorí majú veľmi málo predchádzajúcich skúseností s technológiou a algoritmami?

Tieto otázky sme skúmali v kontexte digitálneho požičiavania, jednej z najúspešnejších aplikácií strojového učenia v rozvojových spoločnostiach.

Čo je to digitálne požičiavanie?

Každý štvrtý Keňan prijal digitálnu pôžičku (Gubbins a Totolo, 2018). Digitálny kredit získal viac ako 6 miliónov Keňanov kreditné skóre založené na tom, ako používajú svoje telefóny (Björkegren a Grissen 2015), čím im poskytuje prístup k úverom.

Používatelia zvyčajne sťahujú digitálnu kreditnú aplikáciu z obchodu Google Play, umožňujú jej aplikácii prístup k svojim údajom v sociálnych médiách, k údajom GPS, zoznamom kontaktov, SMS, protokolom hovorov atď. Aplikácia potom analyzuje údaje a používa algoritmy na určenie kreditného skóre a výšky úveru.

Kredit: M-Pesa

Chápu ľudia pojem „algoritmus“?

Tento proces však vyvoláva otázku: vedia títo používatelia skutočne chápať, ako tieto algoritmy fungujú a ako ich ich činnosť môže kvalifikovať alebo vylúčiť ich z pôžičiek? A ak nie, je možné sprostredkovať povahu algoritmov chudobným? A koľko informácií je teda potrebné poskytnúť?

Séria šiestich diskusií zameraných na skupiny (FGD) preskúmala všeobecné chápanie Keňanov v oblasti digitálnych úverových algoritmov, ktoré určujú oprávnenosť pôžičky. FGD sa konali v Busara centre pre behaviorálnu ekonomiku v Nairobi, kde bolo pozvaných 50 ľudí: rozmanitá skupina obyvateľov Kibery a Kawangware z respondentského fondu v Busare s nízkymi príjmami, ktorí vlastnili smartfóny a mali aspoň nejaké predchádzajúce skúsenosti s nejakou formou digitálneho vysielania. úver. Iba 64% účastníkov malo ukončené stredoškolské vzdelanie. Účastníci boli potom požiadaní, aby vysvetlili svoje porozumenie procesu schvaľovania digitálnych kreditov, nechali im vysvetliť jednoduchý proces algoritmov a potom im bola poskytnutá sada hypotetických cvičení, aby sa zistilo, či algoritmom rozumejú.

Takmer všetci účastníci mali malé znalosti alebo porozumenie algoritmom, ktoré používajú digitálne kreditné nástroje.

Mnohí sa oddialili tradičnejším formálnym procesom, aby určili, aký proces používajú tieto platformy na vyhodnotenie svojej oprávnenosti na pôžičky, t. J. Úspory, primárne zdroje príjmu, ručitelia za pôžičky a / alebo transakcie MPESA. Účastníci, ktorí boli menej oboznámení s algoritmickými prístupmi, sa domnievali, že medzi všetkými finančnými inštitúciami existovala väčšia tajná dohoda o zdieľaní informácií o aplikáciách, ktoré by sa kolektívne použili na vyhodnotenie oprávnenosti.

„Verím, že [napríklad digitálny veriteľ] chodia a kontrolujú sa s inými úverovými inštitúciami, [napríklad s telekomunikáciami, Safaricom a úverovým referenčným úradom CRB], aby získali viac informácií o tom, či som dobrý dlžník alebo nie. "

Účastníci sa však všeobecne domnievali, že je možné určiť niektoré charakteristiky ľudí z používania telefónov.

Údaje o používaní telefónov pri hovoroch, SMS správach, nainštalovaných aplikáciách, vzoroch nabíjania batérií a pripojeniach Wi-Fi môžu okrem iného spoločne definovať rôzne demografické charakteristiky. Respondenti vo FGD boli vo všeobecnosti schopní pochopiť, ako určité údaje dokážu identifikovať dobrých alebo zlých dlžníkov. Niektorí dokonca segmentujú správanie so zameraním na každodenné profesionálne interakcie:

„Obchodní ľudia s väčšou pravdepodobnosťou prijímajú viac hovorov z rovnakých telefónnych čísiel a ich GPS by im ukazovalo trochu sa pohybovať, pretože sa potrebujú venovať svojim zákazníkom online alebo osobne.“

Ochrana osobných údajov je dôležitá, ale anonymizácia sa zaoberá mnohými problémami.

Väčšina účastníkov si nebola istá, pokiaľ ide o účel povolení, ktoré udeľujú pre tieto aplikácie. Keď boli údaje zhromaždené týmito aplikáciami jasne opísané, účastníci vzniesli obavy týkajúce sa ich súkromia, nahrávania hovorov a obsah SMS boli najcitlivejšími oblasťami záujmu. S anonymizovaným zberom údajov, napr. S hashovanými telefónnymi číslami, však boli oveľa pohodlnejšie, pokiaľ sa nezhromažďoval žiadny obsah.

Jednoduchý chutný jazyk je rozhodujúci pre efektívnu komunikáciu špecifikácií algoritmov.

Busara sa snažil vysvetliť algoritmy pomocou rôznych prístupov, napr. matematické rovnice alebo grafické ilustrácie. Väčšina účastníkov sa snažila porozumieť algoritmom, keď boli prezentované ako matematické rovnice, zatiaľ čo účastníkom boli ľahšie pochopené diagramové znázornenie algoritmov. Použitie koláčového grafu na vysvetlenie pomerov bolo najúspešnejšie.

Zjednodušené terminológie zodpovedajú úrovni vzdelania tejto populácie a každodennému jazyku (väčšinou slang). Výrazy ako „zvýšený podiel“ alebo „odpočet“ by sa mohli nahradiť výrazom „viac z“ a „odpočítať“. Dlžníci sa snažia porozumieť týmto pravidlám rozhodovania, ale iba do tej miery, do akej je pre nich zjednodušené pochopiť všeobecný koncept.

Čo to znamená pre komunikáciu motivovanú algoritmom?

Celosvetová diskusia pokračuje o tom, do akej miery by sa mala transparentnosť algoritmov legálne nariadiť, aby sa zabezpečila ochrana spotrebiteľa. Súčasný projekt pod vedením Joshua Blumenstocka a Daniela Björkegrena v Busara Centre, podporovaný Nadáciou Billa a Melinda Gatesa prostredníctvom digitálneho observatória CEGA (DCO), sa snaží určiť, ako by bolo možné algoritmy primerane komunikovať, aj keď digitálny kredit naďalej rozširuje svoj dosah. ,