Varför det är dags att sluta blint tro på stora uppgifter
Liv / / December 19, 2019
algoritmer bestämmer nu som godkänner lånet, försäkring eller som får en inbjudan till en intervju, men ofta de gör det orättvist. Och det bara ökar gapet mellan skikten av befolkningen.
Katie O'Neill (Cathy O'Neil)
Matematikern, på en analys av de finansiella marknaderna specialist, författare till boken "Vapen av matematiska nederlag."
För att konstruera en algoritm behöver vi två saker: data (vad som hände i det förflutna) och definitionen av ett lyckat resultat (vad du vill hitta genom att använda denna algoritm). Den bestämmer sedan vilka kriterier leder till ett lyckat resultat. Men definitionen av framgång inte kan vara universell.
Algoritm - är någon annans åsikt, den inbyggda koden.
Vi brukade tänka att algoritmer är objektiv och tillförlitlig, men det är bara en marknadsföring gimmick utformats för att skrämma oss och göra oss lita på algoritmer och matematiska uppgifter.
O'Neill citerar exempel där algoritmer kan orsaka allvarlig skada. Detta händer när man utvärderar de anställda. Till exempel i 2011 i en skola i Washington County har avvisats mer än 200 lärare efter deras
sålla ut algoritmTrots att de hade utmärkta rekommendationer från sina föräldrar och jämnåriga.Dessutom algoritmer är ofta orsaken till att avlägsna partisk domar. Nyhetsorganisation ProPublica nyligen genomfört en undersökning och hittadeAtt algoritmerna som avgör risken för återfall, arbeta objektivt. Samtidigt brott meningar tas ofta ut svarta amerikaner.
Vi är alla föremål för fördomar, och vi sätta dem i de algoritmer som bestämmer vilka data måste beaktas.
Algoritmer är helt enkelt upprepa våra tidigare misstag, automatisera den rådande ordningen. Så vi inte blint kan lita på dem, måste vi testa dem för att vara objektiv: att ompröva definitionen av ett lyckat resultat, fel, inte är försäkrade av någon algoritm. Hur ofta de förekommer och som påverkas? Vad är kostnaden för sådana fel?
Yrkesverksamma med data, inte bör vara skiljedomare för rättvisa. Det är dags att sluta blint tro big data.