Lägg till som favorit
Foto: Förhandsbild från källan: BBC
Forskare varnar för diskriminerande AI inom polisarbete
Användningen av artificiell intelligens inom polisarbete riskerar att öka diskrimineringen av minoritetsgrupper, varnar forskare. Enligt experter bygger prediktiva system för att identifiera brottshärdar ofta på partisk data, vilket skapar en farlig återkopplingsloop där redan utsatta områden övervakas mer intensivt, vilket i sin tur genererar mer data om brottslighet i dessa specifika områden.
Dr Carolyn McKay från University of Sydney Law School betonar vikten av mänsklig tillsyn och granskning av den data som används. Hon menar att AI-system ofta tränas på data som redan innehåller mänskliga fördomar, vilket leder till självuppfyllande profetior. Detta förstärks av så kallad "dirty data" – polisregister som präglats av korrupta eller olagliga metoder, vilket AI-systemen sedan upprepar som mönster.
Sociologen Sarah Brayne vid University of Texas at Austin har i studier av Los Angeles polisdepartement sett hur data används för att förutsäga brott snarare än att bara reagera på dem, vilket lett till en oproportionerligt hög närvaro i svarta bostadsområden. Även inom hälso- och sjukvården i USA har liknande problem uppstått, där AI-system felaktigt prioriterade vita patienter framför svarta på grund av felaktiga ekonomiska indikatorer.
