AI-fel hos Discord ledde till tusentals felaktiga avstängningar

Enligt Discord har problemet pågått sedan maj, och ytterligare 200 användare avstängdes under den senaste helgen innan felet identifierades och åtgärdades. Företaget bekräftar att alla drabbade konton för närvarande håller på att återställas. I en förklaring på plattformen X beskriver Discord att deras automatiserade säkerhetssystem matchar uppladdat innehåll mot databaser med känt skadligt material. Trots att systemet är utformat för att fånga upp olagligt innehåll, uppstod ett tekniskt fel som gjorde att konton avstängdes omedelbart utan den vanliga granskningen av en mänsklig moderator. Användare på sociala medier har uttryckt stor frustration över händelsen, och vissa menar att permanent avstängning baserat på automatiserad detektering kan få allvarliga konsekvenser för dem som använder tjänsten för arbete eller socialt umgänge. Incidenten är inte unik, då även jättar som Meta och Tumblr tidigare rapporterats ha haft liknande problem med omfattande och oförklarade kontonavstängningar kopplade till AI-moderering.