Googles AI-tjänst Gemini anklagas för rasistiska stereotyper

Professor Simon Lindgren, expert i sociologi och digital teknik, förklarar att fenomenet beror på att AI-modeller tränas på data där vissa ord ofta förekommer i samband med negativa termer som brott och terror. Detta leder till att kulturella stereotyper förstärks i industriell skala. Enligt Lindgren är detta inte en enkel teknisk fråga utan en komplex politisk utmaning, då det är svårt att utkräva ansvar när problemen uppstår ur träningsmaterialet snarare än genom direkt programmering. Google Sverige har via ett uttalande på plattformen X medgett att resultaten inte är tillfredsställande och att bolaget arbetar med förbättringar. Kommunikationschefen på Google Sverige, Joakim Larsson, har hänvisat till koncernens globala svar i USA och avböjt att svara på ytterligare frågor om den specifika processen för att åtgärda felen.