Lägg till som favorit
Foto: Förhandsbild från källan: The Guardian
Metas granskningsnämnd kräver borttagning av AI-deepfakes
Metas oberoende granskningsnämnd har beordrat teknikföretaget att ta bort AI-genererade deepfake-videor från Facebook. Det rör sig om klipp som riktats mot en brittisk politiker från Labour-partiet samt en ung muslimsk kvinna. Nämnden konstaterade att videon av politikern, där hen felaktigt framställdes som att göra inflammatoriska uttalanden om flyktingar, borde ha tagits bort då den bröt mot reglerna om hatiskt beteende.
I ett separat beslut krävde nämnden att en video av en muslimsk kampanjmedarbetare, som hånade hennes arbete med menshälsa, skulle tas bort då den stred mot företagets policy mot mobbning och trakasserier. Nämndens medordförande, Pamela San Martin, betonade att AI-genererade deepfakes i ökande grad används för att tysta kvinnor i det offentliga samtalet.
Granskningsnämnden kritiserade Metas nuvarande skyddsåtgärder som konsekvent otillräckliga för att hantera spridningen av AI-manipulerat innehåll. Som en följd har nio policyförändringar rekommenderats, däribland striktare märkning av högrisk-AI, algoritmer som nedprioriterar sådant innehåll samt införandet av varningsskärmar innan användare får se AI-genererat material.
