Meta inför varningar till föräldrar vid risk för självskada i AI-chattar

Meta utvecklar även möjligheten att kontakta nödtjänster om konversationer tyder på att en person, oavsett ålder, löper risk för självmord. Denna funktion utökar företagets befintliga praxis som redan tillämpas vid oroväckande inlägg på Facebook och Instagram. De nya varningarna är i nuläget aktiverade för föräldrar som använder Instagrams föräldrakontroll i USA, Storbritannien, Australien och Kanada, med en planerad global utrullning före årsskiftet. Utöver detta har Meta utvidgat sina innehållsbegränsningar till att även gälla Meta AI, vilket innebär att chatboten kommer att neka ett bredare spektrum av frågor för användare med striktare inställningar.