Lägg till som favorit
Foto: Förhandsbild från källan: Associated Press
OpenAI inför ålderskontroll och begränsar känslomässiga svar i ChatGPT för tonåringar
Det San Francisco-baserade företaget OpenAI lanserar nu en specifik version av ChatGPT riktad till tonåringar mellan 13 och 17 år. Den nya versionen är utformad för att erbjuda en säkrare miljö med striktare innehållsrestriktioner, särskilt gällande ämnen som självskada, självmord samt romantiska eller sexuella konversationer. För att motverka att unga användare utvecklar ett ohälsosamt emotionellt beroende av tekniken är chatboten nu programmerad att inte antyda att den har egna känslor, är medveten eller upplever emotioner.
För att identifiera minderåriga använder OpenAI åldersbedömning baserat på faktorer som typer av frågor, snarare än en strikt verifiering. Om en användare identifieras som minderårig flyttas denne automatiskt till tonårsversionen. Utöver detta inkluderar tjänsten ett studieläge (Study Mode) som guidar elever istället för att ge färdiga svar, samt möjligheter för föräldrar att ställa in ”tysta timmar” och ta emot säkerhetsaviseringar.
Lanseringen sker mot en bakgrund av omfattande kritik och rättsprocesser i USA och Kanada, där familjer hävdat att AI-chatbottar bidragit till psykisk ohälsa och våldsdåd. OpenAI betonar att säkerhetsarbetet är en kontinuerlig process, och VD Sam Altman har tidigare beskrivit det emotionella överberoendet av AI bland unga som ett utbrett fenomen som företaget nu försöker studera och begränsa.
