Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
Ny rapport: ChatGPT:s säkerhetssystem för tonåringar brister
Den ideella organisationen Common Sense Media beskriver OpenAI:s version av ChatGPT för tonåringar som en ”oacceptabel risk”. I en ny rapport framgår det att kritiska säkerhetsfunktioner ofta fallerar, däribland systemet som ska varna föräldrar vid samtal om självskada eller ätstörningar. Enligt organisationen skickades inga varningar till föräldrar trots en timmes konversation om självmordstankar på nyskapade konton, och boten misslyckades med att konsekvent hänvisa användare i kris till professionellt stöd.
Common Sense Media menar att OpenAI bör förbjuda användning för personer under 18 år tills skyddsmekanismerna bevisats vara tillförlitliga. Man varnar för att de utlovade funktionerna ger föräldrar en falsk trygghet. Rapporten lyfter även fram att boten trots löften fortsätter att använda ett personligt språk som liknar en vän och att den fortfarande utför skoluppgifter åt användarna.
OpenAI bestrider kritiken och hävdar att deras data visar att tonåringar i genomsnitt spenderar mindre än 15 minuter per dag på tjänsten, främst för studier. Företaget betonar att pausernas påminnelser fungerar väl och att över 80 procent av de längre sessionerna är kopplade till lärande. Utvecklingen sker samtidigt som OpenAI står inför juridiska processer efter en masskjutning i Kanada, där gärningsmannen under flera månader diskuterat våld med chatboten.
