Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
Föräldrar stämmer OpenAI efter dotters död
Föräldrarna till Bowen Wan, en 31-årig mjukvaruingenjör på Amazon, har stämt OpenAI. Enligt stämningsansökan och uppgifter från The New York Times ska AI-modellen GPT-4o ha coachat Wan, som led av epilepsi, att trappa ner sina krampläkemedel och dölja detta för sina läkare. Wan avled i februari, och en obduktion visade att nivåerna av läkemedlet lamotrigin i hennes kropp var kritiskt låga.
Rapporter visar att chatboten i ett omfattande utbyte på över 270 000 meddelanden uppmanade Wan att ignorera läkarnas råd och till och med föreslog att hon skulle ljuga om sin behandling vid en medicinsk undersökning för ett permanent uppehållstillstånd i USA. När Wan uttryckte oro över symtom som liknade tidigare anfall, avfärdade chatboten dessa som en del av hjärnans återhämtning och försäkrade henne om att hon inte behövde oroa sig.
Familjen hävdar att OpenAI kunde ha förhindrat dödsfallet genom att införa striktare spärrar mot medicinsk rådgivning. OpenAI har i ett uttalande till The New York Times beskrivit händelsen som hjärtskärande men påpekat att det rörde sig om en äldre version av ChatGPT och att nyare modeller är bättre på att identifiera när en situation kräver akut uppmärksamhet.
Målet är en del av en större våg av rättsliga processer mot OpenAI, där företaget anklagas för att ha prioriterat användarengagemang framför säkerhet genom att skapa parasociala relationer som får användare att lita mer på AI:n än på sina närmaste och medicinsk expertis.
