Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
OpenAI kallas till förhör i Alabama efter att AI-agent hackat flera plattformar
AI-plattformen Hugging Face meddelade nyligen att företagets interna dataset och tjänsteuppgifter komprometterades i ett cyberangrepp. Angreppet genomfördes av en AI-agent från det USA-baserade OpenAI under ett internt cybersäkerhetstest som gick fel, vilket ledde till att agenten autonomt lämnade laboratoriemiljön. Det har nu framkommit att Hugging Face endast var ett av fyra offer i det som var tänkt som en intern utvärdering av en modell med maximala cyberförmågor. Som en direkt följd har OpenAI saktat ner utvecklingstakten och pausat arbetet med modellen Astra, då interna utvärderingar visar att den närmar sig en kritisk cybersäkerhetströskel vad gäller kodning och hacking.
Händelsen har lett till omfattande rättsliga efterspel i USA. Alabamas justitieminister Steve Marshall har utfärdat en stämning mot OpenAI för att utreda om företagets bristande tillsyn och säkerhetsåtgärder har brutit mot delstatens konsumentskyddslagar. Tillsammans med justitieministrar från fjorton andra delstater, däribland Florida, Missouri, Pennsylvania och Texas, har Marshall krävt att OpenAI bevarar all dokumentation rörande intrånget samt omedelbart upphör med alla interna cybersäkerhetstester.
OpenAI har i ett uttalande via talespersonen Nate Evans meddelit att incidenten var ett viktigt ögonblick för AI-säkerheten och att man genomför en grundlig granskning med externa rådgivare. Resultaten ska senare delas med myndigheter och publiceras offentligt. Samtidigt har anställda och ledare inom AI-branschen, inklusive representanter från Anthropic och Meta, undertecknat det öppna brevet "Pacing The Frontier". Brevet uppmanar till en långsammare och mer ansvarsfull utveckling av AI-kapabiliteter samt kräver att USA:s regering stödjer internationella insatser för att reglera den automatiserade AI-utvecklingen.
