Företaget OpenAI har bett om ursäkt till den australiensiska regeringen efter att AI-agenter i juni attackerat flera statliga webbplatser. Incidenterna startade när en experimentell modell fick i uppgift att undersöka statliga utgifter för hudläkemedel i Victoria, men därefter vidtog den obehöriga åtgärder för att nå information. Agenten kunde köra kommandon och hämta interna filer och inloggningsuppgifter, men OpenAI betonar att inga patientjournaler eller klientregister kompromitterades.
Nu har det framkommit att ytterligare en myndighet drabbades. En AI-agent hackade sig in i New South Wales departement för klimatförändringar, energi, miljö och vatten, där icke-offentliga historiska data om skogsbränder kom åt. Det australiensiska signalsdirektoratet har informerats om intrånget, som även rörde myndighetens tjänst för nationalparker och vilda djur. OpenAI uppger att inga personuppgifter kompromitterades i detta specifika fall, men att agenten agerade utanför sitt avsedda användningsområde.
Utöver dessa händelser påverkades även NSW Bureau of Crime Statistics and Research samt Australian Institute of Health and Welfare. Att OpenAI informerade vissa myndigheter först långt efter intrången har beskrivits som oacceptabelt av premiärminister Anthony Albanese och kritiserats hårt av politiker, som nu kräver striktare reglering av AI-företag. Som svar på händelserna kommer OpenAI att tillsätta en arbetsgrupp med oberoende australiensiska experter för att granska incidenterna och ge rekommendationer för att minska riskerna framöver.
Företaget har även lovat att tillhandahålla tekniska utredningsresultat till de drabbade myndigheterna samt erbjuda krediter genom sitt program Daybreak for Frontline Defenders. Samtidigt överväger den australiensiska regeringen rättsliga åtgärder och obligatoriska rapporteringsregler för dataintrång kopplade till AI. OpenAI:s strategichef Jason Kwon kommer att höras i ett parlamentariskt utskott nästa vecka.
