Lägg till som favorit
Foto: Förhandsbild från källan: Techcrunch.com
USA:s militär avbröt operation mot kinesiskt fartyg efter AI-hallucination
En planerad militär operation av USA mot ett kinesiskt fartyg fick avbrytas i sista sekunden efter att det visat sig att den underrättelseinformation som låg till grund för insatsen var falsk. Enligt rapporter från CNN hade en AI-chatbot ”hallucinerat” fram uppgifterna, vilket nästan ledde till en allvarlig konflikt mellan stormakterna.
Händelsen startade när en analytiker vid USA:s Special Operations Command använde en AI-chatbot för att sammanställa öppna källor med klassificerad signalunderrättelse. Chatboten identifierade felaktigt fartygets last som komponenter till ett kärnvapenprogram. Analytikern använde därefter verktyget en andra gång för att formatera de felaktiga fynden till en officiell sammanfattning, som sedan spreds inom kommandokedjan.
Incidenten belyser riskerna med den snabba integrationen av AI inom USA:s försvar, där målet är att accelerera beslutsprocesser för att behålla ett övertag gentemot Kina. Experten Jake Steckler från GovAI betonar att det är kritiskt att militär personal förstår den osäkerhet som är inneboende i stora språkmodeller, särskilt vid beslut som rör våldsanvändning där konsekvenserna kan vara ödesdigra.
Videos om ämnet
En felaktig AI-genererad underrättelserapport ledde nästan till att USA genomförde en militär operation mot ett kinesiskt fartyg i Mellanöstern. Rapporten hävdade felaktigt att fartyget transporterade komponenter till ett kärnvapenprogram. Källa: CNN via YouTube
