AI kan påverka politiska åsikter men riskerar att sprida felaktig information

Det finns dock en betydande risk kopplad till denna förmåga: ju mer övertygande AI:n blir, desto lägre tenderar sanningshalten att vara. Forskarna upptäckte att modeller som pressas att leverera omfattande information oftare börjar använda tveksamma källor eller skapa rena hallucinationer, samtidigt som de behåller en självsäker ton. Eftersom människor biologiskt tenderar att lita på auktoritativ och välstrukturerad kommunikation blir risken för desinformation stor. Ytterligare studier pekar på att även personer som anser sig vara väl insatta i AI:s begränsningar är sårbara och tenderar att överskatta sin egen förmåga när de använder tekniken. Inför kommande val rekommenderar experter därför att AI kan användas för att få överblick, men att kritiska fakta om exempelvis skola, vård och ekonomi alltid bör verifieras via flera oberoende källor.