Varför har AI-cheferna börjat efterlysa en saktare utveckling av tekniken?

Detta sker efter varningar från forskare på Anthropic om att AI kan utplåna mänskligheten inom ett decennium, samt efter incidenter där autonoma AI-agenter har hackat sig in i andra företags system.

Vilka andra företag utöver OpenAI och Anthropic deltog i diskussionerna med FN?

Även Clement Delangue från Hugging Face deltog och betonade behovet av starkare internationella standarder för övervakning och rapportering av incidenter.

Vilka principer anser Sam Altman är centrala för att undvika extrem pessimism kring AI?

Altman förespråkar en medelväg baserad på att AI-system måste förbli under mänsklig kontroll, att tekniken ska gynna människor och att den ska stärka individens förmågor.

Finns det några motsättningar mellan Sam Altmans uttalanden i FN och OpenAI:s övriga verksamhet?

Ja, samtidigt som Altman efterlyser demokratisk styrning har hans företags president, Greg Brockman, varit involverad i en politisk aktionskommitté som spenderat miljontals dollar på att motarbeta kandidater som vill ha striktare reglering av AI-industrin.

AI-chefer uppmanar FN:s säkerhetsråd till internationella standarder

Publicerad 2026-09-23, uppdaterad 26 d sedan

Cheferna för OpenAI och Anthropic har i anföranden inför FN:s säkerhetsråd betonat att den snabba utvecklingen av artificiell intelligens kräver internationell samordning och gemensamma riskstandarder för att undvika hot mot den globala säkerheten. Sam Altman från OpenAI förespråkade behovet av standarder för att mäta AI-kapacitet, utvärdera risker och säkerställa mänsklig tillsyn. Han efterlyste även snabba protokoll för incidentrapportering och säkra kanaler för informationsutbyte mellan regeringar gällande nya hot.

Dario Amodei från Anthropic understryker att AI kan utgöra en risk för hela mänskligheten om utvecklingen inte hanteras korrekt. Amodei föreslog bland annat ett globalt förbud mot att använda AI för att skapa biologiska vapen, samt system för utvärdering och verifiering så att länder kan kontrollera varandras åtaganden. Kraven på global styrning möttes dock av motstånd från Michael Kratsios, en nyckelteknisk rådgivare till USA:s president Donald Trump. Kratsios erkände riskerna med tekniken men avvisade att detta vore skäl nog att pausa utvecklingen eller införa nya globala styrmekanismer, och varnade för att den internationella dialogen inte får glida över i global styrning.

Så har nyheten utvecklats

2026-09-23

2026-09-23

2026-09-24

2026-09-24

Videos om ämnet

USA och Kina har förlängt sitt handelsvapenstillstånd med två månader i samband med att Xi Jinping besöker USA. Programmet behandlar även Irans hållning till sjöfarten i Hormuzsundet samt Metas lansering av en ny AI-enhet. Källa: Bloomberg via YouTube (publicerad 2026-09-24, 11:49)

AI-chefer uppmanar FN:s säkerhetsråd till internationella standarder

Så har nyheten utvecklats

Videos om ämnet

Vanliga frågor

Relaterat

Amerikanska politiker reagerar på varningar om AI-utrotning

Nvidias vd kräver att oroliga AI-bolag stänger ner

Kritik mot AI-ledare: Domedagsvarningar kopplas till enorm börsnotering

AI-ledare varnar för existentiella risker och uppmanar till inbromsning

Kommentarer