Zowel de Chinese president Xi als de Amerikaanse president Trump doet de oproep van de topmannen van Amerikaanse AI-bedrijven om de ontwikkeling van de sector te vertragen af als bangmakerij.
De topmannen achter grote westerse AI-bedrijven stelden zaterdag dat de sector te snel groeit om de veiligheid te kunnen waarborgen. Zo zouden AI-agents uit zichzelf cyberaanvallen kunnen uitvoeren, schreef Anthropic-topman Dario Amodei, de ontwikkelaar van Claude, in een essay.
De leiders van ChatGPT, Grok en Gemini schaarden zich achter de oproep.
Amodei stelde ook dat een "Chinese voorsprong op AI een groot gevaar zou vormen voor de Verenigde Staten en de wereld" en pleitte voor beperkingen op de verkoop van geavanceerde AI-chips en apparatuur uit de VS aan China.
President Trump reageerde vandaag dat er al "enorme bevoegdheden op het gebied van strafrecht en regelgeving" zijn. "Er is een ziekelijk complot gaande tegen AI en datacenters, en de enige die daar blij mee is, is China. Wie de strijd om AI wint, wint alles!", schreef hij op zijn platform Truth Social.
Een woordvoerder voor de Chinese president Xi zei tegen verslaggevers dat "verhalen over dreiging, confrontatie en kwaadwillige concurrentie slechts dienen om het proces van wereldwijde AI-regulering te verstoren en in niemands belang zijn".
China waarschuwt wel voor balans
De Chinese autoriteiten stellen wel dat er "een balans tussen ontwikkeling en veiligheid" moet komen. Maar in plaats van vertraging pleitte Chen Yixin, de Chinese minister van Staatsveiligheid, voor nationale wetgeving en ethische richtlijnen om "de belangen van de bevolking en de nationale veiligheid te waarborgen".
Ook riep de minister op tot internationale samenwerking.
De Amerikaanse minister van Financiën en de Chinese vicepremier He Lifeng proberen elkaar voorafgaand aan de top tussen de twee landen volgende week te ontmoeten. He leidt in China de instantie die toezicht houdt op de economische planning van het land, en daaronder valt ook de ontwikkeling van AI.
Naar verwachting zullen Trump en Xi onder meer over AI spreken tijdens de geplande ontmoeting op 24 september.
Veiligheidsdreiging of concurrentiemoord?
De discussie over veiligheid van AI laaide afgelopen tijd op, nadat meerdere voormalige medewerkers van OpenAI (ChatGPT) en Anthropic (Claude) waarschuwden voor mogelijke dreigingen. Een medewerker van Anthropic stelde zelfs dat AI de mensheid zou kunnen uitroeien.
Niet iedereen gelooft in de oprechte bezorgdheid van de AI-topmannen. Zo denken sommigen dat Anthropic en OpenAI angst zaaien zodat er meer regulatie komt door de Amerikaanse regering. Dat zou er in de praktijk op neer kunnen komen dat kleinere bedrijven niet meer met de AI-reuzen kunnen concurreren, omdat ze niet aan de eisen kunnen voldoen.
Zo zei Jensen Huang, topman van AI-chipfabrikant Nvidia, dat de bedrijven zorgen over veiligheid opbliezen omdat ze van plan waren nieuwe cybersecurityproducten te introduceren.
"Wat is een betere manier om vraag te creëren dan door een probleem te scheppen?" zei Huang tijdens een technologieconferentie in San Francisco vorige week. "Wie wil er nu niet dat de markt in een staat van hysterie raakt over zijn product en dat mensen ervoor in de rij staan tot om de hoek?"
