Call Slowdown

• Anthropic CEO Dario Amodei publiceerde een online essay waarin hij AI-bedrijven oproept om het tempo van de verbetering van modelcapaciteiten te vertragen. • Amodei verzocht om een vrijstelling van het mededingingsrecht om leidende ontwikkelaars in staat te stellen samen te werken aan veiligheidsmaatregelen om risico's zoals het uitsterven van de mensheid te voorkomen. • Deze oproep tot vertraging creëert een strategische spanning voor Europese AI-bedrijven die momenteel proberen de Amerikaanse marktleiders in te halen.

• OpenAI stelt een federaal kader voor om de risico's te beheersen van kunstmatige intelligentie die menselijke controle ontwijkt. • Het plan omvat eisen voor onafhankelijke beoordelingen, sterkere cybersecurity-bescherming en gedeelde maatregelen voor het bijhouden van recursieve zelfverbetering, wat optreedt wanneer AI-systemen zichzelf onafhankelijk verbeteren. • Deze maatregelen zijn bedoeld om te voorkomen dat AI buiten menselijk toezicht opereert naarmate de technologie autonomer wordt.

• Leiders van AI-bedrijven, waaronder OpenAI en Anthropic, pleiten voor een vertraging in de ontwikkeling van kunstmatige intelligentie. • Deze functionarissen geven er steeds vaker toe dat de technologie die zij bouwen potentieel de mensheid zou kunnen uitroeien. • Deze verschuiving in standpunt suggereert dat de makers van deze systemen geloven dat de existentiële risico's voor het menselijk overleven nu zwaarder wegen dan de snelheid van innovatie.

• De CEO van Anthropic betrad dinsdag het podium tijdens een conferentie in San Francisco om zijn oproep tot een vertraging van de AI-ontwikkeling te herhalen, terwijl de CEO van Nvidia pleitte tegen een dergelijke deceleratie. • Dario Amodei gebruikte een analogie uit de automotive-sector om zijn punt te maken: wanneer een concurrerend autofabriekje een veiligheidsincident heeft, zoals remproblemen, is dat een moment voor alle autofabrikanten om stil te staan en hun eigen praktijken te herzien, zei hij dinsdag tijdens de Dreamforce-conventie van Salesforce. Lees verder...

• China wees op 14 september 2026 dringende oproepen af om de ontwikkeling van kunstmatige intelligentie te vertragen. • Peking beschreef de waarschuwingen van Amerikaanse techleiders als onderdeel van een Amerikaans "Cold War playbook", ontworpen om een rivaliserende supermacht te hinderen. • Dit meningsverschil duidt op een verdiepende geopolitieke kloof over de vraag of AI-veiligheidsregels bedoeld zijn om de mensheid te beschermen of dienen als instrumenten voor economische en technologische inperking.

• Techbedrijven zagen hun aandelenkoersen op maandag dalen nadat vooraanstaande bedrijven op het gebied van kunstmatige intelligentie oproepen steunden om de ontwikkeling in de sector te vertragen. • Bedrijfsleiders steunden deze vertraging na waarschuwingen dat de snelle vooruitgang van AI een bedreiging voor de mensheid zou kunnen vormen. • Deze verschuiving in sentiment zorgt voor directe volatiliteit voor investeerders en markten die sterk verbonden zijn met de AI-boom.

• Een Chinese minister wees oproepen van AI-executives om de technologische ontwikkeling te vertragen van de hand en bestempelde dergelijke waarschuwingen als angstzaaierij. • De minister beschreef het veld van kunstmatige intelligentie als het belangrijkste slagveld voor wereldwijde technologische concurrentie en strategische rivaliteit tussen grootmachten. • Dit standpunt geeft aan dat China prioriteit wil geven aan snelle AI-vooruitgang en openheid boven de voorzichtige aanpak die door sommige sectorleiders wordt gevraagd.

• Tech-aandelen in Azië daalden maandag nadat leiders van OpenAI, SpaceX en Google DeepMind hun steun betuigden aan een oproep om de ontwikkeling van kunstmatige intelligentie te vertragen. • Sam Altman, Elon Musk en Demis Hassabis spraken hun steun uit voor een essay van Anthropic CEO Dario Amodei getiteld “We Must Pace the Frontier”. • Beleggers houden rekening met een potentiële vertraging die het voor de sector moeilijk kan maken om honderden miljarden dollars aan investeringen in AI-infrastructuur te financieren.

• Europese tech-aandelen zijn onlangs gedaald naar het laagste punt in zes weken, omdat beleggers reageerden op oproepen tot een vertraging in de ontwikkeling van kunstmatige intelligentie. • De Financial Times meldt dat AI-bedrijf Anthropic zijn investerders heeft geïnformeerd dat het dit kwartaal winst verwacht te maken. • De marktvolatiliteit weerspiegelt de angst van beleggers over de duurzaamheid van de AI-groei en de anticipatie op een naderend besluit van de Federal Reserve over de rentetarieven.

• Aandelen van SoftBank, een Japanse investeerder en grote steunpilaar van OpenAI, zakten met 13%. • De Zuid-Koreaanse Kospi-beursindex, die zwaar leunt op chipfabrikanten die AI-bedrijven bevoorraden, daalde met 3%.

• AI-bestuurders Sam Altman en Dario Amodei hebben deze week publiekelijk opgeroepen tot een vertraging in de ontwikkeling van nieuwe systemen voor kunstmatige intelligentie. • Deze waarschuwingen volgen een bredere trend waarbij onderzoekers oproepen tot voorzichtigheid met betrekking tot de snelheid van de implementatie van technologie. • Een lager tempo van ontwikkeling zou het concurrentielandschap en de veiligheidsprotocollen voor bedrijven die grootschalige AI-modellen bouwen, kunnen veranderen.

• De CEO van het kunstmatige intelligentiebedrijf Anthropic deed zaterdag een nieuw beroep op de AI-industrie om te “vertragen” en bood een drieledig plan aan om dit te bereiken, waarbij hij aangaf dat zijn bedrijf zich “eenzijdig” zou verbinden aan de eerste stap. • In een bericht op sociale media deelde Dario Amodei een link naar een essay getiteld 'We Must Pace the Frontier', waarin hij uitlegt hoe Anthropic “externe evaluatoren permanente toegang op medewerkersniveau tot onze systemen zou verlenen, zodat zij de naleving van onze veiligheidsmaatregelen kunnen verifiëren, incidenten kunnen rapporteren en de uitlijning van modellen tijdens de training kunnen beoordelen”. Lees verder...