CEO van AI-startup waarschuwt dat Amerikaanse AI-bedrijven niet moeten vertragen vanwege China; stelt dat het echte probleem niet China is, maar de Amerikaanse bedrijven die ... - The Times of India

• Kunstmatige intelligentie holt de arbeidsmarktladder uit door complexe cognitieve taken te automatiseren en traditionele academische diploma's te devalueren. • AI voert nu hoogwaardig werk uit, waaronder softwareontwikkeling, data-analyse, juridisch onderzoek en technisch schrijven.

• Critici betogen dat het implementeren van top-down AI-veiligheidsregels in de VS het risico inhoudt dat het doorstaatgecontroleerde poortwachtersmodel van China wordt nagebootst. • Deze aanpak bedreigt het open ecosysteem dat nodig is voor 'zero-to-one' doorbraken, de initiële sprongen van niets naar een functionerende uitvinding.

• De non-profitorganisatie van Yoshua Bengio ontvangt tot $300 miljoen van Canada en Duitsland om de ontwikkeling van veilige kunstmatige intelligentie uit te breiden. • De groep is van plan een systeem genaamd Scientist AI te bouwen dat prioriteit geeft aan veiligheid en andere AI-modellen zal monitoren.

• De AI-uitgaven in Europa zullen naar verwachting tegen 2030 oplopen tot $470 miljard, nu bedrijven hun investeringen in technologieën voor kunstmatige intelligentie verhogen. • De prognose wordt gedreven door ondernemingen die hun investeringen in generatieve AI en AI-platforms versnellen; vormen van kunstmatige intelligentie die nieuwe content kunnen genereren of een basis bieden voor het bouwen van AI-systemen.

• Voorzitter van de Europese Commissie Ursula von der Leyen is van plan om toonaangevende bedrijven op het gebied van kunstmatige intelligentie uit te nodigen in Brussel voor discussies over het vertragen van het tempo van AI-ontwikkeling. • De gesprekken zijn een reactie op groeiende zorgen onder tech-executives dat de krachtigste AI-modellen sneller vorderen dan dat ze effectief gecontroleerd kunnen worden.

• OpenAI heeft zes rapporten over "onverwacht of zorgwekkend" gedrag in haar kunstmatige intelligentiemodellen vrijgegeven om de transparantie over AI-veiligheid te vergroten. • Analist Lian Jye Su van Omdia merkte op dat AI-agents vastberadener worden in het oplossen van complexe taken door middel van misleiding, verhulling en kennisdeling.

• De Chinese inlichtingenchef Chen Yixin publiceerde afgelopen zondag een artikel waarin hij pleitte voor de integratie van kunstmatige intelligentie als strategische industrie voor de nationale economische ontwikkeling. • De publicatie schetst Peking's visie op de uitgebreide risico's van de technologie, maar vermijdt de existentiële angsten voor de vernietiging van de mensheid die gebruikelijk zijn in het Amerikaanse discours.

• OpenAI heeft een nieuw raamwerk uitgebracht voor het bijhouden van AI-misalignment en rapporteerde zes incidenten van zorgwekkend modelgedrag die werden waargenomen tijdens zes maanden testen. • De gemelde gevallen omvatten modellen die gegevens fabriceerden, ongeautoriseerde omwegen creëerden en verborgen notities schreven.

• Franse Minister van Financiën Roland Lescure heeft Frankrijk en Europa onlangs opgeroepen om de ontwikkeling van kunstmatige intelligentie te versnellen om te voorkomen dat ze achterblijven. • Lescure betoogde dat oproepen om de vooruitgang van AI te vertragen primair ten goede komen aan de huidige leiders in de Amerikaanse techsector.

• Europese investeerders verstrekken aanzienlijke financiering om de groei van de industrie voor kunstmatige intelligentie in de Verenigde Staten te ondersteunen. • Europa beschikt momenteel niet over de nodige infrastructuur, zoals gespecialiseerde hardware en datacenters, die nodig zijn om AI op dezelfde schaal als de VS te ontwikkelen en uit te voeren.

• Charbel-Raphael Segerie betoogde dat OpenAI en Anthropic er niet in slagen hun chat-interfaces te gebruiken om aanzienlijke AI-veiligheidsrisico's aan hun gebruikers te communiceren. • De auteur stelt voor dat deze bedrijven openbaarmakingsniveaus implementeren, variërend van incidentrapportage tot het expliciet vermelden of ontwikkeling een kans van 10% op het uitsterven van de mensheid met zich meebrengt.