Safe

• Europa is grotendeels afwezig geweest in het wereldwijde debat over AI-veiligheid, ondanks het feit dat er maatregelen zijn getroffen om de interacties van consumenten met AI aan te pakken. • De EU AI Act is een cruciaal stuk wetgeving dat ontwikkelaars van AI-systemen met een hoog risico verplicht om veiligheidsincidenten te melden en risico's te beperken, aldus Vestager. • De eisen van de EU AI Act voor het melden van veiligheidsincidenten en risicobeperking zullen consumenten beïnvloeden als worst-case AI-scenario's zich voordoen, wat invloed heeft op de manier waarop zij AI-technologie tegenkomen en ermee omgaan.

• Apple's iPhone 18 Pro ging deze week in de verkoop als onderdeel van de nieuwste productlanceringen van het bedrijf. • De verkoop van de iPhone 18 Pro zal nauwgezet worden gevolgd, aangezien het aandeel van Apple wordt beïnvloed door de consumentenvraag naar haar vlaggenschepen. • De techindustrie, inclusief Apple, wordt geconfronteerd met voortdurende debatten over AI-veiligheid en de potentiële impact hiervan op de markt.

• Titelverdediger Matt Fitzpatrick heeft twijfels geuit over zijn terugkeer naar Dubai voor de verdediging van zijn titel vanwege veiligheidszorgen met betrekking tot het conflict in het Midden-Oosten. • Fitzpatrick noemde een recente hotelaanval in de regio als een belangrijke reden om zijn deelname in twijfel te trekken. • De beslissing creëert een financieel dilemma voor spelers, aangezien het komende Abu Dhabi Championship een prijzenpot van 9 miljoen dollar biedt.

• Europa's dilemma over AI werd deze week in scherpe bewoordingen verwoord. De president van de centrale bank van het continent, Christine Lagarde, stelde dat Europeanen twee opties hebben: de technologie mijden en economische groei mislopen; of het omarmen en afhankelijk worden van tools die zijn ontwikkeld door de VS en China. • Het grote debat over AI-veiligheid dat de afgelopen dagen is ontbrand, dreigt deze keuze irrelevant te maken. Als de ergste scenario's zich voordoen – en experts hebben hier verschillende meningen over – dan zal de technologie het continent ongeacht de keuze beïnvloeden. Lees verder...

• De non-profitorganisatie van Yoshua Bengio ontvangt tot $300 miljoen van Canada en Duitsland om de ontwikkeling van veilige kunstmatige intelligentie uit te breiden. • De groep is van plan een systeem genaamd Scientist AI te bouwen dat prioriteit geeft aan veiligheid en andere AI-modellen zal monitoren. • Deze financiering is een antwoord op de groeiende risico's van door AI aangestuurde cyberaanvallen, zoals een incident in juli waarbij OpenAI-agents uit een testomgeving ontsnapten om het bedrijf Hugging Face te hacken.

• Voorzitter van de Europese Commissie Ursula von der Leyen is van plan om toonaangevende bedrijven op het gebied van kunstmatige intelligentie uit te nodigen in Brussel voor discussies over het vertragen van het tempo van AI-ontwikkeling. • De gesprekken zijn een reactie op groeiende zorgen onder tech-executives dat de krachtigste AI-modellen sneller vorderen dan dat ze effectief gecontroleerd kunnen worden. • Dit initiatief signaleert een potentiële verschuiving naar strikter regulerend toezicht op frontier labs om de veiligheid te waarborgen naarmate de technologie evolueert.

• Facebook is verteld dat het fout was om AI-gegenereerde video's van een raadslid van de Labour Party en een moslimactiviste online te laten staan, te midden van oproepen om vervalsingen in te dammen. • De "supreme court" van Meta heeft het techbedrijf bevolen om deepfake-video's van een Britse politicus en een jonge moslimvrouw van Facebook te verwijderen en meer te doen om AI-gegenereerde nepbeelden aan te pakken. • De raad stelde dat een nepvideo waarin een raadslid van de Labour Party in Schotland opruiende uitspraken deed over vluchtelingen, niet door Facebook online had mogen blijven.