Catastrophic

• Amerikaanse overheidsadviseur Paul Christiano waarschuwt voor risico's voor de AI-industrie terwijl hij toetreedt tot de non-profit stichting van OpenAI • OpenAI is niet op koers om de risico's op een "catastrofaal" verlies van controle tot een acceptabel niveau te verminderen, heeft een lid van het non-profit bestuur gewaarschuwd, te midden van groeiende publieke en politieke bezorgdheid dat supergeavanceerde AI's de mensheid op een dag zouden kunnen uitroeien. • Paul Christiano, een technologieadviseur van de Amerikaanse overheid, zei dat "er een aanzienlijk risico bestaat dat een snelle versnelling van AI-mogelijkheden op zeer korte termijn leidt tot een catastrofaal en onomkeerbaar verlies van controle."

• Het feit dat juryleden in hetzelfde hotel mochten verblijven als de politie en het Openbaar Ministerie, heeft Patterson volgens advocaten het recht op een eerlijk proces ontzegd, zo is aan het hof van beroep van Victoria meegedeeld. • Advocaten van Erin Patterson betogen dat het toestaan dat juryleden in hetzelfde hotel verbleven als de politie en de aanklagers terwijl zij beraadslaagden over hun vonnis in het proces over de drievoudige moord, een "catastrofaal" falen van het rechtssysteem vertegenwoordigt. • Woensdag begonnen drie rechters van het hoogste hof van Victoria met de behandeling van twee beroepszaken – één door Patterson zelf en één door de director of public prosecutions (DPP) van de staat – over de veroordeling en de strafmaat in deze zaak.

• Hedgefund Situational Awareness heeft naar verluidt 400 tot 500 miljoen dollar geïnvesteerd in Source Foundry, een semiconductor-startup met een waardering van 5 miljard dollar. • Source Foundry streeft ernaar de chipfabricage opnieuw uit te vinden door geavanceerde lithografietools te ontwikkelen om kritieke knelpunten in de AI-toeleveringsketen aan te pakken. • Deze agressieve weddenschap komt kort nadat Situational Awareness te maken kreeg met wat wordt beschreven als de "meest catastrofale hedgefund-crash" van het jaar.

• Frank Yiannas, voorheen bij de FDA, pleit voor een onafhankelijk onderzoek naar de federale respons op de ziekte die explosieve diarree veroorzaakt • De voormalige topfunctionaris voedselveiligheid van Donald Trump heeft de regering beschuldigd van een bijna "catastrofaal" wanbeheer van de cyclospora-uitbraak, waardoor duizenden mensen in de VS ziek zijn geworden. • Er zou een onafhankelijk onderzoek moeten komen naar de reactie van de federale overheid op de golf van ziekten veroorzaakt door de verspreiding van een parasiet die op rauwe producten wordt gevonden, aldus Frank Yiannas, die van 2018 tot 2023 deputy commissioner for food policy was bij de Food and Drug Administration (FDA) tijdens de presidentstermijnen van zowel Trump als Joe Biden.

• Non-profitorganisaties, waaronder Public Employees for Environmental Responsibility (Peer), Earthjustice en DarkSky International, hebben een Amerikaanse petitie ingediend waarin zij vragen om een formele beoordeling van voorgestelde datacenters in de ruimte. • De petitie richt zich op plannen van techbedrijven, specifiek die geassocieerd met Elon Musk en Jeff Bezos, waarbij vrees wordt uitgesproken voor ernstige milieuvernietiging. • Experts waarschuwen dat deze orbitale faciliteiten "catastrofaal" kunnen zijn voor de planeet, waarbij in het bijzonder de risico's van toegenomen lichtvervuiling en atmosferische schade worden benadrukt.

• President Donald Trump hield een primetime toespraak waarin hij beweerde dat China al jarenlang probeert zich te bemoeien met de verkiezingen in de Verenigde Staten. • Trump claimde dat het Amerikaanse kiessysteem "catastrofaal tekortschiet" zonder adequate steun en publiceerde inlichtingendocumenten op de website van het Witte Huis waarin "vijf belangrijke zorgpunten" worden gedetailleerd. • De stap onderstreept de voortdurende inspanningen van de regering om de veiligheid van verkiezingen te beoordelen en accentueert de spanningen over buitenlandse invloed op binnenlandse democratische processen.

Campagnevoerders voelen zich gerechtvaardigd door enkele conclusies uit het rapport, maar zijn niet overtuigd door het oordeel over de 'VIP-lane'.

• Een wetenschappelijk panel van de VN heeft gewaarschuwd dat de snelle vooruitgang van AI-mogelijkheden momenteel het reguliere toezicht overtreft, wat potentieel kan leiden tot "catastrofale schade". • Experts uitten specifieke zorgen over de risico's van AI-misleiding, veiligheidsfalen en de concentratie van wereldwijde controle. • Ondanks deze risico's stimuleert AI aanzienlijke vooruitgang richting de Sustainable Development Goals, zoals het voorspellen van meer dan 200 miljoen proteïnestructuren om de ontwikkeling van vaccins en medicijnen te versnellen.

• De VN heeft in Genève haar eerste forum voor AI-bestuur voor alle naties gelanceerd, samenvallend met waarschuwingen van een wetenschappelijk panel dat AI-veiligheid niet gegarandeerd kan worden en dat autonome wapens reeds zijn ingezet. • Secretaris-generaal António Guterres benadrukte een schrijnend investeringsgat en merkte op dat private uitgaven aan AI-infrastructuur vorig jaar bijna 500 miljard dollar bedroegen, terwijl de publieke steun voor ontwikkelingslanden verwaarloosbaar bleef. • Om dit gat te dichten, hebben meer dan 20 lidstaten nationale centra genomineerd voor een door de VN ondersteund Global Network for Exchange and Cooperation on AI Capacity Building.

• Een belangrijke VN-top is maandag geopend in Genève om de dringende behoefte aan wereldwijde AI-bestuurs- en veiligheidskaders te bespreken. • De top richt zich op het balanceren van het potentieel van AI om de mensheid te dienen met de noodzaak om "catastrofale schade" te voorkomen en een eerlijke distributie van technologie te waarborgen. • De Estse ambassadeur Rein Tammsaar benadrukte dat AI kan dienen als een "grote gelijkmaker" door de economische ontwikkeling, productiviteit en gezondheidsstelsels wereldwijd te stimuleren.