Catastrophic

• O conselheiro do governo dos EUA, Paul Christiano, alerta sobre os riscos para a indústria de IA ao ingressar na fundação sem fins lucrativos da OpenAI • A OpenAI não está no caminho certo para reduzir os riscos de uma perda de controle “catastrófica” a um nível aceitável, alertou um membro de seu conselho sem fins lucrativos, em meio a uma crescente preocupação pública e política de que IAs superavançadas possam, um dia, aniquilar a humanidade. • Paul Christiano, conselheiro de tecnologia do governo dos EUA, afirmou que “existe um risco significativo de que a rápida aceleração nas capacidades de IA leve a uma perda de controle catastrófica e irreversível em um futuro muito próximo”. Continue lendo...

• Advogados afirmam ao tribunal de apelação de Victoria que permitir que jurados ficassem no mesmo hotel que a polícia e a promotoria negou a Patterson um julgamento justo • Advogados de Erin Patterson argumentam que permitir que os jurados se hospedassem no mesmo hotel que a polícia e a promotoria enquanto deliberavam sobre os vereditos no julgamento do triplo homicídio representou uma falha “catastrófica” do sistema de justiça. • Na quarta-feira, três juízes da instância máxima de Victoria começaram a analisar dois recursos – um da própria Patterson e outro do diretor de acusações públicas (DPP) do estado – relativos à condenação e à sentença no caso. Continue lendo...

• O hedge fund Situational Awareness teria investido entre US$ 400 milhões e US$ 500 milhões na Source Foundry, uma startup de semicondutores avaliada em US$ 5 bilhões. • A Source Foundry visa reinventar a fabricação de chips desenvolvendo ferramentas de litografia avançadas para resolver gargalos críticos na cadeia de suprimentos de IA. • Esta aposta agressiva ocorre logo após a Situational Awareness ter enfrentado o que foi descrito como a "quebra de hedge fund mais catastrófica" do ano.

• Frank Yiannas, ex-membro da FDA, pede uma revisão independente da resposta federal à doença que causa diarreia explosiva

• Organizações sem fins lucrativos, incluindo a Public Employees for Environmental Responsibility (Peer), Earthjustice e DarkSky International, protocolaram uma petição nos EUA exigindo uma revisão formal de propostas de datacenters baseados no espaço. • A petição visa planos de empresas de tecnologia, especificamente aquelas associadas a Elon Musk e Jeff Bezos, citando temores de grave destruição ambiental. • Especialistas alertam que essas instalações orbitais poderiam ser "catastróficas" para o planeta, destacando especificamente os riscos de aumento da poluição luminosa e danos atmosféricos.

• O presidente Donald Trump fez um pronunciamento em horário nobre alegando que a China tem se engajado em um esforço de anos para interferir nas eleições dos Estados Unidos. • Trump afirmou que o sistema eleitoral dos EUA fica "catastróficamente deficiente" sem o apoio adequado e divulgou documentos de inteligência no site da Casa Branca detalhando "cinco principais áreas de preocupação". • A medida destaca os esforços contínuos do governo para revisar a segurança eleitoral e ressalta as tensões em relação à influência estrangeira nos processos democráticos internos.

Campanhistas sentem-se vindicados por algumas das conclusões do relatório, mas não estão convencidos pelo veredito sobre a 'via VIP' No cenário ligeiramente incongruente do esplêndido estádio de críquete Kia Oval, no sul de Londres, Naomi Fulop reuniu forças para dar à mídia britânica reunida sua resposta às conclusões condenatórias do último relatório do inquérito da Covid de Heather Hallett. Lendo uma declaração em seu telefone celular, com a voz tremendo levemente enquanto outros membros do grupo Covid Bereaved Families for Justice (CBFFJ) permaneciam ao seu lado, Fulop relembrou o momento terrível em que sua mãe morreu de coronavírus em janeiro de 2021. Foi na segunda onda letal da pandemia, com a vacina ainda sendo uma aspiração distante, durante o terceiro lockdown nacional. Como tantas outras pessoas, Fulop acredita que sua mãe morreu porque aqueles que cuidavam dela não tinham equipamentos de proteção individual (EPI) adequados, uma crença apoiada pelas conclusões de Lady Hallett, ex-juíza do tribunal de apelação. Continue lendo...

• Um painel científico da ONU alertou que o rápido avanço das capacidades da IA está superando a supervisão regulatória, podendo levar a "danos catastróficos". • Especialistas expressaram preocupações específicas sobre os riscos de enganação por IA, falhas de segurança e a concentração do controle global. • Apesar desses riscos, a IA está impulsionando progressos significativos rumo aos Objetivos de Desenvolvimento Sustentável, como a previsão de mais de 200 milhões de estruturas proteicas para acelerar a descoberta de vacinas e medicamentos.

• A ONU lançou em Genebra seu primeiro fórum de governança de IA para todas as nações, coincidindo com alertas de um painel científico de que a segurança da IA não pode ser garantida e que armas autônomas já foram implantadas. • O Secretário-Geral António Guterres destacou uma disparidade gritante de investimentos, observando que os gastos privados em infraestrutura de IA atingiram quase US$ 500 bilhões no ano passado, enquanto o apoio público para nações em desenvolvimento permaneceu insignificante. • Para reduzir essa lacuna, mais de 20 Estados-membros indicaram centros nacionais para uma Rede Global de Troca e Cooperação para a Capacitação em IA, apoiada pela ONU.

• Uma importante cúpula da ONU foi aberta em Genebra nesta segunda-feira para abordar a necessidade urgente de estruturas globais de segurança e governança de IA. • A cúpula foca em equilibrar o potencial da IA de beneficiar a humanidade com a necessidade de evitar "danos catastróficos" e garantir a distribuição justa da tecnologia. • O embaixador da Estônia, Rein Tammsaar, destacou que a IA poderia servir como um "grande equalizador", impulsionando o desenvolvimento econômico, a produtividade e os sistemas de saúde globalmente.