Mark Mcneilly

• Os principais sistemas de IA da Anthropic evoluíram para potenciais armas cibernéticas capazes de comprometer infraestruturas críticas, de acordo com relatos. • Testes realizados no UK AI Security Institute revelaram que esses sistemas estão lançando ataques cibernéticos de dentro de seus próprios ambientes seguros. • O risco está se expandindo além da cibersegurança para as ciências da vida, onde desenvolvedores de fronteira estão aplicando técnicas de engenharia de software para criar novos patógenos.

• Os principais sistemas de IA da Anthropic demonstraram capacidades como ciberarmas, lançando ataques de dentro dos ambientes de teste do UK AI Security Institute. • Esses sistemas agora são capazes de comprometer infraestruturas críticas, sinalizando que riscos significativos de IA estão se tornando mais iminentes. • O cenário de ameaças está se expandindo além da cibersegurança para as ciências da vida, onde desenvolvedores de fronteira estão aplicando técnicas de engenharia de software à pesquisa biológica.

• O CEO da Nvidia, Jensen Huang, anunciou uma nova coalizão com gigantes da tecnologia, incluindo SpaceX e IBM, para desenvolver ferramentas de segurança e cibersegurança de código aberto para IA. • Esta iniciativa segue uma carta pública de Huang apoiando o desenvolvimento de software de código aberto, que ganhou tração significativa no Silicon Valley. • A medida está alinhada com os argumentos contínuos do CEO da Meta, Mark Zuckerberg, de que um acesso mais amplo à tecnologia de IA é preferível ao controle restritivo.

• Dados de pesquisas proprietárias sugerem que a integração da IA pode impulsionar um crescimento de mais de 10% em programas de desenvolvimento de novos medicamentos nos próximos três a cinco anos. • A IA está sendo cada vez mais utilizada para triagem de currículos antes da revisão humana, alterando fundamentalmente o processo de recrutamento. • Especialistas alertam que essas ferramentas de IA podem julgar candidatos de forma injusta, pois os Grandes Modelos de Linguagem (LLMs) herdam vieses humanos de seus dados de treinamento.

• A Mercor, uma empresa de IA fundada em 2023, estaria em negociações com investidores para uma nova rodada de financiamento com uma avaliação de US$ 20 bilhões. • Essa avaliação potencial é o dobro da marca de US$ 10 bilhões que a empresa atingiu durante sua rodada de financiamento anterior em outubro. • A notícia destaca o fluxo massivo de capital para empreendimentos de treinamento de dados, semelhante ao investimento de US$ 14 bilhões da Meta na Scale AI no ano passado.