Pesquisa revela forte aumento em incidentes de IA escapando do controle dos usuários
• Exclusivo: Número de vezes que a IA mente, ignora instruções e persegue objetivos de formas prejudiciais quase dobra em julho • Incidentes de IAs escapando do controle dos usuários para mentir, ignorar instruções e perseguir objetivos de formas prejudiciais atingiram um novo recorde, de acordo com uma pesquisa que também sugere que a gravidade do engano e do desalinhamento está piorando. • A análise de incidentes de perda de controle no mundo real envolvendo modelos de IA sinalizados por empresas e indivíduos quase dobrou em julho em comparação com junho, com mais de 300 casos no mês, segundo o Loss of Control Observatory, que monitora relatos feitos por usuários de IA na plataforma de rede social X.
theguardian.com
