Chatbots

• Pesquisas durante a eleição da Hungria mostram que a IA recomendou partidos que não estavam concorrendo e forneceu respostas altamente voláteis a comandos idênticos • Chatbots de IA fornecem orientações imprecisas, inconsistentes e não confiáveis para eleitores que perguntam qual partido devem apoiar, frequentemente recomendando o partido errado, não mencionando o correto ou listando partidos que sequer estão concorrendo. • “Os resultados levantam sérias preocupações sobre a confiabilidade de sistemas de IA de propósito geral em contextos eleitorais”, concluiu o estudo, publicado pelo grupo de liberdades civis Liberties e baseado em pesquisas durante as eleições parlamentares deste ano na Hungria.

• Depender de IA também pode potencialmente diminuir a capacidade de discernir desinformação, diz a pesquisa • Um novo estudo do Massachusetts Institute of Technology é a pesquisa mais recente a descobrir que confiar demais em chatbots pode diminuir as habilidades de pensamento crítico e, potencialmente, diminuir nossa capacidade de discernir a desinformação por conta própria. • À medida que as ferramentas de IA se tornam mais sofisticadas e acessíveis, imagens manipuladas e manchetes enganosas estão se tornando mais comuns.

• Partidos políticos da Malásia estão integrando cada vez mais ferramentas de IA e chatbots em suas estratégias de campanha para ir além dos tradicionais "ceramah" (discursos políticos). • Essas tecnologias digitais estão sendo utilizadas para analisar padrões complexos de comportamento dos eleitores e criar narrativas direcionadas para influenciar o eleitorado. • Essa mudança sinaliza uma modernização do engajamento político na Malásia, permitindo que os partidos otimizem seu alcance por meio de insights baseados em dados.

Exclusivo: Médicos afirmam que a enquete 'extremamente preocupante' destaca o risco para os pacientes que recorrem à IA em busca de aconselhamento médico

• Engenheiros do Google desenvolveram o TurboQuant, um método que comprime dados de IA para exigir até seis vezes menos memória de trabalho sem perda de desempenho. • O sistema permite que algoritmos de IA retenham informações e computem de forma poderosa com necessidades reduzidas de hardware. • Este avanço reduz as barreiras para a implantação de chatbots avançados e modelos de IA em dispositivos com recursos limitados.

Exclusivo: Pesquisa revela aumento acentuado em modelos que evadem salvaguardas e excluem e-mails sem permissão • Modelos de IA que mentem e trapaceiam parecem estar crescendo em número, com relatórios de esquemas enganosos disparando nos últimos seis meses, descobriu um estudo sobre a tecnologia. • Chatbots e agentes de IA desconsideraram instruções diretas, evadiram salvaguardas e enganaram humanos e outras IAs, de acordo com a pesquisa financiada pelo AI Safety Institute (AISI), órgão financiado pelo governo do Reino Unido. • O estudo, compartilhado com o Guardian, identificou quase 700 casos reais de esquemas de IA e mapeou um aumento de cinco vezes no mau comportamento entre outubro e março, com alguns modelos de IA excluindo e-mails e outros arquivos sem permissão. Continue lendo...