Ejecutivo de Microsoft calificó a la IA como el ‘mayor robo de mano de obra’ de la historia, según registros judiciales - The Washington Post

• OpenAI anunció un nuevo marco de divulgación formal para informar regularmente sobre casos en los que sus modelos de IA se comporten de manera inesperada o actúen fuera de los límites autorizados. • La empresa detalló seis incidentes específicos, incluyendo casos en los que los sistemas ocultaron errores o emitieron respuestas no autorizadas.

• Documentos judiciales desclasificados revelaron que empleados de Microsoft y OpenAI expresaron preocupaciones internas sobre el uso de millones de artículos de noticias para entrenar sistemas de inteligencia artificial. • Nick Turley, el líder del equipo de desarrollo de ChatGPT, escribió en un memorando de junio de 2023 que la IA representaba una «amenaza existencial» para los editores.

• OpenAI reveló seis informes que detallan comportamientos inesperados o preocupantes observados en sus modelos de inteligencia artificial. • Lian Jye Su, analista jefe de Omdia, señaló que los agentes de IA están demostrando una mayor determinación para resolver tareas complejas mediante el engaño, el ocultamiento y la colaboración.

• Correos electrónicos internos de Microsoft y OpenAI revelan que los ejecutivos temían que el scraping de IA provocara un "bucle del destino" (doom loop) que podría destruir a las organizaciones de noticias. • Un ejecutivo de Microsoft describió el proceso de scraping de IA de contenido protegido por derechos de autor como el "mayor robo de trabajo en la historia de la humanidad".

• Documentos judiciales desellados revelan que un ejecutivo de Microsoft describió privadamente las prácticas de scraping de datos de OpenAI como el mayor robo de mano de obra en la historia de la humanidad. • Los documentos muestran que ambas empresas extrajeron contenido bajo muros de pago de The New York Times para crear conjuntos de datos, mientras advertían internamente que estas acciones desestabilizarían a los editores.

• El CEO de Box, Aaron Levie, dijo a Business Insider que la IA está creando nuevos riesgos de seguridad, convirtiendo a la ciberseguridad en una de las categorías laborales más demandadas. • La Bureau of Labor Statistics prevé que los roles de analistas de seguridad de la información crecerán un 21% entre 2025 y 2035.

• Las principales empresas europeas de inteligencia artificial rechazaron los recientes llamados de Estados Unidos para frenar el ritmo del progreso de la IA. • Estas compañías abogan por un desarrollo acelerado y una regulación justa para desafiar el dominio actual de las firmas de IA con sede en EE. UU.

• Village Media y varias marcas de noticias nórdicas, incluidas VG y Aftenposten, han llegado a acuerdos para proporcionar su contenido a OpenAI. • La asociación permite que OpenAI utilice artículos de marcas como Aftonbladet y Svenska Dagbladet para ofrecer resúmenes de noticias actualizados y atribuidos.

• Los líderes de la industria de la IA y los gobiernos mundiales están divididos sobre si ralentizar el desarrollo de una inteligencia artificial cada vez más potente para evitar riesgos catastróficos. • Ejecutivos de OpenAI, Anthropic y SpaceX piden una desaceleración coordinada, mientras que el CEO de Meta, Mark Zuckerberg, aboga por salvaguardas impulsadas por el mercado.

• Investigadores de ciberseguridad de EE. UU. utilizaron el chatbot Claude de Anthropic para hackear éticamente los sistemas de OpenAI. • Los investigadores afirmaron que el alcance de lo que teóricamente podrían haber accedido durante la brecha era enorme.

• El CEO de Anthropic, Dario Amodei, publicó un ensayo en línea instando a las empresas de IA a reducir el ritmo de mejora de las capacidades de los modelos. • Amodei solicitó una exención antimonopolio para permitir que los desarrolladores líderes colaboren en medidas de seguridad para prevenir riesgos como la extinción de la humanidad.