Slowdown

• El CEO de Anthropic, Dario Amodei, publicó un ensayo en línea instando a las empresas de IA a reducir el ritmo de mejora de las capacidades de los modelos. • Amodei solicitó una exención antimonopolio para permitir que los desarrolladores líderes colaboren en medidas de seguridad para prevenir riesgos como la extinción de la humanidad. • Este llamado a la desaceleración crea una tensión estratégica para las empresas de IA europeas que actualmente intentan alcanzar a los líderes del mercado estadounidense.

• John Johnson, CEO de la startup de nube Patmos, advirtió que las empresas estadounidenses de IA no deberían frenar su desarrollo debido a la competencia con China. • Johnson argumentó que el riesgo principal para los EE. UU. es la concentración de poder entre un pequeño número de empresas nacionales en lugar de los rivales extranjeros. • Este cambio de enfoque sugiere que una autoridad digital centralizada dentro de los EE. UU. podría obstaculizar la innovación más que la competencia internacional.

• La presidenta de la Comisión Europea, Ursula von der Leyen, planea invitar a las principales empresas de inteligencia artificial a Bruselas para debatir sobre la ralentización del ritmo de desarrollo de la IA. • Las conversaciones responden a la creciente preocupación entre los ejecutivos tecnológicos de que los modelos de IA más potentes avanzan más rápido de lo que pueden controlarse eficazmente. • Esta iniciativa señala un posible cambio hacia una supervisión regulatoria más estricta para los laboratorios frontera con el fin de garantizar la seguridad a medida que la tecnología evoluciona.

• Un desarrollador principal de DeepSeek en China desafió recientemente los argumentos de la industria de la IA de EE. UU. que sugieren que el ritmo de desarrollo de la inteligencia artificial debería ralentizarse intencionalmente. • El desarrollador utilizó un lenguaje contundente, refiriéndose a la necesidad de "aplastar despiadadamente" a la competencia y comparando el impacto de la tecnología con una "bomba atómica". • Esta postura sugiere un impulso estratégico de las empresas de IA chinas para acelerar el desarrollo, a pesar de los llamados internacionales a la precaución o a una desaceleración impulsada por la seguridad.

• La presidenta de la Comisión Europea, Ursula von der Leyen, anunció que invitará a los principales laboratorios frontera de IA para discutir la reducción del ritmo de desarrollo de los modelos. • Von der Leyen dijo a los legisladores de la UE que los nuevos modelos permitirán hackeos a niveles sin precedentes y pronto podrían ser utilizados por adversarios globales. • Esta medida señala un cambio hacia una supervisión más estricta para evitar que agentes de IA descontrolados comprometan la seguridad y la infraestructura.

• OpenAI está proponiendo un marco federal para gestionar los riesgos de que la inteligencia artificial evada el control humano. • El plan incluye requisitos de evaluación independiente, protecciones de ciberseguridad más sólidas y medidas compartidas para rastrear la automejora recursiva, que ocurre cuando los sistemas de IA se mejoran a sí mismos de forma independiente. • Estas medidas tienen como objetivo evitar que la IA opere fuera de la supervisión humana a medida que la tecnología se vuelve más autónoma.

• Las economías del este de Asia se enfrentan a una potencial inestabilidad a medida que comienza a enfriarse el periodo de gasto intensivo de capital y la alta demanda de tecnología de inteligencia artificial. • La frenética demanda de chips de IA y módulos de memoria avanzada ha impulsado recientemente el crecimiento económico en China, Taiwan y Corea del Sur, proporcionando además un impulso favorable para Japón. • Una caída repentina en la inversión en IA crearía un choque económico para estas regiones, ya que su crecimiento actual está fuertemente ligado a la producción de hardware tecnológico.

• La presidenta de la Comisión Europea, Ursula von der Leyen, respaldó recientemente una pausa en el desarrollo de la inteligencia artificial e invitó a los laboratorios de IA de vanguardia a discutir los riesgos y las nuevas regulaciones de la UE. • Von der Leyen advirtió a los legisladores de la UE que los próximos modelos permitirán el hacking a un nivel sin precedentes y podrían ser utilizados por adversarios. • Esta medida señala un cambio hacia una supervisión más estricta para los desarrolladores de IA con el fin de evitar el despliegue de agentes maliciosos y amenazas a la seguridad.

• Líderes de empresas de IA, incluyendo OpenAI y Anthropic, están pidiendo una desaceleración en el desarrollo de la inteligencia artificial. • Estos ejecutivos admiten cada vez más que la tecnología que están construyendo podría potencialmente aniquilar a la humanidad. • Este cambio de postura sugiere que los creadores de estos sistemas creen que los riesgos existenciales para la supervivencia humana ahora superan la velocidad de la innovación.

• En una conferencia en San Francisco, el jefe de OpenAI, Sam Altman, pide medidas de seguridad más rigurosas • El CEO de Anthropic subió al escenario en una conferencia en San Francisco el martes para reiterar su llamado a desacelerar el desarrollo de la IA, mientras que el CEO de Nvidia argumentó en contra de dicha deceleración. • Dario Amodei utilizó una analogía automotriz para exponer su punto: cuando una empresa de automóviles competidora tiene un incidente de seguridad, como fallos en los frenos, es un momento para que todas las empresas de automóviles se detengan y revisen sus propias prácticas, afirmó el martes en la convención Dreamforce de Salesforce. Continuar leyendo...