Científicos de la ONU advierten que la IA podría causar un «daño catastrófico»

- Un panel científico de la ONU ha advertido que el rápido avance de las capacidades de la IA está superando actualmente la supervisión regulatoria, lo que podría provocar un «daño catastrófico».
- Los expertos expresaron preocupaciones específicas respecto a los riesgos del engaño de la IA, los fallos de seguridad y la concentración del control global.
- A pesar de estos riesgos, la IA está impulsando progresos significativos hacia los Objetivos de Desarrollo Sostenible, como la predicción de más de 200 millones de estructuras proteicas para acelerar el descubrimiento de vacunas y fármacos.
- La ONU enfatiza la necesidad de una gobernanza equilibrada para aprovechar los beneficios de la IA en la modelización climática y la educación, mientras se mitigan las amenazas existenciales.
Fuentes y citas
1 fuenteMás noticias
Las startups de IA que quieren realizar las inversiones de los fondos de cobertura por ellos - Business Insider
• Nuevas startups de IA fundadas por exgestores de fondos de cobertura buscan automatizar los procesos centrales de inversión, yendo más allá de las tareas administrativas básicas. • Mientras que anteriormente los gestores de activos utilizaban la IA para funciones "poco atractivas" como la revisión legal y el cumplimiento normativo, ahora están aprovechando LLMs sofisticados y agentes de IA.
Leer original · businessinsider.comIA — AI Hub
• Continúan fluyendo cantidades sustanciales de capital hacia el sector de la IA, con rondas de financiación significativas dirigidas a desarrolladores de hardware, proveedores de alojamiento en la nube y startups de software vertical. • Estas inversiones están impulsando valoraciones de miles de millones de dólares para empresas especializadas en infraestructura de IA y aplicaciones de software especializado.
Leer original · aihub.com
AI HubChina evalúa controles de exportación de IA mientras se intensifica la carrera tecnológica con EE. UU.
• China está considerando nuevos controles de exportación de IA tras el éxito global de modelos como el R1 de DeepSeek, que ofrecen altas capacidades a costos menores que las alternativas occidentales. • Esta medida se produce tras las regulaciones de junio que endurecieron la supervisión de los acuerdos en el extranjero que involucren a inversores, datos, tecnología y seguridad nacional chinos.
Leer original · outlookindia.com
Outlook IndiaChina evalúa retirar sus modelos de IA mientras se hace evidente la dependencia de Estados Unidos
• Las empresas estadounidenses están adoptando cada vez más modelos de IA chinos asequibles para reducir costes; el uso semanal en la plataforma Openrouter alcanzó un máximo del 46% desde el 8 de febrero. • Esta tendencia representa un aumento significativo frente al promedio del 11% del año anterior y un mínimo del 4,5% durante el primer semestre de 2025, con startups como Lindy integrando plenamente la tecnología china.
Leer original · san.com
Straight Arrow NewsLas grandes startups no se construyen solo con IA; se construyen sobre infraestructura
• El autor sostiene que la tecnología ya no es la barrera principal para el éxito de una startup debido a la accesibilidad del software de código abierto y la inteligencia artificial. • La IA ahora permite a los fundadores automatizar funciones empresariales críticas, incluyendo la escritura de código, la generación de documentación y la gestión del soporte al cliente.
Leer original · nationalheraldindia.com
National HeraldMemia #2026.27: AI vampires🧛 UWORLD U1🤖💙 compresión para humanos🗜️🧠 j-lens🪞 embajada de datos orbitales🛰️💾 esteganografía de alegoría de IA📖 verano ludd📵 tinyretropad📝 solar de balcón 🌅🔌 stormwall☀️🛡️
• Investigadores de la Universidad de Peking y de la Academia China de Ciencias (CAS) han desarrollado el primer chip neurodinámico del mundo basado en memristores de cambio de fase. • Este avance en la computación neuromórfica permite que el hardware procese la información de manera similar a los cerebros biológicos, utilizando arquitecturas masivamente paralelas y orientadas a eventos.
Leer original · memia.substack.comLO NUEVO: Resumen de noticias tecnológicas de esta semana
• Google ha lanzado un Fondo para Juegos Independientes de 1 millón de dólares para el África subsahariana, proporcionando subvenciones sin capital de hasta 200.000 dólares para ayudar a los estudios locales de juegos para móviles y PC a escalar. • La iniciativa combina el apoyo financiero con mentoría técnica práctica para fomentar el crecimiento de los desarrolladores de juegos independientes en toda la región.
Leer original · leadership.ngLa vieja internet sale a bolsa
• Rick Hao ha dejado Speedinvest para lanzar un nuevo fondo de capital riesgo individual de 50 millones de dólares destinado específicamente al sector deeptech. • Six Robotics, con sede en Oslo, ha asegurado 12 millones de euros en una ronda Seed liderada por el fondo de Defensa de DTCP para escalar su plataforma de autonomía Valkyrie para sistemas no tripulados.
Leer original · babyvc.substack.com
SubstackPor qué Europa lucha por convertir la ciencia de clase mundial en negocios
• El ex primer ministro italiano Enrico Letta sostiene que Europa no está logrando convertir su investigación científica de clase mundial en empresas comerciales escalables. • Letta identifica una brecha crítica en la capacidad de la UE para financiar, probar y fabricar nuevas tecnologías en comparación con sus competidores globales.
Leer original · euronews.com
EuronewsLa Comisión Europea presenta un plan de acción para fortalecer la IA y la ciberseguridad en toda la UE
• La Comisión Europea ha lanzado un nuevo Plan de Acción diseñado para mejorar la integración de la IA y la ciberseguridad con el fin de impulsar la ciberresiliencia general en toda la UE. • Una iniciativa central es el "EU Grand Challenge on AI for cybersecurity", que unirá a investigadores, organizaciones públicas y empresas privadas para crear soluciones de seguridad de próxima generación.
Leer original · innovationnewsnetwork.com
Innovation News NetworkCómo la tecnología blockchain está remodelando las cotizaciones de fintech en el Reino Unido para 2026
• La tecnología blockchain está pasando de un uso experimental a una infraestructura de grado de producción dentro del sector fintech del Reino Unido, según investigaciones del World Economic Forum. • Este cambio está remodelando fundamentalmente la forma en que los mercados de renta variable pública ven las cotizaciones de las fintech, alejándose del interés especulativo hacia una utilidad operativa integrada.
Leer original · proactiveinvestors.co.uk