Científicos, veteranos de la tecnología y laureados con el Nobel han hecho un llamado audaz en la Asamblea General de las Naciones Unidas: establecer "líneas rojas" globales para la inteligencia artificial (IA) antes de que sea demasiado tarde 🌍🤖.
La carta, firmada por más de 200 figuras prominentes—including 10 premios Nobel y científicos de Anthropic, Google DeepMind, Microsoft y OpenAI—advierte que la trayectoria actual de la IA "presenta peligros sin precedentes."
Exhortan a los gobiernos a acordar "líneas rojas" internacionales para la IA que prohíban usos demasiado riesgosos bajo cualquier circunstancia, como confiar a la IA el mando de arsenales nucleares o desplegar armas autónomas letales 🚫💣.
Otras fronteras propuestas abarcan vigilancia masiva, puntuación social, ciberataques a gran escala y suplantación de personas—amenazas que podrían alimentar la desinformación, socavar derechos humanos e incluso desencadenar pandemias diseñadas.
"La IA pronto podría superar ampliamente las capacidades humanas, dificultando mantener un control significativo," dice la carta. Los signatarios piden que estas líneas rojas estén implementadas para finales del próximo año, antes de que se cierre la ventana para una regulación efectiva.
Mientras los líderes globales debaten el futuro de la IA en la ONU, esta campaña pone el foco en cómo equilibrar la innovación con la seguridad, asegurando que la tecnología sirva a la humanidad sin cruzar líneas invisibles pero peligrosas.
Reference(s):
Scientists urge global AI 'red lines' as leaders gather at UN
cgtn.com
