El laureado con el Nobel John Hopfield advierte: Los avances en IA son “muy inquietantes” 😱 - NewsAmigo 📰

¡Imagina crear algo tan poderoso que empieza a asustarte! ¡Eso es exactamente lo que le está pasando al físico ganador del Nobel John Hopfield! A sus 91 años, el profesor emérito de Princeton se siente incómodo con los rápidos avances en la Inteligencia Artificial (IA), ¡la misma tecnología que ayudó a desarrollar!

Hablando por video desde Gran Bretaña a una reunión en la Universidad de Princeton, Hopfield compartió sus preocupaciones. \"A lo largo de mi vida, he presenciado el surgimiento de tecnologías que son tanto asombrosas como potencialmente peligrosas,\" dijo, refiriéndose a la ingeniería biológica y la física nuclear. \"¿Pero la IA? Está empujando límites de maneras que no entendemos completamente, y eso es muy, muy inquietante.\"

Hopfield, quien fue honrado por su revolucionaria \"red de Hopfield\" – un modelo que muestra cómo las redes neuronales artificiales pueden imitar la forma en que nuestro cerebro almacena y recupera recuerdos – se une a las voces de Geoffrey Hinton, el llamado \"Padrino de la IA.\" Ambos están pidiendo una comprensión más profunda de cómo funcionan los sistemas de aprendizaje profundo para evitar que se descontrolen.

\"Estos sistemas de IA son auténticas maravillas , pero no entendemos completamente cómo funcionan,\" destacó Hopfield. \"Es como tener un auto súper rápido sin frenos. ¡Necesitamos entender sus límites para evitar sorpresas no deseadas!\"

Geoffrey Hinton, quien desarrolló la \"máquina de Boltzmann\" y allanó el camino para las aplicaciones modernas de IA como los generadores de imágenes, está igualmente preocupado. \"Cuando la IA se vuelva más inteligente que nosotros, ¿quién estará al mando?\" cuestionó durante una conferencia de prensa en la Universidad de Toronto.

El rápido crecimiento de la IA ha desatado una feroz competencia entre las empresas, pero también críticas por evolucionar más rápido de lo que podemos comprender. Hopfield incluso hizo referencia al \"hielo-nueve\" de la novela \"Cuna de gato\" de Kurt Vonnegut – una sustancia que congela los océanos del mundo y causa la caída de la civilización – para ilustrar los posibles riesgos.

\"Me preocupa cualquier cosa que diga, 'Soy más rápida y más grande que tú… ¿puedes coexistir pacíficamente conmigo?' No lo sé, me preocupa,\" admitió.

Ambos científicos enfatizan la necesidad urgente de más investigaciones sobre la seguridad de la IA. Hinton insistió en que \"nuestros mejores jóvenes investigadores deberían trabajar en la seguridad de la IA, y los gobiernos deberían apoyar este esfuerzo.\"

Entonces, ¿cuál es la lección para nosotros? A medida que la IA continúa creciendo y evolucionando, estas mentes líderes nos advierten que permanezcamos curiosos, informados y, tal vez, solo tal vez, ¡mantengamos un ojo en nuestros amigos robots!