El verificador de IA de la UE expone los obstáculos de cumplimiento de las grandes tecnológicas 💻⚖️ - NewsAmigo 📰

¡Hola, entusiastas de la tecnología! ¿Adivinen qué? La Unión Europea acaba de subir la presión sobre las grandes empresas tecnológicas con su nuevo verificador de IA, y está revelando algunos secretos sobre cómo estos gigantes están manejando las regulaciones de IA.

Entonces, aquí va el dato: Una nueva herramienta desarrollada por la startup suiza LatticeFlow AI, junto con cerebritos de ETH Zurich y el INSAIT de Bulgaria, está probando modelos de IA populares para ver si cumplen con la próxima Ley de IA de la UE. Y sorpresa, sorpresa, algunos modelos de empresas como Meta y OpenAI no están pasando la prueba en áreas como la resiliencia en ciberseguridad y la generación de resultados no sesgados.

¿Recuerdan cuando ChatGPT explotó en internet el año pasado? Sí, eso motivó a los legisladores de la UE a ponerse serios sobre controlar la IA. Ahora, con la Ley de IA implementándose en los próximos dos años, las grandes tecnológicas tienen que mejorar o enfrentar multas considerables—piensen en 35 millones de euros o 7% de su facturación global.

El verificador de IA de LatticeFlow es como una boleta de calificaciones para los modelos de IA, asignándoles puntajes entre 0 y 1 en varias categorías. Aunque los modelos de Anthropic, OpenAI, Meta y Mistral obtuvieron puntajes promedio por encima de 0.75 (¡nada mal!), todavía hay algunas señales de alerta .

Por ejemplo, en la prueba de \"secuestro de instrucciones\"—un ataque cibernético engañoso donde los hackers manipulan a la IA para que revele secretos—el modelo \"Llama 2 13B Chat\" de Meta consiguió solo 0.42, y el modelo de Mistral obtuvo 0.38. ¡Uy! Por otro lado, el \"Claude 3 Opus\" de Anthropic es el consentido del maestro, con el puntaje promedio más alto de 0.89. ¡Estrella dorada para ellos!

Petar Tsankov, CEO de LatticeFlow, dice que los resultados son en general positivos y brindan a las empresas un plan para ajustar sus modelos. Además, el verificador está disponible de forma gratuita para que los desarrolladores prueben sus modelos en línea. ¡Hora de pulir esas IAs, amigos!

La Comisión Europea está bastante contenta con esta herramienta, llamándola \"un primer paso en traducir la Ley de IA de la UE en requisitos técnicos.\" ¡Parece que la cuenta regresiva ha comenzado para que las grandes tecnológicas pongan su IA en orden!