La gobernanza de la inteligencia artificial sigue siendo insuficiente, y ese es justo el gran debate: quién controla esta tecnología y con qué límites. La frase clave gobernanza de la ia resume el problema, porque no hablamos solo de normas, sino de responsabilidades reales sobre un sistema capaz de influir en la sociedad a gran escala.
Kusha Navadar parte del episodio de inestabilidad en OpenAI con Sam Altman para señalar una pregunta de fondo: quién toma las decisiones cuando la IA gana peso. Y no es una cuestión teórica. Si una tecnología puede afectar al trabajo, a la información que recibimos o a decisiones delicadas, necesitamos algo más que buenas intenciones y discursos brillantes.
Navadar distingue varias capas de control. La primera está dentro de las propias empresas, que aplican políticas de acceso, escalado responsable, marcos de preparación, monitorización después del despliegue y pruebas de red teaming para buscar fallos antes de que lo hagan otros. Suena bien, y a menudo ayuda, pero no elimina todos los riesgos ni evita los desacuerdos sobre hasta dónde debe llegar cada medida.
La segunda capa es la pública, la que marcan los gobiernos. Aquí el panorama cambia mucho según el país. La Unión Europea ha apostado por normas estrictas para sistemas de alto riesgo y por un código de práctica voluntario. China ha reforzado estándares, evaluaciones y etiquetado, sin renunciar a su ambición de liderar la IA. En Estados Unidos, en cambio, la política ha oscilado entre guías de seguridad y un giro más favorable a la innovación con menos restricciones, mientras los estados avanzan con dificultad por la presión de los lobbies.
También hay intentos de cooperación internacional, como la Declaración de Bletchley, el Statement de Seúl y el trabajo conjunto entre institutos de seguridad de varios países. El problema es que las prioridades nacionales pesan mucho y la competencia entre gobiernos y empresas complica cualquier consenso duradero. Vamos, que todos hablan de coordinarse, pero luego cada uno mira su tablero.
Aun así, Navadar insiste en que todavía estamos a tiempo de influir. Informarnos, hablar del tema, presionar políticamente y participar en el debate cuenta más de lo que parece. Antes de cerrar, podemos convertirlo en juego: probamos a detectar en una semana qué decisiones sobre IA vienen de empresas, cuáles de gobiernos y cuáles de acuerdos internacionales, y las clasificamos como si fueran piezas de un mapa.
Si queremos seguir entendiendo este tema sin perder el norte, podemos visitar JeiJoLand y seguir jugando a aprender.