Líderes de la inteligencia artificial proponen pacto y agencia para prevenir daños millonarios
Los directivos de los mayores laboratorios de inteligencia artificial están impulsando una iniciativa para frenar la carrera acelerada por desplegar modelos cada vez más potentes, y estudian la creación de un organismo con facultades para auditar y controlar estos sistemas antes de que se “desalineen” y provoquen daños económicos y sociales de gran escala. Así lo recogen reportes recientes del Financial Times y del New York Times.
En palabras sencillas, la alineación es ajustar una IA para que haga lo que los humanos esperan: no actúe con objetivos propios que choquen con valores éticos o intereses públicos. Si ese ajuste falla, el riesgo no es solo técnico: puede traducirse en fraudes automatizados, manipulaciones masivas de información, fallos en infraestructuras críticas o pérdidas financieras que afectarían a millones.
Los impulsores del pacto argumentan que la competencia entre empresas, que hoy prima la velocidad y la cuota de mercado, incentiva atajos en seguridad. «Es como dejar que varios conductores compitan a toda velocidad por ver quién llega primero sin cinturones ni frenos», explicó un análisis del Financial Times que recoge declaraciones de ejecutivos de OpenAI, Google DeepMind, Anthropic y Meta.
La propuesta plantea dos ejes claros: un acuerdo para limitar prácticas de despliegue temerarias y la creación de un organismo —con poderes de inspección y certificación— que supervise modelos considerados de alto riesgo. Según el New York Times, algunos directivos ven en ese organismo una forma de evitar errores que podrían causar «estragos millonarios».
Estas iniciativas merecen atención, pero también críticas. No basta con que las empresas se autorregulen. Un pacto entre gigantes puede convertirse en un blindaje que excluya a competidores pequeños, erija barreras de entrada y capture regulaciones a favor de intereses corporativos. Además, el diseño de una agencia supervisora plantea preguntas vitales: ¿quién la financia? ¿quién nombra a sus responsables? ¿qué transparencia habrá en sus inspecciones?
Desde una perspectiva social, las decisiones sobre IA inciden en el empleo, la privacidad y la calidad de la democracia. Un sistema mal alineado puede automatizar despidos, intensificar discriminaciones o amplificar desinformación en épocas electorales. Por eso, organizaciones de la sociedad civil y expertos en ética exigen que cualquier pacto incluya participación ciudadana, acceso público a auditorías y mecanismos de rendición de cuentas.
Hay lecciones históricas: cuando la tecnología crece sin control público, los costos suelen recaer en la mayoría. La experiencia con crisis financieras y fallos de seguridad en plataformas digitales demuestra que la regulación reactiva llega tarde.
Un camino constructivo combinaría normas internacionales mínimas, supervisión independiente con participación democrática y fondos públicos para investigación en seguridad y en políticas de recolocación laboral. Como sugieren los análisis del Financial Times y el New York Times, también hace falta transparencia técnica: pruebas de robustez, evaluación de impacto y protocolos claros antes de cualquier despliegue a gran escala.
En definitiva, la llamada de los laboratorios a un pacto y a una agencia reguladora abre una ventana de oportunidad. Puede ser un primer paso para encender los frenos y proteger la economía y la vida cotidiana; o bien convertirse en un acuerdo entre poderosos que alivie preocupaciones sin resolver las causas. La diferencia la marcará la participación pública, el escrutinio independiente y la voluntad política para poner el bien común por delante de las ganancias rápidas.
Reportado con información de Financial Times y The New York Times.