Alerta mundial por IA tras advertencia de exingeniero sobre riesgo para la humanidad
Las palabras de un exempleado de empresas como Anthropic y OpenAI reavivan dudas y demandas de control público sobre el desarrollo de la inteligencia artificial.
Las alarmas públicas sobre la inteligencia artificial volvieron a encenderse esta semana, luego de que Reuters informara que un exingeniero que trabajó en compañías como Anthropic y OpenAI advirtiera que la IA podría, en el peor escenario, “acabar con la humanidad”. La frase, cruda y directa, se propagó rápidamente en redes y volvió a poner en el centro del debate público preguntas que no pueden contestar solo ingenieros ni directivos: ¿quién decide hasta dónde llega esta tecnología y con qué reglas?
Detrás de la metáfora apocalíptica hay preocupaciones concretas y comprobables. Modelos cada vez más potentes amplifican la capacidad de automatizar trabajos administrativos y creativos, facilitan la desinformación a gran escala y refuerzan sistemas de vigilancia con efectos desiguales en comunidades ya vulnerables. Son riesgos que no quedan en la teoría: Reguladores y académicos han señalado fallos en transparencia, sesgos en datos y la concentración de poder en pocas empresas tecnológicas.
El mensaje que recoge Reuters no es aislado. Desde académicos hasta exresponsables de empresas, se repiten llamados a pausar o regular el desarrollo de modelos de gran escala hasta que existan marcos robustos de seguridad y responsabilidad. Ese reclamo choca con otra realidad: la carrera comercial por lanzar servicios más rápidos y baratos que atraigan a millones de usuarios. Es la tensión clásica entre el freno democrático y la velocidad del mercado.
En términos de política pública ya hay iniciativas: la Unión Europea avanza con su ley de inteligencia artificial y la Casa Blanca emitió directrices ejecutivas orientadas a gestionar riesgos tecnológicos. Pero esas normas están en construcción y, según expertos, adolecen de dos problemas: tardan más que la innovación y, a menudo, no abordan los efectos sociales acumulativos, como la pérdida de empleos en ciertos sectores o el uso de sistemas de vigilancia contra opositores políticos.
¿Qué proponen quienes piden control? La demanda es múltiple y pragmática: evaluación independiente de riesgos antes de desplegar modelos, auditorías públicas de seguridad, protección de trabajadores desplazados con políticas activas de formación y reconversión, y reglas claras sobre responsabilidad cuando sistemas algorítmicos causen daños. No se trata de frenar la investigación: es más parecido a exigir luces y frenos en un vehículo que cada vez va más rápido.
Hay también una tarea de comunicación. Para la ciudadanía, la IA suele aparecer como una caja negra que promete beneficios —mejoras en salud, educación, eficiencia administrativa— pero también amenazas invisibles. La manera de reducir el miedo no es negar los riesgos, sino explicar en términos claros qué decisiones pueden tomar los gobiernos y cómo esas decisiones impactan la vida cotidiana: desde la seguridad de datos personales hasta la estabilidad laboral local.
Las empresas involucradas, incluidas Anthropic y OpenAI, han manifestado en diferentes foros su compromiso con la seguridad, pero los críticos recuerdan que promesas corporativas no bastan. La historia reciente muestra fallos institucionales cuando la regulación es débil o llega tarde. Por eso, el llamado de fondo es político: democracia con capacidad de gobernar la tecnología, transparencia para fiscalizar y recursos para mitigar efectos sociales.
En la esfera pública, la respuesta adecuada requiere tres ejes simultáneos: regulación efectiva, inversión en educación y protección social, y gobernanza internacional que evite que estándares más laxos en un país se conviertan en atajos para prácticas riesgosas. De lo contrario, la IA seguirá siendo una herramienta poderosa que puede mejorar vidas pero también agravar desigualdades y concentrar poder.
La advertencia citada por Reuters nos obliga a debate y decisión colectiva. El miedo que recorre a usuarios y trabajadoras no desaparecerá con consignas tranquilizadoras; se atenúa con normas claras, supervisión ciudadana y políticas públicas que pongan por delante el bien común. Si la IA es una nueva fuerza productiva, la sociedad tiene la responsabilidad de decidir colectivamente cómo se usa.