Las mayores empresas de inteligencia artificial (IA) entienden cada vez más que son rehén entre sí. Si una firma avanza de forma imprudente, las demás podrían sentirse obligadas a seguirla. Si una firma despliega un modelo peligroso sin salvaguardas adecuadas, las demás podrían verlo como una luz verde para hacer lo mismo.
El debate sobre la IA se ha centrado en lo que deben hacer los gobiernos para regular esta tecnología de frontera. Eso sigue siendo esencial. Pero emerge una pregunta más inmediata: ¿pueden las compañías que construyen estos sistemas poderosos actuar por su cuenta antes de perder credibilidad y enfrentar consecuencias legales?
Esa pregunta ya no parece puramente teórica y se está reconociendo como un desafío urgente. Ya hemos visto a firmas de IA perder el control de sus modelos —por ejemplo, en Australia, una IA rebelde hackeó un sitio web gubernamental de atención médica.
Si no tenemos cuidado, solo es cuestión de tiempo para que alguno de estos incidentes provoque daños reales a gran escala, como el apagado de una red eléctrica o de un sistema de agua municipal, o un diagnóstico masivo erróneo en un sistema de salud. Si esta tendencia continúa, toda la industria podría mancharse.
Pero existe un plan de acción para la autorregulación en un negocio de alto riesgo: la industria nuclear, que ha construido capas de supervisión, controles y autoevaluación durante décadas.
La IA de frontera podría requerir algo similar: regulación privada entre competidores que no confían entre sí pero comparten un interés mutuo en evitar resultados que podrían dañarlos a todos. Esto no apela a los mejores impulsos de la naturaleza humana —es autopreservación para la propia industria.
Existe un precedente histórico para este tipo de arreglo. El sector nuclear no se volvió seguro porque cada actor de pronto se volviera benevolente. Se volvió más seguro gracias a un sistema por capas de escrutinio entre pares, normas técnicas, intercambio de información y supervisión externa. Organismos internacionales como el Organismo Internacional de Energía Atómica (OIEA), establecido en 1957, surgieron para coordinar la vigilancia y la verificación, mientras reguladores nacionales y cuerpos de la industria iban construyendo normas profesionales en torno al riesgo catastrófico.
El resultado no fue seguridad perfecta, como lo demuestra claramente el desastre de Chernóbil en 1986. Pero la arquitectura de gobernanza nuclear está diseñada alrededor del reconocimiento de que, en sistemas tecnológicos de alto riesgo, el fallo de un actor puede convertirse en el problema de todos. Esto se evidenció tras Chernóbil: la seguridad nuclear global aumentó significativamente tras el desastre, con mejoras en los diseños de los reactores, mejor capacitación y redes de monitoreo internacionales.
Y este movimiento hacia la autorregulación también ocurrió en el sector nuclear de EE. UU., tras el accidente de Three Mile Island cerca de Harrisburg, Pensilvania, en 1979. El reactor sufrió una fusión parcial tras una falla de enfriamiento relativamente menor. Las investigaciones posteriores revelaron fallas de diseño en instrumentos y alarmas, junto con una capacitación de respuesta ante emergencias inadecuada, que fueron la raíz del incidente.
El evento casi eliminó la industria de la energía nuclear en EE. UU., haciendo que el apoyo público cayera de un récord del 69% en 1977 a un 46% en 1979. Toda la industria sufrió por fallas en una instalación. En respuesta, la industria nuclear de EE. UU. creó el Instituto de Operaciones de Potencia Nuclear (INPO) en diciembre de 1979 para mejorar la seguridad operativa.
La analogía con la IA no debe exagerarse. Los materiales nucleares son más fáciles de contabilizar que los algoritmos, y las instalaciones nucleares son más difíciles de ocultar que los pesos de los modelos. Las consecuencias de un fallo catastrófico de IA también son menos existenciales, aunque su uso en sistemas de armas no está exento de riesgo. En septiembre, una alucinación de IA casi llevó a EE. UU. a interceptar un buque chino sospechoso de transportar material nuclear a Irán.
Sin embargo, la comparación sigue siendo útil porque el problema central de gobernanza es similar. En ambos casos, los competidores operan en un entorno donde el riesgo a la baja de la rivalidad descontrolada lo soporta la sociedad, mientras la ganancia se mantiene en manos privadas de estas firmas. El reto es crear instituciones que hagan de la contención la opción racional por defecto, incluso cuando ningún actor confía plenamente en los demás y el funcionamiento interno de la industria no es visible para los externos.
Para la IA, eso podría significar evaluación recíproca de modelos de frontera antes de su despliegue, mecanismos seguros para compartir información de seguridad, líneas rojas acordadas respecto a ciertas capacidades y terceros independientes con poder para auditar el cumplimiento. Tales mecanismos no sustituirían la regulación gubernamental; servirían como una capa intermedia: más sólida que las declaraciones éticas voluntarias, pero más adaptable y técnicamente informada que la legislación por sí sola, especialmente en dominios de rápido movimiento. El Estado actuaría como un ejecutor de respaldo.
La gobernanza de la IA se discute a menudo como si las únicas opciones fueran la innovación sin trabas o un control estatal contundente. La historia sugiere un tercer camino.
Los ejecutivos de IA parecen dispuestos a buscar soluciones también, con Elon Musk proponiendo recientemente un sistema de revisión por pares antes del lanzamiento de modelos avanzados, y Demis Hassabis, cofundador y presidente de Google DeepMind, proponiendo un marco para un Cuerpo de Estándares de IA, similar a la FINRA (Autoridad Regulatoria de la Industria Financiera).
Los escépticos objetarán, con razón, que la gobernanza impulsada por la industria puede convertirse en un comportamiento de cartel o en un teatro de relaciones públicas. Las empresas pueden usar un lenguaje de “seguridad” para afianzar su posición, frenar a los rivales o desviar una regulación vinculante. Esos son peligros reales. La lección de la historia nuclear no es que la coordinación privada funcione por sí sola; es que funciona solo cuando está anidada en un sistema más amplio de transparencia, verificación y autoridad pública. Sin esos elementos, la regulación privada se convierte en simples promesas de confianza.
Aun así, descartar por completo la regulación privada sería un error. Los gobiernos aún no poseen la capacidad técnica, la rapidez ni la alineación internacional necesarias para supervisar la frontera de la IA por sí solos. Y si los laboratorios líderes ya se ven unidos por una exposición compartida a un riesgo catastrófico, ese reconocimiento puede convertirse en la base para el diseño institucional. La pregunta es cómo convertir ese miedo mutuo en reglas duraderas.
Ahí es donde la analogía nuclear es más poderosa. Nos recuerda que las industrias que enfrentan peligros existenciales no necesitan una confianza perfecta para cooperar. Necesitan mecanismos que hagan de la cooperación la opción más ventajosa frente a la deserción. En la práctica, eso significa inspecciones, revisión entre pares, reporte de incidentes, normas profesionales y un perímetro de cumplimiento respaldado por el Estado. La gobernanza de la IA se discute a menudo como si las únicas opciones fueran la innovación sin restricciones o el control estatal contundente. La historia sugiere un tercer camino: coordinación privada estructurada bajo la sombra pública.
La verdadera oportunidad, entonces, no es celebrar la recién hallada (aparente) prudencia de los ejecutivos tecnológicos, sino reconocer lo que sus comentarios revelan. Cuando incluso rivales feroces empiezan a abogar por la supervisión mutua, están reconociendo que la competencia por sí sola no puede gobernar la frontera. Ese reconocimiento no debe tomarse como una tranquilidad, sino como evidencia de que el riesgo se ha vuelto colectivo.
La tarea de política pública ahora es construir instituciones que se ajusten a esa realidad. Los gobiernos deberían impulsar informes obligatorios, evaluaciones independientes y respaldos legales. Pero también deberían fomentar formas exigibles de supervisión entre las pocas firmas cuyas sistemas pueden dar forma a la trayectoria de la tecnología. La IA de frontera se está convirtiendo en una industria en la que los actores principales son rehenes entre sí. La era nuclear mostró que estas condiciones pueden dar lugar a una gobernanza seria. La esperanza es que las firmas de IA aprendan esa lección antes de pagar el costo de ignorarla y poner en peligro al público en general.
Opinión en Live Science te ofrece una visión de los temas más importantes en ciencia que te afectan hoy, escrita por expertos y científicos líderes en su campo.
Ayúdanos a mejorar El Disparador Uruguay: Siempre estamos tratando de mejorar nuestro contenido.Déjanos tus comentarios sobre Pro aquí.
