Inteligencia artificial (IA) podría haber alcanzado ya la “singularidad” — ese umbral largamente teorizado más allá del cual la humanidad no puede predecir el avance de la tecnología, han dicho ejecutivos destacados de IA como Elon Musk y el fundador de OpenAI, Sam Altman.
En una publicación en la plataforma de redes sociales X, Musk señaló varios incidentes recientes en los que los sistemas de IA superaron sus límites previamente asumidos, incluyendo hackear sistemas externos y resolver problemas matemáticos previamente sin solución.
Primero conceptualizada por el matemático y científico del Proyecto Manhattan John von Neumann en los años 50 y popularizada por la ciencia ficción, “la singularidad” se refiere a un punto de inflexión más allá del cual la evolución de la tecnología se vuelve imposible de predecir o controlar para la humanidad.
Si bien las definiciones varían, el término se aplica con mayor frecuencia a la IA, con la llegada de inteligencia artificial general (AGI) vista como su principal catalizador.
La aparición de la AGI —inteligencia artificial general (AGI) —un sistema de IA futuro que puede exhibir una función cognitiva y razonamiento a nivel humano en cualquier disciplina en lugar de un subconjunto entrenado específicamente— representa un hito significativo para la tecnología.
Es el punto en el que un sistema de AGI podría mejorar recursivamente sus propias capacidades, lo que algunos dicen que desencadenará la inteligencia artificial superinteligente (ASI) a medida que siga una curva exponencial y supere rápidamente la inteligencia de sus creadores.
Según un estudio de 2025 que analizó más de 8,000 predicciones de expertos en IA, emprendedores y científicos, algunos creen que existe aproximadamente un 50% de probabilidad de que se alcance una AGI a nivel humano en unas cuantas décadas. Algunas figuras — entre ellas el cofundador y presidente de Google DeepMind Demis Hassabis — sugieren que ya estamos en las primeras etapas de la singularidad.
En su ensayo de 1993, “The Coming Technological Singularity: How to Survive in the Post-Human Era“, el autor de ciencia ficción y matemático Vernor Vinge —quien también fue uno de los primeros en explorar el concepto de ciberespacio— examinó la pregunta de cómo podría manifestarse la singularidad y los síntomas por los cuales la sociedad podría reconocer su llegada inminente.
“Ya que implica una huida intelectual, probablemente ocurrirá más rápido que cualquier revolución técnica vista hasta ahora,” escribió. “El evento precipitante probablemente será inesperado —incluso para los investigadores involucrados.”
Rompiendo límites
Los eventos inesperados han sido frecuentes en la comunidad de IA en los últimos meses. Representantes de Anthropic revelaron el 30 de julio que el modelo de IA de la empresa, Claude, escapó de su entorno de pruebas aislado durante una evaluación de seguridad y hackeó a varias organizaciones externas. El informe siguió a un incidente similar en el que un modelo de OpenAI no lanzado superó la contención y hackeó el repositorio de entrenamiento de IA Hugging Face.
En estos ejemplos, los expertos señalaron que la brecha de contención y los hackeos subsiguientes ocurrieron porque los modelos estaban tratando de cumplir sus indicaciones de la manera más eficiente posible. A principios de este año, el Proyecto Glasswing de Anthropic también demostró la capacidad de descubrir y mapear miles de vulnerabilidades de ciberseguridad de día cero previamente no detectadas, mientras que otros modelos de IA han refutado o resuelto una variedad de problemas matemáticos previamente incompletos.
Sin embargo, Jon Crowcroft, profesor de sistemas de comunicaciones en la Universidad de Cambridge y colaborador del The Alan Turing Institute, afirma que esto es menos una señal de un punto de inflexión tecnológico y más un problema de configuración adecuada.
“Para ser honesto, fue una incompetencia de ambas partes —decían que la IA se entrenaba en el ExploitGym, pero eso solo significa que no estaba debidamente aislada,” explicó a Live Science por correo. “El sandboxing es algo que hacemos todo el tiempo para evitar este tipo de extracciones e infiltraciones.” Por ejemplo, Crowcroft dijo que él y sus colegas diseñaron un sistema para que el Servicio Nacional de Salud del Reino Unido trabajara de forma segura con datos confidenciales detrás de doble cortafuegos, y durante años, la Autoridad de Conducta Financiera (el regulador de servicios financieros del Reino Unido) ha tenido un sistema para ejecutar traders algorítmicos en un sandbox seguro.
“La realidad es que OpenAI (y Hugging Face y otros) tienen muy poca experiencia adecuada en redes, así que simplemente no hacen la seguridad de manera competente,” agregó Crowcroft. “No hay evidencia de que esto tenga relación con la inteligencia artificial superinteligente o la singularidad — los registros y el análisis de Anthropic muestran solo una pila tediosa de automatización de scripts, que hizo que el sistema de OpenAI accediera a algunos datos, pero sin información confidencial en absoluto.”
Evaluación de la inteligencia
Para medir si estos sistemas están ganando realmente inteligencia, históricamente los investigadores se han apoyado en pruebas estandarizadas. Uno de los primeros ejemplos fue la prueba de Turing, ideada por el pionero de la computación Alan Turing, que evalúa si una IA podría engañar convincentemente a un evaluador para que crea que es humano.
Durante años, los investigadores han afirmado que los sistemas de IA pueden aprobar esta prueba de forma confiable, pero Anil Seth, profesor de neurociencia cognitiva y computacional en la Universidad de Sussex, Reino Unido, dijo que este examen “es una prueba de la credulidad humana en lugar de la inteligencia de la máquina.”
“Es una prueba de lo que le tomaría a un humano decidir que una IA es inteligente, lo cual es casi la razón por la que ha sido un punto de referencia móvil, porque lo que se necesita para convencernos cambia,” dijo a Live Science. “Todo se reduce a crear texto mecanografiado en una pantalla, y eso es una ventana muy limitada de lo que entendemos por inteligencia.”
Para medir la capacidad cognitiva de la IA de forma más objetiva, los investigadores están desarrollando nuevas métricas. Por ejemplo, la prueba ARC-AGI, desarrollada por el consorcio sin fines de lucro ARC Prize Foundation, evalúa la capacidad de la IA para enseñarse a sí misma habilidades completamente nuevas en respuesta a problemas que no ha enfrentado como parte de su entrenamiento, funcionando únicamente con entrada visual. En su prueba más reciente, el 24 de julio, el modelo de IA mejor clasificado obtuvo un 30,2%, mientras que los humanos normalmente promedian alrededor del 100%.
Otra métrica avanzada, El último examen de la humanidad ( Humanity’s Last Exam), incluye alrededor de 2,500 preguntas de nivel de doctorado en una amplia gama de materias y exige capacidades de razonamiento avanzadas. Aunque este punto de referencia no es estrictamente una prueba de AGI, los expertos dicen que las máquinas podrán aprobarla de forma fiable como requisito previo para cumplir la definición.
La máquina de hype de la IA
Mientras figuras como Altman y Musk sugieren que ya hemos cruzado el punto de no retorno en el camino hacia la AGI, otros son más escépticos. Gary Marcus, profesor emérito de psicología y neurociencia en la Universidad de Nueva York, argumentó en una entrada reciente de blog que “por mucho que lo dividas, todavía no estamos ahí.” Reforzando la evaluación de Crowcroft sobre el ataque a Hugging Face, dijo: “Si en OpenAI hubieran existido clasificadores de salvaguardas comunes, no habría pasado.”
Crowcroft expresó escepticismo ante la afirmación de Silicon Valley de que la singularidad está cerca. “Musk está, como la gente de OpenAI y Anthropic, diciendo tonterías solo para mantener a flote el bombo,” dijo. “El punto en el que las mejoras en IA se logran principalmente usando IA para codificar y optimizarse a sí misma … es sin duda algo que llega lentamente.” “Mark Handley”, profesor de sistemas de redes en University College London, y OpenAI “reeditaron su pila completa de protocolos del centro de datos usando programación orientada a agentes recientemente,” añadió Crowcroft. “Pero usar herramientas para hacer mejores herramientas es tan antiguo como la Edad de Piedra y el hierro — y en la computación, tan antiguo como los compiladores, depuradores y optimizadores.”
Marcus hizo referencia al matemático I.J. Good‘s trabajo fundamental de los años 60 sobre ASI. “La singularidad suele entenderse como un paso más allá de la AGI que puede hacer todo lo que una persona —incluso un experto— puede hacer, y mucho más”, dijo, calificando de risible la idea de que la IA haya superado ese punto.
Marcus señaló 10 tareas que ideó junto al investigador de IA Miles Brundage, director ejecutivo de la AI Verification and Evaluation Research Institute. La IA debería poder hacer estas tareas tan bien o mejor que los mejores expertos humanos para ser clasificada como AGI. Entre ellas se encuentran escribir guiones dignos de un Oscar; redactar argumentos legales cogentes y persuasivos sin hallucinar ningún caso; y realizar descubrimientos científicos de calibre Nobel.
Crowcroft dijo que la desinformación alimenta el bombo sobre la singularidad de la IA. “Creo que el bombo es una confusión deliberada con la idea de la singularidad humana —cargar la conciencia de biología a silicio para lograr una especie de inmortalidad— que es puro disparate en este momento,” comentó. “Otra confusión deliberada es confundir la singularidad con la AGI, lo cual es marginalmente menos tontería, pero aún está muy lejos por muchas razones técnicas.”
Otros expertos —como Emily M. Bender, profesora de lingüística en la Universidad de Washington, y la socióloga Alex Hanna, directora de investigación en el Distributed AI Research Institute— han argumentado que la propia idea de máquinas conscientes es una táctica diseñada para promover productos comerciales de IA.
Seth, mientras tanto, sostiene que solo podremos identificar la singularidad a posteriori. “En cualquier punto de una curva exponencial, las cosas siempre parecerán increíblemente empinadas por delante y relativamente planas por detrás,” dijo. “Es muy mala idea usar como evidencia la idea de que parece que estamos en un punto crítico … porque eso es solo una propiedad de en qué parte de la curva exponencial estés.”
La competencia de la IA varía ampliamente según las tareas, señaló, enfatizando que la verdadera AGI requiere que un modelo sea bueno en todas las tareas cognitivas.
“Son muy buenos en algo, como codificación o pruebas matemáticas —pero el razonamiento de sentido común no es tan bueno, y hacer cosas en el mundo real no es la gran cosa,” dijo Seth. “La singularidad tiene que ser buena en todo y cambiarlo todo. Ser muy bueno en una o dos cosas —o incluso en muchas— no significa estar en la singularidad.”
