Científicos en China están investigando qué se necesitaría para desarrollar “la última IA construida por los humanos” — un sistema de inteligencia artificial poderoso y auto-mejorable capaz de crear sus propios sucesores.
En un nuevo artículo, investigadores analizan cómo enfoques de la auto-mejora recursiva (RSI) podrían ayudar a enfrentar los crecientes costos financieros y computacionales de desarrollar modelos de IA cada vez más avanzados.
RSI se refiere a la idea de que los modelos de IA del futuro podrían dirigir su propio entrenamiento y desarrollo, utilizando lo aprendido en cada ronda de mejoras para guiar las rondas siguientes de desarrollo.
Este bucle de retroalimentación recursiva podría, a la larga, permitir que los sistemas de IA desarrollen generaciones de modelos más nuevas y potentes con mínima intervención humana.
El estudio, que se subió a la base de preprints arXiv el 10 de septiembre pero no ha sido revisado por pares, propone un marco para clasificar los sistemas de IA según sus capacidades de auto-mejora, desde Nivel 1 (el más bajo) hasta Nivel 5 (el más alto).
En los niveles inferiores, el desarrollo sigue siendo en gran medida liderado por humanos. A medida que los sistemas de IA avanzan en la escala, se vuelven cada vez más capaces de identificar sus debilidades y decidir cómo abordarlas, llegando eventualmente a obtener la capacidad de hacer sus propias “meta-mejoras” — mejorando la forma en que se mejoran a sí mismos.
¿La IA que se auto-mejora es una ‘tontería’?
Si la IA podría alguna vez alcanzar este nivel de auto-mejora sostenida sigue siendo una pregunta abierta. Sin embargo, experimentos previos han mostrado formas más limitadas de RSI.
En un estudio a principios de este año, un sistema de IA llamado A-Evolve-Training recibió la tarea de mejorar el rendimiento de un modelo de lenguaje grande (LLM) de 30 mil millones de parámetros.
Durante cuatro rondas, A-Evolve-Training mejoró modestamente el rendimiento del LLM en las pruebas de referencia al probar diferentes técnicas de entrenamiento y usar los resultados para cambiar su enfoque en los experimentos siguientes.
Peter Bentley, profesor de biología digital en University College London, cuestionó si tales experimentos ofrecen una ruta creíble hacia la RSI.
“Esta idea de que alguna IA va a empezar mágicamente a generar IAs cada vez mejores por sí mismas [es] una tontería,” dijo Bentley a Live Science por correo.
Bentley señaló que los sistemas informáticos auto-mejorables existen desde hace décadas. La computación evolutiva y el aprendizaje por refuerzo, por ejemplo, se basan en el principio de que los sistemas refinan su rendimiento con el tiempo en respuesta a la retroalimentación.
El reto mucho mayor, dijo, es desarrollar sistemas de IA capaces de realizar de forma autónoma la investigación necesaria para crear sucesores más potentes — sin mencionar superar su dependencia del conocimiento humano y de la infraestructura de cómputo físico.
“No puedes ‘auto-mejorarte recursivamente’ a menos que también puedas mejorar tu propio entrenamiento, mejorar tu hardware y probarlo exhaustivamente en entornos reales,” agregó Bentley.
El desafío de la verdadera RSI
Los autores del estudio reconocieron algunos de estos desafíos. Desarrollar sistemas con capacidad de RSI podría requerir inversiones enormes en potencia de cómputo, así como supervisión humana para garantizar que las mejoras sucesivas aporten ganancias significativas. Todo ello podría volverse prácticamente redundante si los recursos necesarios para desarrollar y probar modelos de IA subsiguientes superan los beneficios que ofrecen, señalaron.
Los científicos también necesitarían una forma confiable de determinar si un sistema de IA realmente se volvía más capaz a lo largo de las iteraciones, en lugar de explotar debilidades en las pruebas utilizadas para medir sus capacidades. Este es un problema conocido en el desarrollo de IA, donde los modelos pueden lograr puntuaciones de referencia más altas al explotar métodos de prueba o seleccionar solo resultados favorables.
Kayla Blomquist, investigadora de IA en la Universidad de Oxford y cofundadora del Oxford China Policy Lab, dijo que, si bien el artículo no ofrece una hoja de ruta práctica hacia la RSI, podría ayudar a desarrolladores y responsables de políticas a entender los desafíos técnicos y los riesgos de seguridad asociados con sistemas de IA cada vez más autónomos.
También cuestionó si alguna vez existiría un punto claro en que la IA se volviera completamente independiente del desarrollo humano. “El artículo describe una transferencia gradual de responsabilidad en lugar de un momento único, por lo que puede que nunca exista un modelo ‘final’ construido por humanos,” añadió Blomquist.
Ayúdanos a mejorar El Disparador Uruguay: Siempre estamos tratando de que nuestro contenido sea mejor.Déjanos tus comentarios sobre Pro aquí.
