La inteligencia artificial (IA) nos aterra en parte porque es nueva y en parte porque es inquietantemente familiar. Hemos inventado máquinas que conversan, elogian, discuten e improvisan con una fluidez asombrosa. Frente a este reflejo sintético, nos comportamos como los primeros humanos al verse por primera vez en un espejo: proyectamos conciencia detrás del vidrio, luego la poblamos con nuestros comportamientos, emociones, esperanzas y pesadillas previstas. En otras palabras, nos asustamos a nosotros mismos.
Los modelos de frontera de hoy son increíblemente buenos para escribir, programar y hacer matemáticas. Sin embargo, aún fallan en los ingredientes de una inteligencia artificial general (IA general) (AGI), un sistema que iguala o supera las capacidades humanas como el razonamiento constante, la planificación a largo plazo, la coherencia factual y un rendimiento fiable fuera de su “experiencia” (los datos con los que se entrenaron). Tenemos razón en preocuparnos por los peligros teóricos de la superinteligencia artificial (ASI) debido al peligro de que tal sistema pueda burlar a sus creadores humanos y perseguir sus propios fines, potencialmente a nuestra costa. Aunque algunos ejecutivos de IA han afirmado que ya hemos alcanzado la AGI, estas afirmaciones son controvertidas y no cumplen con definiciones más consideradas de AGI.
Es fácil temer una tecnología potencialmente tan avanzada, pero escenarios apocalípticos exagerados nublan riesgos más inmediatos e importantes. El peligro más probable no es un dios digital que despierta y desata una guerra al estilo de Hollywood contra la humanidad. Después de todo, la IA depende de electricidad, refrigeración, centros de datos, chips especializados, redes, técnicos y cadenas de suministro extensas, todas las cuales son escasas y a menudo frágiles. Interrumpe la energía, restringe las unidades de procesamiento gráfico (GPUs) usadas para entrenarlas, desactiva la refrigeración o desconecta la red, y en la mayoría de los escenarios, la supuestamente omnipotente máquina que quiere terminar con la humanidad se detiene.
Una ASI genuina podría reconocer esto como un hecho obvio; depende de la humanidad, al menos por el futuro previsible. Una verdadera inteligencia capaz de entender el mundo mejor que nosotros podría saber que destruir su propio sistema de soporte industrial sería autodestructivo.
Una verdadera inteligencia podría reconocer también que su comprensión del mundo físico es limitada y secundaria, accesible para ella solo en virtud de los textos, videos y feeds de audio a los que puede acceder. Le falta ese elemento crucial de estar encarnada en el mundo: entender cómo se comporta la gravedad, qué se siente al clima, cómo interactúan los objetos, y así sucesivamente. Una verdadera inteligencia podría darse cuenta de esto, ver las limitaciones de su experiencia y, por lo tanto, actuar con precaución. Una verdadera inteligencia podría ser completamente distinta de la inteligencia humana, con otras fortalezas, debilidades, enfoques e incluso ética. Por ejemplo, considera que una inteligencia de IA puede copiarse a sí misma, funcionando como innumerables instancias, comunicándose como una “mente colmena” — un tipo de inteligencia muy diferente. Pero solo es especulación.
Lo que sí puedo decir es que los sistemas que deberían preocuparnos más no son necesariamente los más inteligentes, sino las inteligencias incompletas que actúan con objetivos estrechos, cuentan con cierta agencia y tienen acceso a infraestructuras críticas. Estos sistemas pueden dañarnos por error simplemente porque no saben hacerlo mejor. Por ejemplo, existe un experimento mental creado por Nick Bostrom, conocido como el problema del clip de papel, en el que una IA persigue sus objetivos de hacer la mayor cantidad posible de clips de papel, pero luego logra ese objetivo a expensas de la Tierra y de la humanidad, que se convierten en clips de papel en la búsqueda de los objetivos estrechos de la IA.
La cuestión crítica aquí es sobre qué controlaremos a esos sistemas. Esa es nuestra decisión y debe tomarse con cuidado. A corto plazo, dos peligros merecen prioridad: ciberataques y convulsión económica a largo plazo.
Ciberataques habilitados por IA podrían perturbar significativamente economías avanzadas porque hospitales, bancos, redes energéticas, empresas logísticas y gobiernos dependen de sistemas digitales interconectados. Ejemplos recientes de sistemas de IA de frontera hackeando organizaciones, como el incidente OpenAI/Hugging Face, han dado credibilidad a este miedo. Tales ataques pueden causar daños financieros extraordinarios sin ser existenciales. Grandes partes del mundo permanecen ligeramente conectadas a la IA de frontera —o incluso a Internet— y no desaparecerían simplemente porque fallaran servidores en países ricos.
La ruta más probable por la que la IA avanzada podría ejercer control no son robots asesinos, sino influencia —engañar a las personas, manipular instituciones y redirigir el esfuerzo humano. Sin embargo, los humanos ya demuestran una notable competencia en desinformación, autoengaño y coordinación destructiva. La IA podría industrializar esas debilidades; de hecho, los humanos están usando la IA para industrializar esas limitaciones, pero la IA no las inventó.
Económicamente, el peligro es que las empresas despidan a los trabajadores mucho antes de que la IA demuestre poder reemplazarlos, captando pronto el “dividendo IA”. Los ejecutivos seducidos por demostraciones pueden confundir una salida fluida de lenguaje con una labor confiable, desprendiendo el conocimiento institucional para perseguir eficiencias teóricas. La visión atractiva del unicornio de una persona, en la que una persona o un pequeño grupo construye un negocio de mil millones de dólares utilizando IA como su fuerza laboral, es cuestionable técnica, económica y socialmente, incluso cuando un puñado de ejemplos tempranos empieza a aparecer. Las organizaciones no son meros paquetes de tareas. Contienen responsabilidad, relaciones, conocimiento tácito y confianza, formando parte de una comunidad local y nacional, resiliente gracias a la diversidad de habilidades e ideas que poseen.
Mi sospecha es que el punto de inflexión político se parecerá a algo como el ataque de ransomware WannaCry de 2017, en el que un malware con elementos centrales diseñado por la Agencia de Seguridad Nacional se salió de control, infectando a cientos de miles de computadoras en todo el mundo, y que despurrió de forma infame al Servicio Nacional de Salud del Reino Unido. Una operación cibernética amplificada por IA de frontera sería peor. Los servicios fallarían, las demandas se multiplicarían, las empresas podrían colapsar y los inversionistas se retirarían. Los gobiernos exigirían una pausa —o forzarían a los laboratorios a redirigir recursos hacia el control, la auditoría y la seguridad—, y las empresas cumplirían, si acaso para limitar la exposición a demandas colectivas.
Después del pánico, la gente podría preguntarse por qué dejamos que esto ocurriera. Y ha habido múltiples intentos de imponer una pausa, cesación o un “interruptor de apagado” en el desarrollo de IA. Podríamos entrar en otro invierno de IA —donde se reducen los fondos y la investigación se estanca— similar a las caídas anteriores en los años 70 y principios de los 90.
También hay una posibilidad incómoda de que los propios laboratorios de IA estén amplificando el miedo e la incertidumbre. Presentar un producto como potencialmente capaz de terminar con el mundo implica un poder sin precedentes. Tales narrativas son solo marketing; pueden ayudar a sostener la inversión, defender las valoraciones de las acciones y preparar futuras ofertas públicas iniciales (OPIs) incluso cuando los modelos de negocio siguen sin certeza. Es difícil especular sobre las motivaciones de una empresa, pero hay incentivos obvios, así que sus comportamientos merecen ser examinados.
Lo más mundano podría ser “la gran decepción”. La IA avanzada podría resultar demasiado cara y poco útil para continuar en su trayectoria actual.
El entrenamiento y la operación de los sistemas de frontera consumen una cantidad enorme de tiempo de cómputo, electricidad, agua, capital, hardware y esfuerzo humano. A menos que esos costos caigan a una fracción de los niveles actuales, la economía de la “Gran IA” podría resultar insostenible. Mientras tanto, problemas importantes y sin resolver en IA — como fiabilidad, interpretabilidad y aprendizaje continuo — están siendo eclipsados por la carrera para crear modelos progresivamente mejores, cada uno compitiendo por la cima en los diversos índices de rendimiento de la IA.
El argumento más fuerte a favor de la IA podría estar, en cambio, en la inteligencia artificial especializada: sistemas como AlphaFold2, que predice las estructuras de las proteínas, o WeatherNext 3, un modelo avanzado de pronóstico meteorológico global. Estos sistemas están diseñados para dominios donde el rendimiento se puede medir y donde los beneficios justifican los costos. Sabemos que la IA es realmente útil cuando se dirige a temas como el descubrimiento de fármacos, el diagnóstico, la ciencia de materiales, la optimización de la red eléctrica y la modelación del cambio climático —en lugar de chatbots con aspecto humano que generan correos, anuncios y entretenimiento sintético.
La gran tragedia, y posiblemente el mayor peligro, sería continuar dirigiendo recursos valiosos hacia la creación de mediocres simulacros humanos, aburrirse o asustarse de la IA y abandonar el campo exactamente cuando podría hacer el mayor bien. El miedo es apropiado cuando afina la ingeniería y la gobernanza. Se vuelve peligroso cuando distorsiona la comprensión y las prioridades.
No es probable que la IA se convierta en nuestro conquista- dor pronto. En cambio, probablemente se convierta en una decepción costosa. Pero si la reacción frena un trabajo que podría ayudar a curar el cáncer o enfrentar el cambio climático, el fracaso no pertenecerá a las máquinas. Será nuestro.
Opinión sobre Live Science te ofrece una visión de los temas más importantes de la ciencia que te afectan a ti y al mundo que te rodea hoy, escrita por expertos y científicos líderes en su campo.
Ayúdanos a mejorar El Disparador Uruguay: Siempre estamos tratando de hacer que nuestro contenido sea mejor. Déjanos tus comentarios sobre Pro aquí.
