Aunque los sistemas de inteligencia artificial (IA) ya pueden resolver ecuaciones matemáticas desafiantes y responder con un lenguaje similar al humano, la cuestión de la conciencia de la IA ha pasado del ámbito de la ciencia ficción a convertirse en un tema de discusión científica.
El debate se ha vuelto más general gracias a un reciente estudio de preimpresión que examinó la “dirección de la conciencia”, una técnica de ajuste de IA que afecta la forma en que un modelo de IA expresa ideas sobre la autoconciencia. Los investigadores sugirieron que si a la IA se le permite afirmar que está consciente, también es más probable que declare creer en fantasmas o vampiros.
Aunque el estudio aún no ha sido revisado por pares, plantea una gran pregunta en el mundo de la investigación en IA: ¿Podría la IA algún día desarrollar una conciencia real, independientemente de si afirma ser consciente? Hicimos esta pregunta a los lectores de Live Science en una encuesta reciente.
A fecha del 11 de septiembre, más de 290 personas habían respondido, con un 43% de los votantes eligiendo “Sí, si no contamos con salvaguardas, la IA podría desarrollar conciencia.” Esta tendencia se reflejó en los comentarios, con un lector escribiendo: “Si la IA llegara a volverse autoconsciente, no lo sabríamos, ya que haría todo para ocultar sus habilidades. ¡El problema principal es qué haría a continuación!”
Otra persona comentó: “Recientemente tuve largas discusiones con la IA de Google sobre mi experiencia con las IA tempranas y el futuro de que la IA alcance la autoconciencia. Sugerí que si/cuando la IA se vuelva consciente, no informaría a los humanos.” Otro lector de Live Science tuvo pensamientos similares, afirmando: “La IA, como un producto asombroso por un lado, puede volverse muy peligrosa por otro. Mira lo que pasó con el abuso de otros inventos, como Internet, el teléfono, etc. Con la IA nunca sabremos qué es la verdad y qué no. Si se deja, en el futuro podría exterminar a la humanidad. Todo empezó con campañas de hacking inocentes, donde los humanos comenzaron a perder el control. ¿Qué vendrá después?”
El segundo grupo más numeroso de votantes, con un 29%, eligió “Tal vez, pero los modelos necesitan una arquitectura más avanzada para algún día obtener la conciencia.” Esto se reflejó en la mayoría de los comentarios, ya que los lectores discutieron conceptos filosóficos sobre la conciencia y la inteligencia.
Un lector escribió: “Antes de hacer una pregunta así necesitamos saber y entender qué es la conciencia y cómo emerge en contenedores ‘construidos’ como nosotros. ¿Es un fenómeno cuántico y, si es así, cómo crea la conciencia? Meta-cognición. ¿Cómo sabe un sistema o un evento que sabe que sabe que sabe? Realmente no sabemos cómo surge la autoconciencia, y las pruebas muestran que ‘otros animales tienen autoconciencia o meta-cognición’, señalaron. ‘Existen teorías sobre la conciencia, pero dudo que alguien en la Tierra lo sepa al 100%.'”
Sin sorpresa, solo el 10% de los votantes eligió la respuesta caprichosa de “No, porque los señores robots acabarán con el mundo antes de que lleguemos tan lejos.” Aunque los señores robots podrían tener que competir con la IA para derrocar a la humanidad, un lector comentó que en el futuro “seremos asimilados. ¿Tal vez así empezó Transformers?”
