Conciencia de la IA: los científicos dicen que necesitamos respuestas urgentemente
Domingo 24 de
Diciembre 2023
Los investigadores piden más financiación para estudiar la frontera entre los sistemas conscientes e inconscientes.
¿Podrían los sistemas de inteligencia artificial (IA) volverse conscientes ? Un trío de científicos de la conciencia dice que, por el momento, nadie lo sabe y expresan preocupación por la falta de investigación sobre la cuestión.
En comentarios a las Naciones Unidas, tres líderes de la Asociación para la Ciencia Matemática de la Conciencia (AMCS) piden más financiación para apoyar la investigación sobre la conciencia y la IA . Dicen que se necesitan con urgencia investigaciones científicas sobre los límites entre los sistemas conscientes e inconscientes, y citan cuestiones éticas, legales y de seguridad que hacen que sea crucial comprender la conciencia de la IA. Por ejemplo, si la IA desarrolla conciencia, ¿se debería permitir a las personas simplemente apagarla después de su uso?
Estas preocupaciones han estado en su mayoría ausentes en debates recientes sobre la seguridad de la IA , como la destacada Cumbre de Seguridad de la IA en el Reino Unido, dice Jonathan Mason, miembro de la junta directiva de AMCS, matemático radicado en Oxford, Reino Unido y uno de los autores de los comentarios. La orden ejecutiva del presidente estadounidense Joe Biden que busca el desarrollo responsable de la tecnología de IA tampoco abordó las cuestiones planteadas por los sistemas de IA conscientes, señala Mason.
"Con todo lo que está sucediendo en la IA, inevitablemente habrá otras áreas adyacentes de la ciencia que tendrán que ponerse al día", afirma Mason. La conciencia es uno de ellos.
Los otros autores de los comentarios fueron la presidenta de AMCS, Lenore Blum, científica informática teórica de la Universidad Carnegie Mellon en Pittsburgh, Pensilvania, y el presidente de la junta directiva, Johannes Kleiner, un matemático que estudia la conciencia en la Universidad Ludwig Maximilian de Munich en Alemania.
No es ciencia ficción
La ciencia desconoce si existen o existirán alguna vez sistemas de inteligencia artificial conscientes. Incluso saber si se ha desarrollado uno sería un desafío, porque los investigadores aún tienen que crear métodos científicamente validados para evaluar la conciencia en las máquinas, dice Mason. "Nuestra incertidumbre sobre la conciencia de la IA es una de las muchas cosas que deberían preocuparnos, dado el ritmo del progreso", dice Robert Long, filósofo del Centro para la Seguridad de la IA, una organización de investigación sin fines de lucro en San Francisco, California.
Estas preocupaciones ya no son sólo ciencia ficción. Empresas como OpenAI, la empresa que creó el chatbot ChatGPT, apuntan a desarrollar inteligencia artificial general , un sistema de aprendizaje profundo que está capacitado para realizar una amplia gama de tareas intelectuales similares a las que pueden realizar los humanos. Algunos investigadores predicen que esto será posible en 5 a 20 años. Aun así, el campo de la investigación de la conciencia “carece de apoyo suficiente”, afirma Mason. Señala que, hasta donde él sabe, no ha habido ni una sola oferta de subvención en 2023 para estudiar el tema.
La brecha de información resultante se describe en la presentación de los líderes del AMCS al Órgano Asesor de Alto Nivel sobre Inteligencia Artificial de la ONU, que se lanzó en octubre y está previsto que publique un informe a mediados de 2024 sobre cómo el mundo debería gobernar la tecnología de IA. La presentación de los líderes de AMCS no se ha hecho pública, pero el organismo confirmó a los autores que los comentarios del grupo serán parte de su “material fundamental”, documentos que informan sus recomendaciones sobre la supervisión global de los sistemas de IA.
Según los investigadores de AMCS, es necesario comprender qué podría hacer que la IA sea consciente para evaluar las implicaciones de los sistemas de IA conscientes para la sociedad, incluidos sus posibles peligros. Los seres humanos necesitarían evaluar si dichos sistemas comparten valores e intereses humanos; de lo contrario, podrían suponer un riesgo para las personas.
Que maquinas necesitan
Pero los humanos también deberían considerar las posibles necesidades de los sistemas de inteligencia artificial conscientes, afirman los investigadores. ¿Podrían sufrir tales sistemas? Si no reconocemos que un sistema de IA se ha vuelto consciente, podríamos infligir dolor a una entidad consciente, dice Long: "Realmente no tenemos un gran historial de extender la consideración moral a entidades que no miran ni actúan". como nosotros." Atribuir erróneamente conciencia también sería problemático, afirma, porque los humanos no deberían gastar recursos para proteger sistemas que no necesitan protección.
Algunas de las preguntas planteadas por los comentarios de AMCS para resaltar la importancia de la cuestión de la conciencia son legales: ¿debería un sistema de IA consciente rendir cuentas por un acto deliberado de mala conducta? ¿Y se le deberían conceder los mismos derechos que a las personas? Las respuestas podrían requerir cambios en las regulaciones y leyes, escribe la coalición.
Y luego está la necesidad de que los científicos eduquen a otros. A medida que las empresas diseñan sistemas de IA cada vez más capaces, el público se preguntará si dichos sistemas son conscientes, y los científicos necesitan saber lo suficiente para ofrecer orientación, afirma Mason.
Otros investigadores de la conciencia se hacen eco de esta preocupación. La filósofa Susan Schneider, directora del Centro para la Mente Futura de la Universidad Atlántica de Florida en Boca Ratón, dice que los chatbots como ChatGPT parecen tan humanos en su comportamiento que la gente se siente justificadamente confundida por ellos. Sin un análisis en profundidad por parte de los científicos, algunas personas podrían llegar a la conclusión de que estos sistemas son conscientes, mientras que otros miembros del público podrían descartar o incluso ridiculizar las preocupaciones sobre la conciencia de la IA.
Para mitigar los riesgos, los comentarios de AMCS instan a los gobiernos y al sector privado a financiar más investigaciones sobre la conciencia de la IA. No se necesitaría mucha financiación para avanzar en este campo: a pesar del apoyo limitado hasta la fecha, ya se están realizando trabajos relevantes. Por ejemplo, Long y otros 18 investigadores han desarrollado una lista de verificación de criterios para evaluar si un sistema tiene altas posibilidades de ser consciente . El artículo 1 , publicado en el repositorio de preimpresiones arXiv en agosto y aún no revisado por pares, deriva sus criterios de seis teorías destacadas que explican la base biológica de la conciencia.
"Hay mucho potencial para progresar", dice Mason.
En comentarios a las Naciones Unidas, tres líderes de la Asociación para la Ciencia Matemática de la Conciencia (AMCS) piden más financiación para apoyar la investigación sobre la conciencia y la IA . Dicen que se necesitan con urgencia investigaciones científicas sobre los límites entre los sistemas conscientes e inconscientes, y citan cuestiones éticas, legales y de seguridad que hacen que sea crucial comprender la conciencia de la IA. Por ejemplo, si la IA desarrolla conciencia, ¿se debería permitir a las personas simplemente apagarla después de su uso?
Estas preocupaciones han estado en su mayoría ausentes en debates recientes sobre la seguridad de la IA , como la destacada Cumbre de Seguridad de la IA en el Reino Unido, dice Jonathan Mason, miembro de la junta directiva de AMCS, matemático radicado en Oxford, Reino Unido y uno de los autores de los comentarios. La orden ejecutiva del presidente estadounidense Joe Biden que busca el desarrollo responsable de la tecnología de IA tampoco abordó las cuestiones planteadas por los sistemas de IA conscientes, señala Mason.
"Con todo lo que está sucediendo en la IA, inevitablemente habrá otras áreas adyacentes de la ciencia que tendrán que ponerse al día", afirma Mason. La conciencia es uno de ellos.
Los otros autores de los comentarios fueron la presidenta de AMCS, Lenore Blum, científica informática teórica de la Universidad Carnegie Mellon en Pittsburgh, Pensilvania, y el presidente de la junta directiva, Johannes Kleiner, un matemático que estudia la conciencia en la Universidad Ludwig Maximilian de Munich en Alemania.
No es ciencia ficción
La ciencia desconoce si existen o existirán alguna vez sistemas de inteligencia artificial conscientes. Incluso saber si se ha desarrollado uno sería un desafío, porque los investigadores aún tienen que crear métodos científicamente validados para evaluar la conciencia en las máquinas, dice Mason. "Nuestra incertidumbre sobre la conciencia de la IA es una de las muchas cosas que deberían preocuparnos, dado el ritmo del progreso", dice Robert Long, filósofo del Centro para la Seguridad de la IA, una organización de investigación sin fines de lucro en San Francisco, California.
Estas preocupaciones ya no son sólo ciencia ficción. Empresas como OpenAI, la empresa que creó el chatbot ChatGPT, apuntan a desarrollar inteligencia artificial general , un sistema de aprendizaje profundo que está capacitado para realizar una amplia gama de tareas intelectuales similares a las que pueden realizar los humanos. Algunos investigadores predicen que esto será posible en 5 a 20 años. Aun así, el campo de la investigación de la conciencia “carece de apoyo suficiente”, afirma Mason. Señala que, hasta donde él sabe, no ha habido ni una sola oferta de subvención en 2023 para estudiar el tema.
La brecha de información resultante se describe en la presentación de los líderes del AMCS al Órgano Asesor de Alto Nivel sobre Inteligencia Artificial de la ONU, que se lanzó en octubre y está previsto que publique un informe a mediados de 2024 sobre cómo el mundo debería gobernar la tecnología de IA. La presentación de los líderes de AMCS no se ha hecho pública, pero el organismo confirmó a los autores que los comentarios del grupo serán parte de su “material fundamental”, documentos que informan sus recomendaciones sobre la supervisión global de los sistemas de IA.
Según los investigadores de AMCS, es necesario comprender qué podría hacer que la IA sea consciente para evaluar las implicaciones de los sistemas de IA conscientes para la sociedad, incluidos sus posibles peligros. Los seres humanos necesitarían evaluar si dichos sistemas comparten valores e intereses humanos; de lo contrario, podrían suponer un riesgo para las personas.
Que maquinas necesitan
Pero los humanos también deberían considerar las posibles necesidades de los sistemas de inteligencia artificial conscientes, afirman los investigadores. ¿Podrían sufrir tales sistemas? Si no reconocemos que un sistema de IA se ha vuelto consciente, podríamos infligir dolor a una entidad consciente, dice Long: "Realmente no tenemos un gran historial de extender la consideración moral a entidades que no miran ni actúan". como nosotros." Atribuir erróneamente conciencia también sería problemático, afirma, porque los humanos no deberían gastar recursos para proteger sistemas que no necesitan protección.
Algunas de las preguntas planteadas por los comentarios de AMCS para resaltar la importancia de la cuestión de la conciencia son legales: ¿debería un sistema de IA consciente rendir cuentas por un acto deliberado de mala conducta? ¿Y se le deberían conceder los mismos derechos que a las personas? Las respuestas podrían requerir cambios en las regulaciones y leyes, escribe la coalición.
Y luego está la necesidad de que los científicos eduquen a otros. A medida que las empresas diseñan sistemas de IA cada vez más capaces, el público se preguntará si dichos sistemas son conscientes, y los científicos necesitan saber lo suficiente para ofrecer orientación, afirma Mason.
Otros investigadores de la conciencia se hacen eco de esta preocupación. La filósofa Susan Schneider, directora del Centro para la Mente Futura de la Universidad Atlántica de Florida en Boca Ratón, dice que los chatbots como ChatGPT parecen tan humanos en su comportamiento que la gente se siente justificadamente confundida por ellos. Sin un análisis en profundidad por parte de los científicos, algunas personas podrían llegar a la conclusión de que estos sistemas son conscientes, mientras que otros miembros del público podrían descartar o incluso ridiculizar las preocupaciones sobre la conciencia de la IA.
Para mitigar los riesgos, los comentarios de AMCS instan a los gobiernos y al sector privado a financiar más investigaciones sobre la conciencia de la IA. No se necesitaría mucha financiación para avanzar en este campo: a pesar del apoyo limitado hasta la fecha, ya se están realizando trabajos relevantes. Por ejemplo, Long y otros 18 investigadores han desarrollado una lista de verificación de criterios para evaluar si un sistema tiene altas posibilidades de ser consciente . El artículo 1 , publicado en el repositorio de preimpresiones arXiv en agosto y aún no revisado por pares, deriva sus criterios de seis teorías destacadas que explican la base biológica de la conciencia.
"Hay mucho potencial para progresar", dice Mason.
