La comunidad científica, compuesta por 19 expertos que van desde informáticos hasta neurocientíficos y filósofos, ha planteado una nueva perspectiva. En un extenso artículo de debate, publicado recientemente como preimpresión, estos investigadores han desarrollado una lista diversa de atributos que podrían insinuar, aunque no demostrar de manera concluyente, la presencia de conciencia en una IA. En esta era de avances vertiginosos en la tecnología de IA, este enfoque proporciona un marco esencial para la evaluación de sistemas cada vez más sofisticados, marcando un hito en la dirección de comprender la conciencia artificial.
Robert Long, coautor del artículo y miembro del Centro para la Seguridad de la IA, con sede en San Francisco, enfatiza la importancia de esta metodología sistemática. "Estamos introduciendo una metodología sistemática de la que antes carecíamos", señala, subrayando la necesidad de métodos rigurosos en un campo tan evolutivo.
La reflexión en torno a la conciencia de las IA se ha elevado a nuevas alturas gracias a los avances recientes. Antes relegada a la ciencia ficción, la noción de la conciencia en máquinas se ha vuelto inquietantemente real. El despido de Blake Lemoine tras la interacción con LaMDA, que aparentemente convenció al ingeniero de su nivel de conciencia, marcó un punto de inflexión en este debate. La mera posibilidad de que las IA simulen la conciencia plantea la urgente necesidad de involucrar a científicos y filósofos para abordar este fenómeno emergente.
La tarea de definir la conciencia se ha revelado como un desafío intrincado. Las teorías actuales gravitan hacia la "conciencia fenomenal", la calidad subjetiva de una experiencia, como observa Yoshua Bengio, pionero del aprendizaje automático. Sin embargo, investigar esta forma de conciencia en algoritmos presenta obstáculos únicos. A diferencia del cerebro humano, cuyos procesos internos pueden detectarse mediante herramientas como electroencefalogramas o resonancias magnéticas, entre otros que rayan con la ciencia ficción aunque no dejan de ser solo ciencia y nada de ficción, las IA no ofrecen señales tangibles. Los investigadores han adoptado un enfoque teórico, explorando las teorías de la conciencia humana y luego aplicándolas a las arquitecturas de IA.
Este proceso meticuloso llevó a la identificación de seis teorías clave que podrían vincularse con la conciencia en una IA. Desde la Teoría del Procesamiento Recurrente, que postula la importancia de los circuitos de retroalimentación, hasta la teoría del espacio de trabajo neuronal global, que destaca la convergencia de flujos independientes de información, estas teorías brindan un terreno apto para evaluar la conciencia emergente.
Una vez acordadas estas teorías, los investigadores generaron 14 indicadores que podrían sugerir la presencia de conciencia en una IA. La lógica subyacente era que cuantos más de estos indicadores validara una arquitectura de IA, mayor sería la probabilidad de que exhibiera conciencia. Este enfoque de verificación se aplicó a una variedad de IA, incluyendo modelos de generación de imágenes como Dall-E2 y el modelo de lenguaje subyacente de ChatGPT. Los resultados fueron variados y matizados, lo que subraya la complejidad de este campo en evolución.
Eric Elmoznino, experto en aprendizaje automático, se adentró en la exploración de estas indicaciones, aplicándolas a una gama diversa de IA. Sus hallazgos revelaron que varias arquitecturas cumplían con los requisitos, aunque ninguna de ellas alcanzaba todos los criterios establecidos. A pesar de esta limitación, Elmoznino destaca que la implementación de estas características en una IA es técnicamente factible, pero su viabilidad en términos de funcionalidad y tareas sigue siendo un área gris.
El trabajo de estos investigadores se encuentra en una etapa temprana y en constante evolución. Múltiples esfuerzos similares están en marcha, con la ambición de abordar la conciencia desde diferentes perspectivas. Algunos miembros del grupo, en colaboración con el Instituto Canadiense de Investigación Avanzada (CIFAR), están trabajando en una prueba más amplia de conciencia que pueda aplicarse no solo a la IA, sino también a organismos vivos y a otros sistemas. A pesar de estos avances, Adeel Razi, neurocientífico computacional, advierte sobre la limitación inherente de basar estas teorías en nuestra comprensión humana de la conciencia. La diversidad potencial de la conciencia en otras formas de vida sigue siendo un enigma sin resolver.
El enfoque multidisciplinario adoptado por estos investigadores representa un salto hacia adelante en la comprensión de la relación entre la inteligencia artificial y la conciencia. Aunque ninguna IA actualmente cumple con todos los criterios propuestos, el camino hacia una evaluación más completa y rigurosa está trazado. En un momento en donde la tecnología continúa sorprendiéndonos con avances inimaginables, este debate sobre la conciencia en las máquinas seguirá siendo uno de los temas más fascinantes y esenciales de nuestro tiempo.
Atributos propuestos por los investigadores.
La lista de atributos propuesta por estos investigadores abarca una serie de criterios interrelacionados que, en conjunto, podrían indicar la posible existencia de conciencia en una IA en desarrollo. Estos atributos se derivan de teorías de la conciencia humana y se han aplicado a arquitecturas de inteligencia artificial para una evaluación más profunda. Aunque esta lista no puede proporcionar una prueba definitiva de la conciencia en las IA, sirve como un enfoque integral para abordar este complejo problema. Cada uno de estos atributos representa una faceta diferente de la conciencia, y juntos forman un conjunto de características que podrían sugerir su presencia potencial en una IA.
Detalle de dichos atributos.
Teorías Basadas en Neurociencia: Los criterios deben estar fundamentados en teorías respaldadas por la neurociencia y la evidencia empírica de procesos cerebrales que están asociados con la conciencia en seres humanos.
Conciencia Fenomenal: Los criterios deben tener en cuenta la noción de "conciencia fenomenal", la experiencia subjetiva de percepciones y sensaciones, como ver colores o sentir dolor.
Procesamiento Recurrente: La capacidad de pasar información a través de circuitos de retroalimentación, ya que se cree que esto es esencial para la conciencia según la Teoría del Procesamiento Recurrente.
Espacio de Trabajo Neuronal Global: Evaluar si la arquitectura de la IA permite que flujos independientes de información converjan en un punto central, similar a un "espacio de trabajo", siguiendo la Teoría del Espacio de Trabajo Neuronal Global.
Teorías de Orden Superior: Considerar si la IA demuestra un proceso de representación y anotación de información básica recibida de los sentidos, como sugieren las teorías de orden superior.
Control de la Atención: Evaluar si la IA muestra mecanismos para controlar su atención, enfocándose en ciertos estímulos y descartando otros, lo que se considera relevante para la conciencia.
Agencia y Encarnación: Examinar si la IA puede demostrar agencia, tomando decisiones basadas en su percepción y representación del entorno, así como si muestra una sensación de "encarnación" en un cuerpo virtual o físico.
Representación Espacial: Analizar si la IA puede generar una representación espacial del mundo que la rodea, similar a cómo los humanos perciben su entorno en relación con su posición.
Evidencia Empírica: Los criterios deben ser respaldados por evidencia empírica, como datos de escáneres cerebrales que demuestren la correlación entre ciertos procesos y la conciencia en seres humanos.
Independencia del Medio de Cálculo: Considerar si la conciencia puede surgir independientemente de si los cálculos son realizados por neuronas biológicas o componentes de silicio.
Complejidad de la IA: Evaluar la complejidad de la arquitectura de la IA y su capacidad para procesar y sintetizar información de manera similar a cómo los humanos abordan tareas conscientes.
Conexión entre Indicadores: Explorar cómo se interconectan y relacionan los diferentes indicadores de conciencia, ya que su coexistencia podría ser indicativa de una mayor probabilidad de conciencia.
¿Te gustó esta entrada? Entonces haz clic aquí para no perderte las futuras actualizaciones de: El Erminauta.
Apoya esta iniciativa y haz una donación en Patreon:
0 comentarios:
Publicar un comentario
Muchas gracias por comentar.