El Problema del Marco

El avance clave de la ciencia cognitiva ocurrió cuando intentamos construir la inteligencia desde cero.

You can read or share this Article in English.

Este artículo fue traducido de su original en inglés con asistencia de ChatGPT.

Cuando comencé a entender lo que era la IA, me desconcertaron profundamente sus implicaciones para la inteligencia humana. Intuía que me estaba topando con The Frame Problem (El Problema del Marco), aunque no conocía su nombre, ni había captado el alcance completo de cómo reveló a los primeros investigadores el mayor obstáculo para crear una inteligencia artificial.

En verdad, cuanto más descubrimos cualquier cosa…
más hay por descubrir.

El cerebro humano filtra significado, no solo hechos

Daniel Dennett (1942–2024), filósofo estadounidense, científico cognitivo y autor ampliamente reconocido por su trabajo en la filosofía de la mente, declaró enfáticamente:

“De hecho, el problema del marco no es solo un problema técnico; es un problema filosófico profundo que no ha recibido ni remotamente la atención que merece.”

El problema fue formulado por primera vez por John McCarthy y Patrick J. Hayes en su artículo de 1969 titulado Some Philosophical Problems from the Standpoint of Artificial Intelligence. Las consecuencias de este artículo para la comprensión cognitiva de cómo funciona la inteligencia humana son, sin lugar a duda, un hito monumental en la historia de la ciencia y la filosofía.

¿Cómo se descubrió el “problema del enfoque”?
A finales de la década de 1940, el Dr. W. Grey Walter creó dos tortugas robóticas a las que apodó Elmer y Elsie. Tenían un sistema motorizado con un sensor de luz que, al detectar luz brillante, las hacía evadirla; también, cuando su batería estaba agotándose, se dirigían a una base para recargarse. Parecían actuar con cierto grado de “independencia e inteligencia”. Aunque Elmer y Elsie eran robots con orientación y “propósito”, capaces de desplazarse en un hábitat, carecían de la capacidad para discernir escenarios cambiantes y complejos, y de elegir una respuesta frente la transformación del ambiente. Para eso, un robot necesitaba reconocer los cambios, formar una representación interna y decidir a qué responder; en los humanos esa diferencia es lo que nos separa del comportamiento animal.

En ese sentido, pioneros de la IA como John McCarthy, Marvin Minsky, Allen Newell y Herbert Simon creían que la inteligencia podía formalizarse mediante lógica simbólica. Usaron el cálculo de situaciones, un formalismo lógico desarrollado para modelar acciones y cambios, con el fin de construir esas representaciones… pero se toparon con un muro infranqueable. Para percibir la realidad, el sistema debía reconocer los cambios que ocurrían, y su representación debía dar cuenta de lo que había cambiado y lo que permanecía igual. El problema era que la representación matemática de “lo que permanecía igual” era infinita: si una puerta se abre en una sala, la puerta en sí cambia de posición, color y forma. Además, todo aquello que no se movió y permaneció en su lugar seguía mostrando cambios en los reflejos de luz. La cantidad de datos y poder computacional necesarios para procesar eso era abrumadora, por lo que la pregunta urgente se volvió: ¿qué cuenta como relevante? Esta pregunta, no es solo un problema técnico– es filosófico y hasta ético, porque a lo que decidimos prestar atención refleja lo que valoramos.

Los humanos usamos la mitad de la capacidad computacional de nuestro cerebro para poder ver. Para resolver los problemas que enfrentan los sistemas biológicos simples ante evadir depredadores y poder alimentarse, el instinto basta; pero cuando los animales evolucionan para cazar con mayor eficacia, desarrollan camuflaje, habilidades y se organizan en manadas- los humanos necesitamos desarrollar interacciones sociales más complejas para encontrar seguridad y sobrevivir en un mundo mucho más adverso. Para ese escenario complejo, el instinto ya no era suficiente; fue necesario desarrollar una representación interna que permitiera evaluar la orientación y la acción, para predecir: “¿Qué sucederá? ¿Qué hay más adelante? ¿Cómo responderán los demás?” —y esto resultó más eficaz que el instinto.

La base para filtrar toda esa información no podía sostenerse solo con instinto; requería una bisagra focal que cribara todo el proceso – un proceso que demandaba una estructura de valores – y eso solo puede ofrecerlo la conciencia.

En el momento en que comienzas a percibir, comienzas a descartar e ignorar. Y al ignorar, revelas lo que más te importa, incluso si nunca lo elegiste conscientemente. Por eso la “relevancia” es un acto moral. No es que el mundo esté hecho de hechos; está hecho de encuadres, marcos que desechan todo lo que no valoras. Y siempre estás discriminando – según a lo que prestas atención – y ello es lo que conviertes la realidad.

Perspectiva del Problema del Marco

Para quienes no lo saben, no existe una definición o límite claro para nada en la naturaleza; lo que vemos como una entidad u objeto es una ilusión controlada, que nos permite movernos y actuar en un mundo sin ser abrumados por la información.

“Solo podemos conocer las cosas tal como nos aparecen, no como son en sí mismas.”
Immanuel Kant – Crítica de la razón pura (1781)

Literalmente, si observamos moléculas con un microscopio de resolución casi atómica, podríamos pasar la mirada de una roca a una madera y luego a una mano, y los límites se desdibujan a ese nivel – no por el tamaño, sino porque la naturaleza resiste una segmentación clara. Todo está íntimamente conectado. Tal vez pienses: “pero cuando las cosas son más grandes, entonces sí se pueden distinguir límites definidos entre un objeto o un ser.” Yo te digo: tu visión opera en piloto automático, y el marco no te permite ver el panorama completo.

Si te miras al espejo y ves el reflejo de tu imagen, estás observando un solo marco de la resolución completa de quién eres: el aspecto físico. Pero lo que eres es mucho más que eso – y lo sabes – eres tus creencias y las ideas que tienes de ti mismo, eres el producto de los valores que sostienes sobre ti mismo y los grupos en los que te mueves, eres tus actitudes y lo que esperas encontrar al actuar; eres tu historia personal y cómo la interpretas; eres un producto de tus relaciones, tu cultura y la sociedad en la que vives… lo que eres puede seguir expandiéndose en diferentes dimensiones: emocional, intelectual, social, biológica, histórica, molecular. No hay nada simple en ti: depende de la resolución con la que te observes.

La perspectiva espiritual contempla un rango más amplio de quiénes somos y qué es la realidad, más allá de la mirada científica o fenomenológica.

Además, con la llegada del siglo XX, Occidente fue construyendo un muro de certezas que nos permitió vivir con relativa tranquilidad. Un muro que, aunque sigue en pie, ha sido profundamente amenazado en este siglo. Para ilustrarlo: cuando entras en un aula, todo en ella te indica qué hacer y cómo comportarte. Los asientos están orientados hacia el frente, hay una pizarra visible, y quien se sitúa allí adelante tiene el rol de compartir algo con los demás. El espacio transmite una estructura jerárquica.
Si, en cambio, las sillas están dispuestas en círculo las espectativas cambian: se espera algo distinto de los participantes y el ponente. Además, al estar allí, puedes relajarte y concentrarte en lo que sucede, sin preocuparte por las cientos de cosas que podrían pasar. Confías en los arquitectos e ingenieros que construyeron el edificio, por lo que no temes que se derrumbe o que el techo colapse; siafuera época de un invierno extremo, no temes que falle la electricidad y la temperatura baje al punto de amenazar tu vida. Hay miles de personas trabajando diligentemente para mantener constante el flujo eléctrico.

Puedes vivir despreocupado ante las inclemencias de la naturaleza y la vida porque hay un muro de protección que garantiza tu seguridad. Puedes prescindir de todo lo demás y enfocarte en lo que necesitas para seguir con tu propósito.

Para cada unidad, objeto o ser del Cosmos, hay un número infinito de capas o marcos de resolución que componen lo que es. La amplitud del espectro no tiene fin – ni hacia adentro ni hacia afuera – nosotros elegimos un marco de referencia para no enloquecer cuando debemos tomar una decisión y avanzar.

La ética amplifica tu capacidad para percibir el espectro de la realidad

Si aún no queda claro: el elemento ético es fundamental en un ser inteligente, ya que define su capacidad para discriminar, actuar, crecer y ser en cualquier escenario.

Si los elementos que determinan lo que vemos son lo que nos constituyen, entonces debemos concluir que hay ciertos principios que aumentarán nuestra capacidad individual para ampliarnos y desarrollarnos.

• 1º Principio: Conócete a ti mismo.

  Hay un principio de la neurociencia que afirma: “Dónde enfocas tu atención... se expande.” Vamos al grano: si “no ves las cosas como son, sino como eres tú” (Anaïs Nin), entonces debes expandir tu percepción y evaluación de quién eres realmente.
  

• 2º Principio: Expande tu conocimiento.
  Existe una simbiosis entre conocerte a ti mismo y expandir tu conocimiento. Además, el principio de “Dónde te enfocas, se expande” también aplica a lo que decides aprender. Perseguir tu interés permite que tu curiosidad se expanda sobre aquello que atrae tu atención y así expandes tus propios límites.
  

• 3º Principio: Profundiza.
  Lo he mencionado antes: mi profesor en la universidad solía decir, si quieres ser un pensador profundo, elige un libro y léelo toda tu vida. Todo lo que encuentres tiene una profundidad inmensurable; elige hacia dónde apuntar y sumérgete. Me atrevo a decir que yo elegí la Biblia hace unos 35 años, y a través de ella he llegado a comprenderme, la vida, las personas, las relaciones, el lenguaje, la historia universal, la ética, las culturas antiguas, la evolución de los derechos sociales, la religión, la espiritualidad, el mundo invisible, la antropología, la paleontología, la tecnología, la neurociencia – algunos de estos campos en profundidad— la lista es enorme, simplemente no puedo completarla.
  

El Problema del Marco: cómo utilizamos la IA en las organizaciones

Aquí está el corazón del problema de todo lo que puede salir mal con la IA en nuestras sociedades, nuestras organizaciones e individualmente. El libro Weapons of Math Destruction señala un escenario serio que debemos atender. Aunque estoy de acuerdo con el síntoma que la Dra. O’Neil expone tan hábilmente en su libro, y aunque comparto algunas de sus propuestas para resolver el problema – lo aborda sin embargo tal como la medicina convencional trata los síntomas de la mayoría de las enfermedades – necesitamos ir más allá de los síntomas si queremos sanar el “cuerpo social” de esta enfermedad.

El verdadero peligro de la IA no es que vea demasiado. Es que carece de discernimiento. Sin el verdadero marco humano de relevancia – nacido del sufrimiento, la agencia y los valores – acabaremos siguiendo la guia de máquinas cuya única virtud es que nunca dejan de calcular.

Me atrevo a compartir una conferencia del Dr. Jordan Peterson, Reality and the Sacred (ES.: La Realidad y lo Sagrado). Me inspiró a abordar éste y el artículo final sobre el complejo problema de la IA en nuestro mundo actual; porque la mayoría de las veces no tengo ni idea de adónde quiero llegar con algo, simplemente me dejo guiar... y todo a mi alrededor conspira para que valga la pena. Te animo a ver esta conferencia.

Este artículo es parte de un ciclo que investiga la dimensión ética de la inteligencia artificial. Contrario a lo que muchos creen, lo crucial no son sus logros técnicos, sino el uso que individuos, organizaciones y gobiernos decidan darle. La IA no crea nada: solo amplifica lo que le damos. Si perseguimos objetivos sin examinar las ataduras que los motivan, estaremos programando, en código, la tragedia de nuestras vidas.