Los datos no te hacen pensar. Tampoco a la IA.

* Por Fabio Tarasow

En nuestro uso cotidiano de chats y aplicaciones de IA generativa, es fácil quedarse con la impresión de que estas tecnologías realmente piensan y razonan. Sin embargo, la realidad es muy diferente: estos sistemas solo generan respuestas mediante aproximaciones estadísticas basadas en patrones identificados en enormes cantidades de datos. En este sentido, los humanos somos presa fácil. Nos dejamos engañar por su aparente sofisticación y respuestas verosímiles. Pero en verdad, la IA actual, por más datos que maneje, carece de comprensión genuina, razonamiento causal y sentido común humano.

Precisamente esta ilusión de inteligencia que experimentamos a diario ha llevado a expertos como Pramodh Mallipatna a formular preguntas incómodas desde el corazón mismo de la industria tecnológica. Mallipatna, es un desarrollador de IA, se pregunta si realmente es posible que la inteligencia artificial alcance el razonamiento humano siguiendo los paradigmas actuales de desarrollo. ¿Alcanza con alimentar durante el entrenamiento a estos sistemas con cantidades aún mayores de datos? ¿O debemos replantear fundamentalmente qué y cómo les enseñamos para lograr que lleguen a pensar y razonar como humanos?

Esta limitación de la inteligencia artificial nos remite a un dilema bien conocido por quienes trabajamos en educación: no es lo mismo manejar mucha información que comprender de verdad. Así como estos sistemas de IA generan respuestas convincentes sin entender lo que dicen, en la escuela también podemos encontrar (aún) que los docentes proponen que los estudiantes repitan datos sin haber logrado construir un conocimiento significativo. Melina Furman retoma el concepto de “conocimiento inerte” para señalar a esta información que es almacenada por los estudiantes, pero que no se activa, no se conecta con la experiencia ni se usa para pensar.

De lo inerte a lo significativo. Una IA que razone como humano.

Mallipatna, sostiene que para que la IA pueda pensar como un humano, es decir razonar, tener sentido común y transferir el conocimiento tiene que lograr replicar los procesos a través de los cuales aprendemos. En ese sentido rescata algunas características del aprendizaje humano:

Es interactivo: No solo consumimos datos, sino que interactuamos activamente con nuestro entorno, desde un bebé que explora poniéndose en la boca.

Es experimental: Tenemos la capacidad de probar hipótesis y aprender de los resultados, incluso de los errores.

Podemos razonar: Esto incluye el razonamiento contrafáctico (imaginar escenarios hipotéticos y sus consecuencias) y la capacidad de entender causas y efectos.

Somos curiosos: Tenemos un impulso intrínseco para explorar y descubrir nuevas cosas.

Podemos aprender con datos escasos: A diferencia de los LLM que necesitan volúmenes inmensos, los humanos pueden aprender mucho de poca información.

Tenemos experiencia e intuición: La capacidad de acumular conocimiento a través de interacciones en el mundo real y desarrollar una "sensación" sobre cómo funcionan las cosas.

Tenemos mecanismos de autorreflexión: La capacidad de reconocer y evaluar nuestro propio conocimiento y planificar cómo aprender más.

Curiosamente, gran parte de estas características del conocimiento humano que pone de relieve Mallipatna, son los procesos que Melina señala como necesarios para llegar al conocimiento significativo. Para Melina, el rol de la educación no debe quedarse en el conocimiento inerte sino llegar al conocimiento significativo que no está limitado a memorizar datos o repetir definiciones, sino que es el tipo de conocimiento que permite comprender, se conecta con otras ideas y se puede aplicar en distintos contextos. Es decir, el conocimiento significativo se activa, se transforma y se usa para pensar, decidir, crear o resolver problemas. Melina fue incansable señalando que para generar conocimiento significativo las aulas deberían ser un espacio donde:

• Exista conexión del contenido con experiencias reales y problemáticas reales
• Se trabaje a partir de preguntas valiosas: ¿Por qué esto? ¿Qué otro camino tendría? ¿Qué estoy pensando al resolverlo?
• Se ejercite el superpoder de la metacognición documentando el propio proceso de aprendizaje.

Melina rescata, sin proponérselo, la misma necesidad que subrayan los desarrolladores de IA: unir datos, lógica y metareflexión para construir conocimiento valioso capaz de transferirse. Y usando una frase que usaba mucho Meli: la buena noticia es que por el momento resulta más fácil y valioso generar en las aulas estos procesos para formar estudiantes con la capacidad de comprender, no solo de procesar; de crear, no solo de reproducir y de conectar, no solo de almacenar.

Si te interesa capacitarte en temas de inteligencia artificial, te invitamos a conocer las propuestas del PENT FLACSO. 

Conocé la Certificación en IA para innovar en el aula que dura 14 semanas y explorá nuestros cursos más cortos: 

• Laboratorio de IA y educación

• Bootcamp de creación de recursos educativos digitales con IA

• Laboratorio de IA y evaluación educativa