Aprender del error: cerebro e IA, diferencias y similitudes

Un niño que aprende a caminar se cae, y es recién en la caída que existe el error: no hay nada que llamar error antes de que ocurra. No es un estado que se acumula gradualmente hasta desbordar, es el accidente mismo, el instante en que lo que el cerebelo anticipaba sobre la postura del cuerpo choca con lo que efectivamente pasó. Antes de eso no hay error, hay apenas un sistema funcionando con cierto ajuste, un ajuste del que no se sabe si alcanza hasta que se pone a prueba. Es la caída la que revela, después del hecho y no antes, que ese ajuste estaba desconfigurado para esa situación puntual, y es esa misma evidencia la que el cerebelo usa para corregir la próxima orden motora. Eso es lo que ocurre, técnicamente, cuando decimos que "ajusta el equilibrio y vuelve a intentar". Una red neuronal artificial que aprende a reconocer imágenes hace algo estructuralmente parecido: predice mal, mide su error, ajusta sus parámetros internos y vuelve a intentar. En ambos casos, el error no es un fracaso del sistema, es el mecanismo mismo por el cual el sistema mejora. Esa similitud, sin embargo, se vuelve mucho más interesante cuando se mira de cerca cómo cada sistema procesa ese error, porque ahí las diferencias son profundas.

En la inteligencia artificial, el algoritmo central del deep learning (aprendizaje profundo) se llama retropropagación, o backpropagation, y fue formalizado por David Rumelhart, Geoffrey Hinton y Ronald Williams en 1986. Funciona en cuatro pasos. Primero, la red predice una salida a partir de una entrada. Después se mide el error, es decir, qué tan lejos estuvo esa predicción del resultado correcto. Ese error se propaga hacia atrás, capa por capa, calculando cuánta responsabilidad tuvo cada conexión interna en el resultado final. Y por último, cada conexión se ajusta levemente en la dirección que reduce el error futuro. Repetido millones de veces sobre datos masivos, este ciclo es la base de todo modelo de inteligencia artificial actual, desde clasificadores de imágenes hasta modelos de lenguaje.

El cerebro no tiene backpropagation, al menos no en el sentido de una señal de error global que viaje con precisión matemática y encadenada por todas las capas de una red neuronal biológica. Pero tampoco aprende por simple plasticidad hebbiana, es decir, por la sola coincidencia de actividad entre neuronas vecinas sin ninguna señal de error de por medio. En estructuras como el cerebelo hay algo más parecido a lo que ocurre en una red artificial: una vía específica, las fibras trepadoras, transporta una señal de error puntual, y esa señal debilita selectivamente la conexión responsable de ese error, dejando intactas las demás. La diferencia real con backpropagation no es la ausencia de señal de error, es que esa asignación de responsabilidad no se encadena con precisión matemática a través de muchas capas sucesivas. En otras estructuras del cerebro, además, señales químicas como la dopamina funcionan como un error de predicción de recompensa, algo más difuso, pero notablemente eficiente.

Y ahí es donde las diferencias empiezan a pesar. La red neuronal artificial necesita ver miles, a veces millones de ejemplos antes de aprender a distinguir un gato de un perro, mientras que a un niño, muchas veces, le alcanza con uno solo. Un modelo grande puede tardar semanas de cómputo intensivo y consumir la energía de un pueblo pequeño para entrenarse, mientras que el cerebro entero funciona con unos 20 watts, lo mismo que una lamparita.

Y sin embargo, ese mismo cerebro generaliza con una soltura que ningún modelo iguala todavía,

reconoce una silla que nunca vio, en una posición que nunca vio, bajo una luz que nunca vio. La inteligencia artificial, en cambio, tropieza fácilmente apenas el mundo se aleja un poco de lo que ya conoció durante el entrenamiento.

Acá está lo más interesante, y no es una intuición, es un hallazgo real en la investigación de machine learning de la última década. Desde 1885, el psicólogo Hermann Ebbinghaus documentó la curva del olvido humana y descubrió que espaciar los repasos en el tiempo mejora la retención mucho más que repasar todo de forma concentrada. Esa idea, hoy conocida como repetición espaciada, es una de las técnicas de estudio con más evidencia científica.

Más de 130 años después, investigadores de machine learning llegaron, de forma independiente, a la misma conclusión, pero para entrenar redes neuronales artificiales. Un estudio de 2017, de Amiri, Miller y Savova, demostró que aplicar repetición espaciada durante el entrenamiento, mostrando los ejemplos más difíciles con más frecuencia que los fáciles, mejora significativamente el desempeño de modelos de procesamiento de lenguaje. En 2024, otro grupo de investigadores propuso una metodología llamada Learn, Focus, Review para acelerar el entrenamiento de modelos de lenguaje grandes, basada explícitamente en repetición espaciada, y la justificaron con la misma evidencia que respalda su uso en el estudio humano. Algo parecido ocurrió con el curriculum learning: Yoshua Bengio y su equipo propusieron en 2009 que las redes neuronales artificiales aprenden mejor si se les muestran primero ejemplos fáciles y luego, gradualmente, ejemplos más difíciles, exactamente el principio detrás de cualquier buen plan de estudio o programa de entrenamiento físico progresivo.

No es que la inteligencia artificial esté copiando al cerebro de forma deliberada en cada detalle, los mecanismos internos siguen siendo radicalmente distintos, como vimos. Lo notable es otra cosa, cuando dos sistemas de aprendizaje muy diferentes se optimizan lo suficiente, tienden a converger en principios parecidos, mostrar la información en el momento justo, ni antes de que sea necesaria ni tan tarde que se olvide, y priorizar aquello que genera más error, y por lo tanto más aprendizaje, por unidad de tiempo invertido.

Cuando se intentó enseñar sin errores

Ahora bien, esta idea de que el error es necesario no siempre estuvo tan clara, y de hecho gran parte de la historia de la pedagogía fue exactamente en la dirección contraria. Durante buena parte del siglo veinte, especialmente bajo la influencia del conductismo, surgió una corriente conocida como aprendizaje sin errores, o errorless learning, que partía de una premisa distinta a todo lo que venimos describiendo: si el error se comete, queda de alguna forma grabado, y por lo tanto lo más eficiente sería impedir que el alumno se equivoque en primer lugar. La técnica consistía en descomponer cada tarea en pasos muy pequeños, dar la respuesta correcta antes de que el alumno tuviera oportunidad de fallar, y retirar esa ayuda de forma gradual. Se aplicó con éxito real en poblaciones muy específicas, como personas con daño cerebral, demencia o amnesia severa, donde la memoria explícita que normalmente permite corregir un error está dañada, y por lo tanto cualquier equivocación cometida durante el aprendizaje corre el riesgo de consolidarse tan fuerte como la respuesta correcta.

El problema apareció cuando esa misma lógica, pensada para un contexto clínico particular, se extendió como filosofía general de enseñanza para poblaciones sin ese tipo de daño. Ahí es donde se nota la tensión con todo lo que veníamos analizando. Evitar el error a toda costa puede producir aprendizajes más rápidos en el corto plazo, pero también más frágiles, porque el alumno nunca desarrolla la capacidad de detectar por sí mismo cuándo algo está mal, ni de corregirlo cuando ya no hay nadie al lado dándole la respuesta correcta de antemano. Es el mismo problema, salvando las distancias, que tendría entrenar una red neuronal artificial mostrándole solo ejemplos ya resueltos sin nunca dejarla equivocarse y medir ese error: aprendería a repetir, pero no necesariamente a generalizar.

El error como combustible, pero con un límite

Y esto lleva al punto que más vale la pena desarrollar, porque cambia el lugar que le damos al error dentro de todo lo anterior. No se trata solo de que el error sea tolerable, o de que sea inevitable y haya que aprender a convivir con él. La evidencia, tanto en neurociencia como en el entrenamiento de sistemas artificiales, apunta a algo más fuerte: el error no es un efecto secundario incómodo del proceso de aprendizaje, es una parte necesaria de su funcionamiento. Pero, como se va a ver, solo dentro de ciertos límites.

En el cerebro esto tiene un correlato biológico muy concreto, aunque conviene precisarlo bien porque suele entenderse al revés. Las neuronas dopaminérgicas del mesencéfalo no funcionan según la lógica de si acertaste recibís dopamina y si fallaste no.

Funcionan según la sorpresa respecto a lo que el cerebro había predicho.

Si predecís correctamente que vas a recibir algo, y lo recibís tal como esperabas, la señal de dopamina prácticamente no se mueve de su nivel basal, porque no hubo nada nuevo que aprender ahí. Si recibís algo mejor de lo que esperabas, ahí sí hay un pico de dopamina, eso es un error de predicción positivo. Y si esperabas algo y no llegó, la actividad cae por debajo de ese nivel basal, un error de predicción negativo. El acierto perfectamente anticipado, entonces, es casi neutro para el sistema, no genera señal de aprendizaje porque ya no hay nada que ajustar. Lo que mueve la aguja, en cualquiera de las dos direcciones, es la distancia entre lo esperado y lo ocurrido.

En una red neuronal artificial pasa algo distinto en el mecanismo pero equivalente en la lógica de fondo. Si un modelo predice sin ningún error sobre todos los datos de entrenamiento, el gradiente que se propaga hacia atrás es prácticamente nulo, y los pesos dejan de moverse. Un modelo con error cero en sus datos de entrenamiento no es un modelo perfecto, casi siempre es un modelo que memorizó en lugar de aprender, y que va a fallar apenas se lo exponga a algo levemente distinto. El sobreajuste, ese problema tan conocido en machine learning, es justamente lo que pasa cuando se elimina el error demasiado bien.

Ahora bien, esto no quiere decir que más error sea siempre mejor, y conviene ser preciso acá porque es fácil pasarse de la raya en la idea contraria.

Un estudio de 2019, de Wilson, Shenhav, Straccia y Cohen, publicado en Nature Communications, calculó matemáticamente cuál es la tasa de error óptima para aprender, tanto en redes neuronales artificiales como en modelos de aprendizaje animal, y el resultado fue consistente en ambos casos: alrededor de un 15 por ciento de error, es decir, un 85 por ciento de aciertos. Por debajo de ese nivel de dificultad, el sistema aprende poco porque casi no hay error del que sacar información. Por encima, con demasiado error, tampoco aprende bien: en una red neuronal artificial el gradiente se vuelve ruidoso e inestable, y en una persona el fracaso constante suele traducirse en desmotivación, ansiedad, o directamente abandono de la tarea. El error, entonces, no es bueno en cualquier magnitud ni en cualquier proporción, es útil dentro de una ventana relativamente angosta, ni tan fácil que no enseñe nada, ni tan difícil que rompa el proceso.

Visto así, la pregunta de si esto siempre fue así o es un hallazgo reciente tiene una respuesta con dos capas. Por un lado, es un hecho biológico que probablemente lleva millones de años funcionando exactamente igual en el cerebro de cualquier animal con sistema de recompensa, mucho antes de que alguien lo describiera. Por otro lado, como concepto explícito, medido y nombrado, es relativamente reciente: recién en las últimas décadas la neurociencia logró aislar el mecanismo de la dopamina como señal de error de predicción, y recién en la última década el campo del machine learning empezó a calcular, con precisión matemática, cuánto error es en realidad el óptimo, en lugar de asumir que menos siempre es mejor.

No hay, en rigor, aprendizaje sin error, aunque el error nunca es algo que se elige ni se coloca a voluntad.

Nadie decide equivocarse en un momento puntual, salvo que arme un experimento pensado específicamente para provocar ese accidente, y en ese caso ya no sería error en el sentido que venimos describiendo, sería un resultado buscado. Para quien lo padece, el error llega como una sorpresa: la constatación de que lo esperado no se cumplió. Lo único que se puede diseñar de antemano, y es lo que muestran tanto el errorless learning como la regla del 85%, son las condiciones que hacen más o menos probable que ese accidente ocurra, la dificultad de la tarea, cuánta ayuda se retira, cuán expuesto queda el alumno a fallar. Pero eso regula una frecuencia en el conjunto, nunca decide cuál error va a pasar ni cuándo. La instancia puntual sigue siendo, y tiene que seguir siendo, algo que se descubre recién cuando ya ocurrió. Por eso ni el conductismo más extremo logró eliminarlo del todo: en el mejor de los casos, corrió el accidente hacia atrás, al momento en que alguien probó el método por primera vez y descubrió, sin buscarlo, dónde fallaba.

Hay un tercer mecanismo cerebral de detección del error, además del cerebelo, que corrige errores de movimiento, y la dopamina, que corrige errores en la predicción de una recompensa, que conviene nombrar porque es el más cercano al error del que habla lo que sigue: el error de una decisión o un juicio, cuando alguien comete ese tipo de error, la corteza cingulada anterior genera una señal eléctrica medible, la negatividad relacionada con el error, entre 50 y 100 milisegundos después de la respuesta equivocada, y le avisa a la corteza prefrontal que hace falta más atención o más control. Es, en términos literales, el correlato neurológico de darse cuenta de que algo salió mal.

Con el error que sí tiene consecuencias, el que golpea nuestra vida y no la de un modelo, no podemos elegir si va a llegar. Pero podemos elegir casi todo lo demás. Se entrena la atención, que es la base de cualquier método de prevención. Se les puede robar a los pilotos su costumbre más simple y más eficaz, la checklist, para cualquier tarea que dependa de muchos pasos y no perdone saltearse uno. Y sobre todo, se puede decidir dónde exponernos: ordenar la vida de manera que, cuando el accidente llegue, porque va a llegar, encuentre las apuestas baratas y no las caras. Preferir que el error caiga sobre lo que se puede pagar, no sobre lo que no tiene vuelta atrás. Eso no evita el accidente, pero asegura que, cuando llegue, cumpla con lo que el error siempre estuvo destinado a hacer: dejarnos un poco menos ciegos la próxima vez. Elegir el terreno donde nos puede encontrar desprevenidos es, quizás, la forma más honesta que tenemos de intentar gobernar algo que, por su naturaleza, nunca vamos a controlar del todo.