Que significa que una IA comprenda

Cuando un modelo de lenguaje responde con precision a una pregunta compleja, esta comprendiendo o simplemente reconociendo patrones a una escala sin precedentes? Esta pregunta no es solo filosofica: define como disenamos sistemas, como los evaluamos y que tipo de confianza depositamos en ellos.

La comprension, en la tradicion cognitiva clasica, implica mas que la capacidad de producir respuestas correctas. Implica tener un modelo interno del mundo que pueda generalizarse a situaciones radicalmente nuevas, que pueda romperse de maneras predecibles y que pueda ser interrogado sobre sus supuestos. Los modelos actuales fallan en algunos de estos criterios de formas reveladoras: un sistema puede traducir poesia con sensibilidad y, acto seguido, afirmar que 17 es par.

Lo que llamamos comprension en la IA es, en realidad, un continuo. En un extremo, la busqueda de palabras clave sin ninguna estructura semantica. En el otro, algo que se asemeja perturbadoramente a lo que hacemos los humanos cuando procesamos lenguaje natural. La pregunta no es binaria.

Quizas el error mas productivo que podemos cometer es el de proyectar comprension donde no la hay, porque nos obliga a precisar que queremos decir exactamente cuando usamos esa palabra. Y en esa precision, aprendemos tanto sobre las maquinas como sobre nosotros mismos.