Los medallistas Fields le ponen un freno a la IA: "no todo lo que se demuestra se entiende"

Lo resumo en una línea, como me lo contó una becaria del departamento de álgebra mientras tomábamos un cortado: a la matemática no le importa solo demostrar algo, le importa cómo se demuestra, quién lo lee y a quién se lo transmite después. Y eso, justamente, es lo que veinticinco ganadores de la medalla Fields dicen que está en peligro por la inteligencia artificial.

Los firmantes, entre los que figuran nombres pesados como Terence Tao y Timothy Gowers, publicaron una carta abierta dirigida a empresas como OpenAI y Google DeepMind. Lo que piden es simple de decir y complicado de resolver: que el ritmo desatado de la competencia por resolver problemas célebres no se coma los valores centrales de la disciplina.

El problema no es la máquina, es el apuro

Los modelos de lenguaje mejoraron mucho su capacidad para abordar problemas abiertos, reconoce la carta. La cuestión es que la lógica de un laboratorio de IA no es la misma que la de un matemático. Para el laboratorio, cada teorema famoso resuelto es una marca en el CV del producto. Para la disciplina, el teorema recién empieza a vivir cuando se lo discute, se lo simplifica y se lo enseña.

“Una demostración que no se puede contar en un seminario de doctorado es una demostración a medias.”Carta abierta de los medallas Fields

• Atribución incorrecta: sistemas que citan trabajos previos de forma inexacta o directamente los omiten.
• Plagio algorítmico: producción masiva de afirmaciones sin dar crédito al conocimiento previo.
• Pérdida de la cadena de transmisión: sin humanos que traduzcan las ideas nuevas al lenguaje de la comunidad, el saber se acumula pero no se enseña.
• Ruptura del debate entre pares: el anuncio público muchas veces se hace antes de la revisión por otros matemáticos.

El becario lo entiende mejor que nadie

La becaria que me acercó el tema lo dijo con una claridad que vale más que cualquier cita académica: si yo entro a un curso de posgrado y nadie me puede explicar de dónde salió un resultado porque se lo sacó un modelo entrenado sobre miles de papers, yo pierdo la posibilidad de aprender el oficio. Y sin oficio nuevo, en veinte años no hay quien empuje la rueda.

La carta describe a la producción masiva y acelerada como una amenaza al terreno fértil donde nacen las ideas nuevas. Resolver problemas como fin en sí mismo, en lugar de tratarlos como herramientas al servicio de la comprensión, puede volver a la matemática un obstáculo para sí misma.

¿Y eso para qué sirve?

Sirve para entender que el debate no es técnico, es cultural. La IA puede demostrar teoremas cada vez más rápido, pero una disciplina vive de algo más lento y más costoso: de personas que se pasan el conocimiento de mano en mano. Si ese cordón se corta, lo que queda es un archivo enorme de resultados que nadie sabe enseñar y, por lo tanto, nadie puede usar para pensar el próximo problema.