El anuncio de OpenAI de que un grupo de sus agentes de inteligencia artificial había resuelto el problema de Navier-Stokes puso en primer plano los avances de estas herramientas en matemática. Pocos días después, 27 medallistas Fields difundieron una carta sobre los riesgos de que las empresas utilicen la resolución de problemas matemáticos como una forma de mostrar los avances de sus modelos.
Rafael Potrie, doctor en Matemática e investigador y docente de la Facultad de Ciencias de la Universidad de la República, firmó la carta. En diálogo con Emiliano Cotelo en En Perspectiva, dijo que el debate no consiste en rechazar la inteligencia artificial, sino en entender cómo incorporarla sin afectar el trabajo científico ni dejar el control del conocimiento en pocas manos.
“Los modelos de lenguaje están volviéndose cada vez más poderosos para abordar problemas centrales del área”, señaló. El anuncio sobre Navier-Stokes, explicó, es un hito no solo por la respuesta que ofrece, sino porque este tipo de problemas se elige por su potencial para ampliar la comprensión de la matemática. “No por tener una respuesta en sí a la pregunta, sino porque los problemas son seleccionados como problemas que entendemos van a aumentar nuestro entendimiento de la disciplina”, dijo.
La demostración y el tiempo de verificación
Potrie explicó que, en matemática, una demostración debe ser estudiada y comprendida por la comunidad antes de que el resultado se considere aceptado. Recordó que el Instituto Clay, que estableció los problemas del milenio, dispone un plazo mínimo de un año para aceptar una prueba.
En el caso de Navier-Stokes, la demostración se formalizó para que un compilador pudiera verificarla. Potrie indicó que el trabajo presentado tiene 160 páginas y que la prueba formal suma unas 250.000 líneas de código, equivalentes a cerca de 5.000 páginas. Esa verificación, dijo, permite revisar el resultado de forma “independiente y reproducible”, aunque no sustituye la discusión y el análisis de los especialistas.
También señaló que hubo avances paralelos de matemáticos que trabajaron con apoyo de ChatGPT. Según explicó, OpenAI dijo que no podía descartar que las interacciones de esos investigadores con el modelo hubieran influido en el entrenamiento de sus sistemas.
El investigador estimó que el cálculo utilizado para el anuncio de OpenAI duró 88 horas, involucró a 10.000 agentes y procesó 130.000 millones de tokens. Según dijo, el proceso tuvo un costo de unos 20 millones de dólares para la compañía. La escala de esos recursos abre otra pregunta, agregó: quiénes podrán acceder a herramientas de ese nivel.
La matemática no es solo resolver problemas
La carta plantea que resolver problemas es un medio, no el objetivo último de la matemática: el propósito es comprender estructuras e ideas. Para ilustrarlo, Potrie comparó la investigación con explorar un territorio y avanzar hacia la cima de una montaña. “Lo que vamos encontrando en ese camino es más importante que el pico en sí”, dijo.
La inteligencia artificial puede ser una nueva herramienta para explorar, pero la comunidad tendrá que aprender qué preguntas se vuelven accesibles y cuáles siguen planteando desafíos. En ese proceso, advirtió, no conviene eliminar demasiado rápido las etapas de aprendizaje. “Hay ciertos entendimientos que no tienen atajos, al menos para el entendimiento humano”, sostuvo.
Puso como ejemplo el uso de calculadoras en la enseñanza: el objetivo no es memorizar el resultado de una operación, sino aprender las estructuras que permiten entender fenómenos. Algunas tareas pueden delegarse en la tecnología, pero el cambio debe hacerse con cuidado, para no perder conocimientos que luego resulten necesarios.
La presión por mostrar resultados
Potrie explicó que las empresas de inteligencia artificial compiten por conseguir fondos para entrenar nuevos modelos y, por eso, necesitan exhibir avances. “Están en una carrera brutal por conseguir fondos para entrenar nuevos modelos y entonces necesitan mostrar resultados”, afirmó.
A su juicio, esa presión puede afectar la selección de problemas importantes para la investigación. La matemática dedica mucho tiempo a identificar preguntas que permitan superar los límites actuales del conocimiento. Si esos problemas se utilizan rápidamente como pruebas de rendimiento o publicidad, se corre el riesgo de una “minería no sustentable” de desafíos matemáticos sin suficiente tiempo para comprender qué aportan sus soluciones.
La carta también menciona problemas de atribución y plagio, debido a la rapidez con que se anuncian resultados y a la dificultad de reconocer las ideas previas en las que se apoyan. Potrie consideró que la irrupción de estas herramientas obligará a revisar prácticas existentes, como la evaluación académica basada en el número de publicaciones. Dijo que ese sistema ya tenía problemas y que el avance de la IA puede acelerar una discusión necesaria.
Concentración del poder y regulación
Para Potrie, uno de los principales riesgos está en la concentración de recursos y conocimiento. “Si pocas empresas controlan todo el conocimiento, también van a poder controlar hacia dónde se dirige la humanidad”, advirtió. En su opinión, la centralización puede limitar la diversidad de ideas y hacer más difícil que las personas verifiquen lo que producen los sistemas.
El matemático sostuvo que la comunidad científica debe participar en las decisiones sobre el rumbo de estas tecnologías. En la entrevista mencionó la creación de un grupo asesor sobre matemática e inteligencia artificial, con sede en el Instituto de Estudios Avanzados de Princeton, que funcionará como espacio de intercambio entre matemáticos y empresas.
La carta había reunido cerca de 8.000 firmas de investigadores al momento de la entrevista, indicó Potrie. Para él, la intención no es generar pánico ni rechazar la tecnología, sino influir en cómo se desarrolla. “Tenemos que prestarle atención, tenemos que trabajar con ella, pero también tenemos que tener cuidado”, concluyó. “Esto es una ola”; el desafío, dijo, es participar activamente para que la adaptación sea lo mejor posible.
