Las noticias sobre modelos de inteligencia artificial capaces de presentar avances y soluciones completas o parciales a centenares de problemas matemáticos abiertos, me resultaron muy interesantes por lo que tienen de paradójico: si lo que pretendemos es resolver problemas y hacer avanzar la ciencia, ¿qué importancia tiene que eso lo haga un matemático retorciendo su materia gris hasta que le salgan volutas de humo por las orejas, o que lo haga utilizando un modelo de inteligencia artificial? ¿No deberíamos poner la importancia en donde corresponde, en la resolución del problema, en lugar de en el ego del investigador? ¿O es que hay otros factores implicados que llevan la cuestión más allá?
Al respecto, me encontré tres artículos interesantes en The Economist que hablan del tema: «AI’s transformation of mathematics is a turning point for science«, «AI companies want to become frontier scientific researchers« y «What if the machines take over science?», que me pareció que podían marcar puntos de reflexión interesantes: los tres artículos describen piezas distintas del mismo cambio: la inteligencia artificial resuelve problemas matemáticos, las empresas tecnológicas aspiran a investigar en la frontera y las máquinas podrían ahora recorrer el proceso científico entero, casi «eliminando» la necesidad de investigadores, una perspectiva de sustitución que ya va más allá del trabajo de cuello azul o cuello blanco, y entra en en la propia definición de trabajo intelectual. The Economist plantea la tensión central: avanzar en el conocimiento sin entregar a sistemas opacos la capacidad de decidir por sí solos qué investigar y con qué fines.
Lo que me parece realmente relevante es tratar de distinguir capacidad real de autonomía ya demostrada. Efectivamente, tenemos ya sistemas capaces de generar hipótesis, hacer análisis de la literatura, proponer experimentos, analizar resultados y redactar artículos. The AI Scientist, estudiado en Nature, ha sido capaz de generar un paper que superó la primera ronda de revisión de un taller de inteligencia artificial. Es un avance sustancial, pero también muy acotado: no demuestra que tengamos ya un investigador autónomo, fiable y general (ni tampoco que queramos tenerlo).
Lo que sí parece claro es que una capacidad así supone ya un problema para el sistema que conocemos, y la señal de alarma más inmediata es de tipo institucional: En Organization Science, el número de papers recibidos creció un 42% después de la aparición de ChatGPT. Los editores, con toda la razón, relacionan gran parte de ese aumento con el uso de herramientas de inteligencia artificial, y observan una caída de la calidad de los textos. El estudio se limita a una revista, pero ilustra lo que puede pasar cuando abaratas la producción de manuscritos y eso se cruza con los incentivos de un sistema absurdo, un publish or perish llevado a los límites más absurdos de la Ley de Goodhart que premia el publicar mucho.
Es evidente que publicar más artículos no es un criterio que demuestre, por sí solo, más ciencia. El incremento de envíos no demuestra, por sí solo, que la inteligencia artificial sea ya una buena investigadora: muestra, sobre todo, que producir y enviar manuscritos se ha vuelto más fácil. La pregunta clave es si realmente hay una pregunta relevante, un diseño riguroso, unos resultados fiables y reproducibles, y una contribución real, o simplemente una excusa para apuntarse otro paper más en el curriculum sea como sea. Si las carreras siguen dependiendo del recuento, la inteligencia artificial es simplemente una forma más de inflar esa señal.
El conflicto de los matemáticos tiene una parte que puede ser una preocupación epistemológica y otra más puramente gremial. No podemos descartar la inquietud de los matemáticos como una simple defensa gremial: el trabajo sobre problemas difíciles genera métodos, intuiciones y conexiones que pueden llegar a ser más valiosos que una simple solución aislada. Pero las jerarquías construidas alrededor de quién publica primero o resuelve más problemas tampoco terminan siendo intocables: la respuesta debería distinguir el valor de los resultados del supuesto sistema de prestigio que se ha montado alrededor de ellos.
Sería una mala idea confundir la verificación mecánica con la comprensión científica: una prueba formal de una conjetura matemática, por ejemplo, puede ser correcta y, aun así, ser poco clara o totalmente estéril para el avance colectivo. En otras disciplinas, el reto puede ser incluso mayor: podríamos terminar, por pura comodidad o por una confianza que termine siendo ciega aceptando resultados que nadie sabe explicar, reproducir o conectar con hipótesis nuevas. La ciencia necesita resultados, pero también métodos y explicaciones que permitan a otros investigadores pensar y construir a partir de ellos.
Además, hay que añadir el coste de la concentración y la homogeneización: el estudio de 41,3 millones de artículos citado por The Economist sugiere que quienes usan inteligencia artificial publican más y reciben más citas, pero disminuyen tanto la diversidad temática como la atención a los trabajos de otros. No leo lo que publican otros, la inteligencia artificial lo hace por mí y lo convierte en citas, en un puro name-dropping, cómodamente. Si los sistemas favorecen áreas con abundantes datos y resultados rápidos, la ciencia puede acelerar, pero al mismo tiempo, ir estrechando su campo de visión.
Fuente: Enrique Dans
