La advertencia de Terence Tao sobre IA matemática desafía la carrera de los benchmarks
Terence Tao se unió a otros 24 medallistas Fields para advertir que las empresas de IA están convirtiendo las matemáticas no resueltas en una carrera de benchmarks, pese a los impresionantes resultados recientes. La advertencia de Terence Tao sobre IA matemática apunta a una brecha creciente entre producir demostraciones correctas y avanzar en la comprensión matemática.
El grupo publicó su declaración el 11 de septiembre de 2026, tras conversaciones entre los firmantes iniciales durante la semana anterior. El momento fue deliberado. OpenAI había anunciado recientemente varios avances matemáticos, incluida una supuesta solución al problema del Premio del Milenio de Navier-Stokes.
La declaración no rechaza la investigación asistida por IA. Sostiene que resolver problemas célebres puede volverse perjudicial cuando las empresas optimizan el resultado para obtener publicidad, evaluar modelos o mejorar su posicionamiento competitivo. Por tanto, el conflicto no enfrenta a la IA con los matemáticos. Enfrenta la producción de demostraciones guiada por benchmarks con el proceso más lento que transforma las demostraciones en conocimiento compartido.
Esta distinción importa más allá de las matemáticas puras. Investigadores, desarrolladores y equipos empresariales juzgan cada vez más los sistemas de IA mediante resultados fáciles de puntuar. Sin embargo, un resultado medible puede ocultar una atribución deficiente, métodos opacos, un uso enorme de recursos o trabajo que ningún experto responsable puede explicar.
Lo que realmente dijeron los 25 medallistas Fields
La declaración cuestiona cómo las empresas de IA definen el progreso matemático, no si las máquinas deben participar en la investigación.
El texto, titulado “A Severe Misalignment of AI in Mathematics”, comienza reconociendo una marcada mejora en los modelos de lenguaje de gran tamaño. Sus autores afirman que estos sistemas ya pueden resolver importantes problemas pendientes en varios campos de las matemáticas.
Ese reconocimiento hace que la crítica sea más difícil de descartar como resistencia a la nueva tecnología. Muchos firmantes han trabajado con herramientas computacionales, asistentes de demostración o sistemas de IA. Tao ha descrito repetidamente formas en que los matemáticos pueden beneficiarse de la asistencia de las máquinas.
La objeción se refiere al objetivo que se presenta ante esos sistemas. Las empresas de IA utilizan problemas matemáticos reconocibles para demostrar la capacidad de los modelos. Una conjetura resuelta genera un anuncio claro, una comparación competitiva y un logro memorable.
La declaración de los medallistas Fields sostiene que este enfoque confunde un indicador indirecto con el propósito real de la investigación. Resolver problemas ha indicado tradicionalmente que alguien desarrolló conceptos, métodos o ideas útiles. Nunca fue el propósito completo de las matemáticas.
Los firmantes describen la investigación como una larga cadena de actividad humana. Un resultado debe redactarse con cuidado, comprobarse, discutirse, simplificarse, conectarse con trabajos anteriores y, finalmente, enseñarse. Cada etapa puede revelar más valor que la respuesta original.
Un teorema difícil puede crear todo un programa de investigación porque la demostración introduce una técnica reutilizable. Otros investigadores ponen a prueba sus límites y la adaptan a preguntas diferentes. Los estudiantes aprenden el método y con el tiempo lo amplían.
Una respuesta aislada no garantiza ninguno de esos avances. Incluso una demostración verificada formalmente puede permanecer aislada si los especialistas no pueden entender sus ideas centrales ni ubicarla dentro de la teoría existente.
La declaración advierte que los anuncios apresurados suelen dejar demasiado poco tiempo para una exposición y una atribución adecuadas. Esas omisiones generan incertidumbre sobre qué ideas eran realmente nuevas y cuáles procedían de trabajos humanos anteriores.
La crítica también se refiere a los incentivos profesionales. Las comunidades matemáticas recompensan la prioridad, la publicación y la resolución visible de problemas. Las empresas de IA pueden intensificar esas presiones al producir resultados más rápido de lo que revistas, revisores e investigadores pueden asimilarlos.
Los 25 firmantes iniciales incluyen a Artur Avila, Manjul Bhargava, Martin Hairer, June Huh, Peter Scholze, Maryna Viazovska y Tao. Sus medallas Fields abarcan años de concesión desde 1978 hasta 2026.
Esa amplitud otorga a la declaración un peso institucional inusual. Representa a investigadores de distintas generaciones y especialidades matemáticas, no a un único laboratorio o asociación profesional.
El texto concluye con una valoración condicional. La IA puede potenciar el estudio y la comprensión genuinos, pero los humanos que controlen la tecnología determinarán si su efecto general es constructivo o destructivo.
Esa postura no es ni una prohibición ni una adopción incondicional. Exige que la comunidad matemática defina el éxito antes de que los benchmarks corporativos lo definan por ella.
Por qué los benchmarks matemáticos de IA se convirtieron en el foco de conflicto
Las matemáticas se convirtieron en un benchmark atractivo para la IA porque las respuestas correctas parecen objetivas, mientras que las condiciones ocultas detrás de esas respuestas siguen siendo difíciles de comparar.
Las empresas de software necesitan evidencia visible de que un modelo es más capaz que otro. Las tareas matemáticas parecen ofrecer esa evidencia. Una solución propuesta puede comprobarse, y una demostración formal a veces puede verificarse mediante software.
Los asistentes de demostración son programas que comprueban si cada paso se deriva de reglas lógicas especificadas. Lean es un ejemplo destacado. Estos sistemas pueden establecer la corrección formal sin depender por completo de la reputación de un autor.
Esta característica hace que las matemáticas resulten atractivas para evaluar modelos de razonamiento. Parece sustituir los juicios subjetivos por un resultado binario. Un teorema queda establecido bajo los supuestos indicados o no.
Sin embargo, la puntuación binaria comprime variables importantes. Un resultado puede implicar intentos repetidos, prompting extenso, herramientas especializadas, orientación humana oculta o grandes presupuestos de computación. Los anuncios públicos no siempre revelan esas condiciones de manera coherente.
Tao abordó este problema antes de la nueva declaración. En su ensayo sobre matemáticas, señaló que los éxitos de IA comunicados a menudo omiten los fracasos, la estructura proporcionada por humanos, los costes computacionales y la posible exposición a literatura existente.
Estas omisiones hacen que las comparaciones entre modelos sean menos científicas. También animan al público a tratar un resultado llamativo como una medida general de inteligencia, incluso cuando el proceso subyacente sigue sin estar claro.
Las evaluaciones controladas cuentan una historia más útil. Tao citó el proyecto First Proof, que prueba sistemas con problemas de investigación inéditos proporcionados por matemáticos en activo. Las respuestas reciben revisión experta de corrección y exposición.
Su segundo lote contenía diez problemas y evaluó cuatro sistemas de IA accesibles públicamente. Al menos un sistema obtuvo una calificación aprobatoria en siete problemas, según el relato de Tao.
Ese resultado muestra que el razonamiento matemático de IA está adquiriendo importancia práctica. No demuestra que los modelos puedan reemplazar de manera independiente a las instituciones que rodean la investigación.
El problema de los benchmarks se vuelve más agudo cuando las empresas seleccionan preguntas abiertas célebres. Estos problemas ya poseen valor cultural y reconocimiento público. Resolver uno ofrece más publicidad que mejorar la exposición o revisar cientos de artículos ordinarios.
OpenAI ilustró este atractivo en agosto, cuando presentó diez avances matemáticos producidos por una versión interna de Astra. La empresa afirmó que el trabajo resolvía o avanzaba de forma sustancial cuestiones de larga data.
El anuncio invitaba a los matemáticos a estudiar los resultados y conectarlos con investigaciones más amplias. Sin embargo, el formato seguía pareciéndose al lanzamiento de capacidades de un modelo, con varios logros agrupados bajo un solo sistema.
Esta es la estructura de incentivos que subyace a la advertencia de Terence Tao sobre IA matemática. Una empresa puede medir rápidamente los resultados generados. No puede medir con la misma rapidez la comprensión de la comunidad, el desarrollo de los estudiantes o el valor teórico a largo plazo.
La ley de Goodhart describe el peligro. Cuando una medida se convierte en un objetivo, la optimización puede separar esa medida de la calidad que originalmente representaba.
Históricamente, resolver un problema difícil a menudo requería comprender su territorio matemático. Esa relación hacía de la resolución de problemas un indicador razonable de comprensión. Los sistemas de IA pueden debilitar la conexión al explorar posibilidades a una escala que los humanos no pueden igualar.
Por tanto, una demostración podría ser correcta sin ofrecer una explicación clara de por qué funciona su método. También podría reproducir un argumento pasado por alto en la literatura sin identificar la conexión.
El marcador registra otro problema resuelto. La comunidad investigadora hereda el trabajo más difícil de interpretación, verificación y atribución de crédito.
El conflicto real es entre la producción de demostraciones y la comprensión
La disyuntiva central no es el razonamiento humano frente al razonamiento de las máquinas; es una producción abundante de demostraciones frente a una atención experta escasa.
Tao ha descrito una posible transición de la escasez de demostraciones a su abundancia. Las matemáticas construyeron la mayoría de sus instituciones para la condición anterior, cuando producir una nueva demostración creíble era difícil y relativamente poco frecuente.
Las revistas, conferencias, premios y sistemas de contratación suponen que los nuevos resultados llegan con la suficiente lentitud como para que los especialistas puedan evaluarlos. La revisión por pares depende en gran medida de investigadores que realizan ese trabajo junto con sus empleos principales.
La IA cambia el lado de la producción sin ampliar automáticamente el lado de la revisión. Los modelos pueden generar argumentos candidatos de forma continua. El número de especialistas cualificados disponibles para inspeccionarlos no aumenta al mismo ritmo.
Este desajuste puede crear lo que Tao llama indigestión de demostraciones. Las demostraciones candidatas se acumulan más rápido de lo que los expertos pueden verificarlas. Las demostraciones verificadas pueden entonces acumularse más rápido de lo que los autores pueden explicarlas o las comunidades pueden asimilarlas.
La corrección sigue siendo esencial, pero es solo una etapa. Un resultado valioso también debe comunicar su mecanismo central. Los investigadores necesitan distinguir la idea difícil de los cálculos rutinarios y comprender qué partes se pueden generalizar.
Los artículos escritos por humanos suelen preservar rastros de ese proceso de descubrimiento. Un lema inusual o un cambio cuidadoso de notación pueden revelar dónde se produjo el verdadero obstáculo. Una demostración generada por una máquina y muy pulida puede borrar esas señales.
Por tanto, la exposición no es un empaquetado decorativo. Ayuda a transferir conocimiento tácito, es decir, la comprensión práctica que los expertos utilizan pero rara vez reducen a reglas formales.
La atribución plantea otro desafío. Un modelo puede combinar ideas de datos de entrenamiento, documentos recuperados, interacciones de usuarios o resultados de herramientas. La demostración resultante puede ser novedosa como secuencia, aunque siga basándose en contribuciones humanas identificables.
La declaración plantea específicamente preocupaciones sobre plagio y atribución de crédito porque los anuncios apresurados dejan poco tiempo para revisar la literatura. Ese problema se vuelve más grave cuando los desarrolladores de modelos no pueden reconstruir por completo cómo surgió un resultado.
El anuncio de OpenAI de septiembre llevó la cuestión a la vista pública. La empresa afirmó que un sistema más capaz que GPT-6 Astra produjo una solución al problema del Premio del Milenio de Navier-Stokes.
Las ecuaciones de Navier-Stokes describen el movimiento de los fluidos. La cuestión del Premio del Milenio pregunta si las soluciones tridimensionales suaves siempre permanecen regulares bajo condiciones especificadas.
En su explicación sobre Navier-Stokes, OpenAI afirmó que su sistema estableció una singularidad en tiempo finito para parte de la formulación oficial. También proporcionó una formalización en Lean.
OpenAI afirmó que el proyecto comenzó después de escuchar un rumor sobre un trabajo relacionado de los matemáticos Levent Alpöge y Tristan Buckmaster. La empresa declaró que su enfoque difería del de ellos y negó que los prompts privados de Codex de Buckmaster hubieran influido en el sistema.
Esas afirmaciones requieren un escrutinio matemático y procedimental independiente. La verificación formal puede respaldar la corrección de los pasos codificados, pero no puede resolver todas las cuestiones sobre la procedencia intelectual.
El episodio muestra por qué los benchmarks de matemáticas con IA generan presión institucional. Un laboratorio puede desplegar enormes recursos computacionales inmediatamente después de enterarse de que investigadores se acercan a un resultado importante.
Los matemáticos individuales no pueden competir en esas condiciones. También pueden depender de las mismas empresas para acceder a los modelos utilizados en su investigación.
Esto crea un problema de confianza además de un problema de recursos. Los investigadores necesitan tener la seguridad de que los borradores privados, prompts y experimentos no expondrán la dirección de su trabajo antes de su publicación.
Incluso cuando no se utilizaron datos privados, la percepción de un acceso desigual puede cambiar el comportamiento. Los investigadores podrían evitar herramientas comerciales, ocultar ideas tempranas o apresurar trabajos incompletos para establecer prioridad.
Esas respuestas debilitarían la colaboración que requieren las matemáticas. La carrera por los benchmarks podría entonces dañar el propio entorno de información que necesitarán los futuros sistemas de IA.
Los modelos de IA aprenden del conocimiento humano bien organizado. Si los investigadores dejan de producir explicaciones cuidadosas o de compartir ideas inacabadas, los datos de entrenamiento futuros se vuelven más escasos y menos fiables.
El conflicto es circular. La IA se beneficia del canon matemático, pero una carrera de producción sin controles puede socavar el proceso que mantiene ese canon.
La advertencia de Terence Tao sobre la IA en matemáticas no es anti-IA
La postura de Tao acepta que la IA avanzada realizará investigación significativa y luego pregunta qué valores humanos deberían gobernar esa capacidad.
Esta distinción separa la declaración de una exigencia de congelar la tecnología matemática. Tao ha utilizado herramientas de IA y ha revelado esa asistencia en sus propios escritos. También ha participado en la evaluación de soluciones generadas por máquinas.
Su argumento parte de aceptar una premisa sólida. Las herramientas de IA gestionarán una parte significativa de las tareas matemáticas de nivel investigador con una precisión útil, un coste aceptable y distintos niveles de supervisión humana.
Una vez aceptada esa premisa, debatir si la tecnología es real pierde importancia. La pregunta más difícil es qué quieren los matemáticos que sus instituciones optimicen.
Tao enumera varios objetivos. Las matemáticas resuelven problemas, desarrollan teorías, explican fenómenos naturales, sostienen una comunidad, forman sucesores y crean trabajo intelectual duradero.
Históricamente, estos objetivos se reforzaban entre sí. Un investigador que perseguía un teorema a menudo desarrollaba métodos, enseñaba a estudiantes y conectaba varias áreas en el proceso.
La IA puede separar esos resultados. Puede optimizar la generación de demostraciones sin formar a un estudiante. Puede producir un argumento correcto sin fortalecer una comunidad ni crear una explicación duradera.
Esa separación explica por qué la declaración utiliza la palabra «desalineación». Aquí, la alineación se refiere a si un objetivo optimizado respalda los objetivos más amplios que realmente importan a las personas.
La empresa de IA busca un resultado que demuestre la capacidad del sistema. El matemático necesita un resultado que sea comprensible, atribuible, reutilizable y enseñable.
Estos objetivos pueden coincidir. No coinciden automáticamente.
Un sistema de investigación con IA más constructivo apoyaría toda la cadena de conocimiento. Podría ayudar a localizar bibliografía relevante, revelar pasos inciertos, traducir argumentos informales a lenguaje formal y sugerir presentaciones más claras.
También podría ayudar a los investigadores a comparar estrategias de demostración e identificar técnicas reutilizables. Esta asistencia facilitaría la distribución de la comprensión matemática, en lugar de limitarse a aumentar la producción.
Ese modelo se parece a un colaborador de investigación o a una capa de verificación. Se diferencia de desplegar miles de agentes contra problemas famosos hasta que uno produzca un resultado listo para anunciarse.
La entrevista de Nature con Tao a principios de 2026 recogió este equilibrio. Describió el trabajo del matemático como algo cambiante, al tiempo que siguió considerando central el juicio humano.
La respuesta escéptica más fuerte sostiene que la comprensión seguirá a los resultados correctos. La historia contiene muchas demostraciones que inicialmente fueron difíciles, mal explicadas o dependientes de cálculos. Los investigadores terminaron por aclararlas.
Ese argumento merece consideración. Exigir elegancia inmediata podría rechazar descubrimientos útiles. Algunos resultados generados por máquinas solo se volverán comprensibles después de que otros matemáticos reconstruyan sus ideas.
La declaración no demuestra que el resultado de una máquina destruya necesariamente la comprensión. Identifica un incentivo que puede producir ese resultado cuando la velocidad y la publicidad dominan la evaluación.
Otra objeción se refiere al acceso. Restringir el uso de IA en investigación podría preservar jerarquías establecidas y negar una asistencia valiosa a instituciones más pequeñas. Las herramientas de razonamiento baratas podrían ampliar la participación en las matemáticas avanzadas.
Ese beneficio es real. Un estudiante sin expertos cercanos podría usar un sistema de IA para explorar definiciones, probar ejemplos o comprender un artículo. Los investigadores de instituciones con pocos recursos podrían obtener apoyo computacional antes reservado a los grandes laboratorios.
El reto de las políticas es preservar esas ventajas sin permitir que los proveedores controlen las agendas de investigación. Las matemáticas se volverían más desiguales si los sistemas más capaces siguieran siendo privados y costosos de operar.
La respuesta no es una prohibición general. Es una gobernanza que vincule el uso de modelos con la divulgación, la atribución, la reproducibilidad y la responsabilidad humana.
Los investigadores también necesitan flujos de trabajo que les ayuden a mantener el control sobre sus fuentes y razonamientos. Una base de conocimiento personal puede organizar borradores, referencias y discusiones sin tratar la respuesta final como el único artefacto valioso.
Para los trabajadores del conocimiento fuera de las matemáticas, se aplica el mismo principio. La IA debería reforzar el camino desde el material de origen hasta una comprensión defendible, no sustituirlo por una respuesta pulida.
Las matemáticas ya tienen un punto de partida para las políticas
La respuesta práctica consiste en rediseñar las normas de investigación antes de que las demostraciones generadas por IA desborden sistemas construidos para ritmos de publicación humanos.
La declaración de septiembre es más urgente que detallada. Identifica un incentivo perjudicial y pide a matemáticos, empresas y sociedad que lo aborden.
Ya existe un marco de políticas más amplio. La Declaración de Leiden se publicó el 2 de junio de 2026, tras una iniciativa de la comunidad internacional. La Unión Matemática Internacional la respaldó.
Sus recomendaciones se dirigen a investigadores individuales, instituciones, financiadores, gobiernos e industria. Se centran en la transparencia, la fiabilidad, la autonomía, el acceso equitativo y la responsabilidad.
La divulgación es el requisito más inmediato. Los artículos deberían explicar qué herramientas automatizadas contribuyeron, qué hicieron esas herramientas y qué recursos computacionales estuvieron implicados.
Ese registro debería distinguir entre lluvia de ideas, generación de demostraciones, verificación formal, búsqueda bibliográfica y edición. Cada actividad genera riesgos distintos y deberes de atribución diferentes.
La divulgación también ayuda a los evaluadores a interpretar las afirmaciones sobre benchmarks. Un modelo que resuelve un problema en un único intento presenta pruebas distintas de las de un sistema que utiliza miles de intentos paralelos y una amplia orientación humana.
La reproducibilidad es igualmente importante. Los laboratorios deberían conservar prompts, configuraciones de herramientas, enunciados de problemas y procedimientos de verificación cuando la privacidad y la seguridad lo permitan.
Un resultado que depende de un modelo interno no disponible sigue siendo difícil de examinar para investigadores externos. Publicar una demostración final no revela la tasa de fallos ni el proceso de búsqueda del sistema.
La atribución exige más que pedirle citas a un modelo. Los desarrolladores y autores necesitan búsquedas bibliográficas sistemáticas, revisión experta y un proceso para corregir omisiones.
El responsable humano de la presentación debe seguir siendo responsable. Culpar a un modelo por una cita inventada o una idea tomada de otro autor dejaría a los investigadores afectados sin una vía de reparación significativa.
Las revistas también necesitarán nuevos sistemas de triaje. Los editores no pueden enviar cada demostración plausible generada por máquinas a especialistas no remunerados. Las reglas de presentación pueden exigir divulgaciones de herramientas, comprobaciones formales y pruebas de que un experto comprende el trabajo.
Tao propone una prueba exigente en su ensayo. Los autores deberían poder ofrecer una presentación clara y de nivel experto sobre su resultado, con una atribución correcta antes de publicarlo.
Esa prueba no excluiría la asistencia de IA. Exigiría que una persona responsable comprenda y defienda la contribución.
La evaluación también debería recompensar la asimilación. Los investigadores que verifican, simplifican, explican o integran un resultado generado por IA realizan un trabajo intelectual esencial.
Los incentivos académicos actuales suelen otorgar más reconocimiento a la primera demostración que a la explicación definitiva. La abundancia de demostraciones hace insostenible ese desequilibrio.
Las agencias de financiación pueden respaldar infraestructura para la formalización, la curación y los resultados negativos. Las universidades pueden reconocer la revisión y la exposición en las decisiones de contratación.
Las empresas de IA afrontan responsabilidades adicionales porque controlan tanto los sistemas como gran parte de la telemetría relevante. Pueden divulgar el uso agregado de recursos, los métodos de selección de benchmarks y los intentos fallidos.
También pueden establecer límites claros en torno a los datos de los clientes. Los investigadores necesitan garantías comprensibles sobre si los prompts, manuscritos cargados y sesiones de herramientas contribuyen al entrenamiento de modelos o a la investigación interna.
Las auditorías independientes harían esas garantías más creíbles. Las garantías corporativas por sí solas no pueden resolver todos los conflictos cuando la empresa también se beneficia de producir el resultado.
Los benchmarks mismos deberían ampliarse. Una evaluación útil podría medir si un sistema identifica trabajos previos, comunica la idea clave, señala la incertidumbre y ayuda a otro matemático a ampliar el resultado.
Esas cualidades son más difíciles de puntuar que una respuesta final. Esa dificultad es precisamente la razón por la que las empresas no deberían sustituir el objetivo real por la métrica más sencilla.
La misma lección se aplica a las implementaciones empresariales de IA. Los equipos suelen medir la velocidad de respuesta o la finalización de tareas porque esas cifras están disponibles con facilidad.
Sin embargo, un sistema puede aumentar la producción mientras reduce la trazabilidad, el aprendizaje de los empleados o la memoria institucional. Los líderes deberían medir si el trabajo sigue siendo explicable y reutilizable después de que se complete la automatización.
Las matemáticas ofrecen un ejemplo temprano e inusualmente visible. Su estructura formal hace que el fallo de la métrica sea más fácil de ver, pero el problema subyacente afecta a todas las profesiones del conocimiento.
Qué observar tras la declaración de los galardonados con la Medalla Fields
La siguiente prueba es si los laboratorios, las revistas y los investigadores cambian sus prácticas, no si otro modelo resuelve otro problema famoso.
La primera señal será la divulgación en torno a futuros anuncios de IA en matemáticas. Las empresas deberían informar sobre los intentos, la orientación humana, los recursos computacionales, los métodos de verificación y los procedimientos de revisión bibliográfica.
Una divulgación más completa reforzaría el juicio central de la declaración. Mostraría que los laboratorios aceptan los resultados matemáticos como contribuciones de investigación, no solo como demostraciones de rendimiento.
Los anuncios escuetos apuntarían en la dirección contraria. Sugerirían que la presión competitiva sigue superando las exigencias de reproducibilidad y contexto.
La segunda señal provendrá de la revisión independiente de afirmaciones destacadas. El resultado de OpenAI sobre Navier-Stokes ofrece un caso inmediato porque su corrección, novedad, alcance y atribución requieren evaluaciones separadas.
Una demostración formal en Lean aborda la validez lógica dentro de su codificación. Los matemáticos aún deben comprobar si el enunciado formal coincide con el problema previsto y si la contribución utiliza ideas debidamente acreditadas.
Si expertos independientes validan el resultado e identifican un método nuevo y claro, se demostrará que el trabajo generado por IA puede incorporarse al canon matemático. Ese desenlace no invalidaría la advertencia.
En cambio, mostraría lo que exige una integración responsable. La demostración adquiriría valor mediante la interpretación, la atribución y la explicación de expertos.
Si persisten correcciones importantes o disputas por el reconocimiento, las preocupaciones de la declaración se volverán más concretas. El problema pasaría de ser una previsión cultural a un fracaso documentado de las prácticas de investigación.
La tercera señal será la adopción institucional de nuevas normas. Revistas, universidades, conferencias y financiadores deberán decidir cómo se revisan y reconocen los resultados asistidos por IA.
Las políticas deberían aclarar los requisitos de divulgación y la responsabilidad de autoría. También deberían proteger el trabajo inédito y reconocer la labor de verificación.
Una adopción significativa redistribuiría el prestigio desde la generación de demostraciones hacia su asimilación. Quienes revisan, formalizan y exponen recibirían mayor reconocimiento por hacer que los resultados sean fiables y útiles.
Políticas débiles o incoherentes dejarían que las empresas fijaran las condiciones. Los investigadores se enfrentarían entonces a expectativas distintas entre revistas e instituciones, lo que fomentaría el secretismo y el comportamiento estratégico.
La advertencia de Terence Tao sobre la IA en las matemáticas plantea, en última instancia, quién tiene derecho a definir el progreso. Los laboratorios de IA pueden demostrar sistemas extraordinarios al abordar problemas de nombres célebres.
Sin embargo, las matemáticas no avanzan solo mediante enunciados correctos. Avanzan cuando las personas comprenden por qué esos enunciados son verdaderos y utilizan esa comprensión para plantear mejores preguntas.
Por tanto, la afirmación más importante de la declaración trata sobre la custodia responsable. Una comunidad investigadora debe proteger las condiciones que permiten acumular conocimiento, incluso cuando las máquinas aceleran una parte del proceso.
Los lectores deberían observar de otra manera el próximo gran anuncio de una demostración realizada con IA. El resultado principal importa, pero también los intentos fallidos, las aportaciones humanas, las fuentes y las explicaciones que hay detrás.
Pregúntese si los especialistas pueden reproducir el resultado. Pregúntese quién recibe el reconocimiento, si la idea central es comprensible y si los estudiantes pueden desarrollarla.
Esas preguntas ofrecen un criterio mejor que el número de teoremas. Si las empresas de IA empiezan a responderlas voluntariamente, el conflicto actual podrá convertirse en una colaboración de investigación viable.
