ChatGPT ni piensa ni razona. El demoledor paper de Apple
Apple ha publicado un polémico estudio titulado The Illusion of Thinking, un paper donde demuestra que los grandes modelos de lenguaje (LLMs) que aparentan razonar, en realidad no piensan. Así, ni ChatGPT, ni Claude, por ejemplo, tendrían tal capacidad de razonamiento.
Los críticos dicen que este paper de Apple se da en un contexto en el que la propietaria de los iPhone está estancada frente al resto de jugadores de la inteligencia artificial.
Los adscritos a las conclusiones de este estudio, al contrario, avisan de que ya se conoce el efecto overthinking, y que la capacidad de razonar o de pensamiento no es más que una metáfora para explicar lo que realmente hace un chatbot cuando te dice que está «pensando».
Sin embargo, el paper está ahí. Ni ChatGPT ni Claude ni resto de modelos tendrían capacidad de pensar o razonar como un humano lo haría. Simplemente, son procesos que derivan, además, en colapsos en problemas simples.
Técnicamente, lo que dice este paper es que un modelo de IA sin razonamiento sería más eficaz que uno con dicho superpoder. Y que tener estos poderes genera bloqueos por pura mecánica de buscar y buscar una y otra vez la solución válida -entre muchas- al problema planteado.
De esta manera, este trabajo de Apple, los investigadores presentan una nueva familia de modelos denominada LRMs (Large Reasoning Models), diseñados para generar cadenas de razonamiento explícitas antes de producir una respuesta final.
El experimento se centró en puzzles sintéticos diseñados con complejidad progresiva y controlada.
Estos entornos fueron creados ex profeso para evitar que los modelos pudieran aprovechar conocimientos memorizados de su entrenamiento previo.
A través de esta metodología, se comparó el rendimiento de los LLMs tradicionales con los nuevos LRMs, midiendo tanto la calidad de las respuestas como la coherencia del razonamiento previo.
La IA sin capacidad de razonar sería más eficiente que con ella
Los resultados son contundentes. Los LRMs muestran un rendimiento superior frente a los LLMs en tareas de complejidad media, gracias a su capacidad para construir razonamientos intermedios.
Sin embargo, cuando se enfrentan a niveles altos de dificultad, sufren un colapso súbito en su precisión. Lo llamativo es que este fallo no se debe a una falta de tokens o de tiempo de procesamiento, sino a una especie de abandono: los modelos dejan de intentarlo antes de agotar sus recursos.
Además, se observó otro fenómeno paradójico. En los puzzles más simples, los LRMs rinden peor que los modelos estándar. Esto sugiere que la generación de razonamientos intermedios no solo es innecesaria para tareas básicas, sino que puede entorpecerlas.
La conclusión del estudio es demoledora para la narrativa actual sobre IA y razonamiento. Aunque los modelos parecen «pensar» por su habilidad para verbalizar procesos, ese razonamiento es una ilusión estructural.
La calidad y consistencia de sus cadenas de lógica están profundamente influenciadas por patrones aprendidos, no por una comprensión genuina de los problemas.
Apple apunta así a una limitación fundamental de los sistemas generativos actuales. Si bien son útiles para simular procesos cognitivos, están lejos de ofrecer razonamiento robusto ante escenarios complejos.
Esta brecha obliga a replantear cómo desarrollar IA verdaderamente fiable para tareas que requieren pensamiento profundo y autónomo.
Los críticos de este paper, sin embargo, adelantan que el estudio sólo describe el overthinking, pero no profundiza en las causas.
Recordemos que la capacidad de razonamiento es una nueva funcionalidad que está ya en la mayoría de modelos de IA, tanto por parte de OpenAI y ChatGPT, como en Google con Gemini, Claude de Anthropic o en el buscador generativo de Perplexity.
Apple, en cambio, carece de IA propia, aunque tiene acuerdos con muchas de estas grandes empresas, como la liderada por Sam Altman (OpenAI), por ejemplo.
Síguenos en Google como fuente preferente
Suscríbete a nuestro canal de WhatsApp
Hazte Premium y apoya este proyecto periodístico
Únete a mi canal de YouTube
