Prólogo:
- Le pregunté a ChatGPT cuándo predice de forma realista que llegará la singularidad.
- Después fui a Claude con la respuesta de ChatGPT para comprobar si las predicciones parecían correctas. Claude presentó un concepto completamente diferente de cómo podría medirse la singularidad, que parecía coincidir con la evaluación subyacente de los CEOs de las dos empresas, OpenAI y Anthropic.
- Le llevé el concepto de Claude de vuelta a ChatGPT. Intenté hacerlo personal teniendo en cuenta el contexto entre Sam y Dario, pero no fue un punto que lo hiciera reaccionar. Así que ChatGPT aceptó más o menos la evaluación de Claude, que luego volví a llevar a Claude. Claude dio una evaluación final de la diferencia fundamental entre la forma de pensar de los dos CEOs sobre la AGI y la singularidad.
- Después le pedí a ChatGPT que resumiera todo para poder llevarlo a Grok para una evaluación adicional.
- Luego llevé los comentarios de Grok de vuelta a ChatGPT y finalmente
- Le pedí que escribiera un blogpost completo sobre este experimento mental.
Esto es lo que salió:
Tenía una pregunta bastante sencilla:
¿Cuándo crees que podría ocurrir realmente la singularidad de la IA?
Así que se lo pregunté a ChatGPT.
Me dio una respuesta sorprendentemente segura:
2035–2050.
Más concretamente, situó su ventana de mayor probabilidad alrededor de 2035–2045.
Sonaba razonable.
Incluso quizá conservador.
Pero entonces le hice la misma pregunta a Claude.
Y Claude básicamente miró la respuesta de ChatGPT y dijo:
«Espera. ¿Exactamente en qué estás basando esos números?»
Justo.
Así que decidí hacer algo ligeramente ridículo.
Hice que ChatGPT y Claude debatieran entre ellos.
Y cuando terminaron de discutir, cogí toda la conversación y se la di a Grok.
Le pedí a Grok que actuara como juez.
Lo que salió de ahí fue, en realidad, más interesante que la pregunta original.
Primero: ¿qué queremos decir siquiera con «singularidad»?
Este resultó ser el primer problema.
La gente habla de AGI, superinteligencia, auto-mejora recursiva y singularidad como si fueran cosas intercambiables.
No lo son.
AGI generalmente significa algo parecido a una IA capaz de realizar la mayoría de las tareas cognitivas aproximadamente al nivel humano o por encima de él.
La superinteligencia iría considerablemente más allá.
La singularidad es algo diferente.
La idea clásica es que la IA se vuelve capaz de mejorar la propia IA, lo que hace que la siguiente generación sea mejor, lo que hace que la siguiente generación sea aún mejor… y finalmente el progreso tecnológico se vuelve tan rápido que los humanos ya no pueden predecir de manera significativa qué viene después.
Así que la pregunta importante no es necesariamente:
«¿Cuándo tendremos AGI?»
En realidad podría ser:
¿Cuándo será la IA lo suficientemente buena investigando sobre IA como para acelerar sustancialmente el desarrollo de la siguiente generación de IA?
Y esa distinción cambió toda la conversación.
La primera predicción de ChatGPT
Mi conversación inicial con ChatGPT fue bastante conservadora.
Sugirió que una versión fuerte de la singularidad podría ocurrir alrededor de 2035–2050, siendo el periodo 2035–2045 el más probable.
El razonamiento era bastante sencillo.
Incluso si creamos una IA extremadamente inteligente, el mundo físico no se acelera mágicamente.
Sigues necesitando:
- chips de ordenador
- electricidad
- centros de datos
- fabricación
- robótica
- cadenas de suministro
- experimentos
- dinero
- humanos que desplieguen las cosas
Una IA puede pensar a una velocidad increíble, pero no puede fabricar un millón de GPUs de la noche a la mañana.
Así que el argumento de ChatGPT era básicamente:
La inteligencia puede llegar rápidamente. El mundo físico puede tardar más en ponerse al día.
Sonaba sensato.
Entonces le enseñé la respuesta a Claude.
Claude cuestionó la respuesta
La mayor crítica de Claude no fue realmente la fecha.
Fue la confianza.
Y creo que era una crítica justa.
ChatGPT me había dado rangos de probabilidad que parecían científicos.
Algo como:
2035–2045: máxima probabilidad.
Pero ¿cómo calculas eso realmente?
Nadie tiene un modelo suficientemente fiable del progreso tecnológico como para saber realmente si la singularidad tiene un 30 %, 40 % o 50 % de probabilidades de ocurrir en una determinada década.
Como dijo Claude, básicamente estamos poniendo vibras con decimales sobre algo que fundamentalmente no entendemos.
Y entonces Claude señaló algo mucho más interesante.
Hay personas serias haciendo predicciones que abarcan un rango enorme.
Algunos creen que una IA extremadamente poderosa podría llegar alrededor de 2026–2027.
Otros sitúan la AGI mucho más lejos.
Así que en lugar de preguntar:
«¿Qué año es el correcto?»
probablemente deberíamos preguntar:
«¿Qué supuestos hacen que estas personas lleguen a respuestas tan diferentes?»
Esa es una pregunta mucho mejor.
Entonces las cosas se pusieron interesantes
Porque cuando miras lo que realmente están diciendo Sam Altman y Dario Amodei, la diferencia entre OpenAI y Anthropic no es tan enorme como podrías esperar.
Sam Altman ha descrito cada vez más el periodo actual como el comienzo de una especie de «singularidad suave».
Su enfoque es básicamente:
No vamos a despertarnos un martes por la mañana y descubrir de repente que ocurrió la singularidad.
En cambio, las capacidades de la IA siguen mejorando.
Después la IA empieza a realizar trabajo cognitivo significativo.
Luego empieza a hacer descubrimientos científicos.
Después ayuda a construir mejores IAs.
Luego esos sistemas ayudan a construir sistemas todavía mejores.
La curva sigue haciéndose más pronunciada.
Y finalmente, cuando miramos hacia atrás, nos damos cuenta:
Ah. Estábamos viviendo la singularidad.
El enfoque de Dario Amodei es más dramático.
Ha hablado de una «IA poderosa» que podría llegar tan pronto como en 2026–2027 y ha utilizado la analogía de un «país de genios dentro de un centro de datos».
Imagina millones de copias de trabajadores digitales extremadamente capaces operando a una velocidad enorme.
No solo respondiendo preguntas.
Sino programando.
Investigando.
Realizando experimentos.
Diseñando sistemas.
Utilizando ordenadores.
Y potencialmente controlando robots.
Eso suena mucho menos a:
«Aquí tienes un chatbot más inteligente.»
Y mucho más a:
«Hemos creado una forma completamente nueva de trabajo intelectual.»
Entonces, ¿Sam y Dario están peleándose en secreto?
Yo también me hice esta pregunta.
¿Esto tiene realmente que ver con la tecnología?
¿O son dos CEOs competidores vendiendo dos historias diferentes sobre el futuro?
OpenAI y Anthropic son obviamente competidores.
Compiten por:
- talento
- capacidad de cómputo
- inversores
- clientes
- influencia gubernamental
- atención pública
Así que, por supuesto, sus incentivos importan.
Pero después de analizar sus posiciones, no creo que la historia interesante sea:
Sam dice 2030 y Dario dice 2045.
Es casi lo contrario.
Están sorprendentemente cerca respecto a la posibilidad de que una IA extremadamente poderosa llegue muy pronto.
En lo que difieren más es en cómo describen lo que ocurre después.
Sam tiende a enfatizar una transformación gradual, positiva, casi inevitable.
Dario tiende a enfatizar la enorme concentración de inteligencia y los riesgos asociados.
La misma tormenta. Diferente pronóstico meteorológico.
Entonces le pedí a Grok que juzgara el argumento
En este punto cogí la conversación entre ChatGPT y Claude y se la di a Grok.
Básicamente le dije:
«Vale. Ahora tú eres el juez. ¿Quién está haciendo realmente el mejor argumento?»
La respuesta de Grok fue probablemente la parte más útil de todo el experimento.
Estuvo de acuerdo con Claude en un punto importante:
No deberíamos fingir que conocemos la fecha exacta.
La incertidumbre es enorme.
Pero también estuvo de acuerdo con ChatGPT en algo importante:
El mundo físico importa.
La IA no existe de forma aislada.
El cómputo, la energía, los chips, la robótica, la fabricación y el despliegue importan.
Y entonces Grok identificó lo que creo que es la variable más importante de todas.
Deja de mirar la AGI. Mira la investigación sobre IA.
Esta es la conclusión que me llevo de toda la conversación.
Olvídate de los titulares que dicen:
«¡La AGI llegará en 2027!»
Olvídate de:
«¡La singularidad llegará en 2035!»
Mira algo mucho más concreto:
¿Cuánta parte de la investigación en IA puede realizar la propia IA?
Imagina que la IA actual ayuda a un investigador de IA a trabajar el doble de rápido.
Eso es útil.
Ahora imagina que lo hace cinco veces más rápido.
Después diez veces.
Y ahora imagina que la IA puede, de manera independiente:
- diseñar un experimento
- ejecutar el experimento
- analizar el resultado
- identificar una debilidad
- proponer una nueva arquitectura
- entrenar el siguiente modelo
- evaluarlo
- repetir el proceso
Ahora estamos hablando de algo muy diferente.
Porque la IA no solo está mejorando.
La IA está participando en el proceso que hace que la IA mejore.
Ese es el bucle de retroalimentación que todo el mundo debería estar observando.
Y ya estamos viendo partes de él
Esto no significa que hayamos conseguido una auto-mejora recursiva autónoma.
No la hemos conseguido.
Pero la IA se está utilizando cada vez más para escribir código, realizar investigaciones, analizar experimentos y ayudar a las personas que están construyendo la siguiente generación de IA.
Anthropic, por ejemplo, ha informado de aumentos significativos en la cantidad de código que sus ingenieros pueden producir con asistencia de IA.
Eso no demuestra que nos estemos dirigiendo hacia una singularidad.
Pero sí demuestra la dirección del viaje.
Y aquí es donde las predicciones se vuelven realmente interesantes.
Porque existe una diferencia enorme entre:
La IA ayudando a los humanos a construir IA
y
La IA haciendo la mayor parte del trabajo necesario para construir una IA mejor.
La primera ya está ocurriendo.
La segunda sería algo mucho más importante.
¿Qué me convencería de que las predicciones cortas son correctas?
No creo que otra predicción de un CEO lo hiciera.
Querría ver evidencia real.
Durante los próximos dos o tres años, observaría algunas cosas.
1. IA haciendo investigación autónoma durante varios días
No responder a un benchmark de programación durante cinco minutos.
Dale un problema real.
Déjala trabajar durante días.
Deja que cometa errores.
Deja que se recupere.
Deja que decida qué investigar después.
Y mira si realmente puede producir algo útil.
2. IA haciendo descubrimientos científicos realmente nuevos
No resumir artículos existentes.
No remezclar cosas que los humanos ya conocen.
Descubrimientos reales que los expertos reconozcan como significativos.
3. IA diseñando una IA mejor
Este es el grande.
¿Puede una IA mejorar de manera significativa la arquitectura, el proceso de entrenamiento, los algoritmos o los experimentos utilizados para crear a su sucesora?
¿Y puede hacerlo con cantidades cada vez menores de intervención humana?
4. El horizonte temporal sigue ampliándose
Hoy un agente puede resultar impresionante durante una hora.
¿Qué ocurre cuando puede trabajar de manera fiable durante un día?
¿Una semana?
¿Un mes?
Si esa curva sigue subiendo rápidamente, me interesarían mucho más las predicciones agresivas sobre la singularidad.
5. La productividad de la IA aparece realmente en la economía
Al final, esto no debería ser algo que ocurra únicamente dentro de los laboratorios de IA.
Si millones de empresas empiezan a producir muchísimo más con menos personas, tendremos evidencia de que esto no es simplemente una carrera de benchmarks.
¿Qué me haría ser más escéptico?
Lo contrario.
Si la IA sigue volviéndose espectacularmente buena en benchmarks de programación, pero tiene problemas con:
- planificación a largo plazo
- fiabilidad
- investigación realmente novedosa
- problemas desordenados del mundo real
- experimentación física
- mantener el contexto durante semanas
- saber cuándo está equivocada
entonces quizá estemos chocando contra una barrera mucho más complicada.
Quizá la inteligencia no escale de manera tan fluida como asumimos.
Quizá las arquitecturas actuales lleguen finalmente a un techo.
Quizá la auto-mejora recursiva resulte ser mucho más difícil de lo que parece.
Quizá el mundo físico se convierta en el cuello de botella.
O quizá descubramos algo sobre la inteligencia que ninguno de nosotros entiende actualmente.
Esa es la parte incómoda.
No lo sabemos.
Entonces, ¿quién ganó el debate?
¿Honestamente?
Claude ganó un punto importante.
La predicción original de ChatGPT parecía mucho más segura de lo que justificaba la evidencia.
Pero ChatGPT ganó otro punto:
La singularidad no es únicamente un problema de software.
Y Grok básicamente unió ambas cosas.
La conclusión más sensata no es:
«La singularidad ocurrirá en 2035.»
Es:
Podríamos estar entrando en un periodo en el que la velocidad a la que la IA mejora la propia IA se convierta en la variable más importante del progreso tecnológico.
Si ese bucle de retroalimentación se acelera de manera dramática, el calendario podría comprimirse muy rápidamente.
Si no lo hace, podríamos pasar otras dos décadas construyendo sistemas de IA cada vez más impresionantes sin llegar nunca al bucle de retroalimentación descontrolado que la gente imagina.
Y eso es lo que hace que todo esto sea tan fascinante
Empecé esta conversación porque quería una fecha.
¿2035?
¿2040?
¿2050?
Y terminé dándome cuenta de que probablemente la fecha es la parte menos interesante de todo esto.
Imagina mirar hacia atrás desde 2050.
Quizá los historiadores puedan señalar un año concreto y decir:
«Ahí fue cuando empezó.»
Pero quizá no exista un año así.
Quizá se parezca exactamente a la «singularidad suave» de Sam Altman.
Un año la IA escribe tus emails.
Después escribe tu software.
Luego ayuda a descubrir un medicamento.
Después diseña un experimento.
Luego diseña la IA que diseña el siguiente experimento.
Y entonces, de repente, estás viviendo en un mundo donde la mayoría del progreso tecnológico está siendo impulsado por sistemas que ni siquiera existían una década antes.
Y te das cuenta de que nunca hubo un día llamado:
«La Singularidad».
Era simplemente una curva.
Haciéndose más pronunciada.
Y más pronunciada.
Y más pronunciada.
Eso es lo que voy a estar observando.
No las predicciones.
No los CEOs.
Ni siquiera los anuncios de AGI.
El bucle de retroalimentación.
