Hinton, el padre del aprendizaje profundo, ahora le pone número al riesgo: hasta un 20 % de chances de que la superinteligencia nos extinga

Lo dice el tipo que puso los ladrillos. Geoffrey Hinton, el británico de 78 años al que el mundo reconoce como uno de los padres del aprendizaje profundo, soltó una cifra que helóa a más de uno: entre el 10 % y el 20 % de probabilidades de que una inteligencia artificial superinteligente termine con la humanidad dentro de unos treinta años. La estimación la dio en una reciente entrevista y, lejos de ser un exabrupto, es la síntesis de una preocupación que viene arrastrando desde que dejó Google en 2023, justamente para poder hablar sin que la empresa le tape la boca.

Un número que suena a lotería, pero no lo es

Aclaremos algo antes de que el lector se asuste o se relaje de más. Cuando Hinton habla de un 20 % no está diciendo que vayamos a desaparecer mañana. Lo que dice es que, dada la velocidad con la que avanza la tecnología, las chances de un desenlace catastrófico en las próximas décadas son lo suficientemente altas como para tomar el asunto en serio. Es como si un meteorólogo te dijera que hay un 20 % de probabilidad de tormenta severa: no es certeza, pero tampoco es un número para mirar por la ventana y seguir con el asado.

Lo que más le preocupa a Hinton es que la velocidad del desarrollo superó cualquier proyección. Él mismo reconoce que hace diez años jamás hubiera imaginado llegar hasta acá tan rápido. Y acá, justamente, es donde aparece la parte filosófica del asunto: nunca en la historia tuvimos que convivir con entidades más inteligentes que nosotros. Es un punto ciego absoluto, y eso, dice el científico, es el mayor peligro del momento.

El acelerador sin volante

Para que se entienda la idea sin meterse en tecnicismos, Hinton usa una metáfora bien de barrio. Imaginate un auto con un acelerador potentísimo, pero sin volante. Cuanto más pisás el acelerador, más rápido vas, y sin volante el único destino posible es el choque. La regulación gubernamental, en su esquema, sería ese volante que hoy falta.

Los modelos ya "piensan" (o algo parecido)

Acá viene otro punto clave que Hinton subraya con fuerza y que a mí, como lego en el tema, me hizo ruido. Los modelos de lenguaje más avanzados, esos que usamos todos los días sin pensarlo, ya no se limitan a detectar patrones estadísticos en montañas de texto. Según el análisis del científico, estos sistemas comprenden efectivamente los conceptos abstractos que procesan. No es un loro repetidor de palabras: es otra cosa, con su propia lógica interna.

Mercado, geopolítica y el error de autorregularse

Hay un argumento clásico en estos debates: "si regulamos demasiado, quedamos atrás frente a China o Estados Unidos". Hinton lo rebate de cuajo. Dice que confiar en que el libre mercado va a contener los riesgos de una tecnología así es un error estratégico de magnitud histórica. La competencia entre países, en su visión, no puede ser excusa para postergar marcos legales globales.

“Confiar en que el mercado se autorregule ante una amenaza existencial es un error estratégico. La geopolítica no puede ser excusa para postergar leyes internacionales.”Geoffrey Hinton

La ventana para actuar se cierra, dice. Todavía estamos a tiempo de decidir la ética de los sistemas que estamos creando, pero ese margen se achica día a día. Antes de cerrar, le pregunté a un becario del laboratorio de sistemas inteligentes de la Facultad si coincidía con el científico británico. "Hinton tiene razón en que la velocidad es el problema real. Pero también creo que un 20 % es un número que necesita evidencia empírica que hoy no tenemos, y eso es parte del debate", me dijo, medio en broma medio en serio, mientras se servía un café.

• Entre el 10 % y el 20 %: la chance que Hinton le asigna a un desenlace catastrófico en 30 años.
• Antes de 2055: el horizonte temporal que maneja el científico para la aparición de sistemas superinteligentes.
• Comprensión real, no solo patrones: el salto cualitativo que Hinton advierte en los modelos actuales.
• Regulación estatal y leyes globales: la única salida posible según el padre del aprendizaje profundo.

¿Y eso para qué sirve? Para entender que el debate sobre la inteligencia artificial ya dejó de ser ciencia ficción y se instaló en la mesa de los que toman decisiones. La próxima vez que alguien te diga que esto es exagerado, recordale que el hombre que inventó la base de todo esto hoy pide freno, y no por miedo, sino por pura matemática de probabilidades.