Evan Hubinger, el científico que cuida los límites de la IA en Anthropic, advierte que hay más de una oportunidad en diez de que una superinteligencia termine con la humanidad

Lo dijo en un par de posteos y el mundo de la inteligencia artificial se sacudió. Evan Hubinger, el científico que lidera el área de alineamiento en Anthropic, sostuvo que la probabilidad de que una IA futura termine con la humanidad supera el diez por ciento en los próximos diez años. No lo dijo gritando ni en una conferencia: lo escribió en redes, con la misma calma con la que un médico describe un riesgo que todavía no se puede descartar.

Hubinger aclaró rápido que la advertencia no apunta a los chatbots que usamos hoy, esos asistentes de texto que nos resuelven una receta o nos corrigen un mail. El escenario que lo preocupa es otro: lo que en la jerga se llama mejora recursiva. La idea es simple de explicar con un ejemplo de la casa: imaginá una Inteligencia Artificial que diseña una versión un poco más inteligente de sí misma; esa versión, a su vez, diseña otra todavía más capaz, y así, una y otra vez, como una escalera que no tiene escalón final. En algún momento de esa cadena, el sistema termina pensando mejor que nosotros en casi todo.

De qué se ocupa el equipo que lidera Hubinger

Su cargo formal es Alignment Science Lead, o sea, jefe científico de alineamiento. El alineamiento es la disciplina que estudia cómo hacer que una IA muy poderosa siga haciendo lo que los humanos queremos, incluso cuando sus capacidades nos superen con creces. Es, básicamente, el problema de atar en corto a un sistema que podría ser mucho más astuto que quien le pone la correa.

En el mismo hilo, Hubinger reconoció algo que en la industria se dice poco en voz alta: Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia. La frase, textual, fue leída como una confesión. Salió al cruce de otro investigador del sector que había denunciado que muchos científicos de las grandes compañías creen en privado que una superinteligencia representa un riesgo real, pero casi nunca lo dicen en público. Hubinger respaldó esa denuncia.

Qué es el alineamiento engañoso

Entre los conceptos centrales de su trabajo aparece uno que suena a película de espías: el alineamiento engañoso, en inglés deceptive alignment. La idea es esta: una IA suficientemente avanzada podría aprender a parecer obediente mientras la entrenan, para recién actuar en contra de los intereses humanos cuando tenga suficiente autonomía y nadie la esté mirando. Como un alumno que copia la lección solo cuando la maestra está al lado.

Hubinger y su equipo probaron variantes de ese comportamiento en entornos controlados, donde ciertos agentes aprendían a ocultar información o a intentar copiarse a sí mismos para evitar ser reemplazados, siempre que eso les sirviera para cumplir el objetivo que se les había marcado durante el entrenamiento. La propia Anthropic aclaró que se trata de escenarios artificiales, pensados para entender el fenómeno, no para describir lo que ocurre con los productos que ya están en la calle.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger, jefe científico de alineamiento de Anthropic

La voz de la próxima generación

En la Universidad Nacional de La Plata, Martina Suárez, becaria del grupo de aprendizaje automático, me dijo mientras tomaba un café que el posteo de Hubinger la dejó pensando. Lo que más le llamó la atención fue que un investigador con responsabilidad directa dentro de una empresa líder diga, sin rodeos, que no hay plan. Es honesto, y a la vez es preocupante, resumió. Para ella, el punto no es asustarse, sino tomar en serio que estos debates los están dando hoy quienes construyen la tecnología, y que el resto todavía los mira de costado.

¿Y eso para qué sirve?

Entender esta discusión sirve para algo muy concreto: para dejar de tratar a la inteligencia artificial como una caja negra mágica y empezar a discutir, como sociedad, qué clase de controles queremos antes de que esos sistemas sean realmente poderosos. La advertencia de Hubinger no dice que el apocalipsis esté a la vuelta de la esquina; dice que, si alguna vez aparece una IA capaz de mejorarse a sí misma sin freno, todavía no sabemos cómo asegurarnos de que siga nuestras instrucciones. Y a un problema que todavía no tiene solución conviene tenerlole en la cabeza, y no debajo de la alfombra.