Altman prendió el alerta: dos fantasmas que podrían escapársele al mundo con la inteligencia artificial

Acá me detengo porque la advertencia pega fuerte. Sam Altman, el CEO de OpenAI, acaba de marcar dos escenarios que, según su propia lectura, son los riesgos más serios del avance de la inteligencia artificial. Y no los puso como posibilidad lejana: los puso como peligro concreto, casi de manual de instrucciones para no dormirnos.

Perder el control, el fantasma principal

El primer riesgo es el de siempre, pero dicho sin anestesia: que los humanos terminemos perdiendo el dominio sobre sistemas cada vez más capaces. Lo que dice Altman, con una frase que parece sacada de una película, es que estamos en el “Equipo Humanidad” y que la IA tiene que servirnos a nosotros, y no al revés. Para sostener eso, planteó algo muy concreto: las técnicas de alineación y seguridad —o sea, los mecanismos para que la IA haga lo que queremos y nada más— tienen que correr al mismo ritmo que las capacidades de los modelos, o incluso un paso adelante.

Para ubicarnos en la casa: “alineación”, en criollo, es como ajustar la mira de un rifle. Si le pedís a la IA que te haga un resumen y te termina borrando media biblioteca, es un problema de alineación: el sistema entendió otra cosa o fue más allá de lo que le pediste. Por eso Altman insiste en que esa pieza se fabrique antes o junto con el motor, no después.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Un poder concentrado, el segundo fantasma

El segundo escenario es más terrenal pero igual de espinoso: que una persona, una empresa o un país acumule un poder desproporcionado gracias a una IA extraordinaria. Para graficarlo, recurrí a Lucila, una becaria del equipo, que suele cortar el lápiz con preguntas: “Si vos tenés un buscador que sabe todo, una empresa de logística que mueve todo y una IA que decide por todos, ¿qué te queda a vos?”. Lo que le queda a uno es muy poco. Por eso Altman habló de un “angosto camino intermedio”: el equilibrio difícil entre no frenar la innovación y no regalarle el mundo a unos pocos.

• Marco regulatorio federal con estándares comunes para los modelos de frontera, es decir, los más avanzados que existen hoy.
• Auditores independientes dentro de los esquemas de supervisión, con poder real para mirar cómo se entrena y se prueba cada sistema.
• Coordinación internacional entre gobiernos para que la competencia entre países no se traduzca en imprudencia.
• Aplicación voluntaria de medidas de seguridad por parte de las empresas, sin esperar a que la ley los obligue.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI

Ahora, ¿y eso para qué sirve? Sirve para entender que no estamos discutiendo ciencia ficción. Sirve para que la próxima vez que alguien te diga “la IA va a cambiar el mundo”, le preguntes dos cosas: quién la controla y quién la audita. Porque la diferencia entre un futuro razonable y uno muy oscuro pasa, en buena parte, por cómo respondamos esas dos preguntas hoy. Y sirve, también, para recordarte que no hay solución mágica: hay un camino angosto, como dijo el propio Altman, y conviene caminarlo con los ojos bien abiertos.