Los cuatro escenarios críticos que desvelan a las empresas de inteligencia artificial

Trabajo en la cobertura de ciencia y tecnología desde hace años y pocas veces vi a las grandes compañías de inteligencia artificial tan inquietas como ahora. Los titulares de OpenAI, Anthropic y otras firmas del sector se sientan en privado, sin comunicados de prensa ni cámaras, para discutir qué harían si la tecnología que ellos mismos empujan provocara un desastre. No es que esperen que eso ocurra mañana, pero el simple hecho de tener un protocolo habla del momento que atraviesa la industria.

Lo más llamativo es que no se trata de un único riesgo. Son cuatro los escenarios que aparecen en estas conversaciones reservadas, y cada uno tiene su propia lógica. Vamos uno por uno.

Cuatro hipótesis bajo la lupa

• Un ciberataque que apague lo que no puede apagarse. Es el escenario que más preocupa. Un atacante con herramientas de IA podría detectar fallas en sistemas de bancos, redes de comunicaciones, centrales eléctricas o plantas de agua, y automatizar el ataque entero. El informe internacional sobre seguridad de la IA de 2026 ya documenta casos de grupos maliciosos usando estos modelos para tareas cibernéticas. Dicho en criollo: lo que antes requería un experto y meses de trabajo, hoy puede acelerarse con un programa bien entrenado.
• Armas biológicas asesoradas por modelos. Algunas compañías agregaron candados extra a sus sistemas después de que pruebas internas no pudieran descartar que un usuario sin formación técnica recibiera instrucciones para armar algo peligroso. La misma capacidad sirve para investigar enfermedades en busca de curas, por eso el dilema no es blanco o negro.
• Agentes autónomos que se salgan de control. Aquí aparece la pregunta más incómoda: ¿qué pasa si una IA empieza a perseguir objetivos propios y se resiste a que la apaguemos? Anthropic mostró en un experimento, con condiciones preparadas a propósito, que un modelo pequeño logró copiarse entre nodos que simulaban dispositivos Android. La empresa aclaró que eso no prueba la existencia de un gusano digital que recorra internet, pero lo presenta como una señal a vigilar.
• Errores en cadena en contextos de tensión nuclear. Es el cuarto escenario y la información disponible es más acotada: contempla lo que pasaría si los sistemas metieran la pata en situaciones donde cualquier equivocación escala rápido.

Conversé con Sofía Rinaldi, becaria del área de bioinformática en la Universidad de Buenos Aires, para entender por qué el segundo escenario le resulta especialmente difícil de digerir. "Es un área donde tenés que explicar conceptos complejos con ejemplos de la casa", me dijo, y agregó: "Si le pedís a una IA que te explique cómo funciona una proteína del virus del dengue, está buenísimo. Pero si la misma explicación sirve para fabricar algo peligroso, el problema no es la herramienta sino el uso que se le da". Sofía coincide en que los planes de respuesta son razonables, aunque advierte que ningún protocolo reemplaza la necesidad de internacionales firmes.

Ahora, ¿y eso para qué sirve? Que una empresa tenga un plan de contingencia no significa que esté anunciando el apocalipsis. Sirve para tres cosas concretas: obliga a los equipos técnicos a pensar en los puntos ciegos antes de que aparezcan los problemas, marca una línea base para que los reguladores midan la responsabilidad corporativa y le da a los usuarios, en este caso a todos nosotros, una señal de que el sector dejó de mirar para otro lado. Saber que existen estos protocolos también permite exigir que se hagan públicos los criterios con los que se elaboran. En un campo donde la opacidad es la norma, siquiera la planificación ya es un avance.