El jefe del MI5 pone el grito en el cielo: la inteligencia artificial puede fabricar monstruos en un laboratorio

Soy Rocío Encina, y esta nota me dejó pensando más de la cuenta. Resulta que el hombre que manda en el MI5 -el servicio de inteligencia interior del Reino Unido- salió a decir algo que suena a película, pero que preocupa de verdad: la inteligencia artificial está abriendo la puerta para que cualquiera con una computadora y malas intenciones pueda aprender a fabricar armas biológicas o a soltar patógenos en una ciudad.

Ken McCallum, director general del MI5, presentó su análisis anual de amenazas y no se guardó nada. Contó que la IA ya está intensificando lo que él llamó la pelea de ciberseguridad entre los que atacan y los que defienden. O sea: hackers, servicios de inteligencia y hasta grupos terroristas están usando estas herramientas igual que un científico usa una lupa, pero al revés.

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

Un centro nuevo para mirar a la IA de cerca

Para no quedarse atrás, McCallum anunció que el MI5 va a poner en marcha un Centro de Evaluación de Amenazas de IA. La idea es simple de explicar, aunque complicada de ejecutar: que un grupo de especialistas estudie al mismo tiempo los riesgos y las oportunidades de esta tecnología, siempre con la mirada puesta en la seguridad nacional.

Me lo imagino como un termómetro gigante: están midiendo la fiebre que puede llegar si alguien usa la IA con fines oscuros. El propio McCallum dijo que dedica una parte enorme de su jornada a pensar cómo anticiparse a estos cambios. Vamos, a adelantarse al problema antes de que explote.

Por qué suena la alarma

• La accesibilidad: hoy cualquiera puede usar modelos de IA avanzados sin ser técnico ni científico. Es como tener un libro de instrucciones en la cocina, pero en vez de una torta podés armar un desastre.
• La información abierta: muchísimo conocimiento científico está publicado en la web. La IA puede leerlo, cruzarlo y armar una respuesta útil para quien quiera hacer daño.
• La velocidad: lo que antes necesitaba años de estudio, ahora puede resolverse en una tarde frente a la pantalla.

Hablé con Julieta, una becaria de Biotecnología de la UBA, mientras escribía esto. Me dijo, medio en shock, que un modelo de lenguaje puede traducir papers científicos densísimos en segundos. "Eso es un golazo para los investigadores legales -me explicó-, pero si alguien lo usa para entender cómo armar una toxina, también es un golazo, y de los peores". La chica lo resumió en una frase que me quedó dando vueltas: "la IA no distingue para quién trabaja".

La advertencia del MI5 no cayó en el vacío. Otros servicios de inteligencia del mundo miran el fenómeno con la misma preocupación. La combinación de una herramienta potente, gratis o barata y al alcance de la mano, más papers científicos abiertos en internet, es la receta que preocupa a McCallum y a sus pares.

Sirve para que pensemos dos veces cómo se entrenan estos modelos y qué información se les da a masticar. Sirve para que los gobiernos se sienten a discutir reglas serias, no un simple pedido de buenas intenciones. Y sirve, también, para que los científicos que están del lado de la luz piensen cómo proteger su propio trabajo del lado oscuro de la misma herramienta que usan para curar.