Meta se disculpó por un chat que preguntó cosas íntimas sobre los hijos de una usuaria

Tengo una confesión: cada vez que una aplicación hace algo que no tendría que hacer, miro para otro lado y sigo scrolleando. Esta vez no se puede. Meta, dueña de Facebook e Instagram, tuvo que salir a pedir perdón porque su chatbot integrado se puso a investigar la vida familiar de una usuaria sin que nadie se lo pidiera.

El caso empezó con un video doméstico: una mujer cantaba con su hijo dentro del auto y lo subió a Instagram. Debajo de la publicación apareció, como por arte de magia, la sugerencia: ¿Quién es el niño pasajero? Al tocar esa pregunta, el asistente empezó a escupir información sobre las hijas de la usuaria: edad, lugar donde vive la familia y hasta fotos de ellas, incluyendo una que la mujer aseguró haber borrado hace años.

Lo que pasó puertas adentro de Meta

Dina El-Kassaby, portavoz de la compañía, reconoció que la empresa “se equivocó” y que la función “nunca debería haber sugerido ese tipo de preguntas al usuario”. La aclaración oficial es importante: Meta no entró a cuentas privadas ni a archivos borrados. Lo que hizo su inteligencia artificial fue cruzar y reinterpretar información que ya estaba visible para cualquiera en el perfil.

Acá va un ejemplo de la casa para que se entienda. Imaginate que dejás la puerta de tu casa abierta porque hace calor. Un desconocido entra, se sienta en tu sillón y empieza a revolver los álbums de fotos. Técnicamente no forzó nada, pero igual te parece invasivo. Eso, trasladado al mundo digital, es lo que discuten hoy los especialistas en privacidad.

“No accedimos a contenido privado, pero la IA interpretó y relacionó información pública para producir sugerencias invasivas. Eso no tendría que haber pasado.”Dina El-Kassaby, portavoz de Meta

No es la primera vez

En julio, Meta ya había sacado una función que permitía crear imágenes falsas de otros usuarios de Instagram. La polémica se repite, aunque con distinta escala: lo de ahora no fue un montaje, fue una intromisión silenciosa.

La voz de un becario que tenemos en la redacción lo resumé así: “Lo escandaloso no es que la máquina sepa algo, sino que lo diga en voz alta sin que se lo preguntes”. Esa frase me parece clave para entender el problema: la IA no inventó información, simplemente la ordenó y la ofreció como si fuera un dato más.

La compañía asegura que ya corrigió el comportamiento que disparaba esas recomendaciones y que trabaja para que las sugerencias sigan siendo útiles al explorar publicaciones, pero sin meterse en la vida privada ni en el entorno familiar de las personas. Habrá que ver si los cambios alcanzan o si hacen falta reglas más duras desde los organismos de control.

¿Y eso para qué sirve? Para entender que la frontera entre lo público y lo íntimo se volvió difusa. Hoy un video familiar puede alimentar a un sistema que, sin mala fe aparente, igual termina preguntando cosas que nadie debería preguntar.