Facebook, la plataforma de redes sociales propiedad de Meta, está pidiendo a los usuarios que carguen imágenes de sus teléfonos para sugerir collages, resumen y otras ideas utilizando inteligencia artificial (IA), incluidas aquellas que no han sido cargadas directamente en el servicio.
Según TechCrunch, que informó por primera vez la función, los usuarios reciben un nuevo mensaje emergente que solicita permiso para “permitir el procesamiento en la nube” cuando intentan crear una nueva historia en Facebook.
“Para crear ideas para usted, seleccionaremos los medios de su rollo de cámara y lo subiremos a nuestra nube de manera continua, en función de información como el tiempo, la ubicación o los temas”, señala la compañía en la ventana emergente. “Solo usted puede ver sugerencias. Sus medios no se utilizarán para la orientación de anuncios. Lo verificaremos con fines de seguridad e integridad”.
Si los usuarios consienten en que sus fotos se procesen en la nube, Meta también afirma que están de acuerdo con sus términos de IA, que le permiten analizar sus medios y características faciales.
En una página de ayuda, Meta dice que “esta característica aún no está disponible para todos”, y que está limitado a los usuarios en los Estados Unidos y Canadá. También señaló a TechCrunch que estas sugerencias de IA son optadas y se pueden deshabilitar en cualquier momento.
El desarrollo es otro ejemplo de cómo las empresas están corriendo para integrar las características de AI en sus productos, a menudo a costa de la privacidad del usuario.
Meta dice que su nueva función de IA no se usará para anuncios específicos, pero los expertos aún tienen preocupación. Cuando las personas suben fotos o videos personales, incluso si lo acuerdan, no está claro cuánto tiempo se mantienen esos datos o quién puede verlos. Dado que el procesamiento ocurre en la nube, existen riesgos, especialmente con cosas como el reconocimiento facial y los detalles ocultos como el tiempo o la ubicación.
Incluso si no se usa para anuncios, este tipo de datos aún podría terminar en conjuntos de datos de capacitación o usarse para crear perfiles de usuario. Es un poco como entregar su álbum de fotos a un algoritmo que aprende silenciosamente sus hábitos, preferencias y patrones con el tiempo.
El mes pasado, Meta comenzó a capacitar a sus modelos de IA utilizando datos públicos compartidos por adultos en sus plataformas en la Unión Europea después de recibir la aprobación de la Comisión de Protección de Datos de Irlanda (DPC). La compañía suspendió el uso de herramientas de IA generativas en Brasil en julio de 2024 en respuesta a las preocupaciones de privacidad planteadas por el gobierno.
El gigante de las redes sociales también ha agregado funciones de IA a WhatsApp, la más reciente es la capacidad de resumir mensajes no leídos en los chats utilizando un enfoque centrado en la privacidad que llama procesamiento privado.
Este cambio es parte de una tendencia mayor en IA generativa, donde las compañías tecnológicas mezclan la conveniencia con el seguimiento. Las características como collages automáticos o sugerencias de historias inteligentes pueden parecer útiles, pero confían en la IA que observa cómo usa sus dispositivos, no solo en la aplicación. Es por eso que la configuración de privacidad, el consentimiento claro y la recopilación de datos limitantes son más importantes que nunca.
La función de inteligencia artificial de Facebook también se produce como uno de los perros vigilantes de protección de datos de Alemania pidieron a Apple y Google que elimine las aplicaciones de Deepseek de sus respectivas tiendas de aplicaciones debido a transferencias ilegales de datos de usuarios a China, siguiendo preocupaciones similares planteadas por varios países al comienzo del año.
“El servicio procesa datos personales extensos de los usuarios, incluidas todas las entradas de texto, historiales de chat y archivos cargados, así como información sobre la ubicación, los dispositivos utilizados y las redes”, según un comunicado publicado por el Comisionado de Berlín para la protección de datos y la libertad de información. “El servicio transmite los datos personales recopilados de los usuarios a los procesadores chinos y los almacena en servidores en China”.
Estas transferencias violan el Reglamento General de Protección de Datos (GDPR) de la Unión Europea, dada la falta de garantías de que los datos de los usuarios alemanes en China estén protegidos a un nivel equivalente al bloque.
A principios de esta semana, Reuters informó que la compañía china de IA está ayudando a las operaciones militares y de inteligencia del país, y que está compartiendo información del usuario con Beijing, citando a un funcionario anónimo del Departamento de Estado de los Estados Unidos.
Hace un par de semanas, Operai también consiguió $ 200 millones con el Departamento de Defensa de los Estados Unidos (DOD) para “desarrollar capacidades prototipo de IA fronteriza para abordar los desafíos críticos de seguridad nacional tanto en los dominios de guerra como en los dominios empresariales”.
La compañía dijo que ayudará al Pentágono a “identificar y prototipos de cómo Frontier AI puede transformar sus operaciones administrativas, desde mejorar cómo los miembros del servicio y sus familias obtienen atención médica, hasta racionalizar cómo observan los datos de programas y adquisiciones, hasta apoyar la defensa cibernética proactiva”.
