El auge de los chatbots de IA ha impulsado a muchas personas a participar en conversaciones sobre una amplia gama de temas, creyendo a menudo que estas interacciones son anónimas y seguras. Sin embargo, una importante filtración reciente pone de manifiesto que la privacidad de los chatbots de IA podría no ser tan robusta como los usuarios creen.
Grave violación de más de 300 millones de chats
En enero de 2026, la popular aplicación de chat Chat & Ask AI, que incorpora varios modelos de IA, sufrió una alarmante vulneración de seguridad. Un solo usuario accedió a más de 300 millones de conversaciones de chat de unos 25 millones de usuarios de la aplicación. Estas conversaciones eran muy variadas, abarcando desde consultas informales hasta conversaciones delicadas sobre salud, finanzas e incluso actividades ilegales.
Afortunadamente, este usuario, identificado únicamente como Harry, no actuó con malas intenciones, sino para exponer las vulnerabilidades de la aplicación, lo que permitió a los desarrolladores corregir el problema. No obstante, este incidente ilustra claramente la facilidad con la que los hackers pueden infiltrarse en sistemas supuestamente diseñados para la comunicación privada.
La causa subyacente de la brecha se debió a una configuración incorrecta en Google Firebase, un problema bastante común en el sector tecnológico. Los desarrolladores de Codeway solucionaron rápidamente la falla tras ser notificados por Harry.
Sin embargo, este incidente plantea una preocupación crítica: en escenarios futuros, las consecuencias podrían no ser tan benignas y potencialmente resultar en la exposición de conversaciones privadas.
Esta violación no es un incidente aislado; anteriormente, comunicaciones privadas de la plataforma Grok aparecieron en los resultados de búsqueda de Google, mientras que problemas similares también afectaron a los usuarios de ChatGPT.
A veces, estas infracciones se deben a simples errores de configuración. En otras ocasiones, los usuarios pueden compartir sus chats sin darse cuenta con un público más amplio. Por ejemplo, muchos usuarios creían que el feed Discover de Meta AI restringía la visibilidad del chat solo a sus amigos, cuando en realidad sus mensajes eran visibles para todos los usuarios de la plataforma.
Entendiendo lo que almacenan los chatbots de IA
Aunque muchos chatbots afirman priorizar la privacidad de los datos, es fundamental analizar sus términos de servicio. Entiendo que revisar documentos legales extensos puede ser tedioso, pero es fundamental comprender mejor las prácticas de recopilación de datos.
Normalmente, a menos que los usuarios opten por no participar, sus conversaciones pueden utilizarse para el entrenamiento de modelos de IA. Por ejemplo, OpenAI ha indicado que los datos personales podrían contribuir al refinamiento de sus modelos.
Para los usuarios con cuentas gratuitas o premium, muchas plataformas de IA recopilan información como:
- Identificadores personales como nombre, nombre de usuario y dirección IP.
- Preferencias del usuario, incluidos rasgos de personalidad y detalles específicos para recordar para futuras interacciones, como alergias para búsquedas de recetas.
- Información derivada de documentos cargados, incluidos archivos altamente sensibles.
- Todas las transcripciones de chat, no solo las conversaciones seleccionadas.
- Datos financieros vinculados a las transacciones realizadas a través de las funcionalidades del chatbot.
Además, estos datos suelen almacenarse indefinidamente. Incluso si un usuario elimina un chat, es posible que queden restos de esa conversación en el sistema y se utilicen para fines de formación o personalización del servicio.
Es fundamental recordar que conversar con un chatbot de IA a veces puede resultar diferente a la comunicación tradicional con humanos. Sin embargo, los usuarios deben mantener la privacidad de sus interacciones, ya que personas reales podrían acceder a ellas en el futuro. La conclusión principal es que el anonimato real nunca está garantizado al interactuar con herramientas de IA.
Los riesgos de las aplicaciones de chat de terceros
Si bien organizaciones como Google, OpenAI y Meta se esfuerzan por respetar los estándares de privacidad, el uso de aplicaciones de terceros para acceder a los chatbots de IA aumenta el riesgo para la privacidad del usuario.
Plataformas como Chat & Ask AI fusionan múltiples modelos de IA y ofrecen a los usuarios un centro centralizado para comparar y obtener resultados, de forma muy similar a aplicaciones como Yupp.
Al usar este tipo de aplicaciones, los usuarios deben actuar con cautela, teniendo en cuenta que sus datos son recopilados no solo por la aplicación de terceros, sino también por cada modelo de IA al que se accede. La seguridad máxima de su privacidad depende de la medida de seguridad más débil de la plataforma.
Por lo tanto, es prudente tener especial cuidado al utilizar aplicaciones de chat de inteligencia artificial de terceros, evitando compartir información confidencial.
Qué no compartir con los chatbots de IA
Muchos usuarios, sin darse cuenta, divulgan demasiada información al chatear con IA, creyendo erróneamente que los riesgos son mínimos. Para ilustrarlo, pensemos en las redes sociales: muchos usuarios creen que sus publicaciones solo son visibles para sus amigos, y luego se sorprenden cuando un futuro empleador descubre una publicación polémica o cuando un ladrón se aprovecha de un anuncio de «de vacaciones».
Es fundamental tener en cuenta que cualquier cosa compartida en el ámbito digital puede convertirse en información pública. Si bien la configuración de privacidad puede mejorar la seguridad, no ofrece una protección absoluta. Si una plataforma sufre una brecha de seguridad, toda la información compartida podría verse comprometida, sobre todo porque las plataformas de IA suelen carecer de transparencia sobre cómo se utilizan los datos de los usuarios en el entrenamiento. Por lo tanto, se debe evitar compartir:
- Información financiera.
- Respuestas de seguridad, contraseñas o nombres de usuario (y abstenerse de utilizar IA para la generación de contraseñas).
- Detalles sobre actividades ilegales.
- Documentos confidenciales de trabajo o personales.
- Información relacionada con la salud, incluidos estados de salud mental.
Aborde las preocupaciones sobre la privacidad de los chatbots de IA como si fueran foros públicos: hacerlo mejorará enormemente su seguridad.
Estrategias para un uso más seguro de chatbots de IA
Las opciones más seguras son los chatbots de IA completamente fuera de línea, que operan localmente y mitigan significativamente los problemas de privacidad, incluso en plataformas como Android.
Si las opciones sin conexión no son posibles, es recomendable utilizar aplicaciones de chat oficiales de proveedores de IA, ya que estas suelen cumplir con regulaciones de privacidad más estrictas en comparación con aplicaciones arbitrarias de terceros.
Considere deshabilitar las funciones del historial de chat para minimizar la retención de datos y asegúrese de eliminar su historial de chat inmediatamente después de su uso.
Opte por chatbots de IA que prioricen la privacidad del usuario, como el chatbot Lumo de Proton, que emplea cifrado de acceso cero para mantener la confidencialidad, o Private AI Search de Brave, que garantiza chats cifrados que se eliminan automáticamente después de 24 horas.
A medida que la IA se integra cada vez más en nuestra vida diaria, es imperativo tener en cuenta que conversar con máquinas no equivale a una comunicación privada.
Artículos relacionados:
Por qué cambié de Claude Code a Codex y me arrepiento de no haberlo hecho antes.
9:18
Comprender NVIDIA DLSS: una explicación del escalado y soluciones alternativas
9:17
Comprender la emulación: ventajas clave, inconvenientes y perspectivas adicionales
9:15
Deja una respuesta