IA y datos confidenciales: el enemigo silencioso en tu navegador
Ciberseguridad empresarial | Protección de datos | Inteligencia artificial en el trabajo
Cuando hablamos de IA y datos confidenciales, seguramente ya te pasó esto: tenías un reporte financiero a medio terminar, un correo incómodo que redactar o un fragmento de código que simplemente no querías depurar tú mismo, y en menos de un minuto ChatGPT, Gemini o Copilot te sacaron del apuro. No eres el único. En los últimos dos años, la inteligencia artificial generativa dejó de ser una curiosidad tecnológica para convertirse en una herramienta de trabajo diaria en miles de empresas, muchas veces sin que nadie lo haya autorizado formalmente.
Y ahí es exactamente donde empieza el problema.
Como consultores en ciberseguridad, algo que vemos repetirse una y otra vez —en juntas directivas, en auditorías, en conversaciones con equipos de TI desbordados— es que la adopción de estas herramientas avanza mucho más rápido que las políticas de seguridad diseñadas para controlarlas. El resultado es una brecha silenciosa: la amenaza ya no toca la puerta desde afuera, sino que a veces está sentada en el escritorio de al lado, compartiendo información sin siquiera saber que lo está haciendo.
En este artículo te explicamos, sin tecnicismos innecesarios, qué ocurre realmente con los datos que compartes con una IA, por qué esto le importa a tu empresa (aunque hoy parezca «solo un chat») y qué puedes hacer para aprovechar estas herramientas sin poner en riesgo tu información más valiosa.
¿Qué sucede realmente con la información que pegas en un chat de IA?
Cuando escribes o pegas texto en una IA generativa, esa información no simplemente «desaparece» al cerrar la pestaña del navegador. Dependiendo de la plataforma y del plan que se esté usando (gratuito, estándar o empresarial), esos datos pueden almacenarse, procesarse y, en algunos casos, utilizarse para seguir entrenando el modelo.
Piénsalo así: imagina que un desarrollador de tu equipo pega un fragmento de código propietario para resolver un error puntual. Semanas después, otra persona —quizás en otra empresa— le hace una pregunta parecida a la misma IA, y el sistema le devuelve una lógica sorprendentemente similar a la tuya. No es un escenario hipotético de ciencia ficción; casos así ya han obligado a compañías tecnológicas grandes a revisar y restringir el uso interno de estas herramientas.
La lección no es «la IA es peligrosa». La lección es que la información que entra a un modelo público deja de estar completamente bajo tu control, y eso cambia por completo cómo deberíamos tratarla.
Del «copiar y pegar» a un problema legal: lo que dice el marco regulatorio
Aquí es donde muchas empresas se sorprenden. No se trata solo de un tema técnico, sino de cumplimiento normativo. Introducir datos sensibles —bases de clientes, contratos, cifras financieras— en un modelo de IA público, sin un acuerdo de confidencialidad de nivel empresarial que lo respalde, puede derivar en consecuencias muy concretas:
- Exposición de datos personales (PII). Subir listados de clientes o información personal para que una IA los «analice» puede violar normativas de protección de datos, con el riesgo de sanciones económicas importantes.
- Implicaciones bajo el marco legal mexicano. En un análisis forense o una auditoría de seguridad, una fuga de información a través de una herramienta de IA no autorizada puede interpretarse como una sustracción indebida de información patrimonial de la empresa. Aunque no haya mala intención de por medio, el simple hecho de aprovechar —sin querer— una falla en las políticas internas deja a la organización expuesta legal y operativamente.
- Pérdida de control sobre activos estratégicos. Un contrato, un algoritmo o una estrategia comercial compartidos «sin pensarlo mucho» pueden terminar circulando fuera del perímetro que la empresa cree tener bajo control.
El punto no es generar miedo, sino claridad: lo que antes era un simple atajo de productividad hoy puede tener un peso legal real.
IA y datos confidenciales: casos reales de filtración de información
Es fácil pensar «a nosotros no nos va a pasar», hasta que se revisa lo que ya le ocurrió a empresas con equipos de seguridad mucho más grandes que el promedio.
El caso Samsung (2023)
Es probablemente el ejemplo más citado en el mundo de la ciberseguridad corporativa, y por una razón: mostró que el riesgo no viene de un ataque sofisticado, sino de la rutina diaria de trabajo. En un lapso de apenas tres semanas, distintos colaboradores de la división de semiconductores de Samsung —una de las áreas más sensibles del grupo, responsable de procesadores y soluciones de memoria— terminaron compartiendo información interna con ChatGPT sin ninguna intención de causar daño. Uno buscaba ayuda para resolver un error en un código propietario; otro quería optimizar un proceso de prueba para detectar chips defectuosos; un tercero simplemente quería convertir el audio de una junta en un acta redactada. En los tres casos, el objetivo era ahorrar tiempo, no vulnerar la seguridad de la empresa.
El problema es que ninguno de esos tres colaboradores entendía del todo qué pasaba con la información una vez que la enviaban al chat. Ese código, esos parámetros de prueba y el contenido de esa reunión salieron de los sistemas de Samsung y quedaron alojados en servidores externos, fuera de cualquier control corporativo directo. La velocidad con la que se acumularon los tres incidentes —en cuestión de días, no de meses— es justamente lo que más llamó la atención de la industria: no hizo falta un atacante externo ni meses de planeación, solo la ausencia de una política clara.
¿Cuál fue la respuesta de la compañía?
Como respuesta, la compañía tomó medidas inmediatas: limitó de forma drástica la cantidad de información que cada persona podía enviar por consulta y, poco después, restringió por completo el acceso a herramientas de IA generativa desde los equipos de la empresa. Samsung no fue la única en reaccionar así. En ese mismo periodo, varias compañías tecnológicas y financieras de gran tamaño enviaron advertencias internas a su personal o directamente bloquearon el acceso a estos chatbots, ante el temor de vivir un incidente similar.
Fallas técnicas de las propias plataformas
No todos los riesgos dependen de un error humano. A inicios de 2023, una de las plataformas de IA generativa más usadas reconoció públicamente una falla técnica que, durante un periodo breve, permitió que algunos usuarios vieran fragmentos del historial de conversación de otras personas e incluso datos parciales de facturación. El incidente se corrigió con rapidez, pero dejó una lección importante: incluso cuando nadie comete un error dentro de la empresa, la infraestructura de estas plataformas también puede fallar, y cuando eso ocurre, la información que ya se compartió queda fuera de cualquier control.
El patrón detrás de todos los casos
Lo que estos ejemplos tienen en común no es negligencia extrema ni empleados descuidados: es la ausencia de una política clara, comunicada y reforzada con controles técnicos. En ningún caso alguien intentó robar información deliberadamente. Simplemente, nadie les había explicado —o la empresa no había bloqueado técnicamente— que ese código, esa acta o esa base de datos no debía salir de los sistemas internos.
Shadow AI: el uso de inteligencia artificial que nadie está monitoreando
Bloquear ChatGPT, Gemini o Copilot en el firewall corporativo rara vez resuelve el problema de fondo. Si una herramienta le ahorra horas de trabajo a un colaborador, esa persona encontrará la manera de usarla de todos modos: desde su celular, desde una red personal, desde cualquier dispositivo fuera del radar de TI.
A esto se le conoce como Shadow AI, o inteligencia artificial en la sombra: el uso de modelos generativos dentro (o alrededor) de la infraestructura corporativa sin autorización ni monitoreo formal.
El riesgo real de la Shadow AI no es que los empleados quieran hacer algo indebido —casi nunca es así—, sino que no se puede proteger lo que no se ve. Sin visibilidad sobre qué información fluye hacia estas plataformas, es imposible aplicar controles de hardening efectivos o políticas serias de prevención de pérdida de datos (DLP).
Cómo adoptar la IA sin comprometer la información sensible de tu empresa
La buena noticia es que ninguna de estas soluciones implica frenar la innovación ni prohibir el uso de IA en tu organización. Se trata de gestionar la adopción con la misma seriedad con la que se gestiona cualquier otro activo crítico del negocio. Algunas prácticas que solemos recomendar en auditorías de infraestructura:
- Migrar a versiones empresariales aisladas. Si tu equipo depende de la IA para trabajar mejor, invertir en licencias corporativas (como Microsoft 365 Copilot o ChatGPT Enterprise) marca una diferencia enorme. Estos contratos suelen garantizar de forma explícita que los prompts y respuestas no se usan para entrenar modelos públicos y permanecen dentro del entorno (tenant) de la empresa.
- Enseñar anonimización desde el diseño del prompt. Capacitar al equipo en ingeniería de prompts segura es más simple de lo que parece. En lugar de escribir «Analiza este contrato con el Cliente X por $500,000 USD», basta con enseñar a redactar «Analiza este contrato con el Cliente A por la cantidad Z». El resultado analítico es el mismo; el riesgo de exposición, no.
- Definir políticas claras y firmadas. No basta con «recomendar» cuidado al usar IA. Los manuales de seguridad operativa deben actualizarse con lineamientos concretos sobre qué niveles de confidencialidad de información están estrictamente prohibidos en plataformas de acceso público, y comunicarse de forma clara a todo el personal.
- Auditar el tráfico y dar visibilidad a TI. Antes de bloquear, es más efectivo entender: ¿qué herramientas se están usando realmente en la organización? Esa visibilidad es la base para diseñar controles que funcionen en la práctica y no solo en el papel.
Checklist: ¿tu empresa está expuesta con la IA y sus datos confidenciales?
Antes de invertir en cualquier herramienta o política nueva, vale la pena hacer un diagnóstico honesto. Revisa cuántos de estos puntos aplican hoy en tu organización:
- No existe una política escrita —ni comunicada— sobre qué tipo de información no debe compartirse con IA generativa.
- El equipo de TI no tiene visibilidad clara de qué plataformas de IA usan realmente los colaboradores en el día a día.
- Se usan planes gratuitos o estándar de ChatGPT, Gemini o Copilot para tareas relacionadas con clientes, contratos o código propietario.
- No se ha capacitado al personal en técnicas básicas de anonimización de datos antes de usar estas herramientas.
- No hay un canal claro para que un colaborador reporte, sin miedo a represalias, si compartió información sensible por error.
- La empresa maneja datos personales de clientes (PII) y no ha evaluado el riesgo de que terminen en un modelo de IA público.
- No se han revisado los contratos de las licencias de IA que sí se usan en la empresa para confirmar si los datos se usan para entrenamiento.
- Nunca se ha realizado una auditoría de tráfico hacia plataformas de inteligencia artificial.
¿Marcaste tres o más? Es momento de tratar el uso de IA en tu empresa como lo que realmente es: un tema de seguridad de la información, no solo una herramienta de productividad.
Preguntas frecuentes sobre IA y seguridad de la información corporativa
¿Es seguro usar la versión gratuita de ChatGPT o Gemini para tareas de trabajo?
Depende completamente del tipo de información que se comparta. Para tareas generales, sin datos sensibles, el riesgo es bajo. El problema aparece cuando se introducen datos de clientes, cifras financieras, contratos o código propietario, ya que en los planes gratuitos y estándar esa información puede almacenarse y usarse para entrenar el modelo.
¿Las versiones de pago o «Enterprise» eliminan por completo el riesgo?
Lo reducen de forma significativa, pero no lo eliminan al cien por ciento. Los planes empresariales suelen garantizar contractualmente que los datos no se usan para entrenamiento y que permanecen dentro del entorno de la organización. Aun así, sigue siendo indispensable definir qué información se puede compartir y capacitar al equipo, porque ninguna licencia sustituye una buena política interna.
Si un empleado comparte información confidencial por error, ¿la empresa puede tener una responsabilidad legal?
Sí, es posible, especialmente si se trata de datos personales de clientes o información protegida contractualmente. Aunque no haya intención de causar daño, la falta de políticas claras y controles técnicos puede considerarse una falla en la protección de la información, con implicaciones tanto regulatorias como contractuales.
¿Cómo sé si en mi empresa ya existe «Shadow AI»?
La forma más confiable es a través de una auditoría de tráfico e infraestructura que identifique qué plataformas se están usando realmente, desde qué dispositivos y con qué frecuencia. La percepción de TI («aquí no se usa IA sin autorización») casi nunca coincide con la realidad del uso diario del personal.
¿Bloquear el acceso a estas herramientas es la solución?
Rara vez lo es por sí solo. El bloqueo sin alternativa suele empujar a los equipos a usar sus dispositivos personales, lo que reduce aún más la visibilidad. La estrategia más efectiva combina herramientas empresariales autorizadas, políticas claras y capacitación constante.
La seguridad no debería frenar el crecimiento, debería habilitarlo
La inteligencia artificial generativa llegó para quedarse, y eso es una buena noticia para la productividad de cualquier empresa. El error no está en usarla, sino en hacerlo sin las barandillas de seguridad adecuadas. Del mismo modo en que nadie dejaría una base de datos de clientes en una carpeta pública «porque es más rápido», tampoco deberíamos tratar a la IA como una excepción a las reglas de protección de información que ya existen para todo lo demás.
La ciberseguridad efectiva no es la que dice «no» a la innovación, sino la que hace posible adoptarla con confianza.
¿Tu empresa ya identificó cuánta información sensible está saliendo hoy hacia plataformas de IA sin control? En LinkOS te ayudamos a evaluar tu infraestructura, detectar el uso real de Shadow AI en tu organización y diseñar controles que permitan a tu equipo aprovechar el poder de la inteligencia artificial de forma segura y en cumplimiento normativo. Hablemos.
¿Tu empresa ya identificó cuánta información sensible está saliendo hoy hacia plataformas de IA sin control?
En LinkOS te ayudamos a evaluar tu infraestructura, detectar el uso real de Shadow AI en tu organización y diseñar controles que permitan a tu equipo aprovechar el poder de la inteligencia artificial de forma segura y en cumplimiento normativo.
