Gartner, Inc. ha predicho que para 2027, más del 40% de las violaciones de datos relacionadas con la inteligencia artificial (IA) serán causadas por el uso indebido de IA generativa (GenAI) a través de fronteras. La rápida adopción de tecnologías GenAI por parte de los usuarios finales ha superado el desarrollo de medidas de gobernanza y seguridad de datos, lo que plantea preocupaciones sobre la localización de datos debido a la potencia de computación centralizada necesaria para soportar estas tecnologías.

La falta de prácticas y estándares globales consistentes para la IA y la gobernanza de datos agrava los desafíos al causar fragmentación del mercado y obligar a las empresas a desarrollar estrategias específicas para cada región. Esto limita su capacidad para escalar operaciones globalmente y beneficiarse de productos y servicios de IA.

«Las transferencias de datos transfronterizas no intencionadas a menudo ocurren debido a una supervisión insuficiente, especialmente cuando GenAI se integra en productos existentes sin descripciones claras o anuncios», dijo Joerg Fritsch, VP analista de Gartner. «Las organizaciones están notando cambios en el contenido producido por empleados que usan herramientas de GenAI. Aunque estas herramientas pueden usarse para aplicaciones comerciales aprobadas, plantean riesgos de seguridad si se envían indicaciones sensibles a herramientas y APIs de IA alojadas en ubicaciones desconocidas».

Ineficiencia operativa debido a la falta de estándares globales

La complejidad de gestionar flujos de datos y mantener la calidad debido a políticas de IA localizadas puede llevar a ineficiencias operativas. «Las organizaciones deben invertir en gobernanza y seguridad avanzada de IA para proteger datos sensibles y asegurar el cumplimiento. Esta necesidad probablemente impulsará el crecimiento en los mercados de servicios de seguridad, gobernanza y cumplimiento de IA, así como en soluciones tecnológicas que mejoren la transparencia y el control sobre los procesos de IA», añadió Fritsch.

Para mitigar los riesgos de violaciones de datos de IA, especialmente del uso indebido de GenAI transfronterizo, y asegurar el cumplimiento, Gartner recomienda varias acciones estratégicas para las empresas:

1. Mejorar la gobernanza de datos: Las organizaciones deben asegurar el cumplimiento con regulaciones internacionales y monitorear transferencias de datos transfronterizas no intencionadas extendiendo marcos de gobernanza de datos para incluir directrices para datos procesados por IA. Esto implica incorporar evaluaciones de impacto de linaje de datos y transferencia de datos dentro de evaluaciones de impacto de privacidad regulares.
2. Establecer comités de gobernanza: Formar comités para mejorar la supervisión de IA y asegurar una comunicación transparente sobre implementaciones de IA y manejo de datos. Estos comités deben ser responsables de la supervisión técnica, gestión de riesgos y cumplimiento, y reporte de decisiones y comunicación.
3. Fortalecer la seguridad de datos: Utilizar tecnologías avanzadas, cifrado y anonimización para proteger datos sensibles. Por ejemplo, verificar Entornos de Ejecución Confiables en regiones geográficas específicas y aplicar tecnologías avanzadas de anonimización, como Privacidad Diferencial, cuando los datos deben salir de estas regiones.
4. Invertir en productos TRiSM: Planificar y asignar presupuestos para productos y capacidades de gestión de confianza, riesgo y seguridad (TRiSM) adaptados a tecnologías de IA. Esto incluye gobernanza de IA, gobernanza de seguridad de datos, filtrado y redacción de indicaciones, y generación sintética de datos no estructurados. Gartner predice que para 2026, las empresas que apliquen controles TRiSM de IA consumirán al menos un 50% menos de información inexacta o ilegítima, reduciendo la toma de decisiones erróneas.