Mundo Calidad

El portal de temas de calidad

, , ,

¿Quién protege sus datos cuando la Inteligencia Artificial toma decisiones?

La Inteligencia Artificial está revolucionando las organizaciones, pero también plantea nuevos desafíos para el tratamiento de los datos personales.


Inteligencia Artificial y datos personales — Mundo Calidad
Mundo Calidad — Protección de Datos ART. 20 / LEY 7593·2025
Inteligencia Artificial

Usar la IA sin poner en riesgo la privacidad

La Inteligencia Artificial está revolucionando las organizaciones, pero también plantea nuevos desafíos para el tratamiento de los datos personales.

La Inteligencia Artificial (IA) ha dejado de ser una tecnología exclusiva de grandes empresas para convertirse en una herramienta cotidiana. Hoy, organizaciones de todos los tamaños utilizan asistentes virtuales, sistemas de análisis predictivo, plataformas de atención al cliente, herramientas de generación de contenido, software de recursos humanos y soluciones de automatización basadas en IA para mejorar su productividad y competitividad.

Su capacidad para procesar grandes volúmenes de información en pocos segundos ha transformado la forma de trabajar en prácticamente todos los sectores.

Sin embargo, este avance tecnológico también plantea una pregunta fundamental: ¿qué ocurre con los datos personales que utiliza la Inteligencia Artificial?

Muchas organizaciones incorporan herramientas de IA sin analizar qué información procesan, dónde se almacena, quién puede acceder a ella o si ese tratamiento cumple con la legislación vigente.

En Paraguay, la Ley N.º 7593/2025 de Protección de Datos Personales establece principios y obligaciones que también alcanzan a las organizaciones que utilizan sistemas de Inteligencia Artificial para tratar datos personales.

La IA puede convertirse en una gran aliada para la innovación, pero solo si se utiliza de forma responsable, ética y respetando el derecho fundamental a la privacidad.

El punto de partida

¿Por qué la IA necesita grandes cantidades de datos?

La Inteligencia Artificial aprende a partir de la información. A diferencia de un programa tradicional, que ejecuta instrucciones previamente definidas, muchos sistemas de IA analizan enormes cantidades de datos para identificar patrones, realizar predicciones o generar respuestas. Mientras más información reciben, mayor suele ser su capacidad para ofrecer resultados útiles.

Por ejemplo, una empresa puede utilizar IA para:

  • Responder consultas
  • Analizar tendencias de compra
  • Detectar fraudes
  • Clasificar documentos
  • Evaluar currículums
  • Traducir textos
  • Elaborar informes
  • Generar contenido
  • Optimizar procesos

Para realizar estas tareas, la IA puede necesitar acceder a información relacionada con personas físicas. Y es precisamente allí donde surge el desafío.

Más allá de lo evidente

¿Qué datos personales puede procesar una IA?

Muchas organizaciones creen que la IA únicamente analiza documentos o realiza cálculos. En realidad, dependiendo de la herramienta utilizada, puede procesar una gran variedad de datos personales:

nombre y apellido · número de documento · dirección · correo electrónico · número telefónico · historial de compras · fotografías · videos · grabaciones de voz · ubicación geográfica · información financiera · datos biométricos · historiales laborales · evaluaciones de desempeño · registros médicos · conversaciones con clientes

Incluso cuando una empresa utiliza una IA únicamente para redactar documentos o responder correos electrónicos, existe el riesgo de que empleados introduzcan información confidencial sin advertir las consecuencias.

Por ello, el primer paso consiste en comprender que los datos utilizados por una IA continúan siendo datos personales y deben recibir el mismo nivel de protección que cualquier otro tratamiento realizado por la organización.

Cinco puntos de atención

Los principales riesgos del uso de IA

La utilización de IA ofrece numerosas ventajas, pero también genera riesgos que deben identificarse y gestionarse.

01 · AUTORIZACIÓN

Uso de datos sin autorización

Cargar documentos, contratos o bases de clientes en una IA sin verificar si existe una base legal ni si el tratamiento es compatible con la finalidad original. La tecnología no elimina la obligación de cumplir la normativa.

02 · CONFIDENCIALIDAD

Divulgación involuntaria

Introducir información sensible en plataformas de IA puede exponer estrategias comerciales, contratos, datos financieros o secretos comerciales. La confidencialidad debe mantenerse aun en una consulta automatizada.

03 · GOBERNANZA

Decisiones automatizadas

Selección de personal, créditos o segmentación de clientes: cuando una decisión afecta directamente a las personas, hace falta revisión humana y evitar que dependa solo de un algoritmo.

04 · CALIDAD DE DATOS

Sesgos algorítmicos

Si los datos de entrenamiento contienen errores o prejuicios, el sistema puede reproducir resultados discriminatorios, por ejemplo al filtrar candidatos sin justificación objetiva.

05 · TRANSPARENCIA

Falta de transparencia

Los usuarios suelen desconocer que interactúan con una IA, y puede ser difícil entender cómo llegó a una conclusión. Informar el uso de sistemas automatizados genera confianza.

Sin transferencia posible

¿Qué responsabilidades tiene la empresa?

La incorporación de una herramienta de IA no transfiere la responsabilidad al proveedor del software. La organización continúa siendo responsable del tratamiento de los datos personales que utiliza en sus procesos. Entre sus principales obligaciones se encuentran:

  • Identificar qué datos serán tratados.
  • Verificar la finalidad del tratamiento.
  • Aplicar medidas de seguridad adecuadas.
  • Limitar el acceso únicamente a personal autorizado.
  • Evaluar los riesgos asociados al uso de IA.
  • Capacitar a los colaboradores.
  • Documentar los controles implementados.
  • Supervisar el funcionamiento de las herramientas utilizadas.
«

La innovación tecnológica nunca reemplaza la responsabilidad legal de la organización.

Un principio sin excepciones
El marco legal

La relación con la Ley N.º 7593/2025

La Ley N.º 7593/2025 busca garantizar que los datos personales sean tratados de manera lícita, transparente y segura. Aunque la norma no regula exclusivamente la Inteligencia Artificial, sus principios resultan plenamente aplicables cuando una organización utiliza estas tecnologías. Entre ellos destacan:

  • Licitud del tratamiento
  • Finalidad específica
  • Minimización de datos
  • Calidad y exactitud
  • Confidencialidad
  • Seguridad
  • Responsabilidad proactiva
  • Derechos de los titulares

Esto significa que una empresa no puede justificar un tratamiento inadecuado simplemente porque fue realizado mediante Inteligencia Artificial. Si existe un incumplimiento, la responsabilidad seguirá recayendo sobre la organización responsable del tratamiento.

De la teoría a la práctica

Políticas internas para un uso responsable

Cada organización debería establecer reglas claras para el uso de herramientas de Inteligencia Artificial. Estas políticas pueden contemplar aspectos como:

Qué definir
  • Qué herramientas están autorizadas.
  • Qué tipo de información puede utilizarse.
  • Qué datos no deben ir a plataformas públicas.
  • Quiénes pueden usar sistemas de IA.
Qué sostener en el tiempo
  • Controles de acceso.
  • Revisión humana de resultados.
  • Conservación de registros.
  • Gestión de incidentes y capacitación.

Resulta recomendable elaborar procedimientos específicos para evaluar nuevas herramientas antes de incorporarlas a los procesos de la organización. La gobernanza de la IA comienza con reglas claras y conocidas por todos.

Los marcos que ordenan el terreno

ISO/IEC 27001 · 27701 · 42001

Ninguna organización necesita construir su gobernanza de IA desde cero: existen normas internacionales que ya trazan el camino.

ISO/IEC 27001

Seguridad de la información

Marco para gestionar la seguridad de la información. Protege confidencialidad, integridad y disponibilidad mediante controles y gestión de riesgos.

ISO/IEC 27701

Gestión de la privacidad

Amplía ISO 27001 hacia la privacidad: identifica tratamientos, asigna responsabilidades, documenta procesos y gestiona los derechos de los titulares.

ISO/IEC 42001

Sistema de gestión de IA

Primera norma internacional para gestionar sistemas de IA de forma responsable, transparente, ética, segura y confiable, sin frenar la innovación.

La lección de Mundo Calidad
La IA puede automatizar procesos, generar conocimiento y acelerar el trabajo, pero la responsabilidad sobre los datos personales siempre seguirá siendo de la organización.

La Inteligencia Artificial representa una de las mayores revoluciones tecnológicas de nuestro tiempo y ofrece enormes oportunidades para mejorar la eficiencia, la productividad y la toma de decisiones. Sin embargo, ninguna herramienta tecnológica reemplaza la responsabilidad de proteger los datos personales.

Innovar con responsabilidad no solo significa adoptar nuevas tecnologías, sino garantizar que cada avance respete la privacidad, la seguridad y los derechos de las personas.

MundoCalidad
Artículo 20 · IA y datos personales

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *