Abordando conceptos erróneos de la Inteligencia Artificial y su impacto en la protección de datos

Artículo publicado el 11 de marzo de 2025 por la AEPD

La inteligencia artificial generativa es una tecnología innovadora que transforma la forma en que se procesan los datos. Sin embargo, su uso plantea desafíos importantes en términos de protección de datos y cumplimiento normativo. La Agencia Española de Protección de Datos (AEPD) ya abordó estas cuestiones en su publicación conjunta con el Supervisor Europeo de Protección de Datos, "10 Malentendidos sobre el Machine Learning" (2022). Recientemente, la Information Commissioner's Office (ICO) del Reino Unido ha publicado un análisis similar, identificando varios malentendidos sobre la IA generativa y su relación con la protección de datos.

Desde Lexdatos, consideramos que estas reflexiones son fundamentales para el cumplimiento normativo y la responsabilidad de los desarrolladores de IA. A continuación, resumimos los puntos clave del informe del ICO y ofrecemos recomendaciones para garantizar un uso ético y legal de la IA generativa.

Malentendidos clave sobre la IA generativa y protección de datos

1. El tratamiento "incidental" de datos personales también está sujeto a la normativa

   • Muchas empresas creen que, si los datos personales son procesados de manera no intencional, no se aplica la protección de datos. Sin embargo, cualquier tratamiento de datos personales, aunque sea incidental, debe cumplir con el RGPD.

   • Recomendación Lexdatos: Realizar auditorías previas para identificar el tratamiento de datos personales en modelos de IA.

2. La "práctica común" no justifica el tratamiento de datos personales

   • Que una práctica sea común en el sector no significa que sea legal o que los interesados la consideren razonable.

   • Recomendación Lexdatos: Asegurar la transparencia en la recopilación y el uso de datos personales, informando a los usuarios de manera clara y accesible.

     
     

3. Diferencia entre "información de identificación personal" y "datos personales"

   • El concepto legal de "datos personales" en el RGPD es más amplio que el de "información de identificación personal".

   • Recomendación Lexdatos: Evaluar de forma exhaustiva si los datos utilizados en modelos de IA pueden considerarse personales según el RGPD.

     
     

4. La jurisprudencia sobre motores de búsqueda no se aplica directamente a la IA generativa

   • Los motores de búsqueda indexan información, mientras que la IA generativa sintetiza y produce contenido nuevo.

   • Recomendación Lexdatos: Considerar los riesgos específicos de la IA generativa en el análisis de cumplimiento normativo.

     
     

5. Los modelos de IA generativa pueden incorporar datos personales

   • Algunos desarrolladores argumentan que sus modelos no "almacenan" datos personales, pero en realidad pueden retener información utilizada en el entrenamiento.

   • Recomendación Lexdatos: Implementar medidas de minimización y garantizar el derecho de supresión de los interesados.

     
     

6. La protección de datos no es un criterio único para evaluar la legalidad de la IA

   • La protección de datos debe considerarse en conjunto con otros marcos normativos.

   • Recomendación Lexdatos: Adoptar un enfoque multidisciplinar para el cumplimiento legal de los modelos de IA.

     
     

7. No existe una "excepción para la IA" en el RGPD

   • Algunas empresas creen que la IA generativa debería estar exenta de ciertas obligaciones, pero esto no es cierto.

   • Recomendación Lexdatos: Aplicar el principio de "protección de datos desde el diseño y por defecto" en todos los procesos de desarrollo de IA.

     
     

En Lexdatos consideramos que el avance de la IA generativa trae consigo retos significativos en materia de protección de datos. Es esencial que las empresas que desarrollan y emplean estas tecnologías comprendan sus obligaciones legales y adopten medidas proactivas para garantizar el respeto a los derechos de los interesados.

Desde Lexdatos, recomendamos:

• Realizar auditorías periódicas sobre el tratamiento de datos personales en sistemas de IA.

• Garantizar la transparencia en la información proporcionada a los usuarios.

• Implementar medidas técnicas para minimizar el almacenamiento y tratamiento de datos personales.

• Evaluar los riesgos específicos asociados a la IA generativa y su impacto en la privacidad.

  
  

El cumplimiento normativo no solo es una obligación legal, sino también una oportunidad para construir confianza en el uso de la inteligencia artificial.

Desde Lexdatos seguimos atentos a las evoluciones regulatorias para ofrecer asesoramiento especializado a empresas y organizaciones.

Para más información sobre protección de datos y cumplimiento normativo en IA generativa, visita nuestra web: www.lexdatosolutions.com