-->

El GDPR y los algoritmos

Seguramente estos días estéis recibiendo varias notificaciones de correo que simplemente dicen que la empresa X, de la cual sois clientes o usuarios, ha actualizado sus contrato de tratamiento de datos personales para adaptarse al GDPR. 

Estas siglas responen al General Data Protection Regulation, y es el nuevo código de regulación para el tratamiento de datos personales que ha lanzado la Unión Europea para las empresas. Su web es https://www.eugdpr.org/. Ha sido aplaudido desde distintos puntos de vista, y más, desde que estalló el escándalo entre Facebook y Cambridge Analytica. De hecho, muchos medios y analistas sugerían que Estados Unidos adoptase regulaciones exigentes de tratamiento de datos personales, como en Europa, para prevenir futuros casos como el que he citado.Sin lugar a dudas, tener una normativa exigente ayudante a la protección de los ciudadanos. Aquí tenéis una buena explicación de qué implica el GDPR.

Sin embargo, hoy me gustaría llamar la atención de un artículo de este código. Concretamente el 22, cuyo título dice Automated individual decision-making, including profiling. El texto completo del artículo lo tenéis aquí.

¿Qué implica esto? Realmente esto otorga el derecho de explicación a un usuario/cliente de un servicio basado en inteligencia artificial, a conocer en qué se basa el algoritmo para decidir sobre él. Es un portazo total a los algoritmos no ininteligibles. Cualquier persona tiene derecho a saber por qué un algoritmo le ha ofrecido un tipo de producto financiero, o le ha sugerido este otro servicio de allá, o lo ha catalogado como "no-apto" para acceder a algún tipo de sistema.

Los expertos hace tiempo que se aconsejan que no se usen en servicios públicos o productos comerciales ningún algoritmo que no sea totalmente transparente y que afecte a alguna actividad fundamental de la persona. Por ejemplo, la justicia, el diagnóstico médico, las finanzas, trabajo, etc. Pero este artículo ya lo prohíbe totalmente.

Es famoso el uso cada vez mayor que se hace en el Departamento de Justicia de Estados Unidos de la Inteligencia Artificial para cierto tipo de casos (COMPAS), cuyos algoritmos son secretos y pertenecientes a una startup.

El GDPR también podría afectar a esas grandes bases de datos sin las cuales estos algoritmos inteligentes se alimentan. En teoría, la normativa europea permite que la migración de datos de un servicio a otro sea muy fácil, con lo cual, se sobrentiende que también el usuario debería exigir que se sepa qué información personal está siendo almacenada.

La llegada del GDPR me parece una buena noticia. Además, los próximos años serán cuando se exploren las implicaciones sobre la vida de las personas y las regulaciones de este tipo de soluciones informáticas, y el correcto tratamiento de esta información jugará un gran papel en todo ello.




0 comentarios :

Publicar un comentario

 
Design by Free WordPress Themes | Bloggerized by Lasantha - Premium Blogger Themes | Best Web Hosting