Decisiones algorítmicas de perfiladoRégimen y garantías jurídicas

  1. JUAN CARLOS HERNÁNDEZ 1
  1. 1 Universidad de Navarra
    info

    Universidad de Navarra

    Pamplona, España

    ROR https://ror.org/02rxc7m23

Revista:
Revista española de derecho administrativo

ISSN: 0210-8461

Año de publicación: 2020

Número: 203

Páginas: 281-322

Tipo: Artículo

Otras publicaciones en: Revista española de derecho administrativo

Resumen

Las decisiones algorítmicas de perfilado van cobrando una importancia creciente debido a la utilización de técnicas de Big Data e Inteligencia Artificial. El Reglamento General de Protección de Datos apuntala su regulación a partir de un enfoque basado en derechos. En este artículo se aborda esta regulación analizando, en primer término, que debemos entender por tales decisiones, qué elementos estructurales deben guiar la respuesta regulatoria, y los principios más relevantes. Posteriormente se hace un análisis del régimen y alcance de los derechos que asisten a los particulares en la salvaguarda de sus derechos e intereses, prestando atención a aquellos que resultan especificos para las decisiones de perfilado como el derecho a no ser objeto de decisiones automáticas de perfilado, er'"derecho a la intervención humana y el derecho a la explicación.

Referencias bibliográficas

  • ALEXY, R., El concepto y la validez del Derecho, Gedisa, Barcelona, 1997.
  • ARENAS RAMIRO, M., “Artículo 15. Derecho de acceso”, en TRONCOSO REIGADA, A. (Dir.), Comentario a la Ley Orgánica de Protección de datos de carácter personal, Civitas, Madrid, 2010,
  • ARNUK, S.L. & SALUZZI, J.C., Broken markets. How High Frequency Trading and Predatory Practices on Wall Street are Destroying Investor Confidence and Your Portfolio, New Jersey, FT Press, 2012.
  • BANTERLE, F., “The Interface Between Data Protection and IP Law: The Case of Trade Secrets and the Database Sui Generis Right in Marketing Operations, and the Ownership of Raw Data in Big Data Analysis”, en BAKHOUM, M., et. al., Personal Data in Competition, Consumer Protection and Intellectual Property Law - Towards a Holistic Approach?, Springer, Berlin, 2018.
  • BATHIA, S., “Credit Scoring using Machine Learning Techniques”, en International Journal of Computer Applications, Volumen 161, No 11, 2017.
  • BERK, R., Machine Learning Risk Assessments in Criminal Justice Settings, Springer, Cham, 2019.
  • BOSCO, F., et. al, “Profiling Technologies and Fundamental Rights. An Introduction”, en CREEMERS, N., et.al (ed.), Profiling Technologies in Practice. Applications and Impact on Fundamental Rights and Values, WLP, Oisterwijt, 2015.
  • BURRELL, J., “How the machine ‘thinks’: Understanding opacity in machine learning algorithms”, en Big Data & Society, 2016.
  • CANALS AMETLLERS, D., “El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos)”, en Revista General de Derecho Administrativo, núm. 50, 2019.
  • CERRILLO I MARTÍNEZ, A., “El impacto de la inteligencia artificial en el Derecho administrativo ¿Nuevos conceptos para nuevas realidades técnicas?”, en Revista General de Derecho Administrativo, núm. 50, 2019.
  • CLARKE, R., “Profiling: A Hidden Challenge to the Regulation of Data Surveillance”, en Journal of Law, Information and Science, Volumen 4, Num. 2, 1993.
  • COGLIANESE, C. & LEHR, D., “Regulating by Robot: Administrative Decision Making in the Machine-Learning Era”, 105 Geo. L.J. 1147, 2017.
  • COTINO HUESO, L., “Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. enfoques, modelos y principios de la respuesta del Derecho”, en Revista General de Derecho Administrativo, núm. 50, 2019.
  • EDWARDS, L. y VEALE, M., “Enslaving the algorithm: from a ‘right to an explanation’ to a ‘right to better decisions’?”, en IEEE Security & Privacy, Vol. 16, núm. 3, 2018.
  • FERGUSON, A.G., “Policing predicitive policing”, en Washington University Law Review, 94(5), 2017.
  • GARRIGA DOMINGUEZ, A. “La elaboración de perfiles y su impacto en los derechos fundamentales. Una primera aproximación a su regulación en el Reglamento General de Protección de Datos de la Unión Europea”, en Derechos y Libertades, Núm. 38, Época II, 2018.
  • GARRIGA DOMÍNGUEZ, A., Tratamiento de datos personales y derechos fundamentales, segunda edición, Dykinson, Madrid, 2009.
  • GHANI, R. y SCHIERHOLZ, M., “Machine Learning”, en FOSTER, Ian, et.al, Big Data and Social Science. A practical Guide to Methods and Tools, CRC Press, New York, 2017.
  • GONZÁLEZ FUSTER, G., “Profiling in the European Union: A High-Risk Practice”, INEX Policy Brief, No. 10, 2010.
  • GOODMAN, B. y FLAXMAN, S., European Union regulations on algorithmic Decision-making and a “right to explanation”, en AI Magazine, Vol. 38, No 3, 2017.
  • GREENFIELD, A., Everyware: The Dawning Age of Ubiquitous Computing, New Riders, Berkeley, 2006.
  • GRUS, J., Data Science from Scratch, O’Reilly, Sebastopol, 2015.
  • GUILLORY, J. E. et al., Experimental evidence of massive scale emotional contagion through social networks. Proceedings of the National Academy of Sciences, 111(29), 2014.
  • HERNÁNDEZ LÓPEZ, J.M., El Derecho a la protección de Datos Personales en la Doctrina del Tribunal Constitucional, Thomson Reuters-Aranzadi, Cizur Menor, 2013.
  • HERNÁNDEZ, J. C., El régimen jurídico-administrativo de las concentraciones de empresas en el Derecho comunitario, Thomson Reuters Aranzadi, Cizur Menor, 2011.
  • HIJMANS, H., The European Union as Guardian of Internet Privacy, Springer, Berlin, 2016.
  • HILDEBRANDT, M., “The New Imbroglio - Living with Machine Algorithms”, en Janssens, L. (ed.), The Art of Ethics in the Information Society: Mind You, Amsterdam University Press, Amsterdam, 2016.
  • HILDEBRANT, M., “Defining Profiling: A New Typo of Knowledge?”, en Hildebrant M., y Gutwirth, S., Profiling the European Citizen: Cross-Disciplinary Perspectives, Springer, Dordrecht, 2008.
  • JONES, M. L. “The right to a human in the loop: Political constructions of computer automation and personhood”, en Social Studies of Science, Vol. 47, núm. 2, 2017.
  • JOSHI, P., Artificial Intelligence with Python, Packt, Birmingham, 2017.
  • KEATS CITRON, D., “Technological Due Process”, en Washington University Law Review, 85(6), 2008.
  • KORF, D., Data protection laws in the EU: The difficulties in meeting the challenges posed by global social and technical developments, European Commission. Directorate-General Justice, Freedom and Security, 2010.
  • LUCAS MURILLO, P., El derecho a la autodeterminación informativa, Tecnos, Madrid, 1990;
  • SERRANO PÉREZ, M. M., El derecho fundamental a la protección de datos. Derecho español y comparado, Thomson-Civitas, 2003.
  • LUND, J., New legal framework for predictive policing in Denmark, EDRi, 2017.
  • MacCORMICK, J., Nine Algorithms That Changed the Future: The Ingenious Ideas That Drive Today's Computers, Princeton University Press, 2013.
  • MORTIER R, et, al., “Human-data interaction: the human face of the data-driven society”, 2014.
  • MOURBY, M., et. al, “Are ‘pseudonymised’ data always personal data? Implications of the GDPR for administrative data research in the UK” en Computer Law & Security Review, núm. 34, 2018.
  • MUNOZ, C., SMITH, M. & PATIL, D., Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights. Executive Office of the President of USA, 2016.
  • OSOBA, O. y WELSER, W.I., An Intelligence in Our Image: The Risks of Bias and Errors in Artificial Intelligence, RAND, 2017.
  • PALMA ORTIGOSA, A., “Decisiones automatizadas en el RGPD. El uso de algoritmos en el contexto de la protección de datos”, en Revista General de Derecho Administrativo, núm. 50, 2019.
  • PARASURAMAN, R. & RILEY, V., “Humans and Automation: Use, Misuse, Disuse, Abuse”, en Human Factors: The Journal of the Human Factors and Ergonomics Society, 39(2), 1997.
  • PASQUALE, F., The Black Box Society. The Secret Algorithms That Control Money and Information, Cambridge, Harvard University Press, 2015.
  • PENTLAND, A. “The Data-Driven Society”, en Scientific American, 79, 2013.
  • PETKOVA, B. y BOECHM, F., “Profiling and the essence of the right to data protection”, en Selinger, E., Polonetsky, J., & Tene O., (Eds.), The Cambridge Handbook of Consumer Privacy, Cambridge University Press, Cambridge, 2018.
  • PIÑAR MAÑAS, J. (Dir), ÁLVAREZ CARO, M. (Coord.), RECIO GALLO, M. (Coord.), Reglamento general de protección de datos, Editorial Reus, Madrid, 2017.
  • PIÑAR MAÑAS, J. L., El derecho a la protección de datos en la jurisprudencia del Tribunal de Justicia de la Unión Europea, Wolters Kluwer, Madrid, 2018.
  • PODESTA, J. et al., Big Data: Seizing Opportunities. Executive Office of the President of USA, 2014.
  • PONCE SOLÉ, J., “Inteligencia artificial, Derecho administrativo y reserva de humanidad: Algoritmos y procedimiento administrativo debido tecnológico”, en Revista General de Derecho Administrativo, núm. 50, 2019.
  • RALLO LOMBARTE, A. y GARCÍA MAHAMUT, R. (Coords.), Hacia un nuevo derecho europeo de protección de datos, Tirant lo Blanch, Valencia, 2015.
  • REBOLLO DELGADO, Lucrecio, Derechos fundamentales y protección de datos, Dykinson, Madrid, 2004.
  • REYZIN, L., Unprovability comes to machine learning, Nature, vol. 565, enero, 2019.
  • SCHMIDT-ASSMANN, E., “El procedimiento administrativo entre el principio del Estado de Derecho y el principio democrático. Sobre el objeto del procedimiento administrativo en la dogmática alemana”, en Barnés Vázquez, Javier (coord.), El procedimiento administrativo en el Derecho comparado, Civitas, Madrid, 1993.
  • SKITKA, L.J. et al., “Automation bias and errors: Are crews better than individuals?”, en The International Journal of Aviation Psychology, 10(1), 2000.
  • SKITKA, L.J. et al., “Does automation bias decision-making?”, en International Journal of Human-Computer Studies, 51(5), 1999.
  • TRONCOSO REIGADA, A. (Dir.), Comentario a la Ley Orgánica de Protección de Datos, Thomson Reuters, Cizur Menor, 2010.
  • VOIGT, P. y VON DEM BUSSCHE, A., The Eu Data Protection Regulation (GDPR). A Practical Guide, Springer, Berlin, 2017.
  • WATCHER. S., MITTELSTADT, B. y FLORIDI, L., “Why a right to explanation of automated decision-making does not exist in the General Data Protection Regulation”, en International Data Privacy Law, Vol. 7, núm. 2, 2017.