Inteligencia Artificial (de)generativa: Sobre la imposibilidad de que un sistema de IA tenga una experiencia moral

  1. Mauricio-C. Serafim 1
  2. Ana-L.-C. Bertoncini 1
  3. Maria-Clara Ames 2
  4. Deividi Pansera
  1. 1 Universidade do Estado de Santa Catarina
    info

    Universidade do Estado de Santa Catarina

    Florianópolis, Brasil

    ROR https://ror.org/03ztsbk67

  2. 2 Universidad de Navarra
    info

    Universidad de Navarra

    Pamplona, España

    ROR https://ror.org/02rxc7m23

Revista:
Scripta theologica: revista de la Facultad de Teología de la Universidad de Navarra

ISSN: 0036-9764

Año de publicación: 2024

Volumen: 56

Fascículo: 2

Páginas: 467-502

Tipo: Artículo

DOI: 10.15581/006.56.2.467-502 DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: Scripta theologica: revista de la Facultad de Teología de la Universidad de Navarra

Resumen

La Inteligencia Artificial (IA) plantea problemas éticos. Este artículo aborda la Ética de la IA, centrándose en la agencia moral artificial (AMA), con el propósito de investigar si la IA puede tener una experiencia moral. Argumentamos que la IA carece de la capacidad intrínseca que proporciona la libertad para la agencia moral. Empleando enfoques cibernéticos y la teoría de sistemas, llegamos a la conclusión de que la IA emula los "principios de juicio" adhiriéndose a normas extrínsecas, lo que pone de relieve la necesidad de reflexionar sobre el AMA y sus repercusiones sociales.

Referencias bibliográficas

  • AHMAD, S. F. y otros, «Impact of artificial intelligence on human loss in decision making, laziness and safety in education», Humanities and Social Science Communications 10 (2023) 311. https://doi.org/10.1057/s41599-023-01842-4
  • ALCÁZAR-GARCÍA, M., «Personas y Organizaciones: Introducción a la Teoría General de Sistemas de Juan Antonio Pérez López», Studia Poliana 22(22) (2022) 71-100. https://doi.org/10.15581/013.22.71-100
  • ANDREW, A. M., A Missing Link in Cybernetics: logic and continuity (IFSR International Series in Systems Science and Systems Engineering). Springer New York. Edición Kindle, 2009. https://doi.org/10.1007/978-0-387-75164-1
  • ARKOUDAS, K. y BRINGSJORD, S., «Philosophical foundations», en FRANKISH, K. y RAMSEY, W. (eds.), The Cambridge Handbook of Artificial Intelligence, Cambridge: Cambridge University Press, 2014. https://doi.org/10.1017/CBO9781139046855.004
  • AWAD, E. y otros, «The moral machine experiment», Nature 563 (2018) 59- 64. https://doi.org/10.1038/s41586-018-0637-6
  • BLANCHARD, A., THOMAS, C. y TADDEO, M., «Ethical governance of artificial intelligence for defence: normative tradeoffs for principle to practice guidance », AI & Society (2024). https://doi.org/10.1007/s00146-024-01866-7
  • COECKELBERG, M., AI Ethics, The MIT Press Essential Knowledge Series, Cambridge, MA: The MIT Press, 2020.
  • DARTMOUTH, «Artificial Intelligence Coined at Dartmouth», [n.d.] https://home.dartmouth.edu/about/artificial-intelligence-ai-coined-dartmouth.
  • DAZA, M. T. e ILOZUMBA, U., «A survey of AI ethics in business literature: Maps and trends between 2000 and 2021», Front. Psychol. (2022) 13, 1042661-1042661. https://doi.org/10.3389/fpsyg.2022.1042661
  • DIGNUM, V., «Ethics in artificial intelligence: Introduction to the special issue», Ethics and Information Technology 20(1) (2018) 1-3. https://doi.org/10.1007/s10676-018-9450-z
  • FESER, E., «From Aristotle to John Searle and Back Again: Formal Causes, Teleology, and Computation in Nature», Nova et vetera 14.2 (2016) 459-494. https://doi.org/10.1353/nov.2016.0039
  • FESER, E., «Hayek, Popper, and the Causal Theory of the Mind», en Hayek in Mind: Hayek's Philosophical Psychology, vol. 15, Emerald Group Publishing Limited (2011) 73-102. https://doi.org/10.1108/S1529-2134(2011)0000015010
  • FLORIDI, L., The Ethics of Artificial Intelligence: principles, challenges, and opportunities, Oxford: Oxford University Press, 2023. https://doi.org/10.1093/oso/9780198883098.001.0001
  • FRANCISCO, «Mensaje de su santidad Francisco para la celebración de la 57ª Jornada Mundial de la Paz», Vaticano, 2024. https://www.vatican.va/content/francesco/es/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html.
  • FRANCISCO, «Mensaje del santo padre para la 58ª jornada mundial de las comunicaciones sociales», Vaticano, 2024. https://www.vatican.va/content/francesco/es/messages/communications/documents/20240124-messaggio-comunicazioni-sociali.html.
  • FRANKISH, S., «History, motivations, and core themes», en FRANKISH, K. y RAMSEY, W. (eds.)., The Cambridge Handbook of Artificial Intelligence, Cambridge: Cambridge University Press, 2014. https://doi.org/10.1017/CBO9781139046855
  • GIARMOLEO, F. V. y otros, «What ethics can say on artificial intelligence: Insights from a systematic literature review», Business Society Review (2024) 1-35. https://doi.org/10.1111/basr.12336
  • HAENLEIN, M. y KAPLAN, A., «A brief history of artificial intelligence: On the past, present, and future of artificial intelligence», California Management Review 61(4) (2019) 5-14. https://doi.org/10.1177/0008125619864925
  • HAGENDORFF, T., «A Virtue-Based Framework to Support Putting AI Ethics into Practice», Philosophy & Technology 35, 55 (2022). https://doi.org/10.1007/s13347-022-00553-z
  • HAKLI, R. y MÄKELÄ, P., «Moral responsibility of robots and hybrid agents», The Monist 102(2) (2019) 259-275. https://doi.org/10.1093/monist/onz009
  • HUANG, C. y otros, «An Overview of Artificial Intelligence Ethics», IEEE Transactions on Artificial Intelligence 4 (2023) 799-819. https://doi.org/10.1109/TAI.2022.3194503
  • MASLEJ, N. y otros, «The AI Index 2023 Annual Report», en AI Index Steering Committee, Stanford, 2023.
  • MEYER, M. y SISON, A., «Virtues in responsible management education: building character», en MOOSMAYER, D. C., LAASCH, O., PARKES, C. y BROWN, K. (eds.), The SAGE handbook of responsible management learning and education, London: SAGE Publications Ltd, 2020, 280. https://doi.org/10.4135/9781526477187.n18
  • MITTELSTADT, B. D. y otros, «The ethics of algorithms: Mapping the debate », Big Data & Society (2016) 1-21. https://doi.org/10.1177/2053951716679679
  • MÜLLER, V. C., «Ethics of Artificial Intelligence and Robotics», en ZALTA, E. N. y NODELMAN, U. (eds.), The Stanford Encyclopedia of Philosophy (Fall 2023 Edition). https://plato.stanford.edu/archives/fall2023/entries/ethics-ai/.
  • NILSSON, N. J., The Quest for Artificial Intelligence: a history of ideas and achievements, New York: Cambridge University Press, 2010.
  • NORBERT, W., Cibernética e sociedade: o uso humano de seres humanos, São Paulo: Editora Cultrix, 1954.
  • NORWELL, N., «You Can't Play 20 Questions with Nature and Win: Projective Comments on the Papers of this Symposium», en CHASE, W. (ed.), Visual Information Processing, New York, NY: Academic Press, 1973, 283-308. https://doi.org/10.1016/B978-0-12-170150-5.50012-3
  • OCDE, «How can we ensure that AI benefits society as a whole?», [n.d.] https://www.oecd.org/digital/artificial-intelligence/.
  • PENROSE, R., «The Emperor's New Mind: Concerning Computers, Minds, and the Laws of Physics», Science and Society 54.4 (1989). https://doi.org/10.1093/oso/9780198519737.001.0001
  • PÉREZ-LÓPEZ, J. A., Teoría de la acción humana en las organizaciones: la acción personal, 2ª ed., Madrid: Rialp, 2022.
  • PÉREZ-SOBA, J. J., Vivir en Cristo, la fe que actúa por el amor: Manual de moral fundamental, Madrid: BAC, 2018.
  • PÉREZ-SOBA, J. J., La experiencia moral, Madrid: Ediciones Universidad San Dámaso, 2002.
  • POLO, L., «Curso de teoría del conocimiento II», en Obras Completas, Serie A, V, Pamplona: Eunsa, 2016.
  • POLO, L., «La cibernética como lógica de la vida», Studia Poliana 6660(4) (2002) 9-17. https://doi.org/10.15581/013.26099
  • POLO, L., «Lecciones de psicología clásica», en Obras Completas, Serie A, XXII, Pamplona: Eunsa, 2015.
  • POLO, L., «Quién es el hombre. Presente y futuro del hombre», en Obras Completas, Serie A, X, Pamplona: Eunsa, 2016.
  • POLO, L., «Antropología de la Acción Directiva», en ZORROZA, M. I. (ed.), El Hombre en la Historia, Ayudar a Crecer, Antropología de la Acción Directiva, Obras Completas de Leonardo Polo, Serie A, XVIII, Pamplona: Eunsa, 2019.
  • RADAELLI, R., «Different approaches to the moral status of AI: a comparative analysis of paradigmatic trends in Science and Technology Studies», Discover Artificial Intelligence (2023) 3-25. https://doi.org/10.1007/s44163-023-00076-2
  • RENAISSENCE FOUNDATION, «The call», [n.d.] https://www.romecall.org/the-call/.
  • ROME CALL FOR AI ETHICS, «AI Ethics: An Abrahamic Commitment to the Rome Call», 2023. https://www.romecall.org/wp-content/uploads/2023/01/AI-Joint-Declaration-5-Jan1-1.pdf.
  • RUSSELL, S. y NORVIG, P., «Artificial Intelligence: A Modern Approach», en Pearson Series in Artificial Intelligence, 4ª ed., 2022.
  • SANTA SEDE, «Discurso del Santo Padre Francisco a los participantes a un seminario sobre "el bien comun en la era digital"», Boletín de la Oficina de Prensa de la Santa Sede, 2019. https://www.vatican.va/content/francesco/es/speeches/2019/september/documents/papa-francesco_20190927_eradigitale.html.
  • SEARLE, J. R., «Is the Brain a Digital Computer?», Proceedings and Addresses of the American Philosophical Association 64(3) (1990) 21-37. https://doi.org/10.2307/3130074
  • SISON, A. J. G. y otros, «ChatGPT: More than a "Weapon of Mass Deception" Ethical challenges and responses from the Human-Centered Artificial Intelligence (HCAI) perspective», SSRN Electronic Journal (2023) 1-31. https://doi.org/10.1080/10447318.2023.2225931
  • SISON, A. J. G. y REDÍN, D. M., «A neo-aristotelian perspective on the need for artificial moral agents (AMAs)», AI & Society (2021). https://doi.org/10.1007/s00146-021-01283-0
  • SULLIVAN, S. M., An Introduction to Traditional Logic: Classical Reasoning for Contemporary Minds, BookSurge Publishing, 2005.
  • TURING, A. M., «Computing Machinery and Intelligence», A Quarterly Review of Psychology and Philosophy LIX (236) (1950) 433-460. https://doi.org/10.1093/mind/LIX.236.433
  • UNESCO, «Ethics of Artificial Intelligence», [n.d.] https://www.unesco.org/en/artificial-intelligence/recommendation-ethics.
  • VANWYNSBERGHE, A. y ROBBINS, S., «Critiquing the Reasons for Making Artificial Moral Agents», Science and Engineering Ethics 25(3) (2019) 719-735. https://doi.org/10.1007/s11948-018-0030-8
Fuente de los datos: Dialnet