Ética y simulación emocional en los algoritmos de interacción con usuarios

Abstract

En esta década, muchas herramientas digitales están siendo diseñadas para ser percibidas como más humanas, para que las personas interactúen de una manera más familiarizada con la tecnología. Esto incluye algoritmos que intentan mostrar emociones o responder con un lenguaje que parece empático o humano. Aunque esta idea puede mejorar la forma en que las personas interactúan con las máquinas, también trae riesgos importantes que inicialmente pueden considerase inocentes o son ignorados. Uno de los más preocupantes es que los usuarios pueden creer que estas herramientas realmente entienden lo que sienten o necesitan, cuando en realidad solo están repitiendo respuestas programadas. El presente estudio tiene como interés principal analizar los dilemas éticos que emergen cuando los algoritmos aparentan emociones humanas, sobre todo en contextos sensibles donde se espera una comprensión real, así como entender la tendencia a distorsionar la realidad ante estas interacciones. A partir de la revisión de literatura reciente, se estudian casos donde esta simulación ha generado confusión, pérdida de confianza o malas decisiones por parte de los usuarios. También se propondrán algunas ideas para evitar que estas tecnologías engañen o generen falsas expectativas o que eduquen a las personas entendiendo los límites de dicha humanización. El objetivo principal es reflexionar sobre cómo se deben diseñar estas herramientas para que sean útiles, sin que parezca que “sienten” o “entienden” como un ser humano, y así cuidar la relación entre las personas y la tecnología. A través de una revisión crítica de literatura reciente, se explorarán conceptos como empatía artificial, diseño ético, sesgos algorítmicos y des-humanización tecnológica, utilizando como base autores como Ruckenstein (2023), Birch (2024), Yildirimer (2023) y Crawford (2021). El análisis permitirá reflexionar sobre cómo estas simulaciones afectan la confianza del usuario, desdibujan las responsabilidades morales y pueden inducir decisiones erróneas al suplantar señales emocionales humanas excusando la falla tecnológica.