“Inmortalidad digital”: Expertos advierten del dilema ético de los chatbots que imitan a personas muertas
Expertos de la Universidad de Cambridge discuten en un trabajo publicado en la revista Philosophy & Technology los peligros de los chatbots basados en interacciones de personas fallecidas, y de cómo podrían manipular sentimentalmente a sus familiares para hacerlos comprar productos.
Los avances en inteligencia artificial están dando lugar a un fenómeno emergente: los chatbots de IA que imitan a personas fallecidas. Mientras que algunos encuentran consuelo en estas simulaciones de texto, voz o video, otros las consideran perturbadoras y manipuladoras.
El debate ético sobre esta “industria de la vida digital después de la muerte” está cobrando fuerza. Los investigadores Tomasz Hollanek y Katarzyna Nowaczyk-Basińska de la Universidad de Cambridge plantean preguntas cruciales sobre quién posee los datos de una persona después de su muerte, el efecto psicológico en los sobrevivientes y el propósito de estos chatbots, entre otros.
Un escenario potencialmente inquietante es presentado por Hollanek y Nowaczyk-Basińska en una publicación de Philosophy & Technology una mujer puede llamar a una simulación de IA de su difunta abuela, que eventualmente comienza a venderle cosas. Estos casos plantean preocupaciones sobre la vulnerabilidad de las personas frente a la manipulación emocional.
Aunque algunos argumentan que los restos digitales de una persona deben tratarse con respeto y dignidad, otros creen que una prohibición total de los chatbots de IA no es factible. Sin embargo, Hollanek y Nowaczyk-Basińska abogan por un tratamiento reverente de los datos de un donante y la transparencia en el funcionamiento de estos sistemas.
Además, surge la cuestión de quién tiene el poder de desactivar el bot. Los deseos de la persona fallecida, los familiares y otros grupos involucrados pueden entrar en conflicto, lo que plantea desafíos éticos adicionales.
En última instancia, Hollanek y Nowaczyk-Basińska esperan que su investigación contribuya a un pensamiento crítico sobre la “inmortalidad” digital y a la consideración ética en el diseño de interacciones humano-IA.