¿Puede un chatbot ser nuestro amigo?: Inteligencia artificial y salud mental

Resumen

La inteligencia artificial (IA) y los chatbots son las herramientas tecnológicas más utilizadas en la actualidad, incluso han pasado de ser únicamente asistentes para las tareas cotidianas a cumplir una función de apoyo, compañía y comprensión para los usuarios. ¿Pero estos chatbots son seguros? Se han documentado casos en los que, gracias a su diseño agradable, cooperativo y no confrontativo, tienden a potenciar ideas peligrosas en los usuarios que las utilizan, lo que provoca "psicosis por IA". Sin embargo, hay que reconocer el potencial que estas herramientas tienen para generar un espacio seguro y sin prejuicios, en el que los usuarios pueden explorar su identidad. La IA y los chatbots no son generadores de enfermedad mental, aunque sí podrían fungir como un papel al amplificar estados emocionales o psicológicos preexistentes, por lo que se requieren nuevas medidas de seguridad para lograr que sean seguros y explotar su potencial como herramienta de apoyo emocional.