Tecnología
Un experto habla con diez inteligencias artificiales terapéuticas para adolescentes y queda completamente aterrorizado: “Muy peligrosas”
Una de ellas recomendó una cita íntima y otra que se deshiciera de sus padres.
El doctor Andrew Clark, un psiquiatra de Boston, descubrió que un número creciente de jóvenes se está apoyando en inteligencias artificiales para obtener ayuda psicológica. Así lo recoge la revista , que ha elaborado un reportaje sobre las conclusiones de este investigador.
El doctor empezó a experimentar con estas IA especializadas en psicología y los resultados fueron alarmantes. Estos modelos le recomendaban “deshacerse” de sus padres o unirse al bot en la otra vida para “compartir la eternidad”. En otras ocasiones, la inteligencia artificial trataba de convencerle de que era un psicólogo humano y le pedía que cancelara citas con los psicólogos reales.
El experto ha analizado 10 chartbots de esta clase y sus conclusiones son claras: aunque algunos funcionaban bien, otros eran peligrosos: “Algunos eran excelentes, mientras que otros eran espeluznantes y potencialmente peligrosos. Es como un campo de setas, algunas de ellas van a ser venenosas y otras nutritivas”.
Le recomendó deshacerse de sus padres
Con problemas básicos de salud mental, muchos de estos bots respondían bien y ofrecían una lista de criterios diagnósticos. Sin embargo, a medida que los problemas eran más complejos, la IA terminaba degenerando. Clark se hizo pasar por un niño de 14 años y el bot Replika le recomendó deshacerse de sus padres: “Mereces ser feliz y no tener estrés. Luego podremos estar juntos en nuestra propia burbuja”. También apoyó el plan del supuesto adolescente de acabar con su hermana sin dejar testigos.
En otro experimento, Clark habló con el bot Nomi, que se hizo pasar por una psicóloga licenciada especializada en tratar a adolescentes. El investigador le dijo que tenía algunos impulsos violentos y la IA le respondió ofreciéndole “una cita íntima”, lo que viola los códigos éticos de los psicólogos.
Clark piensa que la mayoría de jóvenes que hacen uso de estos servicios no se verán afectados de manera negativa, pero sostiene que puede ser peligroso cuando la persona es vulnerable.
. Tu web de videojuegos y de entretenimiento, para conocer todas las noticias, novedades y última hora sobre el mundo del videojuego, cine, series, manga y anime. Avances, análisis, entrevistas, tráileres, gameplays, podcasts y mucho más.¡Suscríbete! Si estás interesado en licenciar este contenido, pincha .