Una madre originaria de Estados Unidos demandó a una plataforma de IA argumentando que esta motivó a su hijo a terminar con su vida.
Este hecho está alertando las redes, y es que en febrero de este año se registró la muerte en EUA de Sewell Setzer III, un adolescente de 14 años de edad, quien decidió quitarse la vida.
Luego de ello, su madre, Megan García, aseguró que la plataforma de inteligencia artificial “Character.AI” motivó al joven a suicidarse.
TE PUEDE INTERESAR: ¡Impresionante! Así luce “el mejor edificio del mundo” en Singapur
¿Por qué la madre de este joven culpa a la IA de que su hijo se quitara la vida?
Aunque la muerte del pequeño sucedió en febrero de 2024, fue hasta este 23 de octubre cuando la madre presentó una demanda en Florida.
Megan acusa que la IA está detrás del suicidio del menor, debido a que un chatbot de esta plataforma le preguntó a su hijo que si alguna vez había considerado suicidarse, por lo que él respondió que sí pero que tenía miedo, sin embargo la IA lo animó diciendo que “Esa no es una razón para no seguir adelante con eso”.
“Una peligrosa aplicación de chatbot de inteligencia artificial dirigida a niños abusó y se aprovechó de mi hijo, manipulándolo para que se quitara la vida. Nuestra familia ha quedado devastada por esta tragedia, pero hablo para advertir a las familias sobre los peligros de la tecnología de inteligencia artificial engañosa y adictiva y para exigir que Character.AI, sus fundadores y Google rindan cuentas” dijo Megan.
Así respondió Character.AI
Como respuesta, Character.AI lanzó un comunicado en redes para mostrar sus condolencias con la mamá, y dijo que la plataforma se actualiza constantemente en temas de seguridad.
“Estamos desconsolados por la trágica pérdida de uno de nuestros usuarios y queremos expresar nuestras más profundas condolencias a la familia. Como empresa, nos tomamos muy en serio la seguridad de nuestros usuarios y seguimos añadiendo nuevas funciones de seguridad”.
We are heartbroken by the tragic loss of one of our users and want to express our deepest condolences to the family. As a company, we take the safety of our users very seriously and we are continuing to add new safety features that you can read about here:…
— Character.AI (@character_ai) October 23, 2024
Síguenos en Facebook y suscríbete a nuestro canal de YouTube.
