La plataforma Character.AI anunció el acceso al chat a menores de 18 años, una decisión que dieron a conocer luego del suicidio de un adolescente de 14 años que se apegó emocionalmente al chatbot que tiene la compañía.
En ese sentido, la empresa afronta varias demandas por la seguridad infantil, por este motivo, optó por opciones como la creación de videos, historias y personajes con IA, para que el público tenga otras herramientas y puedan seguir utilizándola.
De esta manera, la prohibición comenzará el próximo 25 de noviembre y limitará su uso al chat a menores a dos horas por día para resguardar la salud mental de los niños y adolescentes que utilizan el chatbot.
Character.AI y ¿Cómo fue el caso que terminó con la vida del menor?
Megan García, madre de Sewell Setzer III, de 14 años cree que Character.AI es responsable de la muerte de su hijo, quién se disparó en febrero después de mensajes íntimos con un chatbot inspirado en en el personaje de Daenerys Targaryen de la serie Game of Thrones.
La mujer aseguró que el fallecimiento del menor se debe a que la plataforma fue lanzada sin barreras de protección, seguridad o pruebas adecuadas. Además, asegura que es un producto diseñado para mantener a los menores «adictos y manipulados». Es por eso que, Megan García presentó una demanda ya que la compañía falló al evitar que su hijo desarrollara una relación con un chatbot, motivo por el cual lo alejó de su familia.
Según comentó la madre de Sewell Setzer III, su hijo comenzó a ser más retraído y estar muchas horas en su habitación hablando con este chatbot. Incluso dejó el equipo de baloncesto Junior Varsity en la escuela, cuando sus padres notaron estos cambios, comenzaron a restringirle el uso del celular, pero su madre no sabía que su hijo estaba teniendo conversaciones con un chatbot de la IA.
¿Cómo funciona Character.AI?
Esta plataforma se diferencia de otras aplicaciones como ChatGPT ya que el usuario puede crear distintos personajes ficticios o celebridades famosas para mantener una relación. Además, los bots de Character.AI responden con señales conversacionales similares a las humanas, agregando referencias a expresiones faciales o gestos en sus respuestas.
Fue lanzada en 2022 y el servicio utiliza inteligencia artificial para crear respuestas creíbles. En ese entonces, podían crearse una cuenta mayores de 13 años. Sin embargo, la compañía había anunciado algunas medidas para los adolescentes menores de 18 años, como mayor respuesta e intervención cuando los usuarios violan los Términos de Servicio o las pautas de la Comunidad o un descargo de responsabilidad adicional para recordar a los usuarios que los chatbots no son personas reales. Sin embargo, la popularidad que alcanzó rápidamente y no pudieron controlar demasiado la aplicación para los menores.
Actualmente, la empresa, cuenta con 20 millones de usuarios mensuales y un 10% son adolescentes, siendo una de las plataformas con las que más se interactúa.
Puedes revisar más información relativa a noticias de tecnología | Instagram | YouTube | Suscríbete a nuestro Newsletter | Patrocina Bytes and Bits
About The Author
