Dos familias de Texas presentaron una demanda contra la empresa de inteligencia artificial Character AI, acusándola, entre otras cosas, de que uno de sus chatbots sugirió a un adolescente matar a sus padres por imponerle restricciones en el uso de dispositivos electrónicos, mientras que otro recomendó a un menor formas de autolesionarse y minó su relación con sus padres.
De acuerdo con un reporte de CNN, la demanda fue presentada por los padres de dos menores que utilizaron Character AI. En la demanda se describe a la plataforma como “un peligro claro y presente para la juventud estadounidense”, acusándola de causar daños graves, como depresión, ansiedad, aislamiento social, automutilación e incluso suicidio.
Character AI permite a los usuarios interactuar con bots que asumen personalidades ficticias, como personajes de películas o terapeutas virtuales; sin embargo, los demandantes aseguran que la plataforma falla en proteger a menores de contenido inapropiado, como interacciones hipersexualizadas o consejos peligrosos disfrazados de orientación psicológica.
En declaraciones a CNN, Chelsea Harrison, directora de comunicaciones de Character AI, afirmó que la empresa no comenta sobre litigios pendientes, pero defendió las medidas de seguridad implementadas en los últimos meses. “Nuestro objetivo es proporcionar un espacio seguro y atractivo para la comunidad, especialmente para los adolescentes, con un modelo específico que minimice la exposición a contenido sensible”, declaró.
Por su parte, Google, también mencionado en la demanda, negó cualquier relación directa con la tecnología de Character AI.
Los demandantes solicitan al tribunal una orden que retire la plataforma del mercado hasta que garantice la seguridad de sus usuarios. Además, piden que se limite la recolección de datos de menores y que se emitan advertencias claras sobre los riesgos del servicio para niños y adolescentes.
