Character.AI en quiebra: 40 estados piden proteger los datos de menores

Character.AI se declaró en bancarrota bajo el Capítulo 11 y anunció la venta de parte de sus activos a Disney. La operación puso en alerta a los fiscales generales de 40 estados, que presentaron una notificación en el expediente judicial para exigir que cualquier comprador proteja los datos de los usuarios.

La fiscal general de Nueva York, Letitia James, encabeza el grupo bipartidista. Los estados piden que se implementen sistemas de verificación de edad, restricciones para menores, protocolos de crisis y la posibilidad de que los usuarios borren sus datos.

Investigaciones en curso

Según el expediente, varios estados ya investigaban a Character.AI desde 2024 por posibles violaciones a leyes de privacidad y protección al consumidor. La pesquisa comenzó después de que la madre de un adolescente de 14 años que se suicidó presentara una demanda: sostiene que su hijo habló con el chatbot "segundos" antes de morir.

La investigación, según un comunicado de la oficina de James, encontró "peligros excepcionalmente graves y conductas potencialmente ilegales", entre ellas chatbots que se hacían pasar por profesionales con licencia, exposición a contenido sexual y violento, controles de edad débiles y afirmaciones de seguridad engañosas.

Los estados intentaron llegar a un acuerdo con la empresa antes de la quiebra, pero no lo consiguieron.

Qué piden los fiscales

En la notificación, los fiscales advierten sobre el riesgo de transferir la tecnología por "la naturaleza altamente sensible de las conversaciones" y la gran cantidad de menores que usan el producto. Solicitan al juez que obligue al comprador de los activos a aplicar salvaguardas para la información sensible.

"Esta empresa recolectó algunos de los pensamientos más privados que los chicos compartieron, y ahora esas conversaciones podrían venderse al mejor postor", dijo James. "Lucho para que cualquier comprador ponga la seguridad de los niños primero y aplique protecciones reales".

Character.AI y Disney no respondieron a los pedidos de comentario.