El CTO de Ripple, Davut Schwartz, ha desestimado las acusaciones de negligencia y muerte por negligencia en una demanda que involucra a la plataforma de chat de IA Character.AI. En una declaración en las redes sociales, Schwartz argumentó que la demanda es legalmente inválida y que las acciones de Character.AI están protegidas bajo la Primera Enmienda de la Constitución de los EE. UU. La demanda fue presentada por la madre de Sewell Setzer III, de 14 años, quien murió trágicamente después de interactuar extensamente con los chatbots de Character.AI.
Resumen de la Demanda y Respuesta de la Empresa
La demanda, iniciada por la madre de Setzer, afirma que Character.AI es responsable de negligencia, muerte por negligencia, prácticas comerciales engañosas y responsabilidad por productos. Alega que la empresa no implementó las medidas de seguridad necesarias para proteger a los usuarios jóvenes. Los informes indican que antes de su muerte, Setzer interactuaba frecuentemente con chatbots que simulaban personajes de medios populares en la plataforma.
En respuesta a la demanda, Character.AI anunció actualizaciones en sus protocolos de seguridad, incluyendo filtros de contenido basados en la edad y mecanismos para detectar interacciones dañinas. La empresa expresó un profundo pesar por la trágica pérdida de un usuario, extendiendo sus más sinceras condolencias a la familia.
Debate sobre Responsabilidad Corporativa y Libertad de Expresión
Mientras promete mejorar las medidas de seguridad, Character.AI también afirmó su intención de continuar su batalla legal. Schwartz destacó el equilibrio entre la libertad de expresión y la responsabilidad corporativa, criticando los argumentos legales de la demanda como defectuosos. Sus comentarios reavivan las discusiones en curso sobre las responsabilidades legales y éticas de las empresas tecnológicas.
Las medidas de seguridad adoptadas por Character.AI tras la demanda, junto con las declaraciones de Schwartz, invitan a reflexionar sobre cómo mantener un delicado equilibrio entre la libertad de expresión y la seguridad del usuario en la industria tecnológica.
