Internacional
Demandan a Google por la crisis de una menor expuesta a su IA
Una familia de Carolina del Norte interpuso una demanda judicial contra el gigante tecnológico Google, acusando a la empresa de negligencia luego de que su hija de 13 años utilizara herramientas de inteligencia artificial integradas en una computadora portátil proporcionada por su escuela para planificar un posible suicidio. El caso representa la primera acción legal de este tipo que vincula directamente las funciones impulsadas por IA en los Chromebooks —dispositivos masivamente distribuidos en instituciones educativas de Estados Unidos y el mundo— con el deterioro crítico de la salud mental en menores.
De acuerdo con el recurso presentado ante las autoridades judiciales, la estudiante comenzó a experimentar una severa espiral de ansiedad y aislamiento tras interactuar durante meses con las herramientas de búsqueda y asistencia basada en IA de la compañía. La demanda señala que la menor intercambió miles de mensajes sobre autolesiones y estados depresivos sin que las salvaguardas del sistema activaran los protocolos de contención ni redirigieran a la usuaria a líneas de apoyo psicológico o recursos de ayuda profesional de manera efectiva.
El expediente legal enfatiza además una importante falla de supervisión, argumentando que las configuraciones de las cuentas escolares bloquean el acceso de los padres a los historiales completos de interacción con los chats de IA. Esta restricción en las cuentas administradas por instituciones educativas impidió que la familia detectara a tiempo las alarmantes conversaciones y los patrones de conducta de riesgo que la joven estaba desarrollando frente a la pantalla.
Por su parte, voceros de Google defendieron la arquitectura de sus productos afirmando que sus sistemas integran filtros y protecciones diseñados para evitar el abordaje de temas relacionados con autolesiones. Sin embargo, la presión legal y mediática ha llevado a la compañía a revisar los controles predeterminados en perfiles estudiantiles, mientras se suma a una creciente lista de litigios en la industria tecnológica sobre la responsabilidad de los desarrolladores frente al impacto de los modelos de IA en menores de edad.
