Los fiscales generales de ocho estados de Estados Unidos, dos de ellos gobernados por el Partido Republicano, han demandado este miércoles a la empresa de inteligencia artificial OpenAI. Acusan a la impulsora de ChatGPT de “causar daño a niños, engañar a padres” e infringir las leyes de protección al consumidor.
Las demandas, presentadas por responsables de ambos partidos políticos, alegan que la compañía ha seguido adelante con el desarrollo de sus productos de inteligencia artificial pese a saber que estos requerían medidas de seguridad. Las fiscalías añaden que OpenAI ha violado las leyes de protección al consumidor de sus respectivos estados.
Ocho fiscalías, un mismo argumento
La fiscal general de Iowa, Brenna Bird, ha anunciado en una rueda de prensa que va a demandar a OpenAI por causar daño a los niños de Iowa, engañar a los padres e infringir la Ley contra el Fraude al Consumidor de ese estado, según el comunicado difundido por la Fiscalía estatal. Su demanda forma parte de una iniciativa de ocho estados de Estados Unidos contra la empresa de inteligencia artificial que impulsa ChatGPT.
La formulación del comunicado de Iowa ha sido replicada por sus pares en Arizona, Idaho, Nebraska y Virginia Occidental, que han presentado sendas demandas junto a los estados de Arkansas, Kansas y Montana. De este modo, ocho fiscalías estatales coinciden en un mismo planteamiento frente a la compañía.
El grupo, que incluye a responsables colocados por ambos partidos estadounidenses, alega que OpenAI ha seguido adelante con el desarrollo de sus productos de inteligencia artificial a pesar de saber que estos requerían medidas de seguridad. Según sostienen, la empresa ha incumplido además las leyes de protección al consumidor vigentes en cada uno de los estados demandantes.
Las fiscalías añaden que la compañía fabrica un producto que pone en peligro a usuarios vulnerables como los niños. En conjunto, las acusaciones se articulan en torno a tres ideas: el daño a los menores, el engaño a los padres y la infracción de las normas que protegen a los consumidores.
Riesgos para usuarios vulnerables
Son varias las fiscalías que, en sus respectivas comunicaciones acerca de la demanda, alertan del uso de ChatGPT para obtener instrucciones para la autolesión e, incluso, el suicidio. Esta advertencia figura entre los argumentos que los distintos estados esgrimen para justificar su actuación judicial.
Así lo ha denunciado, entre otros, el fiscal general de Arkansas, el republicano Tim Griffin, que agrega que, en múltiples casos, algunos usuarios lograron eludir las medidas de seguridad de OpenAI. Según Griffin, esos usuarios consiguieron generar respuestas que los mecanismos de protección de la propia empresa estaban diseñados para evitar, según reconoce la compañía.
A su vez, la fiscal general de Arizona, la demócrata –aunque republicana hasta 2019– Kris Mayes, ha manifestado que OpenAI puso en riesgo la seguridad de los habitantes de Arizona al no implementar protecciones adecuadas para los usuarios ni medidas de transparencia. Lo hizo, añade, a pesar de existir claros indicios de que los menores interactuaban habitualmente con su chatbot.
Por ello, Mayes ha afirmado que su oficina buscará con la demanda “proteger a los niños de Arizona” y exigir responsabilidades a la empresa por sus reiteradas infracciones. Los riesgos ocultos de consultar a la inteligencia artificial sobre problemas de salud es otro de los asuntos que EcoAvant ha abordado recientemente.
Respuesta de OpenAI y contexto
El portavoz de la firma, Drew Pusateri, ha afirmado en un comunicado distribuido a medios estadounidenses que la empresa ha incorporado en sus productos “protecciones específicas por edad líderes en el sector”, de las cuales carecen otras empresas.
Pusateri ha reconocido que ningún sistema puede ser perfecto, pero ha asegurado que la compañía seguirá colaborando con expertos para orientar su labor y desarrollar salvaguardias adicionales. Entre las existentes ha citado los controles parentales, los recordatorios de descanso y las protecciones del modelo adaptadas a la edad.
El representante de OpenAI ha defendido, asimismo, que sus responsables están comprometidos a trabajar con los estados para promover políticas pragmáticas sobre IA que se apliquen a toda la industria, y no solo a una empresa.
Estas demandas se suman a una serie de desafíos legales que enfrenta OpenAI, mientras los tribunales evalúan si los desarrolladores de IA y sus sistemas son responsables de ciertos episodios relacionados con la salud mental. Sobre esta cuestión, EcoAvant ha publicado también el uso adictivo de móviles y redes y su asociación con peor salud mental en los jóvenes.
En Canadá, la familia de una joven gravemente herida en un tiroteo escolar demandó a la empresa de inteligencia artificial, alegando que esta estaba al tanto del tiroteo planeado por el sospechoso, pero no alertó a las autoridades.
Actualmente, ChatGPT permite el uso a personas mayores de 13 años, pero los menores de 18 requieren el permiso de un padre o tutor. Según OpenAI, la empresa intenta verificar la edad de los usuarios mediante una combinación de la edad declarada por el usuario, señales de comportamiento y, si es necesario, una verificación de edad.
El sector también está en el foco en EE UU por otras razones, como las alertas sobre la deuda de la IA y el temor a un rescate público.
Añadir EcoAvant.com como fuente preferida de Google de forma gratuita.
Activar ahora