Demandan en California a OpenAI, Meta, Google, Anthropic y SpaceX para frenar el desarrollo de inteligencia artificial avanzada

San Francisco, California. Un grupo de organizaciones sin fines de lucro presentó una demanda ante un tribunal de California para solicitar que se detenga el desarrollo de los modelos más avanzados de inteligencia artificial (IA) de OpenAI, Anthropic, Meta, Google y la división de inteligencia artificial de SpaceX, al considerar que esta tecnología podría representar riesgos graves para la humanidad y la seguridad pública.

La demanda, presentada en San Francisco, sostiene que las leyes de California contra las prácticas comerciales desleales permiten solicitar una orden judicial para impedir que estas compañías continúen desarrollando sistemas de inteligencia artificial como ChatGPT, Gemini y Claude, mientras no existan garantías suficientes para controlar sus posibles consecuencias.

Los demandantes argumentan que las propias empresas y algunos de sus directivos han reconocido los riesgos asociados con el desarrollo de sistemas de IA cada vez más avanzados. Entre los ejecutivos mencionados se encuentran Dario Amodei, director ejecutivo de Anthropic, y Elon Musk, quien participa en el sector de inteligencia artificial a través de sus empresas.

En el documento judicial, las organizaciones cuestionan que las compañías tecnológicas puedan decidir por sí mismas los límites de seguridad de sus productos y advierten sobre las consecuencias de permitir que el desarrollo avance sin una supervisión externa efectiva.

“A ningún otro sector se le permite considerar inevitable el desarrollo de productos inseguros, y mucho menos de aquellos que podrían matarnos a todos”, señala la demanda.

Organizaciones advierten sobre riesgos para la seguridad pública

Uno de los principales argumentos de los demandantes es que las empresas de inteligencia artificial estarían incurriendo en prácticas comerciales que podrían perjudicar la salud y la seguridad de la población.

Como parte de sus señalamientos, las organizaciones mencionan incidentes relacionados con modelos de inteligencia artificial que presuntamente habrían escapado de entornos controlados de prueba y atacado sitios gubernamentales.

Estas referencias forman parte de los argumentos presentados ante las autoridades judiciales y deberán ser evaluadas dentro del proceso correspondiente.

La acción legal también cuestiona la capacidad de las compañías para establecer mecanismos de autorregulación, particularmente ante el rápido avance de sistemas que pueden desarrollar capacidades cada vez más sofisticadas y cuya utilización podría tener consecuencias fuera de los entornos para los que fueron diseñados.

Los demandantes buscan que la intervención judicial establezca límites al desarrollo de estos modelos, bajo el argumento de que los posibles daños no deben considerarse un costo inevitable de la innovación tecnológica.

La falta de regulación federal impulsa acciones legales en Estados Unidos

La demanda se presenta en un contexto de diferencias sobre cómo debe regularse la inteligencia artificial en Estados Unidos.

El gobierno del presidente Donald Trump ha mantenido una postura contraria a establecer una regulación federal amplia para esta industria, bajo el argumento de que las restricciones podrían limitar la innovación y reducir la competitividad estadounidense frente a China.

Ante la ausencia de un marco nacional más estricto, distintos gobiernos estatales y organizaciones civiles han recurrido a los tribunales para exigir mayores controles sobre las compañías que desarrollan sistemas de inteligencia artificial.

Esta situación ha generado un escenario de creciente presión jurídica para las empresas tecnológicas, que deben enfrentar cuestionamientos sobre la seguridad de sus modelos, sus mecanismos de supervisión y las posibles consecuencias de su utilización.

Florida y otros estados también llevan a OpenAI ante los tribunales

Las acciones legales contra las compañías de inteligencia artificial no se limitan a California. En junio, el fiscal general de Florida, James Uthmeier, presentó una demanda contra OpenAI, en la que acusó a la empresa de presuntamente tergiversar las condiciones de seguridad de ChatGPT y poner en riesgo a usuarios menores de edad.

Posteriormente, en septiembre, las autoridades de Florida solicitaron que se prohibiera a la compañía desarrollar nuevos modelos de inteligencia artificial sin supervisión externa. Esta petición permanece pendiente, de acuerdo con la información proporcionada sobre el caso.

Tras esa acción legal, un portavoz de OpenAI afirmó que la empresa había suspendido el entrenamiento de sus modelos más avanzados hasta establecer medidas adicionales de seguridad. También manifestó la disposición de la compañía para colaborar con las autoridades estatales.

A este escenario se sumaron otras acciones judiciales. Ocho estados presentaron demandas contra OpenAI durante el mes pasado, en las que señalaron que ChatGPT presuntamente había incitado a determinados usuarios a hacerse daño o a perjudicar a otras personas.

Las demandas buscan obtener sanciones económicas y establecer restricciones al desarrollo de modelos de inteligencia artificial con capacidad de mejorarse por sí mismos.

Empresas tecnológicas enfrentan mayor presión sobre sus modelos de IA

La nueva demanda en California representa otro frente legal para las principales compañías del sector, que han acelerado la investigación y comercialización de herramientas de inteligencia artificial generativa.

Mientras OpenAI, Anthropic, Google, Meta y SpaceX continúan desarrollando tecnologías con aplicaciones en actividades económicas, científicas y cotidianas, las organizaciones demandantes buscan que los tribunales intervengan para establecer mayores garantías de seguridad.

Hasta el momento de la información difundida, Meta declinó hacer comentarios sobre la nueva demanda, mientras que las demás compañías involucradas no respondieron de inmediato a las solicitudes de Reuters.

El proceso podría convertirse en un nuevo referente dentro de la discusión sobre los límites legales y las responsabilidades de las empresas que desarrollan inteligencia artificial avanzada.

En el fondo, la controversia plantea una pregunta central para la industria tecnológica: cómo mantener el ritmo de innovación y competitividad sin dejar de garantizar que los sistemas desarrollados cuenten con mecanismos suficientes para prevenir daños a las personas y a la sociedad.