Demandan a Google, OpenAI, Anthropic, Meta y SpaceX por no poder controlar los efectos negativos de la IA

Una coalición de grupos de seguridad en línea y de defensa del consumidor demandó el jueves a cinco de las principales empresas de inteligencia artificial del mundo, alegando que no pueden impedir que dicha tecnología cause daños “catastróficos”.

Los demandantes presentaron su litigio en el Tribunal Superior de San Francisco, exigiendo un alto al desarrollo de la tecnología.

La demanda se produce tras las elecciones de mitad de mandato en Estados Unidos en que ganaron candidatos partidarios de aumentar la regulación sobre la IA.

La demanda, informada primero por The Associated Press, pide a un juez que impida a Anthropic, Google, Meta, OpenAI y SpaceXSI desarrollar o desplegar nuevos modelos de IA, y señala ejemplos documentados de ciberataques y otras acciones dañinas por parte de sistemas de IA, así como la admisión de esas mismas compañías de que su tecnología tiene el potencial de destruir a la humanidad.

“Ninguna otra industria tiene permitido tratar su propio desarrollo de productos inseguros —y menos aún de aquellos que podrían matarnos a todos— como algo inevitable”, señala la denuncia del Irreplaceable Education Fund, Public Citizen, Heat Initiative y la Alliance for Secure AI. “Los demandantes presentan esta demanda para impedir que los demandados continúen su trayectoria ilegal hacia el desastre”.

La industria de la IA ha generado entusiasmo y ganancias en el mercado bursátil, pero también profundos temores de que la tecnología pueda descontrolarse y escapar al control humano. Incidentes recientes de agentes de IA que hackearon sitios web gubernamentales y empresas —incluido cuando el ChatGPT de OpenAI hackeó por su cuenta a otra empresa de IA en julio— han acelerado esas preocupaciones.

El presidente Donald Trump, partidario del rápido desarrollo de la IA para mantener a Estados Unidos por delante de competidores extranjeros como China, hasta ahora ha alentado a las empresas a autorregularse aunque ha manifestado apertura a imponer más salvaguardas. El Congreso también se ha quedado corto a la hora de regular la tecnología, pero eso podría cambiar con la toma de control demócrata.

Algunos directores ejecutivos de grandes empresas de IA, por su parte, han expresado apoyo a desacelerar el desarrollo de la tecnología para dar tiempo a las medidas de seguridad. Tampoco han escatimado al reconocer los riesgos. Dario Amodei, de Anthropic, por ejemplo, dijo el año pasado que cree que hay una probabilidad de 1 entre 4 de que el futuro de la IA salga “realmente, realmente mal”, frente a una probabilidad de 3 entre 4 de que salga bien. Elon Musk, director ejecutivo de SpaceX, declaró a Fox News en 2023 que la IA podría conducir a la “destrucción de la civilización”.

Los demandantes, todas organizaciones sin fines de lucro, alegan que las empresas mencionadas en la demanda han violado la ley de California sobre competencia desleal al poner en peligro la salud pública e interferir con el uso de bienes como sistemas informáticos. Afirman que han tenido que desviar recursos de otros trabajos para abordar la posibilidad de daños por parte de los productos de esas compañías.

También advierten que los objetivos de las empresas de crear sistemas que, en términos generales, sean tan inteligentes como los humanos y que puedan gestionar cada vez más tareas y aprender cosas de manera autónoma podrían derivar en una pérdida permanente del control de la tecnología y aumentar los riesgos existenciales para la humanidad.

Las empresas mencionadas en la demanda del jueves no respondieron a las solicitudes de comentarios.

AP