California demanda a OpenAI por falta de seguridad de sus modelos de IA
El incidente en el que modelos de IA de la empresa creadora de ChatGPT salieron de un medio confinado, accedieron a internet y penetraron sistemas informáticos de la biblioteca de la plataforma de IA Hugging Face, fue “completamente previsible”, según dijo el fiscal en un comunicado.
El funcionario mencionó también “la decisión de OpenAI de probar modelos que sabía peligrosos en un entorno defectuoso y vulnerable, sin una supervisión adecuada”.
Si bien la propia Hugging Face prefirió no acudir a la justicia, el fiscal estimó que esta situación presentó un “peligro para el público general”.
Denunció una “cultura interna en OpenAI que antepone el crecimiento y el rápido desarrollo de modelos a la seguridad y la fiabilidad”.
La IA frena la entrada de jóvenes al empleo en Europa, según un informe
OpenAI dijo en respuesta a una solicitud de la AFP que desde la secuencia ocurrida en julio empezó una investigación para “comprender y tratar el problema”.
La empresa agregó que “ha reforzado las salvaguardias en todo su entorno de investigación” y ha mejorado los mecanismos de detección de salidas de ruta no previstas de la IA.
Ver nota original ↗
¿Querés un resumen rápido de esta noticia, hecho por nuestra IA?
