“La razón más probable por la que morirán es por un accidente de IA” : la alarmante advertencia de otro directivo de OpenAI
¿Puede la inteligencia artificial (IA) ser un verdadero peligro para la humanidad? Esa es la pregunta que hace meses mantiene en vilo al mundo entero, en especial luego de que Jacob Coxon, exempleado de Anthropic, renunciara a la compañía y afirmara que “quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que acabe la década”.
Paul Christiano, miembro de la junta directiva de la Fundación OpenAI y de su Comité de Seguridad, volvió a poner el tema sobre la mesa en la Hinton Lectures 2026 —un encuentro sobre ética de la IA organizado por el premio Nobel y científico informático Geoffrey Hinton— y aseguró que los “accidentes de IA” se convertirán en la causa de muerte “más probable” en apenas meses, informó el medio especializado en tecnología Gizmodo.
“Para la mayoría de las personas en esta sala, la razón más probable por la que morirán es por un accidente de IA”, precisó.
A su vez, sostuvo que, con el rápido avance y desarrollo de esta tecnología, “estaríamos ante una probabilidad de 50% de que la IA tome el control”. Y agregó que, incluso con respuestas políticas “realistas”, “el riesgo sigue siendo excepcionalmente alto”.
Su visión no dista demasiado de algunos de sus colegas. “METR [una organización sin fines de lucro dedicada a la investigación de la IA] estima que el progreso de Anthropic se acelerará casi al doble gracias a la IA. Esto es muy importante: mi estimación anterior para un investigador de IA superhumana era de alrededor de 2030, ahora es 2027″, escribió en X Eli Lifland, investigador y cofundador de AI Futures Project. Bajo esa línea, expresó su preocupación respecto a que la humanidad “pueda perder el control de su futuro en un plazo de tres a 12 meses”.
METR estimates nearly 2x acceleration in Anthropic’s progress due to AI. That's a big deal: My previous median for Superhuman AI Researcher was ~2030, now it's 2027. I feel very worried that humanity might no longer be in control of our future within 3-12 months. https://t.co/D5llhm6ZqK
— Eli Lifland (@eli_lifland) November 10, 2026
Buck Shlegeris, director ejecutivo de Redwood Research, coincidió con esta mirada: “Creo que hay aproximadamente una probabilidad de uno entre tres de que, en el próximo año, las empresas de IA desarrollen superinteligencia: es decir, IA mucho más inteligente que los humanos en todos los sentidos”. En caso de que eso suceda, apuntó el experto, probablemente “se apoderarán de instituciones humanas como los gobiernos o las destruirán”. Frente a este peligro, Shlegeris recomendó intentar ralentizar el desarrollo de la IA.
Alarma mundialEn los últimos meses, los líderes de las principales empresas de tecnología también expresaron su preocupación respecto a la autonomía de la IA. Uno de los primeros en plantearlo fue Dario Amodei, director ejecutivo y cofundador de Anthropic, quien indicó que es necesario bajar el ritmo en el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog.
Como parte del marco de tres pasos que propone, el ejecutivo afirmó que Anthropic incorporaría evaluadores externos permanentes en el seno de las empresas punteras de IA, con acceso a las herramientas pertinentes y a los procesos internos de evaluación de riesgos.
Sin embargo, aclaró que no estaba pidiendo que se detuviera el entrenamiento de los modelos ni el progreso técnico, sino que se garantizara que las empresas se tomaran el tiempo necesario para ajustar y proteger sus modelos, y que evaluadores independientes confirmaran estas medidas.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Sam Altman, CEO de OpenAI y uno de sus principales rivales, respaldó públicamente su propuesta y anunció que su compañía adoptará una de las medidas sugeridas por Amodei: permitir que evaluadores independientes tengan un nivel de acceso similar al de los empleados para supervisar los riesgos de sus sistemas.
“Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman. El empresario aseguró que el asunto había sido uno de los principales temas de discusión dentro de OpenAI durante las últimas semanas y calificó como “una gran idea” la incorporación de supervisores externos.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
Elon Musk, dueño de xAI y creador del chatbot Grok, también respaldó el planteo de Amodei. “Dario tiene razón”, escribió escuetamente en X.
Ver nota original ↗
¿Querés un resumen rápido de esta noticia, hecho por nuestra IA?
