AI insiders warn of extinction while employers chase valuations
Jacob Coxon, 27, resigned from Anthropic warning that AI developers believe the technology could destroy humanity.
Anthropic warnings shake investor confidence over AI governance
Jacob Coxon, 27, resigned from Anthropic declaring that AI developers are gambling with humanity's survival.
Jacob Coxon, a 27-year-old researcher who left OpenAI to join its rival Anthropic, resigned this week with a warning that rattled the Goldman Sachs tech conference in San Francisco: the people building artificial intelligence believe it could destroy humanity, and they are gambling with our lives.
--- THE CONTEXT ---
Goldman Sachs hosts an annual conference at San Francisco's Palace Hotel where Silicon Valley executives court investors. The BBC reported that Coxon's resignation landed during that event, forcing discussions about existential risk into a setting designed to project growth and financial confidence.
--- THE FACTS ---
Coxon published his resignation on Tuesday, describing forthcoming AI systems as superhuman systems that can hack anything. He stated explicitly that his warnings were not marketing. Evan Hubinger, a team lead at Anthropic, amplified the alarm on X, writing that he personally estimates more than a 10% probability that AI will kill all humans within the next decade. Anthropic CEO Dario Amodei had already drawn criticism for stating AI could wipe out half of entry-level white-collar jobs and would test who we are as a species. On Saturday, Amodei published an essay calling for a slowdown in AI model development and for global regulation, describing the associated risks as serious. Anthropic was valued at 965 billion dollars, roughly 713 billion pounds, in its most recent fundraising round. The BBC requested a response from Anthropic; this report does not document one.
--- THE POSITIONS ---
Grindr CEO George Arison told the BBC he viewed the statements as indicative of an anti-civilisational worldview at Anthropic, called them dangerous, and said he had instructed some of his engineers to stop using Anthropic's technology. Arison also framed continued reliance on Anthropic as irresponsible stewardship of shareholder money. Coxon and some current Anthropic employees echoed the same concerns in their own posts.
--- WHAT REMAINS UNKNOWN ---
This report does not establish whether Anthropic has internal safety procedures addressing the concerns raised by Coxon and Hubinger. The source does not specify the contractual conditions of Coxon's departure or whether other employees are considering similar steps.
--- UNANSWERED QUESTIONS ---
• What formal internal channels exist at Anthropic for researchers who identify serious safety risks before concluding that resignation is their only option?
• How will the workers most exposed to AI-driven displacement — entry-level white-collar employees — have any voice in the global regulatory framework Amodei now endorses?
• Does the resignation pattern at Anthropic and OpenAI reflect isolated dissent or a broader structural failure to incorporate safety concerns into product decisions?
• What consumer protections would a global AI regulatory regime include, and who would enforce them?
--- EPM ANALYSIS ---
The human cost dimension is concrete: Amodei himself has named entry-level white-collar workers as the first group facing displacement, and no protective framework is in place. The irony is sharp — the same executives calling for global regulation are the ones accelerating development. Winners so far are the investors entering at a 965-billion-dollar valuation. The decisive variable is whether workers and consumers gain representation before regulation is captured by the industry it is meant to govern. 📌
📌
EPM Take:
In EPM's view, the resignation of Coxon and the public statements by Hubinger expose a structural failure, not a communications problem. When a company's own team leads assign a greater than 10% probability to human extinction, and the company continues scaling toward a 965-billion-dollar valuation, the burden falls on regulators and democratic institutions to act — not on individual engineers to absorb that risk alone. The workers Amodei says will lose their jobs have no seat at the table where this technology's future is being decided.
Silicon Valley's annual Goldman Sachs conference at San Francisco's Palace Hotel is built on the premise that technology creates order and wealth. That premise was tested this week when Jacob Coxon, a 27-year-old former OpenAI researcher who moved to rival Anthropic, resigned and declared publicly that AI developers are gambling with our lives.
--- THE CONTEXT ---
The BBC reported that Coxon's resignation surfaced during the Goldman Sachs event, where executives gather to attract institutional capital. His departure is not isolated: according to the same report, a string of high-profile resignations from both Anthropic and OpenAI over apparent safety concerns has occurred in recent years.
--- THE FACTS ---
Coxon published his resignation on Tuesday, describing the systems being built as superhuman systems that can hack anything. He stated his warnings were not marketing. Evan Hubinger, a team lead at Anthropic, posted on X that he personally estimates a greater than 10% probability that AI kills all humans within the next decade. Anthropic CEO Dario Amodei had already drawn fire for saying AI could eliminate half of entry-level white-collar jobs and would test who we are as a species. On Saturday, Amodei published an essay calling for a slowdown in AI model development and global regulation, acknowledging the risks as serious. Anthropic was valued at 965 billion dollars — approximately 713 billion pounds — in its most recent fundraising round. The BBC asked Anthropic for a response; this report does not document one.
--- THE POSITIONS ---
Grindr CEO George Arison told the BBC that Coxon's statements and those of other Anthropic employees reflect an anti-civilisational worldview, which he called dangerous. He announced he had directed engineers at his company to stop using Anthropic's technology and described continued reliance on the firm as irresponsible stewardship of shareholder money. Separately, some voices in the tech sector, including Arison himself, have suggested the warnings may be designed to generate hype ahead of potentially record-setting initial public offerings that Anthropic and OpenAI are reportedly preparing.
--- WHAT REMAINS UNKNOWN ---
This source does not establish what external oversight mechanisms currently apply to Anthropic's safety evaluations. The report does not indicate whether any regulatory body has opened an inquiry following the public statements by Coxon or Hubinger.
--- UNANSWERED QUESTIONS ---
• What binding oversight framework, if any, would Amodei's proposed global AI regulation create, and which institutions would enforce it?
• How are institutional investors weighing the reputational and market risk of backing a company whose own team leads publicly estimate catastrophic outcomes?
• If the warnings are partly strategic, as some in Silicon Valley suggest, what does that reveal about the absence of credible independent safety standards in the sector?
• Could the decision by Grindr to withdraw from Anthropic's technology mark the start of a broader corporate realignment in how enterprises evaluate AI vendor risk?
--- EPM ANALYSIS ---
The security and institutional stakes are clear: a company valued at 965 billion dollars operates without a binding external safety authority while its own researchers declare civilisation-level risks. That is not a public relations failure — it is a governance gap. Amodei's call for global regulation, published the same week his employees alarmed the market, underscores the contradiction. 📌
📌
EPM Take:
Our reading is that the West is approaching an inflection point in AI governance and doing so without the institutional scaffolding that comparable technological risks have historically required. EPM has reported on how reform movements and political disruptions in the United Kingdom are reshaping assumptions about institutional reliability. The same logic applies here: when insiders at a 965-billion-dollar company publicly assign double-digit probability to catastrophic outcomes, the burden of proof must shift to regulators — not remain with individual researchers who resign to be heard.
Las alarmas de los ingenieros de IA no convencen a quienes más se benefician de ignorarlas
Jacob Coxon, de 27 años, renunció a Anthropic advirtiendo que la IA podría destruir la humanidad.
Advertencias sobre catástrofe en IA generan dudas sobre credibilidad
Jacob Coxon, de 27 años, renunció a Anthropic advirtiendo sobre riesgos existenciales de la IA durante la conferencia de Goldman Sachs en San Francisco.
Jacob Coxon tiene 27 años, trabajó en OpenAI antes de unirse a Anthropic, y renunció esta semana con una declaración que estremeció los pasillos del Palace Hotel de San Francisco: las personas que construyen inteligencia artificial creen que la tecnología podría destruir a la humanidad. Quienes la desarrollan están, según sus palabras, apostando con nuestras vidas.
--- EL CONTEXTO ---
El contexto llega desde un evento anual de Goldman Sachs donde ejecutivos del sector tecnológico acuden a captar inversores. La renuncia de Coxon ocurrió en plena semana de esa conferencia, según informó la BBC, convirtiendo la reunión de optimismo financiero en un foro incómodo sobre riesgo existencial.
--- LOS HECHOS ---
Coxon publicó su renuncia el martes. Describió los sistemas de IA como sistemas pronto superhumanos capaces de hackear cualquier cosa. Evan Hubinger, un líder de equipo en Anthropic, respaldó el tono de alarma en una publicación en X donde escribió que él personalmente estima que existe más de un 10% de probabilidad de que la IA mate a todos los humanos en la próxima década. Anthropic fue valorada en 965 mil millones de dólares —unos 713 mil millones de libras— en su ronda de financiación más reciente. Su director ejecutivo, Dario Amodei, ya había generado polémica al afirmar que la IA podría eliminar la mitad de los empleos de nivel de entrada en el sector de cuello blanco. El sábado, Amodei publicó un ensayo en el que llamó a ralentizar el desarrollo de modelos de IA y a establecer regulación global, reconociendo que los riesgos eran serios.
--- LAS POSICIONES ---
George Arison, director ejecutivo de Grindr, calificó las declaraciones de Coxon y de Hubinger como representativas de lo que llamó una cosmovisión anticivilizatoria en Anthropic, y anunció a la BBC que había ordenado a algunos ingenieros de su empresa dejar de usar tecnología de Anthropic. La BBC informó que solicitó respuesta a Anthropic, pero este reporte no documenta que la compañía haya respondido.
--- LO QUE FALTA SABER ---
No se conocen las condiciones contractuales de la renuncia de Coxon ni si existe documentación interna en Anthropic que sustente o contradiga sus afirmaciones. La fuente no establece si otros empleados han presentado renuncias similares recientemente ni qué respuesta formal prepara la compañía.
--- PREGUNTAS SIN RESPUESTA ---
• ¿Qué protocolos de seguridad internos tiene Anthropic para evaluar los riesgos que sus propios empleados denuncian públicamente?
• ¿Cómo afectaría una regulación global del desarrollo de IA, como la que propone Amodei, a los trabajadores de nivel de entrada que ya enfrentan la amenaza de automatización?
• ¿Existen mecanismos formales de denuncia interna en estas empresas para investigadores que identifican riesgos antes de que deban renunciar para hacerse escuchar?
• ¿Qué impacto concreto tendrá la decisión de Grindr de abandonar la tecnología de Anthropic sobre los equipos de ingeniería que ya trabajan con esa integración?
--- ANÁLISIS EPM ---
El patrón que emerge es incómodo para todos los actores: si las advertencias son genuinas, el modelo de negocio actual pone en riesgo a trabajadores y consumidores globales. Si son estratégicas, el sector tecnológico usa el miedo existencial como herramienta de mercado. 📌
📌
Conclusion EPM:
A juicio de EPM, el debate sobre la IA peligrosa ha llegado a un punto en que la ambigüedad es funcional para quienes más se benefician de ella. Que un empleado renuncie para advertir al público, mientras su empresa alcanza una valoración de 965 mil millones de dólares, no es una contradicción accidental: es la estructura del problema. Los trabajadores desplazados por automatización y los consumidores sin representación regulatoria son los que pagan el costo de esa ambigüedad, mientras el debate permanece secuestrado por quienes tienen interés en que no se resuelva.
Mientras Goldman Sachs congregaba en San Francisco a los ejecutivos más influyentes del sector tecnológico, una renuncia sacudió el evento: Jacob Coxon, de 27 años, exinvestigador de Anthropic con experiencia previa en OpenAI, declaró públicamente que los constructores de IA están apostando con nuestras vidas y que los sistemas que desarrollan serán pronto capaces de hackear cualquier cosa.
--- EL CONTEXTO ---
La conferencia anual de Goldman Sachs en el Palace Hotel de San Francisco es el escenario donde el capital encuentra al sector tecnológico. La renuncia de Coxon llegó, según la BBC, en plena semana del evento, introduciendo un debate sobre riesgo existencial en un espacio diseñado para proyectar confianza institucional y rendimientos.
--- LOS HECHOS ---
Coxon publicó su dimisión el martes. Evan Hubinger, líder de equipo en Anthropic, amplificó la alarma al publicar en X que personalmente estima en más del 10% la probabilidad de que la IA acabe con todos los humanos en la próxima década. Dario Amodei, director ejecutivo de Anthropic, ya había generado tensión al afirmar que la IA podría eliminar la mitad de los empleos de cuello blanco de nivel de entrada y que pondrá a prueba quiénes somos como especie. El sábado, Amodei publicó un ensayo pidiendo ralentizar el desarrollo de modelos de IA y establecer regulación global. Anthropic fue valorada en 965 mil millones de dólares —713 mil millones de libras— en su ronda de financiación más reciente. La BBC solicitó respuesta a la compañía; este reporte no documenta que haya respondido.
--- LAS POSICIONES ---
George Arison, director ejecutivo de Grindr, calificó ante la BBC las declaraciones como indicativas de una cosmovisión anticivilizatoria en Anthropic, las llamó peligrosas y ordenó a ingenieros de su empresa dejar de usar la tecnología de la firma. Añadió que confiar en una empresa con ese tipo de declaraciones públicas es irresponsable frente a los accionistas. Coxon afirmó explícitamente que sus advertencias no eran marketing.
--- LO QUE FALTA SABER ---
Este reporte no establece si existe documentación interna de Anthropic que sustente o refute las afirmaciones de sus empleados. La fuente no especifica los términos de la renuncia de Coxon ni si hay procedimientos formales de revisión de seguridad en la empresa que hayan sido activados.
--- PREGUNTAS SIN RESPUESTA ---
• ¿Qué marcos regulatorios concretos contempla Amodei cuando llama a una regulación global de la IA?
• ¿Cómo evalúan los inversores institucionales el riesgo reputacional cuando los propios empleados de una empresa alertan sobre su tecnología antes de una posible oferta pública inicial?
• ¿La decisión de Grindr de abandonar la tecnología de Anthropic podría extenderse a otros clientes corporativos, y con qué consecuencias para la estabilidad del mercado?
• ¿Qué mecanismos de supervisión externa existen actualmente para verificar las evaluaciones internas de riesgo de empresas como Anthropic o OpenAI?
--- ANÁLISIS EPM ---
El orden institucional del sector tecnológico enfrenta una fractura difícil de gestionar: las mismas empresas que solicitan valoraciones históricas a los mercados admiten, por boca de sus propios investigadores, incertidumbres de alcance civilizatorio. Eso no es un problema de relaciones públicas; es una señal de que los marcos de supervisión actuales son insuficientes. La variable decisiva es si los reguladores y los inversores institucionales actuarán antes o después de que el mercado descuente ese riesgo. 📌
📌
Conclusion EPM:
A juicio de EPM, el verdadero problema no es si Coxon o Hubinger creen sinceramente lo que dicen, sino que empresas valoradas en 965 mil millones de dólares operen sin supervisión externa vinculante mientras sus propios equipos declaran riesgos existenciales. EPM ha cubierto cómo otras industrias —financiera, farmacéutica, energética— requirieron crisis concretas para establecer marcos de control. La IA se aproxima a ese umbral sin que Occidente haya construido aún la arquitectura regulatoria necesaria para gestionarlo.
