“Están jugando con nuestras vidas”: otro empleado de la industria de la IA renuncia por preocupaciones de seguridad
Por Hadas Gold, Martin Goillandeau y David Goldman, CNN
“Las personas que desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década”.
Esta contundente afirmación de Jacob Coxon, exempleado de Anthropic, causó revuelo el martes. Es parte de un hilo de mensajes en X en el que el investigador de IA de 27 años reveló algunos detalles del funcionamiento de la industria además de anunciar su renuncia.
Por alarmantes y graves que parezcan las revelaciones de Coxon (“Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”), no son nuevas. Anthropic nació precisamente de esta manera: empleados de OpenAI preocupados por los protocolos de seguridad de la empresa abandonaron la startup de Sam Altman para fundar su propia compañía de IA, argumentando que su enfoque era más responsable.
Este tipo de denuncias se están volviendo habituales. En los últimos meses y años, varios empleados del sector de la IA han renunciado públicamente a sus empresas debido a inquietudes sobre la seguridad. Otros han expresado su temor de que la tecnología avance demasiado rápido y llegue un día en que supere la capacidad humana para controlarla.
En julio, cerca de 1.400 empleados de empresas de IA firmaron una carta abierta en la que se instaba al gobierno de EE.UU. a regular la tecnología para poner límites a las grandes empresas tecnológicas y frenar el ritmo de desarrollo de la IA, garantizando así su seguridad. Además, hace dos días, el científico en jefe de OpenAI, Jakub Pachocki, advirtió que las capacidades de la IA están avanzando más rápido que la capacidad de los investigadores para supervisarlas y controlarlas de manera fiable.
Ahora, un investigador con menos antigüedad se ha sumado a quienes dan la voz de alarma.
“Corren directamente hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas”, publicó Coxon.
La publicación de Coxon cobró relevancia después de que Evan Hubinger, un empleado de mayor rango en Anthropic, comentara que Coxon tenía razón.
“¡Realmente creemos que la IA podría acabar con todos los seres humanos!”, publicó Hubinger en X. Señaló que, personalmente, cree que la probabilidad es inferior al 10 % durante la próxima década y que, a pesar de las buenas intenciones de Anthropic, la empresa no cuenta con un plan para evitar la llamada superinteligencia, la cual podría superar la capacidad humana de control sobre la IA. La superinteligencia —un estado en el que la IA supera las capacidades humanas— es un hito teórico muy debatido y sin criterios de referencia claros; algunos investigadores de IA creen que ya se ha alcanzado, mientras que otros opinan que nunca llegará a producirse.
Poco después, Hubinger aclaró su declaración en una publicación posterior, señalando que el propio Informe de Riesgos de Anthropic reconoce dicha preocupación, pero indica que la IA actual tiene pocas probabilidades de adquirir tal nivel de poder. En respuesta a una solicitud de comentarios de CNN, Anthropic remitió a la publicación de seguimiento de Hubinger.
El director ejecutivo de Anthropic, Dario Amodei, también ha advertido en repetidas ocasiones que la carrera por avanzar rápidamente en esta tecnología podría derivar involuntariamente en un error catastrófico de origen humano, provocando que una empresa pierda el control de su IA.
“Se trata de un problema de ingeniería complejo y creo que algo saldrá mal con el sistema de IA de alguien. Esperemos que no sea con el nuestro”, declaró Amodei al New York Times en febrero.
A pesar del flujo constante de advertencias, un proceso regulador parece lejano. La administración Trump ha trabajado activamente para socavar las normativas estatales sobre IA y, hasta ahora, el Congreso se ha mostrado reticente a poner límites a esta tecnología. Un argumento recurrente es que cualquier intento por regular la IA equivale a una capitulación ante China, país que no está sujeto a tales restricciones.
Sin embargo, China sí ha introducido regulaciones a la IA, centradas principalmente en la gestión de riesgos y la seguridad. El año pasado, el gobierno exigió a las empresas del sector que etiquetaran el contenido generado por IA para garantizar su transparencia y trazabilidad. No obstante, China se ha resistido a implementar el tipo de regulación estricta que evitaría los problemas señalados por los investigadores de Silicon Valley.
Mientras tanto, al menos en Estados Unidos, las empresas de IA son, en gran medida, responsables de autorregularse.
La Casa Blanca ha avanzado hacia un marco voluntario para revisar ciertos modelos de IA antes de su lanzamiento, según informaron a CNN fuentes conocedoras de una reunión celebrada el mes pasado entre la administración Trump y varias de las principales empresas de IA.
Entre los representantes se encontraban los de OpenAI, Anthropic, Google y Meta, según múltiples fuentes familiarizadas con la situación. Los detalles del marco no se harán públicos y muchas de las normas establecidas en él serán clasificadas, de acuerdo con un decreto de junio relativo a dicho marco.
En julio, Altman sugirió que podría ser el momento de ralentizar el desarrollo de la IA. En el podcast Invest Like The Best, afirmó que los recientes incidentes durante las pruebas de modelos avanzados planteaban “interrogantes a largo plazo” sobre cómo deberían gestionar las empresas de IA los rápidos avances en sus capacidades.
“Es posible que tengamos que ajustar el ritmo de desarrollo de la IA para darnos tiempo suficiente a que la sociedad se adapte a estos nuevos niveles de capacidad”, declaró Altman”.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
