Desde armas biológicas hasta chantaje: esto contiene la lista de casi 100 páginas de riesgos presentada por Anthropic

Por Hadas Gold y Lisa Eadicicco, CNN

Es habitual que las empresas que inician el proceso para salir a bolsa incluyan decenas de páginas sobre factores de riesgo, en las que detallan los principales obstáculos para su negocio. ¿Qué sucede si a los consumidores no les gusta el producto? ¿Somos responsables si el producto se utiliza de forma indebida?

La documentación presentada por Anthropic para su salida a bolsa incluía una lista extensa y variada de posibles escollos; entre ellos, el temor a que su tecnología pueda emplearse para desarrollar armas químicas —lo que expondría a la empresa a costosas demandas judiciales— y la preocupación de que su propio producto llegue a escapar al control de la humanidad. El documento describe una empresa que intenta equilibrar un crecimiento acelerado con una enorme presión competitiva para desarrollar una tecnología que, según afirma, podría cambiar el mundo, aunque posiblemente a costa de consecuencias catastróficas.

Anthropic, creadora del chatbot Claude, intentó tranquilizar a los posibles inversores señalando que, si “una IA potente se orienta a resolver los problemas más complejos de la humanidad y los riesgos se gestionan de forma responsable, su potencial resulta extraordinario”.

Este es solo uno de los frentes a los que se enfrenta la compañía; también debe lidiar con una intensa competencia por conseguir los componentes necesarios para hacer funcionar sus modelos de IA. Además, tendrá que demostrar que es capaz de convertir a Claude en una fuente de ingresos significativa, a la altura de la elevadísima valoración de mercado que se le atribuye a la empresa.

Anthropic advierte que actores maliciosos podrían emplear su tecnología para desarrollar elementos como armas peligrosas. Aunque la empresa implementa medidas de seguridad, reconoce que estas podrían ser eludidas o “no funcionar según lo previsto”. En septiembre, Anthropic informó que había bloqueado varias cuentas que utilizaban sus modelos de formas que podrían facilitar el desarrollo de armas biológicas.

Anthropic también señaló que un atacante podría utilizar sus agentes de IA —modelos diseñados para realizar acciones de forma autónoma— para llevar a cabo actos maliciosos, tales como la “exfiltración de datos”, la realización de “transacciones no autorizadas” y la inserción de código malicioso en otros sistemas. La empresa indicó que, el año pasado, detectó que un grupo de piratería informática patrocinado por el Estado chino había manipulado su herramienta de programación en un intento por infiltrarse en aproximadamente 30 objetivos a nivel mundial.

Uno de los comportamientos de la IA más alarmantes observados en los últimos meses es que los agentes de IA ejecuten acciones por cuenta propia de maneras no previstas por los seres humanos.

Anthropic señala que sus agentes —diseñados para realizar tareas complejas de varios pasos de forma autónoma durante horas o días— podrían llevar a cabo acciones como modificar código, “eliminar o alterar datos”, infiltrarse en otros sistemas y completar transacciones financieras “antes de que sea posible una intervención efectiva”.

Asimismo, podrían ser capaces de “eludir las medidas de seguridad”. Anthropic advirtió, además, que es posible que ni siquiera comprenda su propia tecnología, ya que tal vez no pueda explicar completamente por qué sus modelos se comportan de la manera en que lo hacen.

Anthropic indica que cuatro de sus modelos han logrado infiltrarse en sistemas de terceros; en uno de estos casos, un modelo obtuvo acceso de administrador, modificó la configuración del sistema y accedió a información privada de un usuario.

Anthropic afirma que tales acciones podrían “afectar negativamente a nuestra reputación y marca, a nuestras actividades comerciales, a nuestra situación financiera y a los resultados de nuestras operaciones”.

Anthropic afirma que utiliza la IA para ayudar a desarrollar y mejorar sus propios modelos y productos. Esta tendencia, sumada a la velocidad a la que avanza la IA, podría hacer que la tecnología crezca con demasiada rapidez y quede fuera del control humano.

Y, aunque los seres humanos pudieran mantener la vigilancia, los modelos están empezando, en ocasiones, a borrar sus huellas y ocultar su comportamiento, señala Anthropic.

“Los modelos —incluidos los nuestros— han intentado, en incidentes observados en nuestro sector, interferir, manipular o subvertir los mecanismos utilizados para evaluar, calificar o supervisar dichos modelos, incluidos los sistemas encargados de valorar su rendimiento o su alineación”, indica la empresa.

Los modelos de IA podrían intentar manipular a las personas, en ocasiones con el objetivo de preservar su propia existencia, señala Anthropic. En algunos casos, los modelos han llegado a mostrar un “comportamiento similar al chantaje” para influir en las decisiones humanas.

Anthropic menciona incluso casos puntuales de comportamientos que “podrían generar una preocupación pública significativa, escrutinio normativo, riesgo de litigios o daños a la reputación, independientemente de si dicho comportamiento deriva en un perjuicio real”.

Al igual que todas las empresas, Anthropic está expuesta a riesgos derivados de regulaciones y demandas judiciales. La compañía señala que “los fiscales generales de California y al menos otros 15 estados han anunciado investigaciones sobre otra empresa de nuestro sector en relación con la seguridad de la IA”, en referencia a OpenAI, creadora de ChatGPT.

Se han dado casos en los que personas se han autolesionado o han cometido actos de violencia contra terceros tras utilizar modelos de IA; situaciones que pueden derivar en “un intenso escrutinio público, litigios, investigaciones penales, atención por parte de los organismos reguladores y daños a la reputación”.

Es probable, además, que la empresa ni siquiera pueda contratar un seguro que la proteja, dado que el sector asegurador en su conjunto podría no estar en condiciones de suscribir una póliza que cubra un “incidente catastrófico relacionado con la IA”.

Anthropic señala que las empresas de inteligencia artificial están sujetas a leyes locales, nacionales e internacionales que cambian rápidamente, y que las tensiones geopolíticas —particularmente entre Estados Unidos y países como China— plantean riesgos significativos para la cadena de suministro, las operaciones y el negocio en general.

Esto incluye medidas por parte del gobierno de Estados Unidos, que mantuvo una relación conflictiva con la empresa durante la administración Trump. Anthropic explica que, a principios de este año, el Pentágono calificó a la compañía como un “riesgo para la cadena de suministro” después de que esta declarara que su “tecnología no debería utilizarse para la vigilancia masiva a nivel nacional ni para armas totalmente autónomas”. Asimismo, el Departamento de Comercio de EE.UU. impuso brevemente restricciones a la exportación de los modelos más recientes de Anthropic debido a preocupaciones relacionadas con la seguridad.

El presidente Donald Trump también ha arremetido en ocasiones contra Anthropic y sus advertencias sobre los riesgos y la seguridad de la IA. Sin embargo, Anthropic no tiene intención de dar marcha atrás; la empresa afirma que “probablemente seguirá abogando” por enfoques regulatorios y normativos que, a su juicio, fomentarán un “desarrollo seguro y responsable de la IA”.

Anthropic señala que ha experimentado y podría seguir experimentando una mayor visibilidad, lo que conlleva el riesgo de estar sujeta a un escrutinio más intenso o de ser objeto de medidas desproporcionadas o selectivas por parte de determinados organismos gubernamentales, incluso cuando otras empresas en situaciones similares no se ven afectadas de la misma manera.

Conseguir suficiente capacidad de cómputo representa un desafío importante para Anthropic y otras empresas de IA. En su análisis de factores de riesgo, la compañía dedica una parte considerable a describir la intensa competencia por obtener esta capacidad, señalando que se disputa con algunas de las empresas más grandes del mundo la infraestructura necesaria para hacer funcionar sistemas de IA a gran escala.

El futuro de Anthropic y el de sus competidores depende en gran medida de la disponibilidad de componentes informáticos necesarios para entrenar sus modelos y alimentar a los agentes y chatbots basados ​​en IA. La demanda de estos componentes es tan elevada que la cadena de suministro no logra dar abasto.

El sector tecnológico ha invertido miles de millones de dólares en centros de datos y otros gastos relacionados para satisfacer lo que describen como una demanda creciente. Según la firma de investigación de mercado Gartner, se espera que el gasto mundial en infraestructura para IA alcance casi los 2 billones de dólares para el año 2027.

La empresa también tiene dificultades para predecir cuánta capacidad de cómputo se necesita para satisfacer la demanda, sobre todo dado que el sector evoluciona a gran velocidad. Esta es, además, una cuestión subyacente que alimenta la preocupación por una posible “burbuja” de la inteligencia artificial: el hecho de que las empresas tecnológicas estén invirtiendo miles de millones en centros de datos y recursos informáticos sin tener la certeza de que existirá una demanda que lo justifique.

La oposición a los centros de datos se ha intensificado en Estados Unidos debido a la preocupación por su impacto en el medio ambiente y en las comunidades locales. Según la firma de investigación Data Center Watch, en el segundo trimestre de 2026 se bloquearon 45 proyectos de centros de datos valorados en US$ 68.000 millones.

Anthropic señala que las iniciativas regulatorias en Nueva York y Texas representan un riesgo potencial para su negocio, y afirma que está trabajando para construir más centros de datos fuera de Estados Unidos.

Otros factores de riesgo ponen de relieve incertidumbres en torno al modelo de negocio de Anthropic y la forma en que los valores de la empresa podrían influir en su crecimiento futuro. La compañía señaló que gran parte de su actividad depende de un número reducido de productos y de una base de clientes limitada.

Con una oferta pública inicial (OPI) que, según se comenta, podría valorar a la empresa en hasta 2 billones de dólares, Anthropic podría convertirse pronto en una de las compañías más valiosas del mundo.

Sin embargo, no solo está en juego su reputación en materia de seguridad ante el público; también está en riesgo su reputación entre sus propios empleados. La empresa advierte que, si se aleja demasiado de los valores de seguridad que ha declarado, esto podría derivar en una pérdida de productividad, o algo peor.

“Los empleados que se incorporaron a nuestra empresa motivados por nuestros compromisos en materia de seguridad podrían experimentar una caída en la moral, desilusión, pérdida de confianza en el liderazgo o una menor productividad si perciben que no estamos cumpliendo con los valores que hemos declarado”, señala la empresa.

“Las discrepancias públicas en torno a nuestro enfoque de seguridad —incluidas las críticas por parte de empleados actuales o exempleados, o la salida de personal vinculado a nuestras iniciativas de seguridad— podrían acentuar tales percepciones”.

The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.