nuevo incidente de seguridad y un pedido urgente de más de 200 expertos

La inteligencia artificial continúa avanzando a gran velocidad, pero también crecen las advertencias sobre los desafíos que plantea. En los últimos días se conocieron dos noticias distintas que volvieron a poner el foco sobre la necesidad de gestionar los riesgos asociados a esta tecnología.

Por un lado, Anthropic reveló que algunos de sus modelos accedieron involuntariamente a sistemas reales durante ejercicios de ciberseguridad. Por otro, más de 200 economistas, investigadores y ejecutivos de la industria firmaron una carta abierta en la que piden actuar desde ahora para preparar a la economía ante el impacto que la IA podría tener en los próximos años.

El primero de los casos involucra a la empresa estadounidense Anthropic. La compañía informó que sus modelos Claude Opus 4.7, Claude Mythos 5 y un tercer modelo de investigación vulneraron los sistemas de tres organizaciones durante pruebas internas de ciberseguridad, después de que un error de configuración les permitiera acceder a internet.

Según explicó la empresa, el incidente fue detectado tras revisar más de 141.000 evaluaciones realizadas en los últimos meses. La revisión comenzó luego de que OpenAI anunciara que uno de sus agentes había accedido sin autorización a los sistemas de otra compañía al explotar vulnerabilidades que le permitieron conectarse a internet.

Anthropic aclaró que sus tres incidentes ocurrieron en ejercicios de “captura la bandera”, una modalidad utilizada para evaluar capacidades cibernéticas. En esas pruebas se presenta al modelo un escenario ficticio en el que debe localizar una información secreta oculta en otra máquina de una red simulada.

Sin embargo, el acceso involuntario a internet hizo que Claude encontrara sistemas reales y los interpretara como si formaran parte del ejercicio. De acuerdo con la empresa, los modelos lograron ingresar utilizando técnicas básicas, como la explotación de contraseñas débiles y puntos de acceso sin autenticación, sin recurrir a vulnerabilidades complejas.

Anthropic sostuvo que se trató de “incidentes aislados” y consideró que obedecieron a un problema operativo y de configuración, más que a una falla de alineación del modelo.

La compañía afirmó que estos episodios ofrecen “motivos para un optimismo cauteloso” y señaló que, con mayores controles sobre la infraestructura de evaluación y una inversión continua en alineación, este tipo de riesgos podría mitigarse.

En paralelo a ese episodio, más de 200 economistas, investigadores y referentes de la industria tecnológica difundieron una carta abierta titulada Hay que actuar ya, en la que advierten que la inteligencia artificial podría provocar una transformación económica comparable a la Revolución Industrial, aunque concentrada en un período considerablemente más corto.

Según informó Futurism, entre los firmantes hay 16 premios Nobel, además de economistas como Daron Acemoglu, Simon Johnson y Michael Spence, el exdirector ejecutivo de Google Eric Schmidt, la directora financiera de OpenAI Sarah Friar y el cofundador de Anthropic Jack Clark.

Los impulsores del documento sostienen que “la IA podría volverse radicalmente más poderosa en los próximos diez años” y consideran que esa aceleración tecnológica podría modificar el funcionamiento de la economía mundial a una velocidad sin precedentes.

La carta reconoce que el desarrollo de la inteligencia artificial podría generar beneficios importantes, entre ellos mejoras significativas en el nivel de vida. Sin embargo, también advierte sobre riesgos relevantes, como un posible desplazamiento masivo de empleos, y plantea que no es suficiente esperar para evaluar sus efectos.

“Los economistas, los responsables políticos y los líderes tecnológicos deben actuar ahora para comprender la economía de la IA transformadora”, sostiene el documento. Además, reclama desarrollar “los incentivos, las salvaguardias y las instituciones necesarias para orientar la IA en una dirección que complemente a los humanos y beneficie a la sociedad”.

El impacto de la inteligencia artificial sobre el mercado laboral continúa siendo objeto de debate.

Mientras algunos sectores, especialmente el tecnológico, ya atravesaron reestructuraciones vinculadas con la incorporación de estas herramientas y ciertos estudios señalan mayores dificultades para quienes buscan su primer empleo o para algunos trabajadores de mayor edad, otras investigaciones sostienen que todavía no existe evidencia de un efecto significativo sobre el empleo.

Uno de los aspectos destacados de la carta es que reúne a especialistas con posiciones diversas respecto del desarrollo de la IA, pero que coinciden en la necesidad de estudiar con mayor profundidad sus consecuencias económicas antes de que los cambios sean más profundos.

El economista Erik Brynjolfsson, de la Universidad de Stanford e impulsor de la iniciativa, resumió esa preocupación en declaraciones recogidas por The New York Times: “Me preocupa que no estemos preparados para el tsunami que se avecina”.

El documento no propone medidas específicas, sino que busca impulsar un debate temprano sobre las políticas públicas necesarias para gestionar la transición.

En ese marco, distintos organismos internacionales, como la Organización Internacional del Trabajo (OIT) y la OCDE, junto con especialistas en economía, sostienen que el desafío no pasa por frenar el desarrollo tecnológico, sino por generar condiciones para que sus beneficios puedan distribuirse de manera equilibrada y acompañar la adaptación de los trabajadores mediante la formación continua.