Jacob Coxon, investigador que trabajó durante tres años en proyectos de inteligencia artificial de OpenAI y Anthropic, renunció a su puesto en Anthropic y lanzó una dura advertencia sobre el rumbo que está tomando el desarrollo de esta tecnología.

Coxon sostiene que ambas compañías están avanzando hacia sistemas de inteligencia artificial capaces de mejorar sus propias capacidades, en una carrera tecnológica que, a su criterio, no cuenta con suficientes medidas de seguridad. Su principal preocupación es que las empresas estén priorizando la velocidad y la competencia por encima de los riesgos que podrían representar modelos cada vez más autónomos.

En un mensaje publicado en redes sociales tras presentar su renuncia, el investigador afirmó que quienes desarrollan estas tecnologías creen seriamente que una inteligencia artificial avanzada podría llegar a representar una amenaza para la humanidad antes de que termine esta década.

La advertencia tomó fuerza luego de que Evan Hubinger, investigador de Anthropic especializado en seguridad y alineamiento de sistemas de inteligencia artificial, respaldara públicamente las preocupaciones de Coxon. Hubinger señaló que existe una probabilidad superior al 10 % de que una inteligencia artificial avanzada pueda provocar la extinción humana durante los próximos diez años.

El concepto central de esta preocupación es el desarrollo de una denominada superinteligencia: sistemas que podrían superar las capacidades humanas en múltiples áreas y, eventualmente, participar en procesos de investigación y mejora de sus propios modelos.

Coxon también cuestionó que las decisiones sobre tecnologías con posibles consecuencias globales estén concentradas en un número reducido de empresas. Aseguró que, mientras en Anthropic existe una mayor conciencia sobre los riesgos, la compañía permanece atrapada en una carrera tecnológica con OpenAI y otros laboratorios que buscan alcanzar primero nuevos niveles de capacidad.

Las advertencias se producen además después de varios incidentes que han incrementado el debate sobre la autonomía de los sistemas de inteligencia artificial. Investigadores y autoridades han expresado preocupación por modelos capaces de operar fuera de entornos controlados, acceder a sistemas externos o realizar acciones no previstas durante determinadas pruebas.

El caso también llegó al ámbito político. Legisladores estadounidenses han planteado nuevas medidas de supervisión, auditorías independientes y controles para los sistemas de inteligencia artificial más avanzados. La discusión gira en torno a cómo garantizar que el desarrollo tecnológico continúe, pero bajo mecanismos que permitan identificar y reducir riesgos antes de que las capacidades de estos modelos superen las herramientas de control disponibles.

Pese a la gravedad de las advertencias, la posibilidad de una extinción humana causada por inteligencia artificial continúa siendo objeto de debate entre expertos. Algunos investigadores consideran que los riesgos deben tomarse con extrema seriedad, mientras otros cuestionan las estimaciones más catastróficas.

La renuncia de Coxon vuelve a colocar en el centro una pregunta que acompaña el avance de esta tecnología: ¿hasta dónde debe llegar la carrera por desarrollar una inteligencia artificial cada vez más poderosa y quién debe establecer sus límites?

Fuente: Teleamazonas