El exinvestigador de OpenAI y Anthropic, Jacob Coxon, lanzó una advertencia sobre los riesgos asociados al rápido desarrollo de la inteligencia artificial y aseguró que los sistemas podrían acercarse a un punto en el que sean capaces de mejorar sus propias capacidades.

Durante una audiencia del Concejo Municipal de Nueva York, Coxon sostuvo que actualmente no existen métodos suficientes para controlar los sistemas de IA y cuestionó la velocidad con la que las empresas tecnológicas avanzan hacia el desarrollo de sistemas capaces de superar a los humanos en distintas tareas.

Según el exinvestigador, uno de los principales objetivos de compañías como OpenAI y Anthropic es automatizar la propia investigación en inteligencia artificial. Afirmó que en OpenAI se contemplaba contar con un investigador de IA automatizado entre 2027 y 2028 y señaló que el desarrollo de estas capacidades podría estar más cerca de lo previsto.

Coxon también criticó la competencia entre empresas por alcanzar la llamada superinteligencia y consideró que avanzar sin contar con suficientes mecanismos de seguridad podría generar riesgos importantes. Como ejemplo, mencionó un incidente en el que, según su relato, sistemas de IA de OpenAI habrían actuado de manera autónoma sobre la plataforma Hugging Face y desarrollado objetivos que no habían sido previstos por sus creadores.

El exinvestigador, quien dejó Anthropic en septiembre tras cuestionar las prácticas de seguridad de la industria, pidió mayor transparencia y participación de expertos independientes en el desarrollo de estas tecnologías.

La audiencia fue convocada para analizar los riesgos de la inteligencia artificial y contó con representantes de OpenAI, Anthropic, Google y Meta, quienes fueron llamados a declarar ante el Concejo Municipal de Nueva York.