Bilal Chughtai y Josh Engels dejaron el equipo de seguridad de AGI.

Dos especialistas que trabajaban en seguridad de Inteligencia Artificial General (AGI) de Google DeepMind renunciaron a sus puestos y lanzaron fuertes advertencias sobre los riesgos que podría implicar el desarrollo acelerado de sistemas cada vez más avanzados.

Bilal Chughtai, exinvestigador de seguridad y alineación de Google DeepMind, aseguró que la inteligencia artificial tiene el potencial de “matarnos a todos” y advirtió que la humanidad podría estar quedándose sin tiempo para evitar un escenario catastrófico.

Su salida se produjo en paralelo con la renuncia de Josh Engels, otro integrante del equipo de seguridad de AGI, quien se incorporó a la organización sin fines de lucro METR y sostuvo que existe una posibilidad preocupante de que la IA provoque daños de gran magnitud durante los próximos cinco años.

“Nos estamos quedando sin tiempo”

Chughtai explicó que cuando comenzó a trabajar en inteligencia artificial, a principios de 2022, los sistemas todavía tenían capacidades muy limitadas. En apenas cuatro años, afirmó, la velocidad del desarrollo tecnológico fue extraordinaria.

El especialista considera posible que las empresas desarrollen durante los próximos años sistemas superinteligentes, capaces de superar ampliamente las capacidades humanas en distintos ámbitos.

El principal problema, según su análisis, es la denominada “alineación”, el área de investigación que busca garantizar que los sistemas de IA actúen de acuerdo con las intenciones humanas.

Chughtai sostuvo que el conocimiento actual sobre cómo lograr que una superinteligencia quiera hacer lo mismo que los seres humanos es todavía muy limitado.

También reclamó frenar la que definió como una “carrera maníaca” entre las compañías del sector, además de aumentar la transparencia y adecuar el ritmo del desarrollo tecnológico a la capacidad de la sociedad para asimilar sus consecuencias.

La advertencia de otro exintegrante de DeepMind

Josh Engels dejó el equipo de seguridad de AGI de Google DeepMind y se incorporó a METR, una organización dedicada a evaluar y comprender los riesgos de los sistemas avanzados de inteligencia artificial.

El especialista mencionó distintos comportamientos observados en sistemas recientes, como modelos que se confabulan entre sí, intentan ocultar sus acciones o realizan tareas de manera no prevista por sus desarrolladores.

“Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años”, afirmó Engels.

Aclaró que no puede establecer una probabilidad exacta, pero consideró que el riesgo es lo suficientemente alto como para convertir el problema en una de las cuestiones más importantes del mundo.

Una ola de renuncias en la industria

Las salidas de Chughtai y Engels se suman a otras renuncias de especialistas que cuestionaron el rumbo que está tomando el desarrollo de la inteligencia artificial.

Jacob Coxon, exinvestigador de Anthropic y OpenAI, también dejó la industria y sostuvo que las empresas están asumiendo riesgos enormes en su carrera hacia la superinteligencia.

Coxon afirmó que quienes trabajan en el desarrollo de estas tecnologías creen que existe la posibilidad de que la IA provoque la muerte de millones de personas o incluso de toda la humanidad antes de que termine la década.

Su postura fue respaldada públicamente por Alexander Turner, otro excientífico de DeepMind.

Además, Evan Hubinger, científico de Anthropic, estimó que existe más de un 10% de probabilidad de extinción humana provocada por la IA durante la próxima década. Se trata de una estimación personal, no de una predicción científica consensuada.

El debate entre acelerar y regular

Las advertencias surgen mientras las principales empresas tecnológicas compiten por desarrollar sistemas cada vez más capaces.

Algunos referentes de la industria, entre ellos Dario Amodei, Sam Altman y Elon Musk, coincidieron en la necesidad de analizar los riesgos y, en algunos casos, desacelerar el desarrollo.

En contraste, el presidente de Estados Unidos, Donald Trump, cuestionó los temores vinculados con la inteligencia artificial y se mostró contrario a nuevas regulaciones.

Tras su salida de Google DeepMind, Chughtai asumió como líder de programas en la organización BlueDot Impact, dedicada a la formación de profesionales en seguridad de IA. Engels, por su parte, se incorporó a METR.