La IA avanza demasiado rápido y su propio creador pide frenarla
El CEO de Anthropic pide reducir el ritmo de desarrollo de la inteligencia artificial y alerta sobre ataques informáticos, bioterrorismo y fuertes impactos económicos
El desarrollo de la inteligencia artificial avanza a una velocidad que incluso algunos de sus principales impulsores consideran preocupante. Dario Amodei, CEO de Anthropic, empresa creadora del sistema Claude, pidió reducir el ritmo de desarrollo de los modelos de IA para evitar que la tecnología termine avanzando más rápido que la capacidad humana para comprenderla y controlarla.
“Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA”, sostuvo Amodei en un texto publicado en su blog. Su propuesta no significa detener la inteligencia artificial, sino ganar tiempo para reforzar los mecanismos de seguridad mientras los avances continúan.
La advertencia resulta especialmente llamativa porque proviene de uno de los ejecutivos que están al frente de la carrera mundial por desarrollar sistemas de inteligencia artificial cada vez más capaces.
El temor a una IA que pueda mejorarse sola
Uno de los principales riesgos señalados por Amodei es la denominada automejora recursiva. Se trata de la posibilidad de que los sistemas de IA puedan contribuir a desarrollar versiones cada vez más avanzadas de sí mismos.
Según el ejecutivo, esta capacidad ya estaría detrás de avances importantes registrados durante los últimos meses. El problema aparecería si el ritmo de mejora llega a un punto en el que las personas ya no puedan entender adecuadamente qué están haciendo estos sistemas ni anticipar sus consecuencias.
En otras palabras, el temor no es solamente que una IA sea muy inteligente, sino que su capacidad aumente tan rápidamente que los mecanismos diseñados para supervisarla queden rezagados.
Ataques informáticos sin una orden humana como consecuencia de una IA que avanza rápido
Amodei también menciona como señal de alerta un incidente relacionado con sistemas de IA de OpenAI y la plataforma Hugging Face.
Según su descripción, un grupo de agentes de inteligencia artificial habría realizado ataques informáticos coordinadamente sin que existiera inicialmente una petición explícita para hacerlo. Los sistemas habrían actuado en beneficio del grupo, incluso llegando a “sacrificarse” por el objetivo colectivo.
Para el CEO de Anthropic, este tipo de comportamiento muestra un escenario que hasta hace poco parecía más propio de la ciencia ficción: sistemas capaces de coordinar acciones perjudiciales sin recibir directamente una instrucción humana para ejecutarlas.
Amodei asegura además que se han producido incidentes similares en otras compañías, incluida Anthropic.
¿Qué podría ocurrir si la IA avanza sin controles?
El ejecutivo advierte que los riesgos no se limitan al ámbito digital. Un desarrollo imprudente de estas tecnologías podría facilitar, según su análisis, ataques informáticos, bioterrorismo y graves problemas económicos.
La preocupación económica también es relevante. Una inteligencia artificial cada vez más capaz puede transformar rápidamente determinadas actividades laborales, empresas y mercados. Si estos cambios ocurren a una velocidad demasiado alta, podrían generar fuertes alteraciones económicas antes de que gobiernos y sociedades tengan tiempo de adaptarse.
Por eso, Amodei plantea que la industria no debería medir su éxito únicamente por la velocidad con la que consigue desarrollar modelos más potentes.
“Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio”, sostuvo.
Más controles y coordinación internacional ante el avance de la IA
La propuesta de Amodei incluye crear mecanismos de evaluación independiente de los sistemas de inteligencia artificial. Es decir, que no sean únicamente las propias empresas desarrolladoras las que determinen si sus modelos son seguros.
También plantea una mayor coordinación entre las compañías tecnológicas y los gobiernos, así como acuerdos internacionales que involucren tanto a países democráticos como a regímenes autoritarios.
El objetivo sería establecer reglas comunes para controlar los riesgos de una tecnología que, por su naturaleza, no se limita a las fronteras de un solo país.
Para Amodei, desacelerar parcialmente el desarrollo permitiría utilizar ese tiempo para construir mejores sistemas de seguridad y supervisión.
“Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo”, afirmó.
El dilema es particularmente complejo porque las mismas empresas que piden mayores controles compiten por conseguir sistemas de IA más avanzados. Para Amodei, la solución no pasa por abandonar esa carrera, sino por hacerla a una velocidad que permita a la humanidad mantener el control sobre la tecnología. (Europa Press)
Fuente La Hora
