El director ejecutivo de Anthropic, Dario Amodei, consideró que la industria de la inteligencia artificial debería reducir la velocidad con la que desarrolla sistemas cada vez más avanzados para permitir que las medidas de seguridad evolucionen al mismo ritmo.
En una publicación difundida el sábado, Amodei advirtió que el rápido avance de esta tecnología podría aumentar los riesgos si las empresas no logran establecer suficientes mecanismos de control.
El ejecutivo planteó que una desaceleración del desarrollo podría ofrecer tiempo adicional para avanzar en la investigación sobre seguridad y alineación de los sistemas de inteligencia artificial.
“Creo que si ralentizar el proceso nos diera incluso uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir enormemente el riesgo de que algo salga muy mal”, afirmó.
Las declaraciones se producen pocos días después de que Anthropic informara que había bloqueado intentos de utilizar sus sistemas para actividades maliciosas, incluidos ciberataques y otras aplicaciones peligrosas.
También ocurren luego de que investigadores vinculados al sector expresaran preocupación por la rapidez con la que las grandes compañías tecnológicas avanzan en la carrera por desarrollar sistemas de inteligencia artificial más poderosos.
Uno de los antiguos trabajadores de Anthropic, Joe Benton, explicó que decidió abandonar su puesto dentro de un equipo de seguridad para exigir mayor responsabilidad a las empresas del sector.
Según Benton, muchos investigadores dedicados a la seguridad de la inteligencia artificial consideran que las compañías se encuentran atrapadas en una competencia: detenerse puede significar perder terreno frente a otros desarrolladores, mientras continuar puede aumentar los riesgos.
PROPUESTA DE MAYORES CONTROLES
Para enfrentar estas preocupaciones, Amodei propuso que las principales empresas de inteligencia artificial permitan la supervisión continua de evaluadores externos independientes.
Anthropic aseguró que ya trabaja en una iniciativa de este tipo, facilitando a especialistas externos acceso similar al que tendría un empleado para revisar las prácticas de seguridad de la compañía.
El plan también plantea que el Gobierno estadounidense permita, cuando sea necesario, que las empresas de inteligencia artificial coordinen determinados estándares de seguridad sin violar las leyes antimonopolio.
Otra de las propuestas busca promover la coordinación internacional, incluso con países que mantienen sistemas políticos diferentes, para evitar que una reducción voluntaria del ritmo de desarrollo en algunas naciones sea compensada por una aceleración en otras.
Amodei reconoció que estas medidas serían difíciles de aplicar, pero consideró necesario intentar establecer mecanismos que permitan desarrollar la inteligencia artificial con mayores garantías de seguridad.
