Las advertencias de investigadores y especialistas en inteligencia artificial han vuelto a poner sobre la mesa el debate sobre los riesgos que podría representar el desarrollo de sistemas cada vez más avanzados.
Algunos expertos consideran que una futura inteligencia artificial con capacidades superiores a las humanas podría representar un riesgo extremo si no existen mecanismos adecuados para mantenerla bajo control.
¿CUÁL ES EL PEOR ESCENARIO?
En 2023, cientos de investigadores y dirigentes del sector tecnológico firmaron una declaración en la que pidieron que el riesgo de extinción asociado a la inteligencia artificial sea tratado con una seriedad comparable a la de otros grandes riesgos globales.
Stuart Russell, profesor de informática de la Universidad de California en Berkeley, ha advertido sobre los posibles peligros de una inteligencia artificial avanzada que actúe fuera del control humano.
Sin embargo, Russell ha aclarado que estos escenarios no corresponden a los sistemas de inteligencia artificial disponibles actualmente.
Para el investigador, el riesgo más inmediato está relacionado con el uso indebido de esta tecnología por parte de personas, incluyendo posibles usos criminales o terroristas.
¿POR QUÉ CONTINÚA LA CARRERA POR LA IA?
El debate aumentó luego de que Jacob Coxon, investigador de Anthropic, anunciara su salida de la empresa al considerar que el desarrollo de los sistemas de inteligencia artificial no estaba avanzando con suficiente responsabilidad.
Coxon sostuvo que las principales compañías tecnológicas conocen los riesgos, pero continúan compitiendo por desarrollar sistemas cada vez más potentes.
Anthropic modificó este año algunos compromisos relacionados con la suspensión del desarrollo de sus modelos en caso de no poder controlar adecuadamente determinados riesgos.
La empresa ha argumentado que detener sus investigaciones podría permitir que competidores con menos medidas de seguridad avancen primero.
Coxon, quien anteriormente trabajó en OpenAI, cuestionó la competencia entre las grandes empresas tecnológicas y acusó al sector de asumir riesgos importantes mientras busca desarrollar modelos capaces de realizar tareas cada vez más complejas.
Otros especialistas en seguridad de inteligencia artificial también han expresado preocupación por las posibles consecuencias de sistemas futuros con capacidades muy superiores a las actuales.
¿TODAVÍA HAY TIEMPO PARA ACTUAR?
Para Hussein Abbass, profesor de informática de la Universidad de Nueva Gales del Sur, la situación todavía puede ser controlada.
No obstante, considera necesario que los gobiernos desarrollen regulaciones capaces de adaptarse a la rápida evolución de la inteligencia artificial.
En julio, más de 1,000 trabajadores del sector tecnológico, incluido el director ejecutivo de Anthropic, solicitaron a Washington respaldar una desaceleración coordinada en el desarrollo de los sistemas de IA más avanzados.
Algunos observadores, sin embargo, consideran que las advertencias sobre los riesgos también pueden contribuir a proyectar una imagen de gran poder tecnológico y atraer inversiones hacia las compañías del sector.
EL RETO DE REGULAR LA INTELIGENCIA ARTIFICIAL
Estados Unidos ha mostrado reservas ante la creación de regulaciones globales que puedan limitar la innovación tecnológica.
Sin embargo, el crecimiento de las capacidades de los sistemas de inteligencia artificial en áreas sensibles ha llevado a las autoridades a prestar mayor atención a los riesgos.
El presidente Donald Trump ha advertido que no desea imponer restricciones excesivas que puedan colocar a Estados Unidos en desventaja frente a China.
Para Stuart Russell, una de las posibles soluciones sería establecer un sistema de licencias para el desarrollo de inteligencia artificial avanzada, similar a los controles existentes en sectores como la aviación y la medicina.
El debate continúa mientras gobiernos, investigadores y empresas buscan equilibrar el avance tecnológico con la necesidad de garantizar la seguridad.
