Líderes tecnológicos de la talla de Steve Wozniak, Jaan Tallinn o Elon Musk se han unido a una petición que busca paralizar temporalmente los grandes experimentos con inteligencia artificial (IA) por los riesgos que pueden entrañar para la sociedad.
Más de 1.100 personas han firmado ya una petición que busca que los laboratorios de IA detengan «de inmediato y durante al menos durante seis meses el entrenamiento de los sistemas de IA más potentes que GPT-4».
Detrás de esta petición se encuentra la preocupación que suscita el desarrollo de sistemas de IA con inteligencia humana-competitiva, principalmente por los riesgos que pueden suponer para la sociedad y la humanidad, ya que consideran que su desarrollo no se está realizando con planificación ni gestión.
Precisamente, solicitan que dicha paralización de los entrenamientos se aproveche para desarrollar e implementar un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA», que sean auditados y supervisados por expertos externos independientes.
«Esto no significa una pausa en el desarrollo de la IA en general, simplemente un paso atrás de la carrera peligrosa hacia modelos de caja negra impredecibles cada vez más grandes con capacidades emergentes», matizan en la misiva, publicada en el Future of Life Institute.
También destacan la necesidad de trabajar de forma conjunta con los legisladores, para avanzar en el desarrollo de sistemas sólidos de gobierno de IA, que además de garantizar un desarrollo seguro de esta tecnología, permita su auditoría y supervisión y el seguimiento de los responsables en caso de fugas o daños, para que puedan responder por ellos.
La carta abierta cuenta con el apoyo de líderes tecnológicos como el cofundador de Apple, Steve Wozniak; el director ejecutivo de Tesla y SpaceX y Twitter, Elon Musk; el cofundador de Skype, Jaan Tallinn; y el director ejecutivo de Stability AI, Emad Mostaque. (Portaltic/EP)
