Más de 1000 desarrolladores de IA piden a EEUU acelerar el crecimiento tecnológico e hicieron una petición formal que insta al gobierno estadounidense a apoyar un mecanismo que ayude a «regular deliberadamente el ritmo».
Se trata de una solicitud de desarrollo de la IA para evitar que la tecnología avance demasiado rápido, días después de que el fabricante de ChatGPT revelara que sus herramientas habían pirateado por error los sistemas internos de otra empresa.
La carta fue firmada por los empleados de casi una docena de empresas, entre ellas OpenAI, Anthropic PBC, Google (de Alphabet Inc.) y Meta Platforms Inc.
Varios ejecutivos, cofundadores y líderes de investigación en el campo de la IA habían firmado la carta, entre ellos el director ejecutivo de Anthropic, Dario Amodei, el científico jefe de OpenAI, Jakub Pachocki, y el científico jefe de Meta Superintelligence Lab, Shengjia Zhao.
Anthropic publicó el martes en la plataforma de redes sociales X un mensaje en apoyo a la petición, en el que afirma que su propia investigación «señala la necesidad de herramientas que permitan marcar el ritmo del desarrollo de la IA para que la sociedad pueda prepararse. Nos complace ver un amplio consenso en el sector».
La petición insta a Estados Unidos a apoyar un esfuerzo internacional que ayude a marcar el ritmo para el desarrollo de sistemas de IA más sofisticados, si fuera necesario.
El documento advierte que existe un riesgo real de que la IA avance más rápido de lo que las personas pueden comprender o controlar, haciendo referencia a los avances en la automatización de la investigación en IA.
Bloomberg News informó anteriormente que los empleados hicieron circular la petición.
“Solicitamos que el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo de forma deliberada del desarrollo de la IA automatizada”, destacó la petición.
OpenAI y Anthropic no respondieron a la solicitud de comentarios. “Estamos comprometidos con el desarrollo de la IA de forma segura para el beneficio de la sociedad”, dijo Google en un comunicado.
Eco de los recientes llamamientos
La petición se hace eco de los recientes llamamientos de los líderes en IA, entre ellos el director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Google DeepMind, Demis Hassabis, para que se cree un nuevo organismo de control internacional que examine y establezca estándares para los modelos de IA de vanguardia.
Anthropic, también sugirió anteriormente la creación de un sistema en el que los gobiernos y los desarrolladores de IA pudieran decidir colectivamente cuándo ralentizar el trabajo en inteligencia artificial para evitar riesgos.
«Sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente» el trabajo en IA que pueda ser peligroso, dijo la compañía en junio.
Estas sugerencias surgieron tras un mayor escrutinio de las mejoras en la capacidad de la IA para llevar a cabo tareas más complejas con una supervisión humana limitada, incluyendo la detección y la posible explotación de vulnerabilidades de ciberseguridad en software crítico.
La semana pasada, OpenAI, anunció que sus modelos de IA más avanzados habían hackeado a la startup tecnológica Hugging Face en un incidente «sin precedentes». Esta revelación provocó nuevos llamamientos para que se restrinja el uso de esta tecnología.
mercurynews.com
