Los máximos responsables de las principales empresas de inteligencia artificial (IA) del mundo advirtieron al Consejo de Seguridad de las Naciones Unidas que la tecnología exige una vigilancia reforzada y pidieron a los gobiernos establecer mecanismos de control conjuntos. La sesión, convocada por Francia en el marco de la Asamblea General de la ONU, reunió a los directivos de OpenAI, Anthropic y Hugging Face en un encuentro sin precedentes ante el organismo encargado de mantener la paz y la seguridad internacionales.

El director ejecutivo de Anthropic, Dario Amodei, resumió la magnitud de la advertencia ante los 15 miembros del Consejo: “Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”. Su par de OpenAI, Sam Altman, coincidió en la gravedad del momento: “Podríamos perder el control del futuro frente a la IA”. Ambos coincidieron en que ningún país, empresa o laboratorio puede gestionar en soledad los riesgos que plantea la tecnología, y reclamaron la creación de salvaguardas internacionales para evitar que su poder quede concentrado en muy pocas manos.

Amodei explicó que, a medida que los modelos de IA se vuelven más poderosos, “se requerirán estándares de seguridad aún más estrictos”. Según indicó en una intervención por videollamada, Anthropic buscará mejorar su capacidad para impedir usos indebidos de la tecnología y aseguró: “Reduciremos el ritmo tanto como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea realmente segura”.