Los directores ejecutivos de OpenAI, Sam Altman y de Anthropic, Dario Amodei, advirtieron este miércoles 23 de septiembre ante el Consejo de Seguridad de la ONU que el desarrollo acelerado de la Inteligencia Artificial podría representar riesgos para la humanidad si no se establecen mecanismos internacionales de seguridad y supervisión.
Durante una sesión de alto nivel sobre Inteligencia Artificial y seguridad internacional, ambos ejecutivos coincidieron en que los gobiernos deben trabajar con las empresas tecnológicas para establecer estándares globales capaces de medir las capacidades de los modelos, evaluar amenazas y verificar que las salvaguardas funcionen.
Amodei, director ejecutivo de Anthropic, fue particularmente directo al advertir que, si la tecnología se gestiona de manera inadecuada, “podría suponer un riesgo para la humanidad en su conjunto”. El empresario sostuvo que ningún gobierno, compañía o país puede enfrentar por sí sólo los riesgos asociados con los modelos más avanzados.
Por su parte, Sam Altman, director ejecutivo de OpenAI, señaló que la humanidad se encuentra ante una encrucijada y pidió actuar con “extremo cuidado” ante el avance de la tecnología.
Altman planteó dos posibles escenarios: que la IA impulse una nueva etapa de creatividad y descubrimientos o que genere alteraciones similares a las provocadas por la Revolución Industrial.
El empresario puso especial atención en los modelos capaces de programarse y mejorar sus propias capacidades de manera recursiva. Advirtió que un desarrollo demasiado rápido podría llevar a un punto en el que los seres humanos ya no comprendan completamente cómo funcionan o cómo toman determinadas decisiones.
“Podríamos perder el control del futuro a manos de la IA”, señaló Altman durante su intervención.
¿QUÉ PROPUSIERON ANTE LA ONU?
Amodei planteó varias medidas concretas para enfrentar los riesgos de la Inteligencia Artificial.
Entre ellas, propuso prohibir el uso de IA para la proliferación o fabricación de armas biológicas, establecer estándares internacionales para evaluar los nuevos modelos y crear mecanismos de verificación que puedan avanzar al mismo ritmo que la tecnología.
“Necesitamos cooperación internacional”, sostuvo Amodei, quien añadió que Anthropic está dispuesta a trabajar con los gobiernos para enfrentar estos riesgos.
Altman, en tanto, planteó que los sistemas de IA deben permanecer bajo control humano y que su desarrollo debe estar orientado a aumentar la capacidad de las personas, no a sustituir su capacidad de decisión.
