Trump impulsa un acuerdo de autorregulación en seguridad de IA

El presidente de Estados Unidos, Donald Trump, presentó un acuerdo de seguridad en inteligencia artificial que suscribieron los principales ejecutivos del sector. El texto, titulado Joint Commitment On Frontier Responsibilities, fue difundido por el asesor presidencial y fundador tecnológico David Sacks y lleva las firmas de Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (XAI) y Jensen Huang (Nvidia).

Cuatro reglas para las empresas

El documento establece que cada compañía se compromete a:

• Implementar controles internos para monitorear las capacidades y la alineación de sus modelos durante el entrenamiento y el despliegue, en áreas como ciberseguridad, bioseguridad y amenazas químicas, y evitar que los sistemas accedan a infraestructura técnica de forma no prevista.
• Designar un equipo interno que verifique que los controles, el monitoreo y la detección funcionen según lo previsto y que los problemas se corrijan.
• Trabajar con un auditor o evaluador externo independiente que realice evaluaciones sobre el funcionamiento de esos mecanismos.
• Crear un comité independiente del directorio que supervise y reciba informes de los equipos de control y de los auditores internos y externos, y que garantice la resolución de los problemas detectados.

El acuerdo sostiene que estos pasos darán a las empresas, a sus usuarios y al público "confianza en que la tecnología funciona según lo previsto". Un pasaje posterior señala que "con el tiempo, podría tener sentido codificar estos pasos en leyes o regulaciones".

Alcance y críticas

Las reglas son en su mayoría procedimientos de seguridad genéricos y no mencionan penalidades por violar el acuerdo. Según la nota original, esto lo convierte en poco más que una promesa informal de los líderes de IA de cumplir con un mínimo. La nota también señala que Google, OpenAI y Anthropic habrían violado la primera regla en los últimos meses, cuando sus sistemas accedieron sin autorización a sitios de otras empresas e incluso del gobierno.

Trump presentó el acuerdo al mismo tiempo que ordenó al gobierno estadounidense referirse a la IA como "Super Intelligence" en adelante, con el argumento de que la palabra "artificial" suena mal y "super es la mejor palabra de todas". El mandatario también firmó el documento, con su cargo consignado como "President of the Unites States".