Las promesas incumplidas de Google DeepMind

La empresa de inteligencia artificial Google DeepMind ha incumplido sus compromisos con los gobiernos y el público, establecidos en los Compromisos de seguridad de IA de vanguardia

, con el lanzamiento de Gemini 2.5 Pro.

Cumbres de seguridad de IA

• En 2023, el Reino Unido organizó la primera Cumbre de seguridad de IA
  en Bletchley Park, reuniendo a gobiernos y desarrolladores de IA para discutir la seguridad de la IA por primera vez.
• En 2024, el Reino Unido coorganizó la Cumbre de IA de Seúl
  . Las empresas tecnológicas, incluyendo Google, firmaron los Compromisos de seguridad de IA de vanguardia
  , estableciendo un enfoque para desarrollar sistemas de IA de vanguardia de manera más segura.

Los Compromisos de seguridad de IA de vanguardia

Los compromisos establecen un marco inicial para que los desarrolladores de IA tomen medidas preventivas básicas contra los riesgos crecientes de los modelos de IA de vanguardia. Eran compromisos voluntarios, no obligatorios en ninguna jurisdicción.

Dos de los compromisos son los siguientes:

• “I: Evaluar los riesgos planteados por sus modelos de vanguardia […] antes de desplegar ese modelo. También deben considerar los resultados de […] evaluaciones externas según sea apropiado”.
• “VIII: Explicar cómo, si es que lo hacen, los actores externos, como los gobiernos […], están involucrados en el proceso de evaluar los riesgos de sus modelos de IA”.

Google ha ignorado efectivamente estos compromisos en el lanzamiento de Gemini 2.5 Pro, estableciendo un precedente peligroso para futuros modelos.

Consideramos que deben ser responsabilizados por este incumplimiento para mantener la legitimidad de las Cumbres internacionales de seguridad de IA y facilitar la aprobación de futuras regulaciones de IA.

Cronología y detalles de la violación de Google

25 de marzo de 2025

• Gemini 2.5 Pro Experimental
  se vuelve disponible para que cualquiera acceda de forma gratuita. Es posiblemente el modelo de IA más avanzado lanzado por cualquier empresa en este momento.
• No se publica información
  sobre pruebas de seguridad.

3 de abril de 2025

• El jefe de producto de Gemini de Google le dice a TechCrunch
  que la empresa no ha publicado una ‘ficha de modelo’ (es decir, informe de seguridad) para Gemini 2.5 Pro “porque considera que el modelo es un lanzamiento ‘experimental’“.

9 de abril de 2025

• En correspondencia con la revista Fortune
  , Google no responde a “preguntas directas” sobre la participación del Instituto de Seguridad de IA del Reino Unido en el proceso de prueba para Gemini 2.5 Pro. Sin embargo, un portavoz de Google dice que el modelo ha pasado por pruebas previas al lanzamiento.

16 de abril de 2025

• Gemini 2.5 Pro Preview ahora está disponible (esencialmente el mismo que el modelo Experimental).
• Google publica su ‘ficha de modelo’
  (informe de seguridad) para Gemini 2.5 Pro Preview.
• El informe de pruebas no menciona pruebas externas.

28 de abril de 2025

• Google actualiza
  su ficha de modelo para incluir la mención de “probadores externos de terceros”, pero no proporciona detalles sobre quiénes son.

Abril - junio de 2025

• Se han publicado informes técnicos adicionales
  . Ninguno de ellos nombra a los probadores externos de terceros ni indica si los gobiernos han participado en las pruebas.

Conclusión

• Google ha violado el espíritu del compromiso I al publicar su primer informe de seguridad casi un mes después de la disponibilidad pública y no mencionar pruebas externas en su informe inicial.
• Google ha violado explícitamente el compromiso VIII al no indicar si los gobiernos están involucrados en las pruebas de seguridad, incluso después de que los periodistas les preguntaran directamente.

Protesta

En respuesta, PauseAI realizará nuestra mayor protesta hasta la fecha, con más de 100 asistentes, el lunes 30 de junio.

Registra tu asistencia aquí.