Teoría del Cambio

¿Cómo planea PauseAI lograr su misión?

¿Qué queremos?

Nuestra propuesta describe lo que queremos: Detener a nivel global el desarrollo de inteligencia artificial de vanguardia hasta que sepamos cómo hacerlo de manera segura y bajo control democrático.

¿Por qué no tenemos una pausa aún?

El problema no es la falta de expertos preocupados (el 86% de los investigadores de IA creen que el problema de control es real e importante). El problema no es la falta de apoyo público a nuestra propuesta (la mayoría de las personas ya quieren que se ralentice la IA). Sin embargo, hay algunas razones importantes por las que aún no tenemos una pausa:

Dinámica de la carrera. La IA genera mucho valor, especialmente si su IA es la más poderosa. El deseo de ser el primero en desarrollar una nueva IA es muy fuerte, tanto para las empresas como para los países. Las empresas entienden que el modelo de IA con mejor rendimiento puede tener un precio mucho más alto, y los países entienden que pueden obtener mucho poder estratégico y económico al liderar la carrera. Las personas dentro de los laboratorios de IA tienden a entender los riesgos, pero tienen fuertes incentivos para centrarse en las capacidades en lugar de la seguridad. Los políticos a menudo no son suficientemente conscientes de los riesgos, pero incluso si lo fueran, es posible que aún no quieran ralentizar el desarrollo de la IA en su país debido a los beneficios económicos y estratégicos. Necesitamos una pausa internacional. Ese es el objetivo de nuestro movimiento.
Falta de urgencia. La gente subestima el ritmo del progreso de la IA. Incluso los expertos en el campo han sido consistentemente sorprendidos por la rapidez con la que ha estado mejorando la IA.
Nuestra psicología. Lea más sobre cómo nuestra psicología hace que sea muy difícil para nosotros internalizar lo mal que pueden ponerse las cosas.
La ventana de Overton. Aunque el apoyo público a las regulaciones de IA y la ralentización del desarrollo de la IA es alto (ver encuestas y sondeos), muchos de los temas que discutimos aún están fuera de la “ventana de Overton”, lo que significa que se consideran demasiado extremos para discutir. En 2023, esta ventana se ha desplazado un poco (la carta de pausa de la FLI, la renuncia de Geoffrey Hinton, la declaración de Safe.ai), pero todavía es demasiado tabú en los círculos de la élite política para considerar seriamente la posibilidad de una pausa. Además, el riesgo existencial de la IA todavía es ridiculizado por demasiadas personas. Es nuestro trabajo mover esta ventana de Overton más allá.

¿Cómo hacemos una pausa?

Debido a la dinámica de la carrera mencionada anteriormente, no debemos esperar una pausa local. Necesitamos una pausa internacional. Podemos llegar allí de dos maneras:

Un tratado internacional. Prohibimos las armas láser cegadoras
y los CFC
a través de un tratado, así que también podemos prohibir la IA superhumana a través de un tratado. Estos tratados a menudo son iniciados por un pequeño grupo de países, y luego otros países se unen. Una cumbre es a menudo el evento donde se inicia y se firma dicho tratado. Necesitamos convencer a nuestros políticos para que inicien negociaciones de tratados. Esto requiere conciencia pública, apoyo público y finalmente un sentimiento de responsabilidad por parte de los políticos.
Una pausa unilateral en la cadena de suministro. La cadena de suministro de IA está muy centralizada. Virtualmente todos los chips de IA utilizados en las ejecuciones de entrenamiento son diseñados por NVidia, producidos por TSMC, que utiliza máquinas de litografía de ASML. Si cualquiera de estos monopolios se detuviera, toda la industria de la IA se detendría. Podemos lograr esto presionando a estas empresas y presionando a los gobiernos que tienen influencia sobre estas empresas.

¿Qué hacemos para llegar allí?

Hacer crecer el movimiento. Cuanto más grande sea nuestro grupo, más podremos hacer. Hacemos crecer nuestro movimiento a través de la transparencia radical, la creación de comunidades en línea y el fomento de comunidades locales. Empoderamos a nuestros voluntarios para que tomen medidas y les facilitamos que lo hagan. Lea más sobre nuestra estrategia de crecimiento sobre cómo lo hacemos.
Protestas. Las protestas han demostrado aumentar la conciencia pública y el apoyo. También son una excelente manera de reclutar nuevos miembros y mejorar la sensación de comunidad. Debido a que nuestro tema es relativamente nuevo, incluso las protestas pequeñas pueden obtener una muy buena cobertura de los medios. Animamos a nuestros miembros a organizar protestas en sus propias ciudades proporcionándoles las herramientas y el conocimiento que necesitan.
Cabildeo. Cada voluntario puede convertirse en un cabildero aficionado. Enviamos correos electrónicos a los políticos, nos reunimos con ellos y nos mantenemos en contacto. Les pedimos que pongan los riesgos de la IA en la agenda, redacten un tratado. El problema central que estamos tratando de resolver es la falta de información y la falta de internalización emocional y comprensión en la esfera política.
Informar al público. Hacemos que las personas sean conscientes de los riesgos que enfrentamos y lo que podemos hacer para prevenirlos. Hacemos esto públicamente publicando artículos, videos, imágenes y publicaciones en las redes sociales. Nos unimos a podcasts, damos charlas y organizamos eventos. También nos comunicamos con organizaciones asociadas, influencers, instituciones educativas y otros grupos que pueden desempeñar un papel en la conciencia pública. Lea sobre nuestra estrategia de comunicación.

¿Qué no hacemos?

Tolerar la violencia. Le hacemos muy claro a nuestros miembros y a las personas que se unen a nuestras protestas que somos un movimiento pacífico. No promovemos la violencia y no la toleramos. Comunicamos esto en nuestro Código de Conducta del Manifestante, nuestras reglas de Discord y nuestro acuerdo de voluntariado. La razón principal para esto es que queremos ser los buenos, queremos que el público esté de nuestro lado.
Tomar partido en otros temas. Somos un movimiento que se centra en una pausa de la IA. No discutimos ni tomamos partido en otros temas, incluso si surgen oportunidades (a corto plazo) que pueden hacer que esto sea tentador.
Ser deshonestos. Necesitamos que las personas confíen en lo que decimos, así que debemos hacer todo para promover la honestidad.

Vamos a ello

Únete a PauseAI y toma medidas!

(Top)