PauseAI en Australia
Un mensaje de los voluntarios de PauseAI en Australia:
Para 2030, la inteligencia artificial podría estar completamente automatizada, auto-mejorada y más inteligente que los humanos en casi todos los aspectos. Esto no es ciencia ficción, es la evaluación de las principales empresas y expertos en IA. Cuando esto suceda, todos los aspectos de la vida cambiarán para siempre.
Firma la petición a la Cámara de Representantes de Australia
Únete a nuestra comunidad | Envíanos un correo electrónico | Conéctate con nosotros en Facebook | Canal de YouTube | LinkedIn | Eventos
¿Qué riesgos enfrentamos?
La inteligencia artificial está avanzando a un ritmo vertiginoso. Algunos expertos como Sam Altman , Dario Amodei y Geoffrey Hinton advierten que la IA podría superar la inteligencia humana en los próximos cinco años. Sin cooperación internacional, esto podría resultar en caos económico, guerra y hasta extinción humana.
“A medida que la IA de propósito general se vuelve más capaz, la evidencia de riesgos adicionales está emergiendo gradualmente. Estos incluyen riesgos como impactos a gran escala en el mercado laboral, ataques cibernéticos o biológicos habilitados por IA, y la sociedad perdiendo el control sobre la IA de propósito general”.
– Informe de Seguridad de IA Internacional (2025) , coautorizado por 96 expertos de 30 países, incluyendo Australia.
¿No queremos los beneficios de la IA?
Claro que sí. La inteligencia artificial ya tiene el potencial de ser una herramienta poderosa. Si la IA permanece bajo control, podría ser utilizada para curar enfermedades, impulsar avances científicos y difundir oportunidades y bienestar. Pero sería trágico lograr estos avances solo para luego perder el control y sufrir pérdidas catastróficas.
“Parecemos asumir que la IA se ajustará a un patrón benigno. Esa suposición solo se sostiene en la medida en que la IA sea análoga a la mayoría de lo que ha venido antes. Y en las circunstancias, seríamos sabios al examinarla con mucha más rigidez antes de decidirnos por ella, porque hay buenas razones para suponer que es una especie diferente por completo, para la cual la historia es una guía pobre”.
– Waleed Aly
Las nuevas tecnologías siempre han traído cambios, pero los humanos necesitan tiempo para adaptarse, salvaguardar y planificar para el futuro. Para cualquier otra tecnología, ya sean aviones, rascacielos o nuevos medicamentos, insistimos en medidas de seguridad diseñadas por expertos antes de exponer al público a riesgos. Esto no está sucediendo con la IA.
Las empresas de IA están en una carrera, impulsadas por miles de millones de dólares de inversión, para construir una IA superhumana primero. Cuando una empresa tenga éxito, tu vida y la de tus seres queridos cambiarán radicalmente, y no tendrás ninguna voz en lo que este futuro depara. Esto no es solo un problema tecnológico, afectará a todos.
¿Qué se puede hacer?
PauseAI propone un tratado internacional para pausar el desarrollo de la IA general más inteligente que los humanos hasta que haya un plan creíble para asegurarse de que sea segura. Está en el interés de Australia abogar por esto.
“¿Quién mostrará liderazgo en la negociación de un tratado de no proliferación de IA? Es una responsabilidad colectiva y ciertamente una a la que Australia podría contribuir”.
– Alan Finkel, científico jefe de Australia (2016-2020)
La historia muestra que los países más pequeños pueden hacer una gran diferencia en la resolución de problemas globales. Tomemos el ejemplo de la prohibición de la caza de ballenas en 1982 y el acuerdo de 1987 para proteger la capa de ozono. Australia, que solía cazar ballenas, se convirtió en un líder en la protección de la vida marina al apoyar la prohibición y llevar a Japón a los tribunales por su caza de ballenas. Australia también ayudó a proteger el medio ambiente al unirse rápidamente al acuerdo para dejar de utilizar productos químicos que dañaban la capa de ozono. Estas historias muestran que países como Australia pueden hacer que el cambio real suceda en todo el mundo tomando medidas y trabajando con otras naciones.
¿No hay problemas más importantes?
Estamos de acuerdo en que hay muchos problemas importantes que enfrenta Australia, pero no podremos resolverlos en un mundo con IA descontrolada. Australia debería abogar por un tratado internacional al mismo tiempo que trabaja en otros problemas.
¿Por qué no se está haciendo nada ya?
Los políticos australianos han examinado algunos de los riesgos más pequeños de la IA, pero no los grandes. A partir de las últimas elecciones, los principales partidos no tienen un plan claro .
Reconocemos que no todos están de acuerdo sobre el riesgo de una catástrofe de IA. Abordamos algunas de las objeciones comunes aquí. No afirmamos estar 100% seguros, pero creemos que la probabilidad de resultados muy malos es lo suficientemente alta como para justificar una pausa.
Es psicológicamente difícil pensar en posibles catástrofes. Muchas personas asumen que los riesgos están fuera de su control y, por lo tanto, no vale la pena preocuparse por ellos. Sin embargo, cualquiera puede tomar medidas ahora mismo hablando. Creemos que es mejor actuar que simplemente preocuparse.
¿Cómo puedo ayudar en Australia?
Puedes hacer una diferencia. Los voluntarios en Australia crean conciencia, protestan, presionan y apoyan el movimiento global de PauseAI.
- Únete a nuestra comunidad
- Asiste a nuestro próximo evento en línea o en persona en Australia
- Firma la carta abierta de Australians for AI Safety aquí
- Contacta a los políticos
- Habla con tus amigos y familiares sobre el riesgo de la IA
Campañas
Investigación de OpenAI
En julio de 2025 , el voluntario Mark Brown llevó OpenAI a la atención de la Policía Federal de Australia y el Fiscal General de Australia, alegando posibles violaciones de la Ley de Armas Biológicas (Crímenes) de 1976. Se discutió en una noticia y en un video podcast . Todavía estamos esperando una respuesta de la AFP y el Fiscal General.