- Mitigar el riesgo de extinción de la IA debe ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear.
- Si tomas en serio el riesgo existencial, como lo hago yo ahora, podría ser muy sensato dejar de desarrollar estas cosas.
- El desarrollo de la inteligencia artificial completa podría significar el fin de la raza humana.
- ... debemos esperar que las máquinas tomen el control.
- Si seguimos [nuestro enfoque actual], eventualmente perderemos el control sobre las máquinas
- La IA descontrolada puede ser peligrosa para toda la humanidad. Prohibir los sistemas de IA poderosos (digamos más allá de las capacidades de GPT-4) que se les da autonomía y agencia sería un buen comienzo.
de científicos de IA creen que el problema de alineación es real e importante
de ciudadanos quieren que la IA sea frenada por nuestros gobiernos