牛津大学人类未来研究所高级研究员 Toby Ord 认为，本世纪发生自然灾害的几率不到两千分之一，然而如果考虑人为灾难，这种可能性会增加到惊人的六分之一。其中一种可能的情况是
AI 创造的全球极权主义。未来研究所主任 Nick Bostrom 在他的《单例假说》中解释了如何利用 AI 或其他强大技术形成一个全球政府，以及它可能无法被推翻的原因。如果单一决策是极权主义的，人类文明将是暗淡的。曾经即使是在制度最严格的国家，新闻也可以从其他国家流入，人们也可以选择流亡。全球性的极权主义统治会彻底消灭这些希望。在过去，监视需要数十万人参与，例如东德每 100 个公民中就有一个人是线人。但现在这可以通过技术实现。
