“AI를 무기 시스템, 심지어는 핵무기 시스템이나 핵 방어 반격 체계에까지 결합하게 되면, ‘터미네이터’와 같은 종말 시나리오의 위험이 여전히 존재한다고 생각합니다. 

작전이 전개되는 속도가 너무 빠르고, 의사결정을 내려야 하는 시간도 너무 짧기 때문에, 이를 처리하려면 초지능이 필요할 수 있습니다. 

우리가 현명하다면 인간을 그 의사결정 과정에 계속 포함시킬 수도 있겠지만, 인간은 실수를 저지르기 마련이고, 

실제로 핵전쟁으로 이어질 뻔한 국제적 위기의 문턱까지 갔던 사례들도 많았습니다. 

그래서 저도 확신할 수는 없습니다.”

“지금 우리는 인류 발전의 전환점에 와 있다고 생각합니다. 

세 가지 실존적인 위협이 동시에 나타나고 정점을 향해 가고 있는 것처럼 보이는데, 

첫째는 기후 변화와 자연환경의 전반적인 붕괴, 둘째는 핵무기, 셋째는 초지능입니다. 

어쩌면 초지능이 이 모든 것의 해답일 수도 있겠다는 생각이 듭니다. 

제가 그렇게 예측하는 것은 아니지만, 가능성은 있다고 생각합니다.”