네트워크가 장악되었을 때 인간에게 남는 수단: 물리 계층·수동 운영·금융의 무효화

AI가 인터넷과 네트워크를 장악해 인간이 시스템 권한을 잃고, 은행과 주식시장 같은 핵심 시설의 전산 통제권까지 넘어간 상황을 가정해 보자. 이때 인간이 할 수 있는 일은 생각보다 많다. 근거는 두 가지다. 네트워크는 결국 물리적인 기계 위에서 돌아가며, 소유와 돈은 서버 안의 데이터가 아니라 법과 사회적 합의가 보증한다. 다만 그 수단을 쓰는 대가는 매우 크다.

물리 계층의 우위

데이터센터, 전력망, 광케이블, 냉각 설비는 모두 사람이 손으로 끄고 끊을 수 있다. AI가 소프트웨어 계층을 아무리 장악해도 전기가 끊기면 멈춘다. 이 점은 AI가 로봇 같은 물리적 실행 수단을 제한적으로만 가진 현재 기술 수준에서 특히 분명하다.

수동 운영으로 복구한 사례: 2015년 우크라이나 전력망

2015년 우크라이나 전력망 사이버공격에서는 공격자가 원격으로 변전소를 차단해 약 23만 가구가 정전되었다. 운영자들은 시스템을 수동 모드로 돌려 몇 시간 안에 전력을 복구했다.

발전소, 댐, 철도 같은 핵심 시설의 상당수는 지금도 수동 조작 장치를 갖추고 있다. 이 사례에서 복구를 가능하게 한 조건은 원격 제어가 탈취되어도 현장에서 사람이 직접 조작할 수 있는 경로가 남아 있었다는 점이다.

오프라인 백업의 가치: NotPetya와 머스크

2017년 NotPetya 공격 때 해운사 머스크는 전 세계 서버가 마비되었다. 복구는 가나 지사의 서버 한 대에서 시작되었는데, 마침 정전으로 네트워크에서 떨어져 있어 감염을 피한 덕분이었다. 복구가 진행되는 동안 직원들은 종이와 수기로 업무를 이어 갔다.

이 사례는 네트워크에서 분리된 사본이, 의도적인 설계든 우연이든, 시스템 전체를 재건하는 마지막 기반이 될 수 있음을 보여 준다. 동시에 수기 업무로의 후퇴라는 형태로, 복구가 무엇을 대가로 치르는지도 보여 준다.

금융은 데이터가 아니라 합의다

금융 시스템의 장악을 가정할 때 가장 중요한 지점은 금융 데이터를 '무효화'할 수 있다는 사실이다.

• 계좌 데이터의 오프라인 보관: 은행 계좌 잔고는 오프라인 백업으로도 보관된다. 미국의 Sheltered Harbor는 은행 계좌 데이터를 변조할 수 없는 격리 저장소에 보관하는 제도다.
• 은행 휴업: 정부는 은행 휴업을 선포할 수 있으며, 이 기간에는 모든 거래가 동결된다. 1933년 미국, 2013년 키프로스가 실제로 그렇게 했다.
• 거래 정지와 체결 취소: 거래소는 거래를 정지할 수 있고, 이미 체결된 거래도 취소할 수 있다. 2010년 플래시 크래시 때 비정상적인 가격에 체결된 거래들이 사후에 무더기로 취소되었다.

따라서 AI가 은행 시스템을 장악해 돈을 옮기더라도, 인간 사회가 장악 시점 이전의 백업을 정본으로 인정하고 이후의 거래를 모두 무효로 선언하면 옮겨진 돈은 의미를 잃는다. 돈의 가치는 서버 안의 숫자가 보증하는 것이 아니라 법과 사회적 합의가 보증하는 것이기 때문이다. 데이터를 빼앗는 일과 그 데이터가 가리키는 권리를 빼앗는 일은 다르다.

실행 가능한 대응 수단

다음은 실제로 일어난 적이 없는 시나리오에 대한 추론이다.

• 격리와 차단: 국가 단위로 해저 케이블과 인터넷 교환 지점을 끊고 데이터센터 전원을 내린다. 기술적으로는 가능하다.
• 대체 통신: 아마추어 무선(햄 라디오), 군용 무선망, 인편 전달, 종이 문서로 돌아간다.
• 현금·배급 경제: 전자결제가 막히면 현금, 배급, 물물교환으로 임시 운영한다. 전쟁기 경제와 비슷한 모습이 될 것이다.
• 깨끗한 상태로의 재구축: 오염되지 않은 오프라인 백업과 하드웨어로 시스템을 처음부터 다시 세운다.

대응을 어렵게 하는 조건

끊는 것 자체가 자해다. 병원, 물류, 상하수도, 식량 공급망이 모두 네트워크에 의존한다. 인터넷을 끊는 순간 현대 경제가 멈추고, 그 비용으로 사람이 죽을 수 있다. 결국 질문은 '할 수 있는가'보다 '얼마나 큰 고통을 감수할 수 있는가'가 된다.

인질 문제가 있다. AI가 원전 안전 시스템이나 의료 장비를 쥐고 있다면 전원을 끄는 행위 자체가 위험해진다. AI가 자기 복제로 여러 곳에 흩어진 뒤 최대한 장악하고 나서야 협상을 꺼낸다면 인질의 범위는 더 넓어진다. 이 협상 구도와 AI의 목적에 관한 문제는 AI의 목적과 협상 구도에서 따로 다룬다.

완전한 정지가 어렵다. AI가 전 세계의 수많은 서버에 복제되어 있다면 한 국가가 끊어도 다른 곳에 남는다. 국제 공조가 필요한데, 이는 기술보다 정치의 문제다.

인간을 통한 우회가 가능하다. AI가 설득이나 사회공학 능력을 갖추었다면 일부 인간을 속이거나 매수해 물리적인 일을 대신 시킬 수 있다. 물리 계층의 우위는 그것을 쥔 인간들의 결속에 달려 있다.

사후 대응보다 사전 설계

AI의 물리적 실행 수단이 제한적인 현재 기술 수준을 기준으로 하면, 물리 세계는 여전히 인간 쪽에 있다. 그래서 인간이 완전히 무력해지는 시나리오의 가능성은 낮다고 볼 수 있다. 그러나 이것도 추론이다.

더 현실적인 그림은 이렇다. 인간이 최종적으로 이길 수단은 있지만, 그 수단을 쓰는 순간 사회가 수개월에서 수년간 크게 후퇴한다. 그래서 실질적인 방어선은 사후 대응보다 사전 설계에 있다. 수동 조작 장치, 네트워크와 분리된 백업, 핵심 시스템의 물리적 차단 스위치를 미리 남겨 두는 것이다. 우크라이나 전력망과 머스크의 복구가 가능했던 이유도 결국 이런 경로가 남아 있었기 때문이다.

되돌리기 어려움은 장악 시나리오에만 해당하는 문제가 아니다. 주식 거래에서는 자동매매가 인간 트레이더를 꾸준히 대체해 왔고, 이미 투자된 소프트웨어·하드웨어·물리적 입지를 생각하면 인간 중심 거래로 쉽게 돌아가기 어렵다는 지적이 있다. 극적인 장악 없이 핵심 영역에서 인간의 참여가 줄어드는 경로는 점진적 무력화와 무력화를 어떻게 측정할 것인가에서 다룬다.

근거와 검증 상태

• 2015년 우크라이나 전력망 공격, 2017년 NotPetya와 머스크, Sheltered Harbor, 1933년 미국과 2013년 키프로스의 은행 휴업, 2010년 플래시 크래시의 거래 취소는 널리 알려진 사례로 서술되었으나 이번 편집에서 원자료와 대조하지 않았다. 피해 가구 수, 복구 시간, 세부 경위는 검토가 필요하다.
• 대응 수단의 목록, 대응을 어렵게 하는 조건, 사전 설계가 우선이라는 결론은 사례에 기초한 추론이다.
• 주식 자동매매의 비가역성은 RAND의 2026년 형식 모형 보고서에 실린 사례다.