소유자 중심 자동권력: 인간 다수 없이 지속되는 기계 체제의 성립 조건

가상의 경제권력자 집단이 인간 다수의 협력을 장기적으로 필요로 하지 않는 체제를 만들 수 있을까. 이는 AI가 의식을 얻어 인간을 증오한다는 고전적 서사와 다르다. 소유권이 특정 인간 집단에 남은 채 강제력과 생산, 정비와 연산이 자동화되는가를 묻는 물질적·정치경제적 사고실험이다.

여기서 ‘소수만 남는 세계’는 관측된 추세나 정책의 목표가 아니다. 노동의 의미와 협력의 필요를 극단까지 줄여 보았을 때 무엇이 여전히 병목으로 남는지를 알아보기 위한 조건부 가정이다. 사회가 실제로 그런 미래로 갈 확률과 국가별 위험 순위를 계산할 자료가 이 사고실험 자체에 들어 있는 것은 아니다.

‘AI 독재’가 아니라 무엇을 뜻하는가

독재는 일반적으로 지배자와 피지배자의 관계를 전제로 한다. 그러나 다수의 인간이 장기적으로 경제적·정치적 체제의 구성원으로 남지 않는다는 가정에서는, 소수 소유자가 생산체제를 독점적으로 통제하며 외부 인간의 협조를 요구하지 않는 상태가 더 정확한 정의다. 이를 소유자 중심 자동권력 또는 소유자 정렬형 기계 체제라고 부를 수 있다.

‘AI 민병단’이라는 명칭은 직관적이지만 국가가 아닌 조직의 사적 군사력을 지나치게 강조한다. 국가가 먼저 장악되어 있다면 사병단 없이도 군과 경찰, 법률과 계약을 통해 기술을 동원할 수 있다. 더 일반적인 말은 강제력의 탈인간화다. 다만 기계의 명령 이행이 인간 병사보다 언제나 완벽하고 통제 불능의 오작동이 없다는 가정도 위험하다. 프로그래밍 오류, 교란, 장비 손실, 외부 공급망 차단 등은 다른 종류의 통제 실패다.

첫째 조건: 강제력의 탈인간화

사적 AI 무력이나 국가의 자율무기·감시·치안 시스템이 인간 집행자의 거부, 이탈, 동정심, 폭로 가능성에 덜 의존하는 상태다. 병사의 윤리적 판단이 역사적으로 언제나 독재를 막았다는 전제도 사실이 아니다. 이 조건의 핵심은 자율무기가 반드시 자기 목적을 갖는 것이 아니라 명령 주체와 집행 장치 사이에서 인간의 교섭 지점이 줄어드는 것이다.

그러나 자율 드론의 존재와 사적 집단의 지속 가능한 군사주권은 다른 수준의 성취다. 무기 생산·탄약·연료·통신·조달·정비가 필요하고, 국가들은 사적 군사력을 제약할 법적·물리적 수단을 갖는다. ‘자율무기 일부 운용’은 ‘국가를 대체하는 자율군’의 실증이 아니다. 따라서 사적 민병단은 사적 집단의 국가 밖 장악 경로에는 필요할 수 있지만 자동권력 일반의 필수조건은 아니다.

둘째 조건: 핵심 생존노동의 탈인간화

모든 직업을 로봇으로 대체할 필요는 없다. 폐쇄된 소수 집단이 식량·물·에너지·기초 의료·물류·안보·기계정비와 생산을 유지할 수 있을 정도면 된다는 가정이다. 이를 핵심 생존노동의 자동화라고 부른다.

산업용 로봇이 제조현장에서 널리 쓰이는 것과 사회 전체의 생존경제를 사람이 없이 운용한다는 주장은 다르다. 조립라인의 자동화는 뒤편의 채굴, 정련, 공구 제작, 통신, 설비 증설, 법적 소유와 물류를 지우지 않는다. 생산체계가 하나의 ‘로봇 공장’이 아니라 수많은 공급자와 중간재를 잇는 망이기 때문이다. 이 망의 일부 핵심부에서 사람이 빠져도 다른 병목에서 인간 노동이 남을 수 있다.

셋째 조건: 자기복제보다 중요한 자율 유지·보수·교체 루프

로봇이 광산에서 금속을 캐고 반도체를 만들고 새 로봇을 완성하는 강한 자기재생산은 매우 엄격한 조건이다. 반면 이미 확보된 부품·모듈·장비와 저장된 에너지를 활용해 유지보수·교체를 상당 부분 수행하는 약한 자기재생산은 훨씬 낮은 목표다. 소수 전문인력이 공급망을 운용하는 중간 단계도 가능하다.

그러므로 진짜 질문은 ‘기계가 기계를 낳는가’보다 다수 인간이 협조를 끊어도 생산과 방어가 계속되는가다. 기계도 감가상각을 당한다. 관절, 베어링, 배터리, 센서, 냉각계와 필터가 닳고, 소프트웨어와 통신은 유지관리를 요구한다. 인간이 사라지는 상상 속에서도 마모·열·진동·부식·부품 교체는 사라지지 않는다. 기계를 만드는 기계 역시 마모된다. 이 반복 구조가 닫히지 않으면 완성형 자립은 아니다.

넷째 조건: 연산·전력·부품·소재 주권

가장 쉽게 빠뜨리는 조건은 물리적 산업주권이다. 자율무력이 있어도 전력이 끊기거나 칩 교체가 막히면 지배력은 쇠퇴한다. 데이터센터, 발전원, 송전·배전, 냉각, 광통신, 고급 반도체·패키징, 배터리, 정밀가공, 윤활과 화학약품, 부품물류가 함께 필요하다.

핵심은 전자장비의 ‘소유’가 아니라 지속적인 공급과 갱신을 명령할 수 있는가다. 특히 GPU를 놓아두는 건물과 GPU 자체는 자산 수명이 다르다. 전력 접속권과 부지는 장기간 가치가 남을 수 있으나 가속기와 서버는 수년 단위의 교체 압력을 받는다. 데이터센터의 세계 지리와 감가상각은 이러한 권력의 비용을 구체적인 GW와 냉각·부품 문제로 설명한다.

이 넷 가운데 하나라도 결여되면 극단적 독립은 제약된다. 무력과 노동 대체는 빠르게 진전되더라도 전체 자재·연산·전력의 장기 자기지속성을 확보했다고 단정할 수 없다.

이행기 도구와 완성형의 조건을 혼동하지 않는다

감시·신분식별·법적 방패·정보조작과 인간 집단행동 억제는 초기 장악과 정치적 충돌을 관리하는 수단일 수 있다. 이를 구조로 나누면 다음과 같다.

과거식 독재는 폭력을 가시적으로 사용했다. 디지털화된 권한 체계는 폭력 이전에 대출, 예약, 직장 평가, 이동과 계정의 작은 마찰을 누적할 수도 있다. 이는 아직 범죄를 저지르지 않은 사람을 ‘위험’으로 판정하는 예측적 신분제라는 디스토피아를 낳는다. 다양한 공공·민간 시스템을 하나의 운영 규칙으로 잇는 것이 기술적·법적으로 가능한지, 인간의 우회·거부가 어느 정도 가능한지는 별도로 검토해야 한다. 현재 이런 전체적 통제망이 실재한다는 사실 주장으로 바꿀 수 없다.

이 극단적 상상은 AI의 인격이나 악의를 필요로 하지 않는다. 의식 있는 AI가 아니라, 인간의 생활권을 판정하는 자동 장부와 집행장치가 위협의 소재다.

소유자 내부의 모순

가상의 소유자들은 자동화 이익을 누리려 하지만, 전환기에는 현재 금융·법질서의 담보가치와 상대적 권력 순위가 파괴되지 않길 원할 수 있다. 그러나 이 집단이 단일한 의지로 움직인다는 가정도 취약하다. 한 회사는 경쟁자의 자산가격 하락을 바라지만, 은행과 채무자가 무너지면 자기도 손실을 본다. 금융자산, 전력자산, 부동산, 기술지분과 원자재의 소유자는 이익이 다르다.

또 소유자 집단이 기술을 통제하는 상태가 영원히 유지된다고 가정할 이유는 없다. 시스템에 들어간 명령, 계약, 거버넌스, 장기 유지의 조건이 바뀔 수 있기 때문이다. 그러나 이를 곧 ‘AI가 주인들을 배신한다’는 의인화된 결말로 써서는 안 된다. 문제는 목적과 실제 운영·승계·통제의 불일치다. 이행기의 금융·소유권 질서는 장부와 소유권 보존의 경제적 모순을 다룬다.

국가별 위험 순위는 무엇을 측정했는가

이 사고실험에 맞는 국가적 위험의 기준은 빈곤율이나 권위주의 점수만이 아니다. 강제력, 정치권력 집중, 자동화·첨단제조 역량, 에너지·전력, 칩과 공급망, 대중 노동의 체제 내 중요성, 제도적 견제 등을 함께 고려해야 한다. 따라서 가난한 취약국이 완성형 자동권력을 만드는 나라가 될 가능성과 그 나라의 주민들이 글로벌 자동화 충격에 노출될 가능성은 다른 사건이다.

가설적으로는 걸프 군주국(UAE·사우디·카타르 등), 중국, 미국, 싱가포르, 러시아, 고자동화 산업국(한국·일본·대만·독일), 대규모 불평등 국가(인도·튀르키예·인도네시아·멕시코·브라질), 노동수출·취약경제(방글라데시·파키스탄·필리핀·이집트·나이지리아)를 서로 다른 유형으로 배열할 수 있다. 이 목록은 확률 순위가 아니라 서로 다른 위험형태를 구별하는 시나리오 분류다.

어느 국가가 인간 다수를 ‘버릴’ 것이라고 예언하거나 주민의 운명을 국가별 순위로 고정할 근거는 없다. 실제 위험은 기술 발전만이 아니라 정치적 선택, 시민적 거부, 전력망, 국제관계와 공급망에 따라 바뀐다.

물리적 병목을 끝까지 남겨 두는 사고실험

이 모델의 가장 중요한 교정은 독재의 얼굴을 로봇이나 AI의 성격에서 찾지 않는다는 점이다. 인간의 참여가 없어져도 마모는 사라지지 않는다. 강제력·생존노동·정비·전력/부품의 네 조건이 하나의 회로로 닫혀야만 극단적 독립을 논할 수 있다. 그때까지 자동권력은 다른 인간들의 분업과 국제시장의 공급망에 빚지고 있다. 이 조건부 논증은 AI 상한선과 활용 하한선의 일반적 이행기와 구별해 읽어야 한다.