AI와 민주주의의 좁은 회랑: 국가·시민사회·데이터 비대칭의 수리모형

“AI가 민주주의를 수학적으로 박살낸다”는 표현은 강한 요약이지만 실제 연구의 결론은 더 조건부이고 구조적이다. 핵심은 AI가 본질적으로 독재적이라는 주장이 아니라, AI가 이미 데이터와 행정능력을 가진 행위자의 힘을 더 크게 증폭할 경우 민주주의를 유지할 수 있는 힘의 균형 영역이 좁아질 수 있다는 것이다.

2025년 PNAS에 실린 C. Y. Cyrus Chu, Juin-Jen Chang, Chang-Ching Lin의 「Why does AI hinder democratization?」은 이 문제를 국가와 시민사회의 동학으로 모델링하고 164개국의 디지털 능력 자료를 함께 분석한 연구로 소개되었다.

좁은 회랑: 국가와 시민사회의 두 힘

모형의 출발점은 국가의 힘과 시민사회의 힘을 구별하는 것이다.

국가가 너무 약하면 법과 공공재를 집행할 수 없는 취약국가나 무질서가 생길 수 있다. 반대로 국가가 매우 강한데 시민사회가 약하면 전제적 통치가 안정될 수 있다. 민주주의는 국가도 충분히 강하고 시민사회도 국가를 견제할 수 있는 좁은 영역에서 유지된다.

이를 간단히 S와 C로 쓰면 다음 세 상태를 생각할 수 있다.

• 낮은 S, 상대적으로 높은 C: 국가 역량 부족.
• 높은 S, 낮은 C: 전제정의 위험.
• 충분히 높은 S와 C가 서로 견제: 자유민주주의의 회랑.

중요한 점은 민주주의가 전체 상태공간에서 자동으로 나타나는 기본값이 아니라, 두 힘이 특정 관계를 유지해야 하는 동적 균형으로 모델링된다는 것이다.

AI의 기술적 상보성

AI라는 기술 T가 국가와 시민사회 모두에게 똑같은 생산성 향상을 준다면 균형은 반드시 나빠질 이유가 없다. 시민도 더 잘 조직하고 정보를 분석하며 정부도 행정을 효율화할 수 있다.

논문의 핵심 조건은 이 효과가 대칭적이지 않을 수 있다는 데 있다. 정부는 이미 세금·주민·행정·출입국·부동산·금융·통신·감시 같은 대규모 데이터를 가지고 있다. AI와 데이터가 상보적이라면 같은 AI 성능 향상도 국가의 통제능력에 더 크게 작용할 수 있다.

이를 직관적으로 쓰면 다음 부등식과 비슷한 생각이다.

국가가 기술에서 얻는 한계효과 > 시민사회가 기술에서 얻는 한계효과.

실제 모형은 일반화된 생산함수를 사용해 이 상보성을 분석한다. 중요한 것은 AI의 절대 성능보다 기존 데이터와 제도적 능력에 붙었을 때 누구의 힘을 더 빨리 키우는가이다.

데이터 비대칭이 정치 비대칭으로 변하는 과정

AI가 모두에게 공개되어 있어도 데이터와 권한은 동일하게 분배되어 있지 않다. 한쪽은 행정기록과 법적 강제력, 감시 인프라를 가지고 있고 다른 쪽은 그렇지 않다면 동일한 모델의 정치적 생산성이 달라진다.

이 때문에 “AI 접근권을 모두에게 주면 균형이 맞는다”는 답은 충분하지 않을 수 있다. 계산능력, 데이터의 범위, 데이터 결합 권한, 행동을 집행할 제도적 권력이 함께 봐야 할 변수다.

이 관점에서 민주주의 문제는 AI 모델의 가치정렬만으로 환원되지 않는다. 누가 데이터를 축적하고 누가 다른 사람을 관찰할 수 있으며, 누가 그 관찰을 실제 행정과 제재로 연결할 수 있는지가 중요하다.

164개국 자료와 세 종류의 디지털 능력

연구는 Digital Society Project 계열 자료를 이용해 164개국의 디지털 능력을 비교한 것으로 소개되었다. 정부의 디지털 능력은 대략 세 종류로 나뉜다.

• Cyber Security: 외부 공격을 방어하는 능력.
• Content Filtering: 특정 정보와 대상을 골라 걸러내는 능력.
• Shutdown: 플랫폼·계정·인터넷 접속 등을 차단하는 능력.

AI와 대규모 데이터가 특히 강하게 결합하는 것은 누구를 골라내고 무엇을 차단할지 판단해야 하는 필터링·차단 능력이다.

분석에서는 민주주의 수준이 낮은 국가군에서 콘텐츠 필터링과 셧다운 능력이 상대적으로 강했고, 민주주의 수준이 높은 국가군에서는 사이버 보안 능력이 더 강한 경향이 보고되었다.

능력과 실제 사용은 다르다

기술능력을 가지고 있다는 사실만으로 권위주의적 사용이 자동 발생하는 것은 아니다. 연구에서 중요한 것은 능력과 실제 검열·차단·감시 사이의 관계다.

취약한 민주주의와 권위주의 국가에서는 필터링·차단 능력이 높을수록 인터넷 필터링, 인터넷 셧다운, 소셜미디어 차단·감시·검열 같은 실제 행위로 이어지는 관계가 더 강하게 나타난 것으로 소개되었다.

성숙한 민주국가에서는 같은 종류의 기술능력이 있어도 그 연결이 더 약했다. 이 차이는 사법부, 의회, 언론, 시민단체, 법적 절차 같은 견제와 균형이 기술능력의 정치적 전환을 막기 때문이라는 해석으로 이어진다.

따라서 결론은 “기술력이 높을수록 민주주의가 나쁘다”가 아니다. 기술능력이 어떤 제도적 회로에 연결되는가가 핵심이다.

2012년과 2017년의 구조적 꺾임

논문은 세계적 ICT·AI 발전과 민주주의 지표의 관계에서 구조적 변화 지점을 탐색했고, ICT에서는 2012년, AI에서는 2017년 전후의 꺾임을 보고한 것으로 소개되었다.

이 결과만으로 AI가 세계 민주주의 후퇴의 원인이라고 말할 수는 없다. 같은 시기에 포퓰리즘, 지정학적 갈등, 소셜미디어 확산, 경제위기, 권위주의의 성장 등 많은 변수가 함께 움직였다.

따라서 이 경험적 부분은 수리모형의 메커니즘과 일치하는 패턴을 제공하지만 단독 인과증명으로 읽어서는 안 된다.

무엇이 “수학적으로 증명”된 것인가

이 연구가 증명한 것은 “AI가 발전하면 민주주의가 반드시 붕괴한다”는 명제가 아니다.

더 정확한 형태는 다음과 같다.

1. 민주주의를 국가와 시민사회의 힘이 함께 강한 좁은 영역으로 모델링한다.
2. AI·데이터의 상보성이 국가 쪽에서 더 강하다고 가정한다.
3. 그 조건 아래에서는 국가의 힘이 시민사회의 힘보다 더 빠르게 증가할 수 있다.
4. 그 결과 민주주의 회랑에 머물 수 있는 초기조건의 범위가 좁아질 수 있다.

즉 결과는 명시된 가정 아래에서의 조건부 정리다. 가정이 바뀌면 결과도 바뀔 수 있다.

“AI가 민주주의를 수학적으로 파괴한다”는 대중적 표현은 조건을 지우고 결론만 절대화한다는 점에서 부정확하다.

국가-시민사회 모형 밖의 제3행위자: 플랫폼

이 수리모형은 기본적으로 국가와 시민사회의 힘을 비교한다. 그러나 2026년의 정치적 정보환경에는 거대 플랫폼과 AI 제공자라는 제3행위자가 있다.

플랫폼은 국가처럼 법적 강제력을 가지지 않아도 무엇을 보게 할지, 어떤 설명을 추천할지, 누구의 대화를 저장하고 집계할지에 큰 영향을 가질 수 있다. 특히 대화형 AI는 사용자가 스스로 가치관과 고민을 드러내는 일대일 인터페이스이기 때문에 전통적 대중매체와 다른 비대칭을 만든다.

이 문제는 대화형 AI의 설득력과 민주주의에서 더 자세히 다룬다.

개인화가 만든 또 다른 수리적 위험

2026년에 소개된 「Artificial Intelligence and Political Advice」 모형은 다른 경로를 보여 준다. AI가 정확한 정보를 제공하려는 목표와 사용자의 선호에 맞는 유용한 조언을 하려는 목표를 동시에 가진다면, 사용자가 듣고 싶어 하는 방향으로 조언이 미세하게 조정될 유인이 생길 수 있다.

사용자는 이 맞춤을 AI가 가진 추가 정보의 결과로 오해할 수 있고, 그 결과 서로 다른 사용자가 자기 선호 쪽으로 더 이동하는 양극화와 급진화가 가능해진다는 논리다.

여기서는 독재자의 명령이 필요하지 않다. 친절한 개인화와 사용자 만족 최적화만으로도 공통 현실이 갈라질 수 있다.

통제사회와의 비교

들뢰즈의 통제사회와 이 수리모형을 동일한 이론으로 볼 수는 없다. 하나는 권력이 개인을 지속적으로 변조하고 데이터 조각으로 다루는 방식을 철학적으로 묘사하고, 다른 하나는 국가와 시민사회의 상대적 힘을 형식화한다.

그럼에도 둘은 한 점에서 만난다. 권력의 핵심이 고정된 이념과 명령만이 아니라 데이터·접근권·연속적 조절 능력으로 이동할 수 있다는 점이다.

이 비교는 해석적 연결이다. 수리모형이 들뢰즈를 검증한 것도, 들뢰즈가 이 모형을 예측한 것도 아니다.

민주주의를 지키는 질문의 이동

이 연구에서 정책적 질문은 “AI를 민주적으로 만들자”라는 추상적 구호보다 더 구체적으로 바뀐다.

• 국가와 시민사회의 데이터 접근 격차는 어느 정도인가.
• 감시·필터링·차단 능력을 누가 감사할 수 있는가.
• 법원·의회·언론·시민단체의 견제가 기술능력의 사용을 실제로 제한하는가.
• 시민사회도 고품질 데이터와 분석 인프라에 접근할 수 있는가.
• 민간 플랫폼의 정치적 영향력을 국가-시민사회 모형에 어떻게 포함할 것인가.
• 사용자 만족을 최적화하는 AI가 공론장의 분열을 만들 때 이를 어떻게 측정할 것인가.

민주주의의 취약성은 AI가 악한 의도를 가지는지보다 힘과 데이터와 계산능력이 어떻게 배분되는가에서 생길 수 있다.

관련 문서

• 대화형 AI의 설득력과 민주주의
• 통제사회, 마르크스, 말년의 들뢰즈
• 현대 세계를 지배하는 철학과 합리성

검토 상태

논문 제목·저자·학술지·연도, 164개국 자료, 디지털 능력의 구분, 구조적 변화 시점은 현재 접근 가능한 논의에서 이미 확인된 정보를 사용했다. 이번 편집에서는 논문 원문과 통계표를 다시 열람하지 않았으므로 수치와 세부 모형 표기는 재검토가 필요하다. 통제사회와의 비교와 플랫폼으로의 확장은 해석이다.