최근 몇 달 동안 전 세계 여러 분쟁 지역에서 인공지능(AI)이 지원하는 수천 대의 자폭 "군집 드론(drone swarm)"이 인간 조작자의 어떠한 승인이나 지시도 받지 않고 스스로 표적을 식별하고 파괴 결정을 내리는 모습이 기록되었습니다. 안면 인식 알고리즘, 열 화상 센서, 거대한 신경망을 장착한 이 기계들은 사람을 "전투원" 또는 "민간인"으로 분류하고 마이크로초 만에 사망 선고를 내릴 수 있습니다. 안보리 테이블에 놓인 역사적인 질문은 이것이었습니다. "인간의 생명을 끝내는 결정을 알고리즘에 위임하는 것이 전쟁법의 핵심인 제네바 협약을 위반하는 것인가?"
1. 자율 군집의 해부: "킬러 로봇"은 어떻게 결정하는가?
국제법이 교착 상태에 빠진 지점을 이해하려면 먼저 이 무기들이 어떻게 작동하는지 이해해야 합니다. 제1차, 제2차 세계 대전에서는 총알을 발사하는 것이 인간이었습니다. 오늘날 사용되는 최신 무인기(UAV/UCAV)에서도 여전히 버튼을 누르는(조이스틱을 사용하는) 군사 조작자가 있습니다. 그러나 2026년 현장에 배치된 완전 자율 시스템에서는 지휘 통제실에 있는 인간의 화면에 해당 지역의 전체적인 지도만 표시됩니다.
군 지휘관은 기계에게 다음과 같은 단 하나의 프롬프트(prompt)만 제공합니다. "B구역의 적 장갑차와 제복을 입은 표적을 무력화하라."
그 이후부터는 전적으로 AI의 "대형 행동 모델(LAM)"에 달려 있습니다. 하늘에서 서로 즉각적으로 통신하는 500대의 드론 군집은 자율적으로 검색 패턴을 만듭니다. 센서로 인간을 스캔하고 무기를 소지하고 있을 알고리즘 확률을 계산합니다(예: 적군일 확률 92%). 기계는 인간에게 "타격할까요?"라고 묻는 승인을 기다리지 않고 강하하여 표적을 파괴합니다. 군사 문헌에서 이러한 시나리오를 "통제권 밖의 인간(Human-out-of-the-loop)"이라고 부릅니다.
2. 법적 블랙홀: 국제인도법(IHL)은 왜 부적절한가?
유엔 위기의 근본 원인은 1949년 제네바 협약과 그 추가 의정서에 의해 형성된 국제인도법(IHL)이 바탕으로 삼고 있는 "인간의 판단" 원칙이 기계에 의해 충족될 수 있는지에 대한 논쟁입니다.
IHL의 3대 기둥과 알고리즘의 한계
- 1. 구별의 원칙(Distinction): 무력 당사자는 민간인과 전투원을 구별해야 합니다. AI는 소총을 들고 있는 군인은 인식할 수 있습니다. 하지만 부상당한 친구를 돕기 위해 소총을 메고 있는 사람은 어떨까요? 알고리즘이 "전투 불능/항복(hors de combat)" 상태인 군인의 의도를 읽을 수 있을까요?
- 2. 비례성의 원칙(Proportionality): 군사 목표물을 공격할 때 민간인에게 예상되는 피해는 달성될 군사적 이점과 비례해야 합니다. 수학적 계산만 수행하는 기계가 "비례성"과 같이 심오한 철학적, 도덕적, 인간적 판단이 필요한 개념을 어떻게 평가할 수 있을까요?
- 3. 예방 조치의 원칙(Precaution): 민간인을 보호하기 위해 공격 전에 모든 사전 조치를 취해야 합니다. 천분의 일 초 단위로 결정을 내리는 자율 군집 드론에게는 공격을 중단하거나 취소할 시간적 여유가 없습니다.
9월 4일 회의에서 법률 전문가들은 인공지능이 동정심, 자비, 그리고 문맥(context)을 이해하는 능력이 부족하므로 IHL 규칙의 본질에 근본적으로 모순된다고 주장했습니다.
무기 체계 내 "인간 통제"의 스펙트럼
(Human-in-the-Loop)
(Human-on-the-Loop)
(Human-out-of-the-Loop)
3. 유엔 결의안 초안과 글로벌 분열
글로벌 구속력을 가질 목적으로 유엔 안전보장이사회에 제출된 새로운 결의안 초안(LAWS 관련 결의안 초안)은 국제 사회를 둘로 갈라놓았습니다.
한쪽에는 "킬러 로봇 근절(Stop Killer Robots)" 캠페인을 지지하고 (화학 무기나 대인지뢰와 같이) 자율 무기의 전면적인 금지를 요구하는 유럽연합과 개발도상국(Global South)들이 있습니다. 이들 국가는 살상의 결정을 기계에 위임하는 것은 인간의 존엄성에 대한 모욕이라고 주장합니다.
다른 한쪽에는 AI 경쟁을 주도하고 있는 국가들(미국, 중국, 러시아, 이스라엘)이 있습니다. 이들은 전면적인 금지 대신 "의미 있는 인간의 통제(Meaningful Human Control)" 조건을 포함하는 규제를 원합니다. 그들의 주장은 이렇습니다. AI는 인간보다 훨씬 높은 정밀도로 목표물을 타격할 수 있으며, 이를 통해 오히려 부수적 피해(민간인 사상자)를 더욱 줄일 수 있다는 것입니다.
4. 결론: 새로운 디지털 비확산 조약을 향하여
2026년 9월 4일에 열린 이 긴급 유엔 정상회의는 국제법의 가장 큰 열린 상처를 전 세계에 선포했습니다. 핵무기 확산을 막기 위해 핵확산금지조약(NPT)이 체결되었던 것처럼, 오늘날 인류에게는 시급히 "디지털 군축 및 자율 무기 협약"이 필요합니다. 무기가 지능화되는 것은 막을 수 없지만, 방아쇠의 통제권은 알고리즘의 차가운 수학이 아니라 인간의 양심에 남아 있어야 합니다.
전문가 의견: 부르한 도우쉬 아이파를라르 (Burhan Doğuş Ayparlar)
2026년 9월 4일자 유엔 안전보장이사회 특별 회의는 법이 가장 실존적인 위기에 직면한 순간을 보여줍니다. 수 세기 동안 전쟁법(Ius in Bello)은 폭력을 억제하기 위해 '인간의 판단'에 의존해 왔습니다. 군인은 제복뿐만 아니라 문맥, 두려움, 의도, 그리고 항복을 통해 민간인과 전투원을 구별합니다. 반면 인공지능은 문맥을 이해하지 못합니다. 단지 픽셀과 열 신호만을 계산할 뿐입니다. 인간의 승인 없이 발사 결정을 내리는 자율 시스템(Human-out-of-the-loop)은 제네바 협약의 근간을 훼손하는 거대한 법적 허점입니다.
핵심 문제는 법적 책임(Accountability)입니다. 전쟁법에서는 '지휘 책임(Command Responsibility)'이 필수적입니다. 만약 자율 군집 드론이 데이터 오염(data poisoning)이나 AI의 환각(hallucination)으로 인해 병원을 공격한다면, 이 전범의 가해자는 누가 될 것인가요? 단지 '시스템을 시작'하기 위해 버튼을 누른 지휘관이 '나는 병원을 타격하라고 명령하지 않았다'며 책임을 회피할 수 있을까요? 법에서 '책임의 공백(Accountability Gap)'은 용납될 수 없습니다. 행위에 대한 형사적 책임자가 없다면, 그 행위는 법의 보호망 밖에 놓이게 됩니다.
이 위기에서 유엔이 취해야 할 유일하게 올바른 입장은 '의미 있는 인간의 통제(Meaningful Human Control - MHC)' 원칙을 법적 구속력이 있는 국제 협약(Hard Law)으로 전환하는 것입니다. 표적 선택은 AI의 지원을 받을 수 있지만, 치명적인 무력을 사용하는 결정(방아쇠를 당기는 것)은 반드시 상황을 이해하고, 도덕적 무게를 짊어질 수 있으며, 필요한 경우 책임을 질 수 있는 인간(Human-in-the-loop)의 재량으로 남아 있어야 합니다. 죽음의 결정을 알고리즘에 위임하는 것은 법뿐만 아니라 '인간의 존엄성(Human Dignity)'에 대한 자살 행위입니다. 미래의 전쟁에서 기계가 싸우더라도, 평화와 법을 지킬 수 있는 것은 오직 인간뿐입니다.
