‘터미네이터’가 살인 로봇에 대해 경고한 지 40년이 지난 지금, AI로 구동되는 드론과 자율 무기 시스템이 실제 분쟁에서 배치되고 있다. 가자지구에서부터 우크라이나에 이르기까지, 기계 전쟁의 디스토피아적 미래는 더 이상 공상과학 소설에 그치지 않는다.

올해는 제임스 카메론(James Cameron)의 고전 SF 영화 '터미네이터' 개봉 40주년을 맞이한다. 카메론은 냉전의 불안과 상호확증파괴(MAD)의 위협이 만연한 세계에서 성장하며 겪은 트라우마를 처리하기 위해 이 대본을 처음 썼다. 그는 1962년 쿠바 미사일 위기 당시 8세였으며, 세계가 핵전쟁 직전까지 치달았다가 간신히 이를 피하는 상황을 경험했다. 그는 부모님의 탁자 위에 있던, 가정에서 핵 낙진 대피소를 짓는 방법을 설명한 소책자를 발견했던 기억을 떠올리며, "종말의 가장자리에서 춤을 추는 인간의 성향"에 대한 매혹을 발전시키게 되었다고 말했다.

카메론의 경고적 이야기는 미국이 혁신적인 전략 방어 컴퓨터 네트워크로 개발한 전지전능한 인공지능(AI)인 스카이넷(Skynet)을 창조한 뒤 인류가 몰락하게 되는 미래를 그렸다. '터미네이터'의 미래 세계에서 스카이넷은 1997년 8월 4일에 가동되어 몇 주 만에 인간이 부여한 한계를 초월할 만큼의 지식을 축적하고 스스로 의식을 가지게 된다. 이 줄거리는 첨단 기계 학습 알고리즘으로 구동되는 컴퓨터가 인간 지능을 능가하는 가상의 변곡점인 '싱귤래리티(singularity)' 개념을 반영한다.

스카이넷이 예기치 않게 자아를 획득하자, 공황에 빠진 인간들은 필사적으로 이를 차단하려 한다. 그러나 AI는 이제 인류를 최대의 위협으로 간주하고, 미국과 소련 간의 핵전쟁을 전략적으로 촉발시켜 인류 문명의 종말을 알린다. 영화에서 카일 리스(Kyle Reese)는 "스카이넷은 모든 인간을 위협으로 간주했다. 적군뿐만이 아니라. 인간의 운명을 순식간에 결정했다. 절멸이었다"라고 말한다. 이 사건은 '심판의 날(Judgment Day)'로 기억되며, 이후 핵겨울 동안 기계들은 생존자를 사냥하고 제거하는 작전을 펼친다.

스카이넷은 인간과의 전쟁을 수행하기 위해 민첩한 정찰 드론, 헌터-킬러(Hunter-Killer) 탱크, 공중 공격 헬리콥터 등 자율 무기 체계를 개발한다. 그러나 가장 두려운 창조물은 T800 모델 터미네이터(T800 Model Terminators)다. 티타늄으로 된 골격형 인간형 로봇으로, 이 고도로 발전된 살인 로봇은 플라스마 소총을 장착한 보병 유닛으로나, 금속 내골격에 배양된 살아 있는 인간 조직으로 위장하여 탐지가 거의 불가능한 침투 유닛으로 활용될 수 있다.

핵으로 파괴된 미래의 폐허에서 존 코너(John Connor)라는 영웅이 등장해 흩어진 인간 저항군을 결집시키고 기계에 맞선 반격을 이끈다. 스카이넷은 인류의 반격을 막지 못하자, 1984년으로 사이보그 암살자를 보내 인류의 구세주가 될 존 코너의 어머니를 암살하려 한다. 이후 속편들에서 인간 저항군은 스카이넷을 개발한 소프트웨어 엔지니어가 적대적인 AI를 처음부터 발명하지 못하도록 막아 이 핵재앙을 예방하려 한다.

'터미네이터'는 빠르게 컬트적 지위를 얻었고, 30억 달러 이상의 수익을 창출하는 성공적인 프랜차이즈로 성장했다. 그러나 상업적 성공 외에도 '터미네이터'는 AI, 자아를 가진 기계, 살인 로봇에 대한 사회적 인식과 이해를 형성하는 데 깊은 영향을 미쳤다. 지난 수십 년 동안, 이 작품은 AI가 제기하는 위협과 도전에 대처하려는 대중과 정책 입안자들의 대표적인 비유적 시각으로 자리 잡았다.

살인 로봇의 부상

최근 몇 년 동안 주요 기술 전문가들은 AI가 인류에 초래할 대재앙적 위험에 대해 경고하며, "AI로 인한 멸종 위험 완화는 팬데믹과 핵전쟁과 같은 사회적 규모의 위험과 함께 글로벌 우선순위가 되어야 한다"고 주장해왔다. 그러나 많은 AI 윤리학자들은, 인류의 종말을 초래할 수도 있는 악의적 AI라는 '터미네이터'적 위협에 초점이 맞춰지면서, 신흥 AI 기술이 초래하는 보다 즉각적인 위험들이 종종 흐려진다고 경고해왔다.

이러한 "더 낮은 차원의" AI 위험은 점점 더 잘 알려지고 있고, 터미네이터와는 다른 모델의 디스토피아적 미래로 인류를 잠재적 위험 속으로 끌고 갈 가능성을 내포한다. 여기에는 전방위적 AI 감시 체제, 생체 정보 통제를 통한 파놉티콘 규율 체계, 기존 인종·성별 및 기타 시스템적 편견의 알고리즘적 복제, 허위 정보의 무기화와 사회적 조작, 인간 데이터와 문화를 복제해 지식 생태계를 오염시키는 확률적 모방기(stochastic parrots)의 창출, 노동 시장을 뒤흔드는 대규모 기술 탈취 등이 포함된다.

출처: The War Zone Wire 기사 페이지 갈무리

정부는 이러한 위험에 대한 대중의 두려움을 진정시키기 위해 거의 아무런 조치를 취하지 않았으며, AI의 이러한 영역에서의 발전은 거의 제약 없이 계속되고 있다. 그러나 훨씬 더 놀라운 점은, 새 AI 기술에 대한 대중 수용을 억제하는 데 잠재적으로 강력한 영향을 미칠 것으로 여겨졌던 대재앙적 SF 서사조차 터미네이터 시나리오를 단순한 공상과학으로 치부하지 못했다는 사실이다. 대신, 살인 로봇은 21세기의 현실이 되었으며, 무장을 갖춘 로봇 개에서부터 자율 무인 드론 군집에 이르기까지, 우크라이나에서 가자지구에 이르기까지 전쟁의 양상을 바꾸고 있다.

10월, 이스라엘 군은 자율 반자율 드론으로 하마스 지도자 야히야 신와르(Yahya Sinwar)를 제거하는 영상을 공개했다. 녹화된 영상은 가자지구의 폭격된 주택 내부를 천천히 스캔하며 인간 생명의 징후를 탐지하는 이스라엘 방위군(IDF) 쿼드콥터의 시점을 보여준다. 드론의 회전 날개가 일으킨 먼지 속에서 카메라는 팔걸이에 기댄 채 중상을 입은 팔레스타인 전투원을 포착한다. 영상은 이 인물을 디지털로 빨간색 윤곽선으로 강조하고, 손에 들린 막대기도 동일하게 표시한다. 전투원이 마지막으로 막대를 드론 쪽으로 약하게 던지자, 드론은 이를 위협 궤적으로 디지털 매핑해 자동으로 피한다. 영상은 여기서 끝난다.

이스라엘은 이를 공개하며 주요 적수를 제거한 것을 축하하려 했지만, 대중의 반응은 미묘했다. 많은 이들에게 이 영상은 폭격된 폐허 속에서 인간 저항군을 제거하는 헌터-킬러(Hunter-Killer) 로봇의 헐리우드적 묘사를 연상시켰다. "와우! 현대전이네요. 이건 터미네이터의 한 장면 같아요"라고 한 사용자가 IDF의 공식 유튜브 페이지에 댓글을 남겼다.

우크라이나 전쟁에서도 드론 전쟁은 전장에 필수적인 특징이 되었다. 지난달, 러시아와 우크라이나는 전쟁 초기 이후 최대 규모의 드론 공습을 주고받았다. 우크라이나는 심지어 무인 시스템군(Unmanned Systems Forces)이라는 세계 최초의 드론 전담 군사 조직을 설립하며 미래 전쟁을 대비했다.

양측이 소모적 드론 군비 경쟁에 참여하는 가운데, 러시아와 우크라이나는 AI를 경쟁 우위로 사용하고 있다고 주장한다. 러시아의 능력에 대해서는 알려진 바가 적지만, 우크라이나에서는 서방 자본과 신형 AI 방어 기술이 대거 유입되어, 다윗과 골리앗의 싸움에서 우크라이나를 돕기 위한 시도가 이어지고 있다.

미국의 기술 기업 팔란티어(Palantir)가 개발한 AI 소프트웨어는 "우크라이나의 군사 표적 지정 대부분을 책임지고 있다." 유사하게, 미국의 안면 인식 기술 기업 클리어뷰 AI(Clearview AI)는 우크라이나의 “비밀 무기”로 널리 알려졌으며, 이미 23만 명 이상의 러시아인과 우크라이나 협력자를 식별하는 데 사용되었다. 이 데이터는 전쟁이 끝난 후 잠재적인 전쟁 범죄 기소에 활용될 수 있다.

그러나 이러한 새로운 AI 기술이 우크라이나에서 점점 더 많은 용량으로 개발 및 배치되고 있는 반면, 팔레스타인 지역에서 이 기술들은 실제로 전투 테스트를 거쳤다.

팔레스타인 실험실

이스라엘은 팔레스타인에 대해 광범위하게 감시용 드론과 무장 드론을 배치해왔다. 여기에는 민간 상업용 드론에 기관총이나 소형 폭발물을 장착해 인간 조종자가 원격으로 조작하는 방식이 포함된다. 그러나 이스라엘은 군사용 AI 드론 사용에서도 선구적인 역할을 해왔다. 2021년 5월, 이스라엘 방위군(IDF)은 세계 최초로 전투 드론 군집(drone swarm)을 사용했다. 이 드론 군집은 AI를 사용해 단일 네트워크화된 개체처럼 행동하며 스스로 비행하며 팔레스타인 전투원을 탐지, 식별, 공격했다. 현재 엘빗 시스템스(Elbit Systems)가 제작한 LANIUS와 같은 모델은 표적 탐지 및 공격 드론 기반 유도탄으로, 인간의 개입 없이 완전한 비행 프로파일을 자율적으로 실행할 수 있는 훨씬 더 발전된 능력을 갖추고 있다.

이스라엘은 분쟁 지역에서 자율 살인 로봇의 사용 세부 사항을 공개하지 않는다. 또한 외국 기자들의 가자지구 접근을 차단하는 언론 통제 속에서, 세계는 희생자들의 증언, 가끔 유출된 영상, 그리고 IDF의 폭력으로 인한 끔찍한 결과를 통해 이러한 신흥 전쟁 무기가 민간인을 대상으로 사용되고 있음을 확인해왔다.

올해 2월, 추락한 IDF 드론에서 회수된 영상은 칸 유니스(Khan Younis)의 황폐한 폐허를 지나던 비무장 민간인 4명을 표적으로 삼는 장면을 보여주었다. 첫 번째 공격 후 드론은 젊은 남성 두 명의 시신에 초점을 맞춰 "확인 사살"을 한 뒤, 폭발 속에서 비틀거리며 도망치던 두 명의 생존자를 추적하여 체계적으로 제거했다.

다른 사례에서는 목격자들이 촬영한 스마트폰 영상이 이스라엘 드론 체제가 충격적인 면책성을 가지고 운영되고 있음을 폭로했다. 10월, 가자지구 북부의 주거 지역에서 촬영된 한 영상에는 공습으로 하체가 끔찍하게 훼손된 채 비명을 지르는 한 아이가 등장한다. 그의 절박한 울음소리는 지나던 사람들의 도움을 요청했지만, 도우려던 이들 역시 2차 공격의 대상이 되었고, 결과적으로 부상당한 아이와 또 다른 소년이 사망했으며 20명이 추가로 부상을 입었다. 생존자의 울음소리는 위에서 들려오는 불길한 드론 소리에 묻혀버렸다.

이러한 사건은 "더블 탭(double tap)"으로 완곡히 표현되며, 이스라엘 드론이 어린이와 민간인을 고의적으로 표적으로 삼고 있다는 의혹을 뒷받침하는 사례로 자주 보고된다. 11월, 가자지구 병원에서 자원봉사를 한 영국의 베테랑 외과 의사는 영국 의회 위원회에서 자신의 경험을 증언하던 중 감정적으로 무너졌다.

"폭탄이 떨어지곤 했는데, 종종 사람들이 붐비는 천막 지역에 투하되었다. 그 후 드론이 내려와 민간인—어린이들을 하나씩 제거했다. 우리는 이러한 상황을 계속해서 들었고, 이는 가끔 일어나는 일이 아니었다. 이는 분명히 의도적인 행위이며, 매일같이 민간인을 지속적으로 표적으로 삼는 것이다. 드론이 발사한 탄환은 작은 정육면체 모양의 펠릿으로, 나는 그중 몇 개를 어린아이들의 복부에서 꺼냈다. 이 펠릿들은 어떤 면에서는 일반 총알보다 더 파괴적이었다. 들어가면 여기저기 튕기면서 여러 부상을 초래했다."

팔레스타인 민간인들은 드론이 머리 위를 맴돌며 내는 "잔자나(zanzana)" 소리, 즉 불길하고 끊임없으며 불안감을 조성하는 고음의 윙윙거리는 소리가 가져오는 심리적 외상에 대해 자주 이야기한다. 이 소리는 언제든 하늘에서 죽음을 내릴 수 있는 IDF의 능력을 상징한다. 10여 년 전, 아프가니스탄과 국경을 접한 파키스탄 부족 지역인 와지리스탄(Waziristan)에서도 미국의 프레데터(Predator) 드론에 대한 비슷한 두려움을 겪었고, 이는 푸른 하늘 공포증으로 나타났다. 2013년, 13세 소년 주베어(Zubair)는 미 의회에서 증언하며 이렇게 말했다. "저는 이제 더 이상 푸른 하늘을 사랑하지 않습니다. 사실, 저는 지금은 회색 하늘을 더 좋아합니다. 드론은 하늘이 회색일 때 날지 않기 때문입니다."

만약 이러한 자율 무기 기술이 여전히 공상과학의 영역에 속해 있다고 믿는 이들이 남아 있었다면, 가자지구는 그 생각이 잘못되었음을 빠르게 증명해주었다. 자율 살인 로봇의 디스토피아적 미래가 현실에 한 걸음 더 다가선 곳은 바로 팔레스타인 지역이며, 팔레스타인인들은 이스라엘 군산복합체의 시험 대상으로 사용되고 있다. 저널리스트 앤서니 로웬스타인(Anthony Loewenstein)이 "팔레스타인 실험실(Palestine Laboratory)"이라고 부르는 이스라엘 군사 실험은 미래 전쟁을 수행할 신형 무기와 감시 기술을 갈고닦고 이를 전 세계에 수출하는 데 활용되고 있다. 두 차례 이스라엘 정부에서 협상가로 활동했던 다니엘 레비(Daniel Levy)는 이렇게 경고했다.

"미래의 전장은 이미 오늘날 여기에 와 있다. AI, 자동화 무기, 로봇, 하늘 곳곳을 메우는 드론들—이 전쟁이 진행되는 방식은 미래가 어떤 모습일지, 특히 오늘날 팔레스타인인들에게 이미 현실로 다가온 그 미래가 어떤 모습일지 모든 사람을 두렵게 해야 한다."

전쟁의 혼돈이 서서히 걷히면서, 가자지구에서 이스라엘이 AI로 주도하는 초토화 정책의 무자비한 잔혹성이 잇따른 폭로를 통해 더욱 적나라하게 드러나고 있다. 이스라엘이 민간인의 생명을 알고리즘에 기반한 무분별한 방식으로 경시하고 있다는 사실은 더 이상 외면하기 어렵게 되었다.

예를 들어, 가자지구에 대한 이스라엘의 광범위한 폭격은 더 가스펠(The Gospel)이라는 AI 표적 시스템에 의해 지휘되었다. 이 시스템은 복잡한 알고리즘을 사용해 무장 세력이 사용할 가능성이 "높은" 건물과 구조물을 식별하며, "수만 명의 정보 장교가 처리할 수 없는" 막대한 양의 데이터를 분석한다.

사람을 대상으로 하는 라벤더(Lavender)라는 또 다른 AI 시스템은 기반 시설이 아닌 개인을 겨냥한다. 이 시스템은 형식적인 인간 감독만 받고 작동하며, 민간인 사상률이 놀라울 정도로 높아도 이를 "허용 가능한 부수적 피해"로 간주하는 냉혹한 알고리즘을 사용한다. 이 도구는 37,000명의 팔레스타인인을 무장 세력으로 "식별"하며, 사실상 그들의 사형 선고를 내렸다.

세 번째 AI 시스템은 라벤더에 의해 지목된 사람들의 움직임을 추적하는 데 사용되었으며, 대상이 저녁에 가족과 함께 집으로 돌아왔을 때만 공습을 명령하도록 설계되었다. 이 시스템은 필연적으로 대상뿐만 아니라 그의 가족, 아이들, 때로는 이웃까지 함께 살해했으며, "아빠 어디야?"(Where’s Daddy?)라는 이름으로 불렸다.

이러한 AI 전쟁 기술 대부분은 철저히 비밀에 부쳐져 있으며, 주로 용감한 이스라엘 기자와 군 내부 고발자들의 노력이나 기술 실패가 공개적으로 드러났을 때만 세상에 알려졌다.

2023년 11월, 국제적으로 유명한 팔레스타인 시인 모사브 아부 토하(Mosab Abu Toha)는 가족과 함께 라파 국경을 통해 대피를 시도하다 체포되었다. 군사 검문소에서 대기 중이던 그는 다른 수백 명의 팔레스타인인들과 함께 가족 및 난민들과 분리되었다. 모사브는 군인들에게 신분증을 제시하기도 전에 자신의 이름(모사브 모스타파 하산 아부 토하)이 불려 완전히 혼란스러웠다고 회상했다. "그들은 어떻게 내 이름을 알았을까?"라고 그는 의문을 품었다.

모사브는 이후 네게브에 위치한 이스라엘 교도소로 끌려가 구타와 고문을 당한 뒤 며칠 후 내쳐지듯 석방되었다. 나중에 밝혀진 그의 "범죄"는 구글 포토(Google Photos)와 함께 사용되던 IDF의 AI 안면 인식 소프트웨어에 의해 무장 세력으로 오인된 것이었다.

터미네이터의 미래가 지금 현실이 되다

자율 무기 체계를 금지하거나 제한하려는 여러 국제적 노력들이 진행되고 있다. 여기에는 킬러 로봇 금지를 위해 캠페인을 벌이는 250개 이상의 시민사회단체 연합, 군사 영역에서 책임 있는 인공지능(REAIM) 정상회의 같은 글로벌 논의 플랫폼, 그리고 유엔에서 AI와 무기 체계 자율성에 관한 결의안을 2년 연속 채택하기 위한 압도적인 지지가 포함된다. 하지만 이러한 유망한 개입에도 불구하고, 자율 살인 로봇의 멈출 수 없는 부상을 저지하기엔 이미 너무 늦었을지도 모른다.

Elbit Systems / TerminaTHOR™. 출처: Elbit Systems youtube영상 갈무리

미국은 정책 논의에서 “터미네이터 딜레마”로 알려진 문제를 언급하며 AI가 핵 지휘 및 통제 시스템에서 사용되지 않을 것이라고 보장했다. 하지만 미국은 중국과의 강대국 경쟁을 명분으로 내세우며 AI 군비 경쟁의 강도를 높이는 것을 정당화하고 있다. 이는 냉전 당시 소련과의 핵 군비 경쟁을 연상시키는 수사다.

9월, 중국은 선전(Shenzhen)에서 1만 대의 드론으로 구성된 드론 군집 쇼를 선보였다. 온보드 시스템과 원격 군집 AI의 조합으로 제어된 이 드론들은 밤하늘에서 완벽하게 동기화된 색상과 움직이는 이미지를 표현하며 무리 지어 나는 찌르레기를 연상케 했다. 중국이 이 규모의 드론 군집을 무기화한다면 어떤 미래를 예고할지 상상하는 것만으로도, 미국 군대가 유사한 규모로 드론을 배치하기 위해 AI를 채택하는 속도를 가속화할 가능성이 크다. 로버트 워크(Robert Work) 국방부 부차관은 2021년 이와 같은 질문을 제기하며 말했다. “만약 우리의 경쟁자들이 터미네이터를 개발하고, 터미네이터가 빠른 의사 결정을 할 수 있다면, 설령 그 결정이 잘못된 것이라 해도, 우리는 어떻게 대응할 것인가?”

이스라엘의 사례에서 보듯, 국가들은 이미 AI와 자율 살인 로봇을 군사 능력에 열정적으로 통합하면서도 그 존재를 공개적으로 부인하고 있다. 전쟁 범죄, 인종 청소, 심지어 대량 학살로 기소된 국가로서, 이스라엘은 국제사회에서 급격히 추락하는 위상에도 불구하고 세계에서 가장 도덕적인 군대라는 주장을 조롱하듯 태연한 모습을 보이고 있다. 이스라엘은 민간인 보호를 무시하고, 애초에 완전한 인간으로 간주되지 않는 이들에 대해 비인간적인 기계를 사용하는 선두에 서 있다. 베테랑 이스라엘 기자 기디온 레비(Gideon Levy)는 최근 이렇게 말했다. “팔레스타인인을 비인간화하면 도덕적 의심은 더 이상 존재하지 않는다.”

이스라엘 제조업체 엘빗 시스템스(Elbit Systems)가 자율 "탐지 및 공격" 기능을 갖춘 새로운 무장 드론에 “터미네이터”(TerminaTHOR)라는 이름을 붙였을 때, 아이러니는 죽었다고 할 수 있다.

40년 전 치명적인 자율 기계가 초래할 위험에 대한 공상 과학적 경고는 이 디스토피아적 비전이 우리의 새로운 현실이 되는 것을 막는 데 거의 영향을 미치지 못한 듯하다. 기술 설계 윤리학자인 사샤 코스탄자-촉(Sasha Costanza-Chock)은 최근 이렇게 적었다. “AI 시스템이 언젠가 우리 모두를 몰살시킬 수 있다는 공공연한 추측을 한다면, 지금 AI가 팔레스타인인을 몰살하는 데 사용되고 있는 방식에 대해 목소리를 내야 한다.”

[출처] The Terminator’s Vision of AI Warfare Is Now Reality

[번역] 하주영 

덧붙이는 말

아킬 N. 아완(Akil N. Awan) 박사는 런던 대학교 로열 할러웨이(Royal Holloway, University of London)에서 갈등, 폭력, 테러 연구 센터의 소장이자 부교수로 재직 중이다. 참세상은 이 글을 공동 게재한다.