“AI 킬러 드론이 전장에서 인간 살해, 역사상 최초”…충격 폭로 나왔다 [밀리터리+]

인간의 감독 없이 완전 자율적으로 작동하는 드론이 전장에서 최초로 군인을 살해했다는 주장이 나왔다.

최근 우크라이나 드론 업체 에어로센터의 알렉산더 코카노브스키 CEO는 우크라이나 대사관이 주최한 행사에서 “2년 전 일회성 시험으로 우크라이나 전선에서 AI로 제어되는 ‘터미네이터 드론’ 10대를 투입했다”고 밝혔다.

코카노브스키 CEO에 따르면 쿼드콥터 형태의 해당 드론은 스스로 전선 방향으로 비행하도록 프로그래밍됐다. 약 10분 동안 3~5㎞를 이동한 뒤 ‘터미네이터’ 모드에 진입하면 AI 모델이 목표물을 직접 탐색하고 공격한다.

사용자는 단지 드론을 발사하기만 할 뿐 드론과는 어떠한 연결도 되어 있지 않다. 사용자가 드론에 장착된 카메라를 통해 현장을 보지도 못하고 적과 아군을 식별해 공격 명령을 조절할 수도 없다.

해당 드론은 터미네이터 모드 즉 완전 자율 살상 모드가 켜지는 순간 탑재된 AI 모델이 스스로 목표물을 수색·식별하고 이후 자폭 타격을 감행한다.

당시 해당 업체와 우크라이나군은 러시아군과 치열한 격전이 벌어졌던 바흐무트와 차시우야르 인근 전선에서 러시아 병사를 상대로 자율 살상 테스트를 수행했다. 사용자인 우크라이나군은 현장을 직접 볼 수 없었기 때문에 후에 해당 지역에 인간 조종 드론을 보내 피해 정도를 확인했다.

그 결과 군인 몇 명과 트럭 1대의 잔해가 확인됐다. 이후 우크라이나군은 AI 자율 드론이 인간 타격에 성공했다고 결론 내렸다. 다만 해당 테스트에 대한 영상 녹화본은 존재하지 않으며 우크라이나 국방부는 관련 질의에 공식 답변을 거부했다.

유엔 “우리 세계에 치명적인 AI 무기 시스템 안 돼”현재 우크라이나 정부는 목표물 공격의 최종 단계에서 AI 사용을 금지하고 있다. 가장 마지막 순간 적을 식별하고 제압하는 판단은 인간이 내린다는 의미다. 다만 그 이전 단계에서는 이미 수많은 AI 장비가 활용되고 있다.

코카노브스키 CEO는 “우크라이나 정부도 AI 발전 가능성을 인지하고 있다”면서 “규제를 완화할지 여부를 놓고 방산업체들과 논의 중”이라고 주장했다.





영국 과학 전문 매체 뉴사이언티스트는 지난 10일(현지시간) 코카노브스키 CEO의 ‘폭로’를 전하며 “전장의 AI는 방대한 정보 데이터 속에서 목표물을 선별하거나 무기의 특정 기능을 자동화하는 데 사용한다. 하지만 어느 단계에서는 인간이 개입하는 것이 일반적”이라며 “코카노브스키의 증언은 AI만의 판단으로 전투 중 사람이 사망했다는 가장 명확한 증거로 평가된다”고 전했다.

앞서 2023년 AI가 탑재된 우크라이나 공격용 드론이 인간의 도움 없이 목표물을 탐색하고 공격했다는 보도가 있었으나, 당시에는 보병이 아닌 전차 등의 군용 차량을 대상으로 운용됐으며 인명 피해도 확인되지 않았다.

뉴사이언티스트는 “인간의 개입 없이 살상을 수행할 수 있는 자율무기에 대한 공식적인 국제 금지 조약은 아직 없다”며 “현재 유엔은 이러한 무기가 전쟁에서 인간의 판단을 배제함으로써 국제 인도법과 인권법을 위반할 수 있다고 우려하고 있다”고 전했다.

실제로 안토니우 구테흐스 유엔 사무총장은 지난해 “우리 세계에 치명적인 자율 무기 시스템이 설 자리는 없다”고 지적한 바 있다.

AI, 피아식별 어디까지 가능할까전문가들은 기계가 스스로 인간을 판단해 살해하는 기술은 이미 오래전에 구현됐으나 아군과 적군 또는 민간인과 군인을 식별하는 기술에 이르지는 못했다고 지적한다.

미국 싱크탱크 전략국제연구소(CSIS) 산하 와드와니 AI 센터의 선임연구원이자 전 우크라이나 정부 고문인 카테리나 본다르는 기술 전문지 ‘IEEE 스펙트럼’에 “현재의 AI는 전차나 날아오는 샤헤드 드론은 정확하게 인식하지만, 러시아군과 우크라이나군의 군복 차이를 구별하거나 아군과 민간인을 분리 식별하는 능력은 갖추지 못했다”고 밝혔다.

이어 “군대가 인간의 개입을 100% 차단하고 기계에 완전한 통제권을 넘길 수 있기까지는 향후 최소 10~15년의 시간이 더 필요할 것”이라고 내다봤다.

목표 공격 과정 자동화에 열 올리는 세계 각국인간의 판단이 배제된 AI 무기에 대한 우려가 커지고 있지만 세계 각국은 목표 공격 과정의 일부를 자동화하는 장비 개발에 열을 올리고 있다.

미국은 방대한 데이터를 수집·분석해 전장에서 공격할 목표를 선정하는 소프트웨어를 보유하고 있으며 이론상으로는 인간의 최종 승인이 필요하다.

2021년 유엔 보고서는 튀르키예 기업이 제작한 카르구-2(Kargu-2) 쿼드콥터가 인간을 자율적으로 공격하는 데 사용됐을 가능성을 제기한 바 있다. 다만 보고서는 주장 출처나 인명 피해 여부에 대한 구체적인 정보는 제시하지 않았다.





러시아와 장기전을 치르고 있는 우크라이나는 올해 초부터 러시아군의 후방 보급로를 차단하기 위해 단거리 자율 유도 드론을 대량 투입했다. 조종사가 목표물 근처까지만 유도하면, 마지막 타격 단계에서는 AI 유도 모듈이 재밍을 무력화하고 스스로 표적에 정확히 내리꽂힌다.

러시아 역시 열화상 카메라와 상호 네트워크 연동망을 장착한 AI 탑재형 샤헤드 드론의 생산 가동률을 극대화하고 있다.

우크라이나 제3군단 제21독립무인체계연대의 고위 관계자인 다닐로 폴로주흐노 소령은 뉴사이언티스트에 “우리 부대도 반자율 제어 시스템을 사용하고 있지만 항상 인간이 최종 결정 과정에 참여한다”고 밝혔다.

생사 결정권을 기계에 넘길 수 있을까한편 AI의 반작용은 꾸준히 윤리적 문제를 야기해 왔다.

이번 사례가 사실로 확인될 경우 인간의 개입 없이 인공지능이 생사 여부를 결정하는 첫 사례 중 하나로 기록되며 자율 살상 무기를 둘러싼 윤리 논쟁이 한층 거세질 전망이다. 특히 목표 식별부터 공격까지 전 과정을 AI가 수행했다는 점에서 인간의 판단과 책임이 배제된 ‘킬러 로봇’ 시대가 현실화했다는 우려가 제기된다.

전문가들은 자율 무기가 민간인을 공격하거나 아군을 적군으로 착각할 경우 책임 소재를 규명하기 어렵다는 점을 가장 큰 문제로 지적한다.

AI가 전장의 효율성을 높일 수 있다는 평가도 있지만 인간의 생명을 기계의 알고리즘에 맡기는 것이 과연 정당한가를 둘러싼 논쟁은 더욱 확산할 것으로 보인다.

송현서 기자