"AI자율무기체계 '오작동' 위험성…인간의 개입 보장해야"

(서울=뉴스1) 허고운 기자 = 우리 군이 운영 중인 무기체계 획득제도가 인공지능(AI) 자율무기체계의 시험평가의 효과적 수행엔 제한사항이 있어 보완이 필요하다는 분석이 제기됐다.


1일 한국국방연구원(KIDA)에 따르면 정하교·박상현·이동연 연구원은 최근 'AI 자율무기체계 시험평가의 도전요인과 시사점'이란 제목의 '국방논단' 기고를 통해 이같이 밝혔다.

AI 자율무기체계는 각종 센서를 통해 상황을 인지하고, 탑재된 AI 알고리즘에 따라 작동한다는 점에서 기존 무기체계와 차이가 있다. 취약점을 노리는 적대적 세력의 위협, 전장환경의 불규칙성에 따라 오작동이 발생할 경우 아군은 물론 민간에도 의도하지 않은 피해를 줄 수 있다는 우려도 나온다.


우리 군은 과학기술강군을 목표로 '국방혁신 4.0' 계획을 수립한 상태이지만, 이 계획상 AI 자율무기체계를 어떻게 시험평가하고, 그 안전성을 시험평가 및 운용 간 어떻게 보장할 것인지에 대한 계획은 명확히 세우지 않은 상태다.

연구원들은 "시험평가의 기준이 되는 작전운용성능(ROC) 설정에 있어 AI 자율무기체계의 경우 인지하는 상황에 따라 스스로 어떠한 작동을 할지를 결정한다는 자체가 새로운 방식의 ROC 설정을 요구한다"라며 "정량적 측정으로 ROC 충족 여부를 판별할 수 있었던 기존 무기체계와는 차이를 보인다"라고 설명했다.


이들은 또한 "시나리오에 따라 혹은 같은 시나리오에서도 다른 기능과 능력을 다른 방식으로 작동할 수 있다"라며 "실제 운용환경에서 무기체계의 오작동으로부터 아측의 안전을 보장하기 위해선 가능한 모든 상황에서 무기체계의 작동을 평가할 필요가 있다"라고 조언했다.

실제로 소형무장헬기 공대지유도탄 '천검'은 사수의 개입이 불가능할 경우 AI가 자율적으로 표적을 인식하고 공격하는 기능을 갖춘 것으로 알려졌다.


연구원들은 현시점 우리 군이 AI 자율무기체계 안전성을 높일 수 있는 단기적 방안으로 "개방 중인 체계의 의사결정 및 작동에 있어 인간의 개입을 가능하게 해야 할 것"이라고 제시했다.

이들은 "AI 자율무기체계의 안전한 운용을 보장할 수 있는 시험평가 체계가 현재는 마련돼 있지 않다"라며 "작동이 인간의 개입 및 통제하에 있다면 오작동으로 인한 부작용을 어느 정도 막을 수 있을 것"이라고 설명했다.

연구원들은 또 "중장기적으로는 현재의 획득제도 내에서 AI 자율무기체계를 어떻게 개발 및 시험평가할 것인지에 대한 논의가 필요하다"라며 "새로운 조직 내에서 AI 자율무기체계의 효율적이면서도 안전한 개발, 시험평가, 운용을 담보할 수 있는 기능을 고려할 필요가 있다"라고 밝혔다.

아울러 "도입된 AI 자율무기체계를 전장에서 활용하는 것은 현역장병들"이라며 "장기적으로 이들 중 일부를 AI 과학기술 인재로 육성해 AI 자율무기체계 시험평가 과정에 참여시켜 현장의 지식과 애로사항을 반영해 진보된 무기체계를 획득하는 데 일조하는 선순환도 기대해 볼 수 있을 것"이라고 강조했다.