본문 바로가기 대메뉴 바로가기
닫기

전우정 교수, 한국 법학자 최초 군사 AI통제 과학적 도전 밝혀​
조회수 : 795 등록일 : 2024-11-08 작성자 : 홍보실

문술미래전략대학원 전우정 교수

< 문술미래전략대학원 전우정 교수 >

우리 대학 문술미래전략대학원 전우정 교수가 우리나라 법학자 최초로 세계 최고 과학 학술지인 네이처(Nature)의 자매지 ‘네이처 일렉트로닉스(Nature Electronics)'의 코리스판던스(Correspondance) 섹션에 군사 AI 통제의 과학적 도전에 관한 기고문을 게재했다고 8일 밝혔다. 

지난 9월 9일부터 10일까지 서울에서 개최된 ‘2024 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM 2024)'에서 군사 AI 거버넌스에 중요한 진전이 이뤄졌다. 우리나라 뿐만 아니라 네덜란드, 싱가포르, 케냐, 영국이 공동 주최국으로 참여한 이 회의에서 미국, 독일, 프랑스, 일본 등 61개국이 ‘행동을 위한 청사진(Blueprint for Action)'을 채택했다. 이후 두 개 국가가 추가로 동참해 현재 총 63개국이 채택하고 있다. 

전우정 교수는 이번 기고문에서 군사 분야의 AI 활용에 대한 이러한 원칙들을 과학적·기술적 조치로 실천하는 데 상당한 어려움이 있음을 강조했다. 이는 전 세계 과학계의 관심과 노력이 필요하다고 밝혔다. 

전 교수는 현대 전쟁에서 AI의 역할을 강조하며, AI가 육군, 해군, 공군뿐만 아니라 우주와 사이버 영역을 포함한 5개 군사 분야를 연결하는 핵심 요소라고 지적했다. AI는 신속 정확한 의사 결정, 물류 최적화, 작전 계획, 인공위성 영상 분석, 드론 공격 목표 식별, 리스크 평가 등을 통해 전투 효율성을 높일 수 있지만, 알고리즘 결함이나 상황 오판 등으로 인해 의도치 않은 결과가 발생할 위험도 존재한다고 설명했다. 

이러한 도전을 해결하기 위해 전 교수는 몇 가지 핵심 분야에서의 집중적인 연구와 국제 협력이 필요하다고 제안했다. 적군 AI 시스템과의 경쟁시 초(秒)를 다퉈 작전을 수행해야 하는 상황에서 의미 있는 인간의 통제를 보장하고, 핵 무기 통제 시스템에 AI를 통합할 때 발생할 수 있는 잠재적 리스크를 해결하며, 투명성과 작전 보안을 균형 있게 유지하는 설명 가능한 AI (eXplainable AI, XAI)를 개발해야 한다고 강조했다. 

자세한 내용은 다음 ‘네이처 일렉트로닉스' 링크에서 확인할 수 있다.

https://www.nature.com/articles/s41928-024-01275-0

https://doi.org/10.1038/s41928-024-01275-0

(기고문 제목: Scientific challenges in governing military AI) 

한편, 문술미래전략대학원 전우정 교수는 공군 예비역 대위로, 공군학사장교회 국제위원장으로 봉사하고 있다.

Nature Electronics기고문군사AI설명가능AI인공지능 전우정 인문사회융합과학대학 문술미래전략대학원
목록
관련뉴스