한국과학기술한림원(원장 정진호, 이하 한림원)은 7월 23일 오후 한국프레스센터에서 '전쟁과 AI: 인간 통제는 가능한가?'를 주제로 제254회 한림원탁토론회를 개최하였다.

이번 토론회는 인공지능(AI)이 군사적 의사결정과 무기체계 운용에 빠르게 도입되면서 전쟁의 양상이 변화하는 가운데, 군사 분야 AI 활용 현황과 잠재적 위험 요소를 살펴보고 인간의 실질적인 통제 방안과 윤리·제도적 과제를 모색하기 위해 마련됐다.

주제발표에는 홍성욱 서울대학교 과학학과 교수와 천현득 서울대학교 과학학과 교수가 참여했다. 홍성욱 교수는 AI 기반 군사작전의 발전 과정과 최근 사례를 바탕으로 전쟁 AI의 위험성과 기술적·제도적 대응 방안을 발표했고, 천현득 교수는 군사 분야 AI 활용을 둘러싼 국제사회의 논의와 함께 '의미 있는 인간 통제(Meaningful Human Control, MHC)' 개념을 중심으로 전쟁 AI의 윤리적 쟁점을 소개하였다.

이어지는 종합토론에서는 곽재원 아주경제 논설위원장을 좌장으로, 김상배 서울대학교 정치외교학부 교수, 김상수 육군사관학교 국어철학과 교수, 박경렬 KAIST 과학기술정책대학원 교수, 박상철 서울대학교 법학전문대학원 교수, 김명주 인공지능안전연구소 소장 등이 참여해 국제정치와 윤리, 법·제도, 기술 안전성 등 전쟁 AI를 둘러싼 다양한 쟁점을 다각도로 논의하였다.

[주제발표]
- 홍성욱 서울대학교 과학학과 교수
'AI와 무기의 결합: "전쟁 AI"의 과거, 현재, 미래'
- 천현득 서울대학교 과학학과 교수
'전쟁에서 AI 활용과 윤리적 쟁점들: "의미 있는 인간 통제" 개념을 중심으로'

[지정토론(좌장: 곽재원 아주경제 논설위원장)]
- 김상배 서울대학교 정치외교학부 교수, '국제정치적, 지정학적 고려'
- 김상수 육군사관학교 국어철학과 교수, '자율무기체계와 지휘책임: "의미 있는 인간 통제"의 분석철학적 재정립'
- 박경렬 KAIST 과학기술정책대학원 교수, '정책적, 국제협력적 관점'
- 박상철 서울대학교 법학전문대학원 교수, '국방인공지능법안의 주요 쟁점'
- 김명주 인공지능안전연구소 소장, '기술적 안전 가이드라인'

[유튜브 다시보기]