[편집자주] 트럼프 2기 출범, AI의 발달, 기후변화 등 글로벌 사회의 불확실성이 커졌습니다. <선데이 모닝 인사이트>는 매주 일요일 오전, 깊이 있는 시각과 예리한 분석으로 불확실성 커진 세상을 헤쳐나갈 지혜를 전달합니다.







사진제작=챗GPT



미국과 중국이 인공지능(AI)이 초래할 군사적 위험을 거버넌스 체계화를 통해 선제적으로 관리해야 한다는 주장이 제기됐다. 오션파라다이스예시

미국 싱크탱크 브루킹스연구소는 최근 홈페이지에 공개한 공동 보고서 '군사 분야에서 AI 거버넌스를 향한 단계들(Steps toward AI governance in the military domain)'을 통해 "미·중 양국은 군사 AI 기술 표준을 마련하고 충돌 억제를 위한 협력 거버넌스를 구축함으로써 AI가 유발할 바다이야기비밀코드 수 있는 군사적 위험을 줄일 수 있다"며 "그렇지 않을 경우 전 세계를 불안정하게 만드는 무제한 군비 경쟁으로 이어질 위험이 있다"고 경고했다.
보고서는 첨단 AI 모델이 무기체계, 정보·감시·정찰(ISR), 지휘통제 시스템에 통합되면서 군사 작전의 속도와 효율성이 크게 향상됐다고 설명했다. 그러나 동시에 시스템 오류, 오작동, 데이터 릴게임손오공 왜곡, 인간의 오판 등에 따른 민간인 피해와 조직 혹은 국가 간 충돌 위험도 커질 수 있다고 지적했다.
이에 보고서는 군사 AI에서 발생할 수 있는 기술적 오류의 원인을 규정하고 이를 통제할 구조적 합의가 필요하다고 제시했다. 군사 AI 오류는 △식별 가능한 오류 △식별 불가능한 오류 △의도치 않은 신호 왜곡 등으로 구분된다. 이들 AI 바다이야기고래출현 오류가 정부의 무모한 행동이나 오판과 결합될 경우 심각한 군사적 충돌로 비화할 수 있다는 것이다. 따라서 AI가 초래하는 군사적 위기의 원인과 우선순위를 설정하기 위한 '위험 중심 위계 구조'에 대한 합의가 필수라는 설명이다. 아울러 군사 AI의 자동화 수준에 따라 인간 통제 모델을 명확히 정의하고 핵무기 분야에서는 완전한 인간 개입 등을 보장할 필요가 있 야마토게임하기 다고 덧붙였다.
보고서는 군사 AI의 위험을 효과적으로 관리하기 위해선 정부 간 정치적 신뢰, 제도적 투명성, 책임 있는 거버넌스 구축이 핵심이라고 봤다. 특히 AI 군사기술의 선도국이자 기술 경쟁국인 미국과 중국은 이에 대해 특별한 책임을 지니고 있다는 점도 분명히 했다. 양국이 전략적 경쟁 관계에 놓여 있는 만큼 '안보 딜레마(상대의 의도를 불신해 군비 경쟁이 가속되는 상황)'를 완화하기 위한 단계적 신뢰 구축 조치가 우선돼야 한다는 것이다. 또 양국은 AI 관련 군사적 위기 상황을 '시작-행동-결과-대응'이라는 4단계 구조로 규정하고 각 단계에서 발생할 수 있는 위험을 줄이기 위한 공동 메커니즘을 구축할 것을 제안했다.
이와 함께 양국은 경쟁이 불가피하더라도 명확한 안보 '레드라인'을 설정할 필요가 있다고 조언했다. 군사 AI의 실존적 위험과 인간 통제권에 대한 상호 이해를 바탕으로 최소한의 기반을 마련하고 민감한 영역에서는 절제된 경쟁을, 그 외 분야에서는 교류와 협력을 병행해야 한다는 점을 강조했다. 특히 어떠한 위기 상황에서도 공식 소통 채널은 반드시 유지돼야 한다고 밝혔다.
국제적 협력 확대와 글로벌 차원의 AI 거버넌스 구축도 리스크 관리를 위한 필수 과제로 꼽았다. 향후 인간과 동일한 수준의 '범용 AI'가 군사 영역에 도입될 가능성을 고려할 때 △윤리적 기준 정립 △검증 가능한 통제 절차 마련 △투명한 기술 평가 등이 선행돼야 한다는 주장이다. 효과적인 제도화를 위해서는 집단적이고 조율된 글로벌 협력도 필요하다고 봤다. 나아가 유엔 등 다자기구를 통한 협력은 AI의 군사적 남용을 방지하는 국제 규범을 형성하고 개발도상국의 기술 격차를 해소하며 인류 전체의 안정성을 높이는 토대가 될 수 있다고 부연했다.
보고서는 "첨단 AI 기술이 접목된 군사력은 불안하고 복잡한 국제정세 속에서 인류의 생존을 위협할 수 있다"며 "책임 있는 선도국인 미·중 양국은 군사 AI의 기술적 메커니즘을 개선하고 글로벌 차원의 규범과 거버넌스를 강화함으로써 안보 딜레마와 군사적 충돌 리스크를 최소화할 수 있다"고 밝혔다.
최성근 전문위원 김상희 기자 ksh15@mt.co.kr 기자 admin@seastorygame.top