"민간 부문은 국가안보에서 。. 더 중요한 역할을 맡게 됩니다. 하지만 정부가 깊이 이해하지 못하는 기술을 개발자들과의 지속적인 파트너십 없이 규제할 수 있다고 생각하는 것도 잘못입니다." 카렌 깁슨 전 미국 국가정보국 부국장은 지난 9일 서울에서 열린 세계신안보포럼(WESF) 참석차 방한해 진행된 아시아경제와의 인터뷰에서 인공지능(AI)과 사이버 기술의 이중용도 특성을 강조하며 이같이 말했다. 깁슨 전 부국장은 미 육군 중장 출신으로 33년간 복무한 정보·사이버 분야 전문가다. 미 국가정보국장실(ODNI) 국가정보부국장을 비롯해 미 중부사령부 정보국장과 미 육군 사이버사령부 부사령관 등을 역임했다. 퇴역 후 2021~2025년 미 상원 경위국장(Sergeant at Arms)을 지냈으며, 현재 CSIS 비상근 선임연구원으로 활동하고 있다. AI가 군사적 의사결정을 지원할 수는 있지만 핵무기 사용처럼 결과를 받아들일 수 없는 고위험 영역에서는 인간의 통제가 유지돼야 한다고 강조했다. 특히 최근 한국 정부 네트워크를 비롯한 국가안보 관련 시스템을 겨냥한 사이버 공격이 이어지는 상황에서 기존의 억지 개념만으로 사이버 위협에 대응하는 데 한계가 있다고 진단했다. 공격 주체를 특정하기 어렵고 국가뿐 아니라 범죄집단 등 비국가 행위자도 공격에 나설 수 있기 때문이다. 한국에는 모든 사이버 공격을 사전에 차단하는 것보다 공격을 받은 뒤에도 임무를 지속할 수 있는 '복원력(resilience)'을 강화해야 한다고 조언했다. 다음은 깁슨 전 부국장과의 일문일답. -민간기업이 국가안보 행위자가 된다고 보나. ▲인공지능과 사이버는 이중용도 성격을 갖고 있다. 정부가 이런 기술의 개발을 독。하고 있지 않고, 이러한 역량의 대부분은 민간 부문에서 나올 것이다. 그 결과 민간 부문은 국가안보에서 。。 더 중요한 역할을 맡게 된다 황금성9 . 하지만 민간기업에 이런 기술을 어떻게 보호할지에 관한 정책까지 스스로 만들라고 기대하는 것은 현실적이지 않다. 반대로 정부가 깊이 이해하지 못하는 기술을 실제 개발자들과 지속적인 파트너십 없이 규제할 수 있다고 생각하는 것도 잘못이다. 역할을 나눠야 한다. 산업계는 자신들의 기술을 이해하고 위험한 역량을 시험하며 모델을 보호하고 사고를 보고하는 역할을 해야 한다. 정부는 이러한 기술이 들어가는 전략적 시스템을 이해하고 경계를 설정해야 한다. 인간의 의사결정 권한을 보존하고 사회적으로 어떤 위험을 받아들일 수 있는지도 결정해야 한다. 둘 사이의 파트너십이 필요하다. -AI가 군사적 판단을 대신할 수 있는 범위는 어디까지라고 보나. ▲기계가 결정을 내려도 안전한 영역이 있고, 기계가 결정을 내리도록 해서는 절대로 안 되는 영역이 있다. 위험과 결과가 낮은 경우에는 기계가 결정할 수 있다. 다른 영역에서는 인간의 감독이 필요하다. 핵무기 사용과 같이 반드시 인간의 통제 아래 남아 있어야 하는 영역도 있다. 기계를 의사결정자로 만드는 것이 아니라 인간과 기계가 팀을 이루고 기계가 인간의 의사결정을 지원하도록 해야 한다. 그 결과를 받아들일 수 없는 영역에서는 기계나 AI가 독립적으로 행동하지 못하도록 안전장치를 구축해야 한다. -핵무기 사용은 명확한 '레드라인'인가. ▲그것은 아주 명확한 레드라인이다. 핵무기와 관련한 결정은 반드시 인간이 내려야 한다. 인구가 밀집된 도시처럼 많은 민간인과 무고한 비전투원이 있는 곳에서도 기계가 그런 결정을 내리도록 허용하지 않을 것이다. 반면 전투원만 존재하는 전장이라면 기계가 결정을 내리는 것이 허용될 수 있는 영역일 수도 있다. 중요한 것은 어떤 영역에서 기계의 결정을 허용하지 않을 것인지 정하는 것이다 인터넷바다이야기 . -AI가 민간인과 전투원을 구별하는 판단까지 맡을 수 있다고 보나. ▲AI가 인간의 판단을 대신하도록 허용해서는 안 되는 영역이 많이 있다. 물론 기계가 판단해도 괜찮은 때와 장소는 있다. 결과가 미미한 경우에는 기계의 판단을 신뢰할 수 있다. 하지만 기계를 신뢰하지 않을 영역들도 있다. 그런 영역에서는 반드시 인간의 판단이 유지돼야 한다고 요구해야 한다. 각각의 기계 기반 결정이 가져올 위험과 결과를 평가하는 것에서 시작해야 한다. -AI·사이버·핵이 결합할 때 가장 우려하는 부분은. ▲이 세 기술의 결합을 이야기한다면 데이터가 오염되거나 손상될 수 있는 상황을 우려하기 시작할 것이다. AI로부터 받는 답에 대해 '건전한 회의감(healthy skepticism)'을 유지해야 한다. 두 극단을 피해야 한다. 하나는 AI가 제공하는 내용을 100% 믿고 전혀 의심하지 않는 '자동화 편향(automation bias)'이고, 다른 하나는 AI가 내놓는 것을 아무것도 믿지 않는 '자동화 거부(automation rejection)'다. 판단을 내리는 역할을 전적으로 AI에 넘겨버릴 수 없다. 인간의 판단 능력을 계속 사용해야 한다. -대만해협 충돌 시 중국이 상업 저궤도 위성망을 교란하려 할 것으로 보나. ▲아마 그렇게 하려고 할 것이라고 본다. 다만 그것이 가장 큰 우려인지는 모르겠다. 대만이 인식하고 중복성과 복원력을 갖춘 역량을 구축해야 하는 문제다. 대량으로 운용할 수 있는 저비용 시스템의 장. 가운데 하나는 통신 역량을 완전히 차단하기 어렵게 만든다는 .이다. -최근 한국 정부 네트워크를 비롯해 국가안보 관련 시스템을 겨냥한 사이버 공격이 이어지고 있다. 미국에서도 중국과 연계된 해커들의 정부기관·핵심 인프라 공격이 공개됐다. 파칭코종류 국가가 첨단 AI 에이전트를 사이버 작전에 활용하게 되면 기존 사이버 억지 전략이 여전히 효과적일까. ▲사이버 억지는 많은 정부가 발전시키기 위해 고심해온 문제다. 핵무기에 사용하는 억지 전략이 사이버에도 그대로 적용될 수 있다고 보는 것은 완벽하지 않은 비유다. 사이버 공격을 하는 모든 주체가 국가 행위자인 것은 아니다. 범죄세력도 있고 랜섬웨어 조직도 있다. 또 사이버 공간에서는 공격 주체를 특정하는 귀속(attribution)의 문제가 있다. 누가 공격했는지 항상 알아낼 수 있는 것은 아니며, 이것이 억지를 복잡하게 만든다. 공격적 사이버 활동은 항상 일어나고 있다. 핵무기의 교환은 매우 파국적이고 이분법적인 사건인 반면 우리는 악의적인 사이버 활동에 항상 노출돼 있다. 다른 영역의 억지 개념은 사이버 영역으로 쉽게 옮겨지지 않는다. -공격 주체를 특정하기 어려운 것이 사이버 억지를 약화시킨다는 의미인가. ▲분명히 상황을 복잡하게 만들고 억지를 더 어렵게 한다. 공격자가 자신이 식별되지 않을 것이라고 알고 있다면 억지 효과는 별로 없을 것이다. -그렇다면 한국이 시급히 강화해야 할 사이버·AI 안보 역량은 무엇인가. ▲사이버 공격을 완전히 막을 수 있다고 생각하는 것은 현실적이지 않다. 그것은 달성하기 불가능할 정도로 높은 기준이다. 모든 교란을 완전히 예방하려 하기보다 교란이 발생하더라도 임무 수행 자체가 완전히 불가능해지지 않는 복원력 있는 시스템을 확보해야 한다. 중복성(redundancy), 분산(dispersion), 대체 통신수단, 분산형 우주 아키텍처(proliferated space architecture), 강화된 시설(hardened facilities), 분산형 군수체계(distributed logistics), 신속한 재구성(rapid reconstitution)이 필요하다. 성능이 저하된 환경(degraded environment)에서도 계속 작전할 수 있는 능력도 잊어서는 안 된다. 000000; fo