1. AI가 스스로 공격하기 시작했다 이번 달 6일에 러시아가 우크라이나 동남부에 있는 자포리자라는 데를 드론으로 공격했습니다. 주유소에 있는 대형 프로판 저장 시설을 때렸는데 이 폭발이 크게 발생해서 안타깝게도 민간인 3명이 숨졌습니다. 하루에도 러시아가 드론만 수백 개씩 쏠 때도 있어서 그런 일반 드론인 줄 알았는데 이 드론을 수거해서 분석해 봤더니, 기존 드론과는 크게 다른 드론이었다고 합니다. 뭐가 다른지 봤더니, 우선 이 러시아 드론에는 교신용 안테나가 없었다고 합니다. 드론에는 원래 사람의 지시와 명령을 받는 안테나가 있어야 한다고 합니다. 그런데 이 드론에는 그게 아예 없었답니다. 어디 사라진 게 아니고 처음부터 그 교신용 안테나가 없는 것으로 제작된 것으로 보인답니다. 그 대신에 무엇이 있었냐면 엔비디아의 초소형 컴퓨터가 발견됐습니다. 젯슨오린이라는 건데 이 젯슨오린이 뭔가 찾아봤더니, 손바닥보다 좀 작은 크기의 보드에 엔비디아의 GPU를 얹어서 클라우드 서버에 연결하지 않고 독립적으로 운용 가능하게 만든 작은 컴퓨터라고 합니다. 엔비디아는 러시아에 이걸 판 적이 없다고 합니다. 아마도 재판매 아니면 재재판매가 됐을 것이라는 입장입니다. 그런데 러시아가 이 컴퓨터에 암호를 걸어두지 않아서 그 안을 살펴볼 수 있었다고 합니다. 그래서 그 안을 봤더니, 우크라이나의 지역 이미지와 그리고 심어둔 코드까지 볼 수 있었다고 합니다. 그 코드에는 우크라이나의 지형 데이터뿐만 아니라 특정 물체를 추적해서 타격하도록 미리 학습한 데이터까지 나왔다고 합니다 릴게임5드래곤 . 그러니까 우크라이나의 말이 맞다면 러시아는 인간의 조종을 받지 않고 사전에 입력해둔 지.으로 드론이 스스로 날아가서 타격하도록 학습시켜 둔 목표물 중에서 AI가 스스로 타깃을 골라서 공격하도록 했다는 겁니다. 이번에 공격 대상으로 학습된 게 에너지 저장 시설이었으니까 이 드론이 하늘에서 여기저기 날아다니면서 보다가 하나를 골라서 그걸 스스로 때렸다는 겁니다. 그야말로 AI가 스스로 공격하는 시대가 온 겁니다. 지금까지 드론을 운용하는 데 AI가 물론 사용돼 왔습니다. 하지만 목표물을 찾고 작전을 수행하는 데 보조적인 역할을 해왔지 실전에서 목표물을 스스로 설정하고 공격하진 않았습니다. 특히 이번처럼 살상용 AI 공격으로 인명피해가 났던 사례는 없습니다. 지금까지 최종 공격 대상 선정과 최종 공격 명령은 사람이 했습니다. 그런데 이제 이 사람 손을 거치지 않고 기계가 스스로 판단해서 사람을 공격하는 시대가 어느새 와버린 겁니다. 2. 드론 기술력, 우크라이나도 뒤지지 않는다 드론은 우크라이나도 러시아에 절대로 뒤지지 않습니다. 4년간 전쟁을 치르면서 절대적 전력 열세를 드론으로 극복했다고 해도 틀리지 않을 정도입니다. 지난주 열린 우크라이나 독립기념일 열병식엔 군인과 재래식 무기 대신에 무인 차량, 무인 항공기, 무인 수상정 등 각종 드론이 선보였습니다. 모바일 뉴야마토 아예 24년에는 세계 최초로 우크라이나에 드론 전담 군종이 생길 정도였습니다. 우크라이나도 마음만 먹으면 사람 개입 없는 살상용 AI 드론을 얼마든지 만들 수 있습니다. 만약 우크라이나와 러시아가 드론으로 서로 교전을 벌이는 상황이 벌어진다면 현재 원격 조종 드론 전투 단계에 머물러 있는 전쟁이 자율 교전 시스템 단계를 넘어서 AI가 통제하는 자율 드론끼리 벌이는 전투로 훨씬 빠르게 넘어갈 수 있다는 겁니다. 그야말로 미래 영화에서나 봐왔던 로봇이 인간을 대신해서 싸우거나 심지어 로봇이 인간을 죽이는 상황이 곧 현실화할 수도 있다는 겁니다. 3. 이제 DMZ도 안전하지 않다? 그래서 이건 좀 막아야겠다고 오래전부터 UN이나 국제사회 차원에서 규제 논의가 진행돼 왔습니다. CCW라고 특정재래식무기 사용 금지 및 제한에 관한 협약이라고 있습니다. 여기서 살상용 AI 규제를 논의하고 있는데, 무차별적인 민간인 피해를 양산하는 재래식 무기 사용을 좀 제한하자는 조약입니다. 그런데 살상용 AI 체계가 재래식은 아니지만, 민간인 피해가 커질 가능성이 매우 높기 때문에 이 조약으로 살상용 AI 무기 사용을 제한하려고 했습니다. 그런데 여러 나라가 동의하지 않았습니다. 특히 러시아 반대가 심했습니다. 그 이후에도 사람을 표적으로 하는 살상용 AI 무기 사용을 금지하자는 국제사회 논의가 진행돼 왔습니다. 하지만 번번이 러시아의 반대에 가로막혀 왔습니다. 지난 2024년에도 UN 총회에 유사한 안건이 올라왔습니다. 모바일 바다이야기예시종료 킬러 로봇 제안을 논의할 자리를 만들어 보자는 내용이었는데 161개 나라가 찬성했지만, 러시아는 또 반대했습니다. 북한도 반대표를 던졌습니다. 북한도 반대, 기권도 여러 나라가 했는데, 미국·중국·인도·이스라엘 등 주요 군사 강국들이 죄다 기권했습니다. 그리고 우리나라도 유보적인 입장이었습니다. 북한과 마주하고 있는 상황에서 DMZ 경계 임무를 。차적으로 사람이 아닌 로봇으로 넘겨야 하는 입장이다 보니까 자율살상무기 개발 반대에 무작정 동의할 수 없었던 겁니다. UN 사무총장은 오래전부터 자율살상무기 개발 규제가 필요하다고 강하게 주장하고 있습니다. 그리고 그는 그 예방 조치를 준비할 수 있는 시간이 이제 얼마 남지 않았다고 경고하고 있습니다. 그럴 만도 한 게 이미 살상용 AI 드론으로 사람이 죽는 일이 우크라이나에서 벌어졌습니다. 오는 11월에 스위스 제네바에서 CCW 회의가 다시 열립니다. 자율살상무기를 어떻게 규제할 것인지 조약을 만들 것인지 논의할 계획입니다. 그런데 문제는 이 기구가 만장일치 체제여서 러시아가 대놓고 반대하는 상황에서 구속력 있는 합의가 나오기는 좀 어려운 상황입니다. 또한 어렵게 합의를 만들어낸다고 하더라도 간단한 소프트웨어 업데이트로 기존 드론을 얼마든지 자율살상무기로 쉽게 바꿀 수 있다는 것도 문제입니다. 결국 인간을 대신하는 AI 로봇 간의 전쟁으로 가는 이 흐름은 핵무기를 막을 수 없었던 것과 같이 피하기 쉽지 않을 것으로 보입니다. 다만 마지막 방아쇠를 당기는 최종 선택을 기계에게 맡길 것인지 맡기지 않을 것인지를 두고 살상용 AI 무기 희생자가 발생할 때마다 거친 논쟁이 벌어질 것으로 보입니다. 3>