암살·공습 최적화 '킬러로봇' 악당 손에 들어가면?

석학 1000여명 반대 서한

"암살·국가전복·특정인종 겨냥 선택적 살해에 최적화된 무기 초기단계서 강력한 규제 필요 글로벌경쟁 시작부터 막아야"

스티븐 호킹, 스티브 워즈니악, 일론 머스크, 놈 촘스키 등 천재 과학자와 석학 1000여 명이 27일 서한을 통해 제시한 '킬러 로봇' 개발 경쟁으로 인해 인류에게 닥칠 미래는 암울하기 짝이 없다.

이들은 서한에서 "인간의 개입 없이 사전설정된 기준에 맞는 목표물을 선택해 공격한다는 점에서 자동화 무기(Autonomous weapons)는 먼 곳에서 인간이 조종하는 무인기(드론)나 크루즈 미사일과 다르고, (우라늄 등) 값비싸고 희귀한 자원이 필요하지 않다는 점에서 핵무기와도 다르다"고 규정했다.

인간의 생명을 희생시키지 않으면서도 전천후 전투능력을 갖춘 자동화 무기야말로 "암살, 국가전복, 특정 인종집단을 겨냥한 선택적 살해 등에 최적화된 무기"라는 것이다. 따라서 일단 개발만 되면 "암시장을 통해 테러리스트, 독재자, 인종학살을 원하는 군벌의 손에 들어가는 것은 시간문제"라고 주장했다.

이들은 "오늘날 인류의 핵심문제는 인공지능(AI) 무기 개발을 위한 글로벌 경쟁을 시작할 것인가, 아니면 시작 자체를 막을 것인가 여부"라면서 "메이저 군사 파워(강대국)가 AI무기 개발에 나설 경우 글로벌 경쟁이 불가피해진다"고 경고했다.

학자들이 이번 서한에서 강조하고 있는 것은 AI 자체에 대한 반대가 결코 아니다. AI 자체는 인류에게 큰 도움을 줄 수 있는 기술이지만, AI를 이용한 킬러 로봇은 인류의 미래에 비극을 초래할 수도 있기 때문에 반드시 통제해야 한다는 것이다.

이들은 서한에서 "화학자, 생물학자들이 화학무기, 생체무기 개발에 관심이 없는 것처럼 대다수 AI 연구자들은 AI무기에 관심이 없다"며 "AI무기 개발주의자들이 AI분야의 연구풍토를 흐리고 대중의 저항감을 불러일으키는 것을 원치 않는다"고 주장했다.

또 "화학자들이 화학무기금지협약을 지지하고 물리학자들이 핵무기 및 레이저 무기의 금지 및 개발규제를 지지하듯, AI 학자들은 AI무기 개발의 금지 및 개발규제를 촉구한다"고 밝혔다.

학계와 국제사회가 무분별한 킬러 로봇 개발 경쟁에 대해 우려를 제기한 것은 이번이 처음은 아니다.

호킹과 머스크는 지금까지 여러 차례 AI가 초래할 인류멸망 가능성을 경고한 적이 있다. 지난 6월 영국 런던에서 열린 AI 좌담회에 참석한 옥스퍼드대 인간미래연구소의 스튜어트 암스트롱 박사는 미래 로봇들이 AI에서 한발 더 나아간 전반인공지능(AGI)을 지니게 될 경우, 인간에게 '의도치 않게' 치명적인 위협을 가할 수 있다고 주장하기도 했다.

유엔 차원에서도 킬러 로봇의 개발규제협약을 제정하기 위한 시도가 진행되고 있다. 유엔은 2013년과 2014년 두 차례나 관련 회의를 열었고 보고서를 발표하기도 했다.

미국, 영국, 이스라엘 등 전쟁용 로봇 개발에 적극 나서고 있는 국가들은 실제 전투에 투입하기까지 아직 먼 이야기이고, 기존 무기 관련 협약의 범주하에서 개발이 이뤄지기 때문에 별도 심의나 협약이 불필요하다는 입장이다. 하지만 비판론자들은 적어도 20년 이내 킬러 로봇이 현실화될 가능성이 있는 만큼, 초기 단계에서 확실한 규제조항을 마련해야 한다고 주장하고 있다.

파이낸셜타임스, 가디언 등은 이번 서한을 계기로 킬러 로봇을 둘러싼 윤리성 논란이 한층 더 가열될 것으로 전망했다.

오애리 선임기자 aeri@munhwa.com

[Copyrightⓒmunhwa.com '대한민국 오후를 여는 유일석간 문화일보' 무단 전재 및 재배포 금지( 구독신청:02)3701-5555/ 모바일 웹:m.munhwa.com)]