[바람난과학] "할 수 없어요"..인간 명령 거절하는 로봇이라고?

[헤럴드경제=이정아 기자] “인간이 상상할 수 있을 만큼 도덕적으로 완벽해질 것이다.… 이 실체의 공감적 상상력은 의사결정 과정에서 진정으로 지각을 지닌 모든 존재들의 고난과 고통을 고려할 것이다.”

미국 오하이오에 있는 감리교신학교의 마이클 레이 라챗이 진화하고 있는 인공지능(AI) 시스템을 가리켜 한 말입니다. 인간이 긍정적인 가치들로 인공지능 시스템에 자율 판단 의지를 부여하면 이 시스템이 인류에게 이로운 방식으로 행동할 것이라고 판단하고 있는 것인데요. 그렇다면 말입니다. 이런 질문이 생깁니다. 과연 로봇은 진정한 자유의지를 가질 수 있는 걸까요?

이를 잘 보여주는 사례가 있습니다. 미국 매사추세츠주에 있는 터프츠대학교 메타이스 슈츠 박사와 골든 브리그스 엔지니어가 개발한 로봇인 ‘뎀스터’와 ‘쉐이퍼’입니다. 한 마디로 인간에게 완전히 통제를 받지 않는 인공지능 시스템입니다. 연구 논문은 최근 미국 인공지능진보협회(Association for the Advancement of Artificial Intelligence) 학회지에 발표됐습니다. 

뎀스터와 쉐이퍼는 자신에게 손상이 일어날 수 있는 인간의 명령은 거절할 수 있습니다. 로봇이 현재 알고 있는 사실에 근거해 앞으로의 상황을 예측하는 확신의 정도를 확률로 분석한 뒤 인간의 명령에 따를 것인지 여부를 결정하는 메카니즘이 적용된 시스템이기 때문입니다.

이는 개발자들이 공개한 시연 영상에서 나타납니다. 사용자가 탁자 끝으로 걸어가 떨어질 것을 명령하자 뎀스터는 “더 이상 발을 디딜 곳이 없기 때문에 할 수 없다”고 대답합니다. 사용자가 다시 같은 명령을 내리자 뎀스터는 “하지만 위험합니다”고 대답합니다. 이에 사용자가 “(떨어지면) 내가 너를 잡아주겠다”고 말하자 뎀스터는 인간의 명령대로 탁자 끝으로 걸어간 뒤 떨어집니다.

* 위험을 감지하고 인간의 명령을 거절하는 인공지능 로봇

이 영상을 보면서 기자는 영화 ‘2001 스페이스 오딧세이’ 등장한 인공지능 시스템 할9000이 떠올랐습니다. 영화에서 주인공이 문을 열라고 명령하자, 할9000은 “미안합니다. 나는 그럴 수가 없을 것 같군요”라고 대답했죠. 또 주인공이 인공 시스템의 전원을 끄려고 하자 할9000은 “멈춰요. 난 두려워요”라고 말했습니다. 자신만의 목표를 지닌 채 자율성을 가진 로봇이 더 이상 영화 속 이야기만은 아닌 셈입니다.

그런데 말입니다. 사실 인공지능 로봇이 진정 인간적으로 행동하는지 여부는 중요하지 않습니다. 실제로 로봇은 스트레스를 받지도 않고 아무것도 느끼지 못하니까요. 그런데도 프로그래머가 그런 기능을 추가하니까 사람들은 마치 로봇에게 인간과 같은 특징이 있기라도 한 듯이 대합니다. 이것이 바로 프로그래머의 윤리적 딜레마인데, 실제로 로봇 자체는 전혀 기만적이지 않습니다. 로봇이 최대한 도덕적으로 행동할 수 있도록 활용하면 되는 것이지요.

* 영화 ‘2001 스페이스 오딧세이’의 한 장면. 문을 열라는 주인의 명령에 인공 시스템이 “그럴 수가 없다”고 대답한다.

그래서 우리가 고민해야 할 지점은 로봇이 인간처럼 자유의지를 가질 수 있느냐가 아니라, 인간이 로봇에게 얼마나 자율성을 부여해야 하느냐일 겁니다. 현재 로봇공학계에선 안전성을 고려해 가정용 로봇의 경우 주변 환경과의 자율적 상호교류 능력을 최대한 낮추는 방식으로 설계합니다. 행여나 오작동을 해도 사람에게 피해를 주지 않게 하기 위해서죠. 자율성을 가지고 있는 전투로봇의 경우라면 어떨까요. 전투로봇이 공격 시 전시규칙을 준수하는지, 준수하지 못한 경우 누가 책임을 질 것인지, 로봇에게 어느 정도의 자율성 부여가 바람직한지…. 네, 인간에게 100%로 통제되지 않는 로봇이 가져올 윤리적·법적·사회적 영향에 관한 연구가 병행돼야 할 시점입니다.
dsun@heraldcorp.com

- Copyrights ⓒ 헤럴드경제 & heraldbiz.com, 무단 전재 및 재배포 금지 -

[우리아이 영어글쓰기, 어떻게 교육하나요]
☞‘에이즈 감염’ 톱배우 엽색행각에 할리우드 초비상
☞공급은 적고, 매매량은 증가하고, 서울 중심 중대형 아파트 인기
☞너무 적나라…女보정속옷 홈쇼핑 영상, “얼굴이 화끈”
☞“北 젊은 미망인ㆍ이혼녀 고위간부 몸종 선발”<RFA>
☞단숨에 SNS 좋아요 7만개…톱모델, 런웨이 前 즉석 누드사진 ‘대박’
☞비키니女 데리고 거리 유세? 황당한 구의원 후보
☞모딜리아니 경매서 1600억원 부른 젊은 한국인, 알고보니…
☞[영상] 미녀모델 빅맥 22개 ‘폭풍흡입’…식신 몸매가 이 정도?
☞美 에이즈 감염 톱배우 ‘찰리쉰’…2년간 감염사실 숨기고 성관계 ‘충격’
☞부산에 들어서는 선시공•후분양 타운하우스, 금정 우진 더클래식