- 본문 바로가기
- 주메뉴 바로가기
- 김윤명 역대 연구원
날짜2016.09.21
조회수15536
글자크기
- 다양한 네트워크의 연결에 의해 구조화될 인공지능에 대한 고민은 소프트웨어에 대한 이해와 인간에 대한 근본적인 철학적 질문으로부터 시작되어야 할 것이다. 이를 위해 ‘인공지능 로봇이 무엇인지가 아닌, 무엇으로 대우해야 할 것인지’라는 물음에서 출발해야 할 것이다.
인공지능의 책임 배분 논의
- 인공지능에 대한 책임논의에서 무엇보다 중요한 것은 스스로 자의식을 가질 수 있느냐이다. 자의식을 갖지 않은 이상, 의사결정이나 법률행위의 주체로서 역할을 부여할 수 있을지 의문이기 때문이다. 자의식이 없는 법률행위는 법률효과를 가져오기 어렵다. 인공지능의 행위도 마찬가지로 해석된다. 따라서 인공지능이 스스로 자신의 행위에 대해 인식하고 그 행위가 의도하는 바를 인식하기 전까지 법률행위 주체로서 논의는 무의미하다.
- 향후 인공지능이 자의식을 갖지 못한다는 보장이 없는 이상, 이에 대한 논의는 필요하다고 생각된다. 현재 상태에서는 의미가 없다고 하더라도, 향후 지능정보사회에서 인공지능이 탑재된 로봇은 어떠한 권리주체가 될 것인지 논의되어야 법적 대응이 수월하기 때문이다. 물론, 인간의 책임법리를 인공지능에 적용하는 것이 타당한 것인지는 논의가 필요하다. 이를 위해 인간과 인공지능의 중간 상태의 동물권에 대한 논의를 통해 인공지능의 책임법리를 검토할 수 있을 것이다.
동물권과의 비교
- 인공지능이 탑재된 로봇을 권리 주체(subject)로 볼 것인지에 대한 새로운 논의가 시작되고 있다. 인공지능의 권리 주체의 논의에서 로봇과 인간의 중간 단계에 있는 동물에 대해 살펴봄으로써 가늠할 수 있을 것이다.
- 기본적으로 야생동물을 제외한 가축으로서 동물은 해당 동물의 소유자가 소유권을 지닌다. 소유자는 법률의 범위 내에서 소유물을 사용·수익·처분할 수 있다(민법 제211조). 소유권의 객체(客體)는 물건에 한정된다. 로봇의 경우도 물건으로 이해되는 현행 법률상 소유자가 소유권을 갖게 되며, 사용하거나 수익, 또는 처분할 수 있는 권리를 갖는다.
- 동물의 행동에 따른 책임도 소유자(또는 점유자)에게 귀속된다. 동물은 「민법」 제98조에서 규정하고 있는 물건에 포함된다. 동물은 요구할 수 있는 의사표시(意思表示)를 할 수 없다는 점이 한계이나, 소유자와의 관계를 통해 의도하는 바를 전달할 수 있어 어느 정도 이를 극복할 가능성도 있다. 의사가 전달되는 수준의 관계성을 가진다고 하더라도, 동물은 권리 주체라기보다는 보호받을 객체로서 한정된다. 사회적 합의를 통해 동물권이 인정되더라도, 동물의 의사가 인간에게 전달될 수 있는 것은 아니기 때문이다.
권리의무의 주체로서 인공지능 로봇
- 헌법상 기본권의 주체는 국민 내지 인간으로 규정하고 있으며, 사인의 법률관계를 규정한 민법도 “사람은 생존하는 동안 권리와 의무의 주체가 된다”(제3조), “법인은 법률의 규정에 좇아 정관으로 정한 목적의 범위 내에서 권리와 의무의 주체가 된다”(제34조)고 규정하고 있다. 결국 자연인(自然人)인 사람과 의제된 법인(法人)만이 권리와 의무의 주체임을 알 수 있다.
- 실제로 자연물인 도롱뇽의 당사자 능력을 다룬 사안에서 법원은 “자연물인 도롱뇽 또는 그를 포함한 자연 그 자체에 대하여는 현행법의 해석상 그 당사자능력을 인정할 만한 근거를 찾을 수 없다.”(울산지법 2003카합982결정)는 이유로 부정한 바 있다. 이상과 같이, 헌법 등 법률과 판례의 입장에서 보면, 권리의 객체인 물건 등은 법률상 권리능력을 갖는다고 보기 어렵다.
- 인공지능 로봇은 사람의 형상을 가지고 있더라도 감정을 담고있지는 않다. 고통을 느끼지도 않는다. 물론, 고통을 프로그래밍할 수는 있을 것이다. 그렇지만 신경계의 통증을 유발하는 형태의 고통으로 보기는 어려울 것이다.
- 동물은 고통을 느낄 수 있기 때문에 동물을 고통으로부터 보호하기 위해 마련된 법률이 「동물보호법」이다. 동물에 대한 학대행위의 방지 등 동물을 적정하게 보호·관리하기 위한 것으로 동물의 생명보호, 안전 보장 및 복지 증진을 꾀하고, 동물의 생명 존중 등을 목적으로 한다.
- 이러한 입법은 동물권을 인정하는 것은 아니지만, 자연의 일부로서 동물에 대한 사회적 수용의 단계가 높아진 것으로 이해된다. 동법은 편면적인 의무로서 동물보호 의무를 사람에게 지우고 있으며, 인공지능 로봇도 어느 순간 보호받을 대상으로 규정될 가능성도 있다. 그 단계를 넘어설 가능성도 작지 않다. 현행 법제도 하에서 인공지능의 기본적인 책임은 인공지능 자체가 아닌 인공지능을 활용하는 이용자에게 있다. 문제가 발생한 경우, 인공지능이 탑재된 로봇의 본체를 정지시킬 수 있겠지만 소프트웨어로 구현된 인공지능의 문제에 대해서는 지속적인 업데이트를 통해 해결해 나갈 것이다.
- 결론적으로 법률이 사람이나 법인이외의 권리능력을 인정하지 않는 이상 인공지능이 사람의 능력을 넘어서거나, 사람의 형상을 가진다고 하더라도 권리와 의무의 주체로 보기 어렵다. 물론, 특이점을 넘어서는 순간부터 인공지능은 사람의 관여 없이 스스로 창작활동을 하거나, 발명하게 될 것이다. 현재로서는 사람이 관여하여 이루어지는 것이기 때문에 온전하게 인공지능이 권리를 갖는다고 보기 어렵다. 따라서 사람의 관여가 어느 정도인지에 따라 사안별로 판단될 것이다.
- 인공지능
- 월간SW중심사회 2016년 9월호
“우리가 로봇에 애착을 느끼게 된다면 우리는 이 로봇에 대하여 인간적인 감정을 가지는 것을 피할 수 있을까?”라고 미국 매사추세츠 공대(MIT)의 한 연구원이 질문을 한다.
아이들에게 로봇 장난감과 놀이를 하도록 만든 다음에 이 로봇 장난감에 고문을 가하도록 하는 실험을 수행하였다. 아이들은 비록 짧은 시간이었지만 로봇 장난감에 애착을 느끼게 됨에 따라 이 로봇 장난감을 파괴하는 것이 엄청나게 어렵다는 것을 발견하였다.
만약 로봇이 살아 있는 것처럼 보인다면 비록 우리가 이 로봇이 인공적이라는 것을 알지라도 이 로봇에 공감하게 된다는 아이디어에 연구자들의 의견이 수렴하고 있다.
로봇은 이미 우리들 사이에 살고 있다. 그렇다면 로봇은 인간과 같은 권리를 가져야 하는가? 우리가 로봇을 고문하는 것이 허용될 수 있을까? 이것은 마치 공상 과학 영화에서의 질문처럼 들릴 수도 있지만, 이는 그리 머지 않은 미래에 대답할 필요가 있는 종류의 질문들이다.
미국 매사추세츠 공대(MIT) 미디어 랩(Media Lab.)의 연구원인 케이트 달링(Kate Darling)은 진실로 실험하기를 좋아하며, 바보 같은 로봇에 끔찍한 일을 하는 것을 두려워하지 않는다.
케이트 달링 연구원은 심리학 실험의 일환으로 실험 참가자들에게 어린이를 위한 장난감 공룡인 플레오(Pleo) 로봇을 가지고 놀도록 제안하였다. 귀엽고 부드러운 플레오 로봇은 믿음직한 눈과 애정 어린 움직임을 가지고 있다. 당신이 포장 꾸러미에서 플레오 로봇을 꺼낼 때, 이 로봇은 갓 태어난 강아지와 같다. 플레오 로봇은 걸을 수 없고, 당신은 이 로봇에 모든 것을 가르쳐야 한다.
그러나 한 시간 정도의 포옹과 애착의 시간이 지난 후에 케이트 달링 연구원은 그녀의 태도를 바꾸었다. 케이트 달링 연구원은 실험 참가자들에게 칼, 손도끼 및 기타 무기를 쥐어 주고 자신의 장난감을 고문하고 사지를 절단하도록 지시하였다. 다음에 일어날 일은 우리의 예상보다 훨씬 더 극적인 것이었다고 케이트 달링 연구원이 말했다. 대부분의 실험 참가자들은 그녀의 지시를 거부했다.
케이트 달링 연구원에게 로봇 학대에 대한 우리의 반응은 중요하다. 왜냐하면 기계 시대라는 새로운 물결은 인간과 기계 사이의 관계를 재고하도록 우리들에게 강요하고 있기 때문이다.
케이트 달링 연구원은 한 강의에서 그녀가 수행한 플레오 로봇에 대한 실험을 설명하였을 때, 특정한 종류의 로봇을 학대하는 것은 조만간 사회적인 관점에서 폭력적이고 허용될 수 없게 될 것이라고 주장하였다.
케이트 달링 연구원은 심지어 우리가 `로봇 권리(robot rights)`를 필요로 할지 모른다고 믿고 있다. 얼마 전까지만 해도 로봇 권리라는 아이디어는 공상 과학 소설 작가의 수준에 머물고 있었다. 아마도 이것은 우리 주변에 있는 기계가 세련되지 못했기 때문이다. 아무도 토스터 또는 원격 제어 장난감 자동차를 버리는 것 때문에 걱정하지 않는다.
그러나 이른바 `사회적 로봇(social robot)`이라는 최신의 로봇에 관한 한, 이러한 상황이 변화되고 있다. 사회적 로봇은 마치 살아있는 것처럼 자율적인 거동을 나타내고, 관심을 보이고, 애완동물이나 아이처럼 행동한다. 이러한 행동들은 우리의 감정을 촉발시키고, 종종 우리는 어쩔 수 없게 된다고 케이트 달링 연구원이 덧붙였다.
2011년에 실시된 한 실험에서 아이들은 그들이 편안하게 느끼는 한 바비인형, 햄스터, 복슬복슬한 동물 모양의 말하는 퍼비(Furby) 장난감 등을 거꾸로 잡도록 요청을 받았다. 비록 아이들은 자신의 팔이 아플 때까지 바비 인형을 거꾸로 잡았지만, 꿈틀거리는 햄스터를 고문하는 일을 곧 중단했으며, 조금 있다가 퍼비 장난감에 대한 고문도 멈추었다. 아이들은 퍼비가 장난감이지만 이 장난감이 울면서 `나, 무서워요(Me scared)`라고 말하도록 프로그래밍된 방식을 견딜 수 없었다.
어떤 사람들은 자신의 진공청소기에 이름을 지어준다고 케이트 달링 연구원이 말했다. 병사들은 자신의 로봇에 메달을 수여하거나, 장례식을 치른다. 특히 케이트 달링 연구원은 지뢰를 밟아서 이를 해체하도록 만들어진 군사용 로봇에 대한 놀라운 사례를 인용하였다.
한 시험에서 폭발이 이 군사용 로봇이 가지는 대부분의 다리를 파괴하였고, 이 절름발이 로봇은 다리를 절뚝거리며 걷기를 계속하였다. 이러한 광경을 지켜 본 시험 책임자인 한 대령은 이것이 너무 `비인간적`이므로 그 시험을 중단시켰다.
또 다른 실험은 독일의 뒤스부르고-에센 대(University of Duisburg-Essen)의 연구자들에 의하여 수행되었다. 연구자들은 누군가가 질식시키고, 비닐 봉투에 집어넣고, 구타하는 것을 포함하여 애완 로봇을 고문하는 영상에 대한 사람들의 반응을 추적하였다. 연구자들이 측정한 생리학적 및 감정적 반응은 비록 사람들이 로봇을 보고 있다는 것을 인식하고 있었지만 기대했던 것보다 훨씬 더 강력했다.
출처 : //www.dailymail.co.uk/news/article-2515400/The-rise-machines-It-okay-torture-robot.html
자료를 가져가실 때에는 출처 KISTI 미리안 『글로벌동향브리핑』을 밝혀 주시기 바랍니다.