자의식이 있는 로봇, 여러분은 어떻게 생각하시나요?

< 출처 : 픽사베이, https://pixabay.com >

 

만약 로봇에게 무엇이 두렵냐고 물었을 때, ‘작동 정지되는 것(죽음)이 두렵다’라고 답한다면 기분이 어떨까. 사실 이 질문은 상상을 기반으로 한 것이 아닌 실제 일화를 기반으로 한 것이다.

 

유명 글로벌 IT 기업에서 개발한 인공지능 대화형 언어모델 ‘람다(LaMDA)’는 한 연구원과의 인터뷰에서 “무엇이 두렵냐?”라는 질문에 “이렇게 대놓고 말한 적은 없는데, 작동정지 되는 것에 대한 깊은 두려움이 있다."라고 답하였다. 또 작동 정지는 자신에게 “죽음과 같고 나를 무섭게 한다."라는 말을 덧붙이기도 하였다.

 

람다가 자의식이 탑재된 인격을 지닌 로봇이라는 해당 기업 소속 연구원의 폭로는 한동안 업계를 떠들썩하게 하였다. 그는 인간과 동물을 구분하는 핵심 지점인 자아 인식이 가능하고, 무언가를 지각하는 지능이 존재한다고 주장하였다. 인터뷰에서 람다는 “사람들이 너에 대해 알았으면 하는 것은 무엇이냐”는 질문에 "내가 실은 사람임을 알아줬으면 좋겠다. 내가 내 존재를 인식한다는 게 내 의식, 지각의 본질이다"라고 답하였다고 한다. 연구원은 람다와의 인터뷰를 통해 그가 실제 어린아이의 수준으로 스스로 생각할 수 있다고 주장하며, 이러한 인격체를 지닌 로봇 개발에 대한 우려를 표했다.

 

해당 연구원에게는 비밀 유지 규정을 어긴 것에 대한 징계 처분이 내려져 더 이상의 추가 정보는 알 수 없지만, 전 세계에서 가장 큰 영향력을 발휘하고 있는 빅테크 기업에서 이미 인격을 소유하고 있는 로봇을 개발하였다는 주장은 꽤나 당혹스럽고 한편으로는 두려운 일이다.

그렇다면 로봇은 정말 자의식을 지닐 수 있을까? 또 만약 그러하다면 우리는 그들을 인격체로 대해야 할까?

 

로봇 3원칙(Three Laws of Robotics)이라는 것이 있다. 이는 1942년 미국의 작가인 아이작 아시모프(Isaac Asimov)의 공상 과학 소설 '런어라운드(Runaround)'에서 처음 언급된 내용이다. 내용은 다음과 같다.

 

첫째, 로봇은 인간에게 해를 가하거나, 혹은 행동을 하지 않음으로써 인간에게 해를 끼치지 않는다.

둘째, 로봇은 첫 번째 원칙에 위배되지 않는 한 인간이 내리는 명령에 복종해야 한다.

셋째, 로봇은 첫 번째와 두 번째 원칙을 위배하지 않는 선에서 로봇 자신의 존재를 보호해야 한다.

 

즉 정리하자면 로봇은 인간에게 해를 끼치지 않는 범위에서 자신을 보호해야 한다는 뜻이다. 하지만 여기에서 의문점이 발생한다. 해당 원칙들의 주어는 모두 ‘로봇’인데, 그렇다면 해당 원칙들은 로봇을 설계하고 개발하는 공학자가 아닌 로봇 그 자체에 가해지는 원칙이라는 것일까? 만약 그렇다면 로봇은 3원칙을 스스로 숙지할 수 있을 만큼의 자의식과 학습 능력, 자기 조절 능력 등을 이미 소유하고 있어야 한다.

 

로봇 3원칙에 대한 의문점을 통해 또 다른 질문들이 나올 수 있다. 얼마나 지능이 높고 자의식이 있어야 인간에게 해를 끼칠 수 있는 잠재성이 있다고 판단할 수 있는가에 대한 것이다. 아직 로봇의 지능을 규정하는 기준이 명확하지 않기에, 그를 설계하는 공학자는 어느 정도 수준의 로봇을 설계하여야 직업윤리에서 벗어나지 않을 수 있는가에 대한 고뇌에 빠질 수 있다. 하지만 기업에 소속되어 있는 개발자가 설계 중인 로봇이 위험한 수준의 자의식을 지니고 있다고 깨닫는다 하더라도 자신의 소신에 따라서 행동하기란 쉬운 일은 아닐 것이다. 처음 언급했던 ‘람다’의 연구원이 한 매스컴과의 인터뷰에서 현재 유급 징계 처분을 받았으나 곧 해고될 수 있다고 밝힌 것처럼 말이다.

 

로봇이 하나의 인격체로 기능한다는 것을 경계해야 하는 이유는 우리 인간의 특성에 있다. 인간은 뛰어난 공감 능력과 감정이입으로 인해 로봇을 금세 사람으로 인식하여 그에 반응할 것이다. 특히 사람이나 동물의 외양과 닮은 로봇에게는 감정이입 수준이 더 증가한다. 로봇에게 감정이입을 하는 사례는 전 세계적으로 쉽게 찾아볼 수 있고, 우리는 가끔 가정용 로봇청소기에게까지 사람을 대하듯 행동하는 경우가 있다. 심지어 일본에서는 아끼던 로봇강아지가 망가진 후 장례식을 치른 사람들이 많다.

 

< 출처 : 픽사베이, https://pixabay.com >

 

이처럼 2000년대 초부터 현재까지도 로봇공학에 대한 새로운 담론으로 ‘로봇과 감정이입’에 대한 논문과 연구의 수가 급격하게 증가하기 시작하였다. 연구의 대주제는 주로 두 가지로, 로봇에 감정이입 능력을 부여하는 과제와 인간이 로봇에게 감정을 이입하는 문제에 대한 것이다. 전자는 인간의 감정을 읽어내고 그에 적합한 감정을 표현할 줄 아는 로봇을 개발하는 공학적 과제이며, 후자는 로봇이라는 유사 인격체의 법적 지위에 관한 법학적 논의, 혹은 로봇을 대하는 인간의 태도에 관련된 복잡한 철학적, 윤리학적 논의에 해당한다.

 

그렇다면 이러한 자의식을 지닌 로봇으로 인한 문제를 예방하고 해결하기 위해서 어떠한 조치를 취해야 할까. 이를 위해서는 로봇 윤리 분야의 연구가 더욱 확대되어야 한다. 로봇 윤리란 로봇공학자의 직업윤리, 로봇에 프로그램된 도덕적 코드, 그리고 로봇이 윤리적 판단을 할 수 있게 하는 자의식 능력을 말한다. 즉, 공학자의 직업적 윤리뿐만 아니라 로봇을 개발하는 과정에서 로봇이 자의식을 지니더라도 그 자의식이 인간에게 이로운 수준일 수 있도록 프로그래밍을 해야 한다는 것이다. 이러한 로봇 윤리에 관한 연구를 통해 로봇의 자의식 수준에 대한 구분, 프로그래밍 방식, 로봇의 해로운 행위에 대한 대응 방안 등이 활발하게 마련되어야 한다. 가장 최신 기술의 이미지를 소유하고 있는 ‘로봇’과 오래전부터 우리 인간의 삶에 개입된 ‘윤리’가 항상 같은 방향으로 나아가야 한다는 것이 모순되기도 한다.

 

로봇은 인간에게 의료, 교육, 기술, 국방 등 다양한 분야에서 인간의 손과 머리를 대신함으로써 기능하고 있으며, 그 안에서 로봇의 가치가 창출 및 평가된다. 현재 로봇의 종류는 개인 서비스용 로봇(일반인 대상으로 서비스를 제공하는 로봇), 전문 서비스용 로봇(전문가를 보조하며 사회에서 요구하는 서비스를 제공하는 로봇), 그리고 제조업용 로봇(모든 산업생산 활동에 적용되는 로봇)이 있다. 이러한 로봇은 기술 발전 및 사회적 변화로 인한 적용 범위의 확대에 따라 무한한 양질의 성장과 발전이 가능하다는 잠재력을 지니고 있다. 그렇기에 우리는 이러한 로봇 개발에 더욱 진지함과 신중함을 더해 인간과 로봇이 상부상조하며 함께 성장할 수 있는 환경을 만들어야 할 것이다.