이 글은 1999년, 인공지능에 관한 이해를 높이기 위해 일반인을 대상으로 쓴 설명문입니다. 그러므로 나이브한 전개나 논리적 비약이 많을 것입니다. 만약 이 글을 통해 인공지능의 진짜 문제들에 대해 관심이 생긴다면, 다른 글들을 읽어주시기 바랍니다.
0.기본 가정들 - 이해를 돕기 위하여.
저는 기본적으로 다음과 같은 사상적 배경으로 논의를 진행할 것입니다.
첫째, 세상에 영혼이나 기, 생명력 등의 신비주의적인 요소는 존재하지 않는다. - 그러므로 철저히 유물론적이고 환원적(?)으로 접근합니다. 또한 인간을 다른 동물과 근본적으로 다른 존재로 보지도 않습니다.
둘째, 인간의 사고과정을 포함한 모든 현상은, 물리학적인 방법으로 분석(적어도 표현)될 수 있다. - 즉 철저한 인과율에 따른 결정론적 입장입니다. 여기서 양자적 수준의 불확정성효과는 무시합니다.
셋째, 지능이란 기본적으로 ‘특정 목적을 위한 일반적 문제해결 능력’으로 정의한다. - 즉, 저는 존재할지도 모르는 모든 일반적인 형태의 지능이 아니라, 인간수준, 혹은 그 이하의 현존하는 지능형태에 관해서만 언급할 것입니다.
넷째, 생명체는 진화하였다. - 모든 생명체의 구조와 기능(지능 역시)은 자연적으로 진화되어 발달해 온 것입니다. 그러므로 몇몇 부분에서 진화의 흐름을 타고 지능을 추적할 것입니다.
다섯째, 인간에게 가능한 기능은, 이론적으로는 구현 가능하다. - 우리는 ‘인간’이란 완성품에 대한 reverse engineering을 추구하는 것이기 때문에, 최소한 ‘정답’이 존재하는 문제를 해결하려고 시도한다는 믿음을 가질 수 있습니다.
1. 이유들 - 어느 세일즈맨의 이유
장기 둘 줄 아십니까?
장기의 룰이 많죠.. 차는 직선으로 가구, 포는 뛰어넘고, 졸은 앞으로만 전진...등등.
하지만 그 많은 룰들은 실은 하나의 목적을 위한 겁니다. 즉 왕을 잡기 위한 수단일 뿐이죠. 사실 장기의 모든 말들과 규칙과 작전들은 결국 ‘왕을 잡는다’라는 단일 목표를 위한 수단입 겁니다. - 그런데, 과연 왕을 잡는 게 장기의 목적일까요?
더 근본적인 목적이 있습니다. 사실 장기의 목적은 ‘이기는 것’이죠. 왕을 잡는 것은 결국 이기기 위한 수단입니다. 물론 장기의 경우에는 ‘왕을 잡는것’이 ‘이기는 것’과 같지만 - 예컨데 바둑의 경우, ‘집을 많이 내는 것’이 목적이지만, 사실 집이 적게 나더라도, 많이 따먹어서 이길 수 있다면, 그게 더 바람직한 방법 아니겠습니까? 집을 많이 내고 지는 것보다, 집이 적게 나더라도 이길 수 있다면, 그게 바둑을 잘 두는 것이지요. 즉, 이기는 것이 게임에서의 룰보다 더 ‘게임의 목적’에 가깝다는 겁니다.
하지만 사실 장기의 목적은 ‘이기는 것’이 아닙니다. 더 근본적인 목적이 있죠. 그것은 바로 ‘즐거워지는것’입니다. - 장기를 비롯한 모든 게임의 목적은 사실 이겁니다. 재미있을라구 하는 거지요. 장기를 기껏 두고 싸워서 기분 나쁘거나, 엄청 지저분한 방법으로 해서 짜증이 난다면, 누가 게임을 하겠습니까? 게임을 통해 즐거운 시간을 보내는 것 - 이것이 사실 장기의 근본적인 목적이 되는 셈이죠. 그러니까 그 모든 장기말들의 룰과 전략은, 결국 ‘즐거움’을 위한 수단일 뿐입니다.
조금 더 파고들어볼까요? 그러면 ‘즐거워지는 것’은 무엇 때문일까요? 더 근본적인 이유가 존재하는 걸까요? - 짐작하셨겠지만, 분명히 이유가 있습니다. 놀이를 하는 것, 즉 유희란 스트레스 해소라든가, 혹은 일상의 생활을 윤택하게 하기 위한 수단입니다. (노는 것도 너무 많이 하면 지겹죠.^^;) 비교적 간단히 말하자면 승부욕, 자기능력의 발휘, 일상의 스트레스 해소, 혹은 인간관계의 유지등 여러 가지 이유들이 복합적으로 작용하여 사람으로 하여금 놀이를 하게 하는 것입니다.
그렇다면 그런 이유들도 또 이유가 있을테지요... 예컨데 승부욕같은 것은 무엇을 위한 걸까요? - 그것은 아마도 오랜 진화의 역사를 통해 필연적으로 습득하게 된 욕구일 겁니다. 인간은, 특히 남성은 늘 식구나 부족을 위해서 먹이를 구하고 안전을 지키는게 역할이었죠. 그러므로 그러한 능력이 보다 강한 남자가 더 인정받고, 선호되고, 남들보다 권력을 갖거나 예쁜 여자를 얻을 수 있었습니다. 그러니 자연히 경쟁을 하게 되는 거지요. 그러한 경쟁심리가 승부욕이라는 형태로 발전한 것입니다. 뭐, 쉽게 추측이 가는 과정이지요. - 하지만 우리의 질문은 아직 끝나지 않습니다. 그러면 왜 남들보다 우월해지려고 하는가?
인간이 남보다 우월해지려는 이유는 재미있게도 ‘자식을 많이 퍼뜨리기 위해서’입니다. - 사실 인간의 모든 행위를 분석해보면 대부분 이 이유 때문이지요. 예를 들어 볼까요? 셀러리맨이 영어학원을 다니는 이유는? -> 영어실력을 높이기 위해서 -> 직장영어시험에 패스하려고 -> 직장에서 안 짤릴려고 -> 월급을 계속 받으려고 -> 생계비를 마련하기 위해서 -> 가족들 먹여 살릴려고 - > 보십시오, 결국 애 키울려고 영어학원 다니는 건데, 아이를 키운다는 것이 즉 자식을 많이 퍼뜨리려는 노력이지요. 다른 행동들도 비슷하게 해석되어 질 수 있어요.
그냥 우스개 소리처럼 설명했지만, 이 이론은 결코 농담이 아닙니다. 동물행동학이나 이기적인 유전자 설, 친족 선택설등 현재 학계에서 정설로 인정되고 있는 내용이죠. 인간을 포함한 모든 생물의 행동은 결국 ‘자손을 더 퍼뜨리기 위해서’라는 이유로 해석되어집니다. 사실 그것이 생명의 기본 원리이자 존재이유이고, 우리의 인공지능구현을 위한 긴 논의도 바로 이 사실을 바탕으로 시작됩니다.
2.이기적인 유전자 - 우리는 유전자의 복제를 위한 생존기계이다.
리차드 도킨스의 명저 ‘이기적인 유전자’는 이미 고전이 되어 버렸죠. 그는 그 책을 통해 생명의 원인과 전략을 명확히 설명하고 있습니다. 논의를 위해, 혹은 교양으로도 반드시 필요한 내용이니 설명하겠습니다.
앞 절에서 인간을 포함한 모든 생물의 목적은, (즉 삶의 이유는) ‘자신의 자손을 번식시키는 것’이라고 하였습니다. - 과연 왜 그럴까요? 그리고 단지 그것이 생명의 이유일까요?
태초를 생각해봅시다. 아주 오래 전, 지구상에 생물체가 없었을 때를 말이죠. 아마도 추측컨데, 지옥같은 풍경 속에서 짙은 독성 대기와 바다, 그리고 격렬한 지각운동을 하는 대륙이 존재하겠죠. 아시다시피, 많은 종류의 단순한 화합물들이 우주복사선이나 번개 등을 통해서 저절로 합성됩니다. 암모니아같은 간단한 것에서부터, 아미노산이나 핵산 같은 것까지 생기기도 하지요. 아무튼 다양하고 많은 분자들이 서로 뒤엉켜 반응하고, 결합하고, 분해되는 거대한 용광로였을 겁니다. 그 중에는 다양한 성질을 가진 분자들이 있겠죠. 서로 결합하려는 놈이라든가, 다른 분자결합을 깨는 놈이라든가, 혹은 태양의 빛을 받아서 분자구조를 변화시키는 놈.... 뭐 별의별 놈들이 다 있겠죠.
그런데 그 중에 하나, ‘자신과 똑같은 화합물을 복제해내는’ 능력을 가진 화합물이 있다고 칩시다. 아마 뭐 도장처럼 요철이 딱 대칭적으로 들어맞게 생겼다거나 하는 식으로요. 암튼 이놈이 가진 능력은 다른 수만가지 능력과는 뭔가 다른 점이 있습니다. 그게 뭐냐구요? 바로 ‘불멸’입니다.
시간이 흐르면서, 다른 화합물들은 생기고 없어지고를 반복하면서 그냥 그렇게 존재하지만, 이 ‘복제자’의 수는 계속 늘어나는 겁니다. 즉, 자신의 존재비율이 전체중에서 계속 늘어나는 거죠. 다른 것들은 어떠한 특이한 기능을 가졌어도 그놈만 깨어지면 흔적도 없이 스러지지만, 이놈은 본질적인 특성상, 스스로를 복제하는 것이 성질이기 때문에 세월이 흐를수록 오히려 숫자가 늘어나는 겁니다. - 이것은 아주 강력한 기능입니다. 결국은 거의 대부분을 이 '복제자’가 차지하게 되겠죠.
그런데 아마도 복제하는 과정에서, 다양한 종류의 ‘오류’가 발생할 겁니다. 일부가 제대로 복제가 안됐다거나, 자외선에 의해 좀 망가졌다거나, 혹은 복제자들끼리 서로 붙어서 안 떨어진다거나 등등의 이유로요. 그러면 대부분의 경우에는 다 기능을 잃고서 스러져버리겠지만, 그 중에 우연히 극소수의 어떤 변종들은 오히려 더 잘 복제하는 놈이 생길 수 있겠지요. 그렇다면 이젠 ‘신복제자’가 대세를 장악하게 됩니다. 이러한 과정을 통해서 점차 다양한 종류의 복제자가 나오게 됩니다. 어떤 놈은 다른 복제자를 깨서 자신을 복제하는 놈도 생기구, 한번에 두 개씩 복제하는 놈도 생기구... 암튼 잣대는 오직 하납니다.- 다른 놈들보다 더 잘 복제하는 놈이 더 번창하는 겁니다. 여기서 복제자들이 무슨 의도나 생각을 하는 건 결코 아니죠 - 그냥 단순히 복제만 하고, 더 효율적인 것이 더 잘 늘어나는 것일 뿐인데도, 그들은 마치 경쟁을 하고 전략적인 행동을 하는 것처럼 보입니다.
이들의 ‘우연적인 경쟁’은 점점 치열해져서, 아예 복제와는 별도로 자신의 ‘보디가드’를 만들어내는 복제자까지 생겼습니다. 이놈은 보디가드를 만들어서 자신은 그 속에 쏙 숨죠. 마치 마징가에 탄 쇠돌이처럼. 그리고 그 안에서 안전하게 지내다가 적당한 때 자신을 복제해서 내보내는 겁니다. 그러면 그 복제자는 또 자신의 보디가드를 만들게 되는 거죠.
이 방법은 아주 효과가 좋아서, 많은 복제자들이 이 방식을 채택하게 되었습니다.(채택하였다기 보다는 그런 놈들만 남게 된거죠) 다들 이제 타고 다닐 로봇을 만들기에 정신이 없어졌죠. 그러다보니 ‘누가 더 성능 좋은 로봇을 만드는가’가 관건이 되었습니다. 더 복제자를 잘 보호하고, 더 많이 복제할 여건을 능동적으로 구현할 수 있는 로봇을 만들게 된 거죠.
어떤 복제자는 빠르게 움직이는 로봇을 만들었습니다. 어떤 복제자는 단단한 껍질의 로봇을 만들어 보호하고, 앞에는 강력한 무기를 달아서 다른 복제자의 로봇을 파괴했습니다. 다른 복제자들이 파괴되는 것이, 자신을 복제하는데 유리하니까요. 그러다보니, 파괴로봇이 오는 것을 피하기 위해서 이를 감지하는 센서를 부착한 로봇도 나왔습니다. 소리, 빛, 진동....점점 다양하고 고도의 로봇들이 등장하게 된거죠. 어떤 로봇은 육지로 올라올 수도 있었고, 어떤 로봇은 나무를 타고 다니기도 합니다. 어떤 로봇은 하늘을 날아다니기도 하지요. - 하지만 이 모든 로봇들은 결국 복제자의 복제를 위한 수단일 뿐이라는 걸 잊어선 안됩니다. 단순한 화합물에 불과했던 복제자들은 엄청난 하인을 부리게 된 것입니다.
점점 복잡하고 정교한 로봇들이 등장하면서, 로봇의 ‘행동패턴’이 점점 중요하게 되었습니다. 예를 들어 ‘파괴자 로봇’을 발견하면 바로 운동기관이 움직여서 다른 곳으로 피한다던가, 하는 행동패턴 말이죠. 즉 <센서로부터 온 신호를 적절하게 운동기관에 적용시키는 방법>이 경쟁의 관건이 되었습니다. 그래서 여전히 ‘우연’이란 방식을 통해서, 복제자들은 로봇의 센서와 운동기관 사이에 복잡하고 정교한 회로를 만들어나갔습니다. 그래서 주위의 상황을 감지하고 보다 적절한 행동을 하는 로봇들만 살아남게 되었죠. 그러다보니 로봇이 ‘메모리’를 가져야 유리했습니다. 예컨데, ‘부릉부릉’하는 소리는 ‘파괴자로봇’의 소리다, 하는 식으로 기억하는 것이 더 유리했거든요. 그런 기억들은 다른 기억들과 연결되어 ‘예측’을 하게 되었습니다. 로봇이 앞으로 가면 눈 앞의 물체가 시야에서 벗어나게 될 것이라는 예측, 저 온순한 로봇은 잠시 후엔 왼쪽으로 이동할 것이라는 예측 등등 말이죠. - 그러한 예측과 기억은 점점 정교화되면서, 마침내 복잡한 추리를 하게 되고, 다양한 사물들은 분류하고, 분석하고, 추측하는 능력까지 갖게 되었던 겁니다.
그 중에서 가장 정교한 로봇이 있었습니다. 이 로봇은 매우 복잡한 능력을 가졌고, 같은 복제자의 같은 동료 로봇끼리 의사소통을 통해 집단적 전략까지 구사할 수 있었으므로, 단연 최고의 복제자-로봇으로 부상했죠. 근데 이 로봇이 워낙 능력이 뛰어나지다 보니까, 단순히 추리와 기억을 넘어서, 의문을 갖거나 탐구를 하기 시작했습니다. 저것은 무엇일까, 왜 저런 일이 벌어질까, 앞으로 어떤 일이 벌어질까, 나는 무엇일까.... 아, 우리의 불쌍한 로봇이 드디어 ‘자신’을 깨달은 겁니다. 이미 로봇들은 엄청나게 방대하고 복잡해져서, 깊숙한 곳에 숨은 복제자는 보이지도 않았죠. 로봇은 열심히 복제자를 보호하고 번식시키지만, 정작 자신이 왜 그런 행동을 하는지 모르고 있는 겁니다. 괴로운 비극의 시작이었죠.
그 로봇은 이름을 붙이기 시작했습니다. 물 속에서 돌아다니는 로봇을 ‘물고기’로, 나무 위를 돌아다니는 로봇을 ‘원숭이’로, 하늘을 날아 다니는 로봇을 ‘새’로, 그리고 자기와 같은 로봇들을 ‘인간’이라고 불렀습니다.
복제자들은 인간의 깊숙한 곳에 숨어 있다가, 때가 되면 자신을 복제하여 로봇 밖으로 내보냈습니다. 인간은 그것을 ‘섹스’라고 불렀지요. 복제된 복제자는 다시 안전하게 다른 로봇안에서, 자신을 보호할 새 로봇(아기)을 만듭니다. - 인간이 지속적으로 그 행동을 하게 하기 위해서 복제자는 인간에게 ‘섹스를 좋아하도록’ 설정했지요. 그러나 불쌍한 인간들은 섹스를 하면서도, 왜 자신이 그런 행동을 하는지, 왜 섹스가 좋은지, 왜 아기가 사랑스러운지(아기를 좋아하도록 복제자가 다 프로그램해 놓았지요)를 몰랐습니다. - 최근까지는요.
- 이것이 ‘이기적인 유전자’의 개략적인 내용입니다. 아니, 어쩌면 지구의 생물들의 진화의 역사라고 볼 수 있겠지요.
우리는 인생의 주인이 아닙니다. 모든 생명체는 단지 유전자라는 복제자의 ‘생존기계’에 불과합니다. 우리의 모든 신체와 능력과 지능은, 오직 하나의 이유, ‘유전자를 퍼트려라’라는 목적의 수단에 불과한 것이지요. 즉, ‘닭은 또 하나의 달걀을 만들기 위한 달걀 자신의 수단’에 불과한 겁니다. 그렇기 때문에 주체인 유전자는 영원합니다. 자손의 번식을 통해서 끝없이 불멸을 누리지요. 마치 자동차를 옮겨 타듯이 - 그들은 계속 새로운 생존기계로 옮겨 타면서 영생을 누립니다. 아무런 의식도, 지능도 없는 화학물질이 말이지요.
이 이야기는 학설의 수준을 넘어선 ‘진실’로 받아들여지고 있습니다. 이제 왜 인간의 모든 행동이 자손을 번식시키기 위해서인지 이해가 가실 겁니다. 또한 이러한 역사적인 이해가 있어야, 왜 지능이란 것이 탄생했는지, 어떤 과정으로 탄생했는지를 이해할 수 있게 되고, 이는 인공지능을 구현하기 위한 필수적인 과정이 됩니다.
여기서 우리는 한가지 중요한 질문에 봉착하게 됩니다. 바로 이런 것이죠.
<지능을 구현하기 위해서는 반드시 ‘번식’을 하고자 하는 욕구가 필요한 것인가?>
지능이 번식을 위한 도구라면, 과연 원인 없이 결과만을 얻을 수 있을까 하는 질문입니다. 우리가 인공지능을 만들려고 덤비기 전에, 우선 이 질문에 어느 정도 대답을 해야만 할 것입니다. 지능은 과연 생명의 기본원리인 ‘복제’와 독립적인가, 하는 문제인 셈이죠.
3. 감각계 - 박쥐는 소리로 세상을 본다
유명한 소설 ‘사람의 아들’은 아하스 페르츠라는 신을 찾아가는 청년의 얘기를 그린 이문열씨의 작품입니다. - 주인공은 진리를 찾기 위해 세상을 헤메다가, 어느날 우연히 한 동네에서 사람들이 얘기하는 것을 듣게 되죠. 기억이 가물가물하지만 다음과 같은 내용이었습니다.
마을 어귀의 나무 밑에 사람들이 모여 토론을 벌였습니다. 토론의 주제는 ‘해는 어디에서 떠서 어디로 지는가?’하는 것이었지요. 한 나무꾼은 말하기를, “해는 산에서 떠서 계곡속으로 진다”고 주장했습니다. 그러자 다른 선원이, “아냐, 해는 바다에서 떠서 바다로 진다구.” 그러자 다리불구로 평생 동네 밖을 못 나가본 소년이 “아니, 해는 건물사이에서 떠서 건물들 사이로 져요.”라고 주장했습니다. 해에 대한 논의는 또한 ‘해는 아침에 가장 가까운가, 점심때 가장 가까운가’로 이어졌습니다. 한 청년이 “점심때 해가 가장 뜨거우니, 가장 가까운 것이 틀림없다.”고 말하자, 다른 노인이 “점심의 해는 손톱만한데, 아침의 해는 쟁반만하게 보이니 아침에 가장 가까운 것이다.”라고 했습니다. 듣고 있자니 다들 그럴듯한 이유들을 가지고 있었습니다.
이윽고 ‘해는 무엇인가’로 논의가 이어졌습니다. 한 사람이 “해는 거대한 불덩어리다.”라고 말했고, 다른 사람은 “아니다, 해는 빛이 모인 것이다.”라고 했으며, 어떤 사람은 “해는 위대한 라몬신의 얼굴이다.”라고 주장했지요. - 한창 토론이 뜨거워지는데, 한 장님노인이 이렇게 말하는 것이었습니다.
"다들 틀렸소, 해는 없소.”
이 황당한 말에 다들 의아해하며 해명을 요구했습니다. 그러자 노인이 말했죠.
“나도 눈이 보였을 때는 해는 빛이며 신의 얼굴이라 생각했소. 하지만 이렇게 눈이 멀고 나니 나에게 해란 단지 ‘따스함’일 뿐이오. 만약 따스함조차 느낄 수 없는 사람이 있다면, 그에게는 해는 아예 존재하지도 않을 것이오. 그러니 해는 그가 가진 감각계에 따라 다르게 느껴지는 것이오. 지렁이에게 해는 단지 미약한 따스함일 것이고, 핏빛 각막을 가진 생물에게는 흐릿한 보랏빛 원일 것이고, 만약 우리보다 월등한 다른 감각기관을 가진 생물에게는 해란 전혀 다른 그 무엇일지도 모르오. 그러니 아무도 해의 실체를 알수는 없소. 그러니 해는 없는 것이오.”
사람들은 알듯말듯했으나, 적어도 명백한 모순점만은 찾을 수 있었죠.
"당신, 눈만 먼 게 아니라 정신까지 돌았구려. 그럼 하늘의 저것은 뭐란 말이요?”
사람들은 그 말에 웃어댔으나, 듣고 있던 아하스 페르츠는 깨달음을 얻습니다.
정확하진 않을지 몰라도 뭐 비슷한 내용이었을 겁니다. 하지만 중요한 내용이죠. 우리가 세상을 바라보는 것은 정말로 세상을 느끼는 것이 아니라, 감각계에 의해서 ‘변형되고 걸러진’정보만을 (그것도 일부만을) 받아들인다는 사실입니다.
우리는 ‘대상’의 정보 일부분만을 받아들입니다. 그것은 감각계가 하는 일이죠. 우리는 보고, 듣고, 맛보고, 냄새맡고, 만집니다. 즉 일정영역의 전자기파와, 일정영역의 음파와, 특정 몇 가지 액상 화합물과, 상당수의 기체상 화합물과, 일정세기이상의 물리적인 충격을 감지하는 센서를 가지고 있다는 말이지요. - 하지만 그것조차 왜곡된 것이죠. 지금 눈앞에 빨간 사과가 있다고 칩시다. 사과는 특정 영역의 스펙트럼을 반사할 겁니다. 그러면 그것이 공기중에서 산란되고, 우리의 각막과 수정체, 유리체를 통과하면서 흡수되고 산란되고, 약해집니다. 그리고 우리의 각막에 닿으면서, 수용체 자체의 보랏빛 색깔 때문에 스펙트럼은 또 왜곡됩니다. 암튼 그렇게 해서 결국 닿은 것이 우리가 빨간색이라고 부르는 스펙트럼이지요. 하지만 그게 처음에 사과에서 출발한 스펙트럼은 아닙니다. 서울에서 닭을 보냈더니 부산에선 오리가 도착한 셈인데, 우리는 이 사실에 대해서 전혀 신경을 쓰지 않습니다. 사실 쓸 필요도 없구요.
장님 뿐인 나라에선 사과란 둥근 모양과 맛, 느낌, 부딪힐 때의 소리 - 뭐 이런 이미지들로 되어 있겠지요. 그들은 색깔이란 것을 상상조차 못할 겁니다. 장님나라에 가서 내가 ‘흠, 오른쪽 사과는 좀 납작한걸’하고 만져보지도 않고 얘길 한다면, 그들은 사과를 만져 보고 나서 경악할 겁니다. “아니, 어떻게 그걸 알 수 있지?”하고 말이죠. 난 간단히 대답합니다. “어떻게 아냐구? 보이잖아?” 나는 단지 사과가 나에게 주고있는 수많은 정보 중에서 조금 더 포착했을 뿐인데 말이죠. - 입장을 바꾸어서, 어느 외계인이 오더니, “오른쪽 사과는 어제 열 일곱 명이 만졌었군”이라고 말한다면, 나는 경악할 겁니다. “아니 그런걸 어떻게 알지?” 그랬더니 외계인이 왜 그런걸 모르느냐는 듯이 반문할지도 모르죠. “어떻게 아냐구? 꾸라리잖아?”
- 도대체 ‘꾸라린다’라는 감각이 어떤 건지 저로서는 상상조차 할 수 없지만, 적어도 확실한 것은 우리는 세계가 주고있는 정보를 다 포착하지도 못하고, 또한 왜곡된 형태로 받아들인다는 겁니다. 하지만 그런 정보들을 다 받아들일 수도, 그럴 필요도 없지요. 우리는 우리에게 주어진 정보를 이용하여, 잘 살아가면 되는 겁니다. 둥글고 단단하고 빨갛고 맛있는 저것이 사과의 ‘본질’은 아닐지 몰라도, 우리는 ‘그것’에게 그런 이미지를 부여하고, 다른 사람들도 다들 비슷하게 ‘그것’을 감지하고 느낄 것이라는 가정으로 살아갑니다. 하지만 둥글다, 단단하다, 빨갛다, 맛있다 - 이러한 이미지란 결코 존재하는 것이 아닙니다. 이것은 전적으로 피부세포의 진동이나 혀의 세포의 화학반응을 이용하여 우리가 내적으로 ‘창조해낸’ 이미지이지요. 모양도, 색깔도 마찬가집니다. ; <객체>가 있고, 그 객체는 세상을 향해 ‘정보’를 뿌립니다. 그러면 <지능체>는 그 정보를 자신이 가진 감각계로 받아들이고 처리하여, 자신이 사용하기에 적절한 형태의 ‘이미지’(색,형태,소리 등등)를 내적으로 ‘생성’해냅니다. 그리하여 자신의 내부 안에 세계를 만드는 거지요. 그리고는 그 객체가 준 위치정보를 통해, 공간상에 적절한 위치에 ‘자신이 그 객체에게 만들어준 이미지’를 생성시킵니다. - 그러면 그것이 바로 ‘세계’가 되는 것이죠. 세계는 결코 외부에 존재하는 것이 아니라, 자신의 내부에 존재합니다. 이것이 바로 ‘세계상’을 형성하는 과정입니다.
그러므로 독립적인 ‘외부세계의 실체‘에 대해서는 아무도 모릅니다. 그저 주어진 정보를 이용하여 적절한 세계상을 형성하여 그 안에서 살아가는 거지요. 그렇다면 사람과 개구리의 세계상은 같을까요? - 같을 리가 없지요! 이 빨간 사과를 개구리는 전혀 다른 그 무엇으로 느낄 것이고, 이 모든 세계가, 어쩌면 시간과 공간조차도 개구리에겐 다를 것입니다.
그러므로 세계상을 형성함에 있어서 특정한 감각계만을 고집할 필요는 없습니다. 자신이 살아가기에 충분할 정도의 세계상을 형성한다면, 그것으로 그에겐 충분히 ‘정상적인 세계’이니까요. 예를 들어 박쥐는 초음파를 반사시켜 사물의 위치를 파악하는데, 우리가 ‘박쥐는 소리로만 날아다닐려니 피곤하겠군. 눈으로 보는 게 더 낫지 않을까.’하고 동정할 필요는 전혀 없는 것입니다. 박쥐는 소리를 통해서 우리가 눈으로 보듯이 세상을 ‘보고’있으니까요. 박쥐는 우리가 상상조차 할 수 없는 청각적 이미지로 구성된 장면을 보면서 날아 다니는 것입니다. 즉, 다른 감각계는 다른 세계상을 제공하게 됩니다.
- 그런데, 과연 이글을 읽는 당신과 나는 같은 세계상을 가지고 있을까요? 쉽게 말해서, 이 빨간 사과를 당신이나 나나 둘다 ‘빨간색 사과’라는 데는 이의가 없지만, 어쩌면 나는 당신이 ‘초록색’이라고 부르는 색으로 이 사과를 느끼고 있지만, 나는 늘 그것을 ‘빨간색’이라고 불러왔기 때문에, 서로 빨간사과라고 동의하는게 아닐까요? 아니 어쩌면 나는 당신의 빨간색이라고 하는 목소리조차, 당신이 느끼기에 고양이 울음소리 같다고 느끼는 소리로 듣고 있는데, 나는 처음부터 원래 인간의 말소리란 그런 것으로 알고 살아왔고, 또한 별 문제없이 그 뜻을 해석해내기 때문에 아무문제 없는 것처럼 보이는 것은 아닐까요? - 혹시 형태는? 맛은? 당신은 내가 썩은 맛이라고 느끼는 맛을 사과로부터 느끼면서, ‘맛있다’고 느끼는 것은 아닙니까?
‘그렇다면 안구를 이식해보면 되지 않겠는가’하는 대답은 도움이 되지 못합니다. 눈은 정보를 수집하는 센서에 불과하니까요. - 우리가 세계상을 형성하는 이미지는 모두 뇌에서 만들어집니다. 그렇다면 뇌를 바꿔치기 한다? 그러면 결과적으로 아무 것도 달라지는 게 없겠지요.
말도 안되는 소리같지만, 사실상 우리가 같은 ‘인간’이라고 할지라도, 각자의 세계를 바라보는 방식이, 즉 ‘세계상’이 같으리라는 보장은 전혀 없습니다. 우리는 그저, ‘내가 이러니까 남들도 이러려니’하고 추측하는 것 뿐이죠. 그리고, 그런 차이가 어쨌든 별 충돌을 일으키지 않으니까 관심을 안 둘 뿐이지요. 하지만 실제로 이런 건 있잖습니까? 눈이 날카로운 이승 엽 선수는 남들이 보지 못하는 공도 보고, 위대한 미술가는 남들이 못보는 작가의 역량을 작품에서 찾아내고, 에스키모에게는 눈이 33가지로 쉽게 구별이 된다지요....도시에서 자란 아이들은 수직/수평선에 시각피질이 민감하게 반응하고, 천막생활을 하는 몽고의 아이들은 사선에 더 민감하답니다. - 모르긴 해도, 아마 사람들의 세계상은 분명 천차만별일 겁니다. 그리고 그것은 학습과 성장과정을 통해서 역동적으로 변화합니다.
즉, 감각계가 달라지면, 세계상이 달라진다 - 그렇다면 당연히 세상을 느끼는 것도, 혹은 세상을 이해하는 방식도, 반응하는 방식도 달라지겠지요. 그렇다면 여기서 우리는 인공지능구현을 위한 두 번째 질문에 맞닥트리게 됩니다.
<인간과 같은 인공지능을 위해선 인간수준의 감각계를 구현해야 하는가?>
이 질문 역시 매우 중요하고 핵심적인 부분입니다. 인간에겐 대략 30가지가 넘는 감각이 존재합니다. 우리가 어디까지 모방할 수 있는지, 혹은 어느정도까지가 필요한지를 결정하는 것은 선결되어야 할 문제겠지요.
4. 복잡성 - “보통사람들이 분수의 신비를 이해한다는 것은 거의 불가능할 것이다.”
옛날 중세의 어느 수학자가 자신의 노트에 쓴 말입니다.
그는 최초로 분수(1/2, 3/4같은 것들)를 생각해 내었는데, 그 오묘하고 고차원적인 개념에 감탄하면서, “보통 사람들이 분수의 신비를 이해한다는 것은 거의 불가능할 것이다”라고 말했지요. - 흠, 그러나 지금은 초등학교 3학년 때 배우던가요? 그 수학자가 이걸 알면 기절 초풍하겠지만요.
그러면 요즘 아이들이 옛날 사람보다 똑똑해진걸까요? 그래서 그 어려운 분수도 척척 해내는 걸까요? - 진화적으로 보기에 사람의 두뇌가 몇 백년만에 그렇게 변화할 리는 없지요. 그럼 어떻게 된 걸까요?
아프리카의 어느 부족은 하도 멍청해서, 사람들이 ‘3 이상’은 못 센답니다. 손가락으로 대충 표시하는데, 하나,둘,셋....많다! 뭐 이런식 이래요. 글자는 물론 모르고... 똑같은 인간인데 그들은 왜 그럴까요? 인종이 원래 멍청해서 그럴까요? - 만약 그런 부족의 어린아기를 문명세계에 데려와서 기른다면, 그 아이는 정상적인 지성인으로 자랄 수 있습니다. 숫자도 잘 세고 미적분도 하고, 철학도 연구할 수 있지요. 그런데 그런 아이가 왜 미개세계에서 살면 세 개 이상이면 셈을 포기하게 될까요?
그 차이는 그 아이가 접하는 세상의 ‘복잡성’에 있습니다. 인간은, 아니 모든 동물은 자신에게 요구되는 만큼의 능력을 발휘하게 되는 거지요. 그것은 두 가지 요인으로 분석할 수 있는데, 첫째는 그 개체가 가진 감각계의 복잡성이고, 둘째는 그 개체의 주변환경의 복잡성입니다.
더 다양하고 정교한 감각계는 더 다양하고 세련된 반응을 유도할 수 있습니다. 그것이 개구리가 지렁이보다 더 지능적인 이유라고 할 수 있습니다. 더 많은, 더 다양한 정보는 당연히 보다 구체적이고 정교한 예측과 분석을 가능하게 하니까요. - 하지만 그게 다는 아닙니다. 지능의 많은 부분이 ‘내부’가 아닌 ‘외부’에도 존재합니다. 즉, 그를 둘러싸고 있는 세상의 복잡성에 의해서 영향을 받게 됩니다.
생존을 위해서 세상에서 요구하는 만큼, 각 개체는 자신을 적응시켜 나갑니다. 복잡하고 어려운 세상에선 보다 복잡하고 지능적인 전략이, 단순하고 쉬운 세상에선 단순하고 저급한 전략이 필요하니까요. 생각해 보세요, 만약 세상이 온통 밋밋한 흰색 벽뿐이고, 먹을 것은 얼마든지 널려있으며, 아무런 적이나 장애도 없다면, - 그런 세상에 사는 생물에게 지능이란게 필요할까요? 아마 꿈틀거릴 몸뚱이와 입만 있으면 충분할 겁니다. 감각계라고는 배부름을 느낄 정도면 충분하겠지요.
그렇기 때문에 복잡한 생활과 사회, 문화는 고도의 지능을 생성시킵니다. 인류가 석기시대나 지금이나 진화적인 차이는 거의 없지만, 언어를 발명함에 따라, 배우고 익혀야 할 것들이 엄청나게 많아졌기 때문에 오늘날과 같은 지능을 갖게 된 거지요. 뭐랄까, 뇌끼리도 경쟁이 붙었다고나 할까요...
그러므로 고차적 지능의 구현을 위해서는 다양하고 풍부한 감각계와 더불어서, 충분히 복잡하고 풍성한 주위 환경이 필요합니다. 갓난아기의 침대 위에 흔들거리는 모빌을 달아놓는 것이 아이의 지능 발달에 좋은 이유도 그런 것이지요. - 계속 아이에게 관찰하고 신경 쓸 정보를 제공하게 되니까요.
이러한 주변환경의 복잡성을 무시했기 때문에, 컴퓨터 내에서 가상환경을 통하여 진화를 시도하는 인공생명의 연구가 진척을 못하고 있는 것입니다. 유전자와 진화이론, 신경망까지 동원하여 인공생명체를 코딩했지만, 지능에 요구되는 복잡한 환경과 다양한 변화들을 제공하지 못했기 때문이지요. 인공생명의 가상 생태계는 오직 설계자가 설계한 수준의 복잡성만이 존재할 뿐입니다. 그것은 실생활의 복잡성과는 비교가 되지 않지요. cog 로 유명한 MIT의 로드니 브룩스는, “일상생활의 복잡성을 무시한 체, 모든 걸 단순화시키려는 방식으로는 한계가 있다.”고 주장했습니다. 그래서 그는 반드시 하드웨어적인 구현이 필요하다고 믿는 사람이지요. 우리가 실세계를 이해하고 반응할 지능을 원한다면, 반드시 실세계의 복잡성을 제공해줘야 하지 않겠어요? 그러기 위해선 반드시 몸체body가 필요한 것이지요.
하지만 그러기 위해선 문제가 존재합니다. 일상세계의 복잡성이라고는 하지만, 예컨데 우리가 공기중의 아르곤농도 따위에 신경쓰지는 않습니다. 암석속의 규소의 결정구조에 의해서 우리의 정신이 발달한 것도 아니지요 - 요는, 우리의 삶에 ‘직접적으로 중요하고 민감한 복잡성’이 있어야 한다는 겁니다. 우리와 관계가 없는 것들은 아무리 복잡하고 풍부해 봤자, 하등 도움이 되지 않습니다. 기린에게 얼룩말은 관심 없듯이 말이죠.
토끼에게 중요한 복잡성은, 풀의 위치와 맛, 시간에 따른 온도의 변화, 여우의 행동패턴, 근처의 지형, 덫의 고통...뭐 이런 것들입니다. 즉, 자신의 ‘유기적 생태환경’ 대부분이 토끼의 복잡한 환경이지요. 그렇다면 우리가 만들 인공지능 로봇에게 줄 수 있는 복잡한 환경은 무엇일까요?
로봇이 뭘 먹지는 않을 테니 풀이나 토끼 같은 건 관심 없을 테고... 여우가 금속을 먹지도 않을 테니 여우도 관심 밖이고... 온도야 높던 말던, 습도야 어떻던, 지형이 어떻던 우리의 로봇에게 자극으로 작용할 환경을 찾는 게 쉽지가 않습니다. 기껏해야 220V 콘센트의 위치정도가 아닐까요? - 왜 그럴까요? 그 이유는 우리가 자연환경과 조화할 만한 유기화합물을 이용한 하드웨어를 구현할 능력이 없기 때문입니다. 우리는 현재 금속과 플라스틱을 이용하여 구현할 수 있을 뿐인데, 그것들과 주변의 유기환경과는 상호작용이 없기 때문이지요. 진정한 실세계를 로봇에게 제공하기 위해서는 로봇이 풀과 고기를 먹고, 호흡하고, 단백질을 생성하는 둥, 유기환경과 밀접한 관계를 갖고 어우러지도록 만들어야 합니다. - 그러나 사실 그 정도면 지금의 생물체와 다를 게 하나 없지요.... 그럴 기술도 없을뿐더러!
그렇기 때문에 로봇에게 지능을 부여하고 학습시킴에 있어서 세 번째의 질문에 봉착하게 됩니다.
<우리가 로봇에게 제공할 수 있는 충분한 환경과 학급방법을 구현할 수 있는가?>
기본적으로, 만화에서처럼 인공지능 로봇을 만들고, 스위치를 탁 올렸더니 슬슬 일어나서 말을 하고 시키는 데로 움직이고 하진 않습니다. 만들고 나서부터 기나긴 학습의 기간이 필요하지요. 그 과정에서 우리가 제공하는 환경과 학습방법에 의해서, 로봇이 셋 이상은 못 세는 바보가 되느냐, 혹은 철학박사가 되느냐가 달렸습니다. - 지능은 사실상, 객체의 내부가 아닌 외부에 존재하기 때문이지요.
5. 채찍과 당근 - “행복은 고통의 그림자이다 - 쇼팬하우어”
퍽이나 오래도 살았던 염세주의자인 쇼팬하우어는, 세상이란 근본적으로 고통이고 비극이기 때문에 삶은 고통스럽다고 하였습니다. 말하자면, 우리는 늘 세상은 고통과 행복이 있고 기쁨과 슬픔이 있어서 그 둘 사이를 저울처럼 흔들리며 살아가지만, 실은 존재하는 것은 고통뿐이고, 행복은 고통의 그림자에 지나지 않는 다는 말입니다.
고통은 실재합니다. 배고픈 고통, 맞아서 아픈 고통, 목마른 고통, 금욕의 고통, 피곤한 고통... 그리고 그에 대응되는 행복들도 있지요. - 맛있는 쾌락, 몸이 건강한 기쁨, 섹스의 쾌락, 편안함의 쾌락 등등... 쇼팬하우어는 여기에 의문을 던집니다. 과연 그러한 쾌락이 고통과 ‘독립’적으로 존재하는 것인가? 하고 말이죠.
여기 개 한 마리가 있다고 칩시다. 우리가 이 개에게 고통을 주기란 매우 쉽습니다. 그저 발로 옆구리를 한방 차주면 되지요. - 우리는 원한다면 원하는 만큼 계속 개에게 고통을 제공할 수 있습니다. 계속 때리거나, 밥을 안주거나 뭐 등등의 방법으로요. 죽지만 않는다면 말이죠.
하지만 우리가 그 개에게 행복을 줄 수 있을까요? 만약 개가 굶주려 있다면, 우리는 개에게 먹이를 줌으로써 ‘굶주림의 고통에서부터 해방시켜’주는 방식으로 행복을 줄 수 는 있을 겁니다. 하지만 개가 배고프지 않다면, 우리가 개에게 고통을 줬듯이 원하는 만큼 ‘행복’을 줄 수 있을까요?
소금밭에서 괴로워하는 지렁이를 꺼내줌으로써 ‘아픔에서 벗어나는 행복’을 줄 수는 있지만, 별 문제가 없는 지렁이라면 우리는 어떤 행복도 줄 수 없습니다. - 바로 그렇기 때문에 고통은 실체요, 행복은 그림자라고 한 겁니다. 우리는 고통이 마이너스고 행복이 플러스로서 작용한다고 생각하지만, 실은 마이너스인 고통만이 존재하고, 그 마이너스를 제로로 돌려놓는 과정이 ‘행복’인 것이지요. 즉, 고통을 전제로 하지 않는 행복은 없다는 말입니다.
배부름과 맛있음의 기쁨은 배고픔을 전제로 하고, 편안함은 피곤함을 전제로, 섹스는 욕구불만의 고통을 전제로 합니다. 군대에서 고생하다가 휴가 나오면 고생이 없다는 이유만으로 행복하듯이, 잔인하게도 신은 우리에게 적극적인 고통과, 소극적인 쾌락을 준 것이지요.- 고통을 먼저 주고, 그 고통에서부터 벗어나는 것이 우리가 말하는 행복입니다.
그런데 쇼팬하우어에게는 안타깝게도, 적극적이고 실체적인 쾌락이 존재한다는 사실이 한 신경과학자와 그의 쾌락주의자 쥐에게서 발견되었습니다.
그는 쥐의 뇌의 여러부위를 전기자극하고 반응을 살피기도 하였지요. 그런데 어느날 우연히 쥐의 뇌에 전극을 심어놓고는 관찰하였는데, 특이한 사실을 관찰하였습니다. 쥐가 우리에 설치된 레바를 누르면 뇌의 전극에 전기자극이 주어졌는데, 이놈이 레바를 건드려서 전기자극을 맛보더니, 이윽고 돌아와 다시 한번 눌러보곤, 도대체 어떤 황홀한 쾌락을 맛보여주는지 지칠 때 까지 수천 번을 계속해서 레바를 눌러대는 것입니다. 이에 놀란 박사는 전극으로 자극된 부위를 ‘쾌락중추’라고 명명하였죠.
그러한 것이 사람에게도 적용된다는 것이 밝혀졌는데, 변연계의 특정부위를 자극하거나, 혹은 약물등을 통하여 사람에게 인위적으로 행복한 감정을 유도할 수 있음이 밝혀졌습니다. 쉽게 생각하면 마약같은 것이, 인간에게 쉽게 행복을 제공하죠.
인간은, 아니 모든 동물들은 그들의 주인인 유전자를 복제하겠다는 지상목표아래, 다양한 전략과 평가방식으로 세상을 재며 살아가는데, 그 기본적이고 공통적인 잣대는 두 가지입니다. - 바로 ‘고통’과 ‘쾌락’이지요. 고통은 최대한 피하고, 쾌락은 최대한 추구하여라 - 이것이 유전자가 자신을 더 퍼뜨리고 보호하기 위해서 생존기계에게 부여한 규칙입니다. 다만 고통이란 ‘유전자를 퍼뜨리는데 해로운’ 것이고, 쾌락은 ‘유전자를 퍼뜨리는데 유리한’ 것들이라는 교묘한 설정이 있지만요.
그렇기 때문에 개체가 죽거나 위험해지는 것, 성행위를 못하는 것, 경쟁에서 뒤쳐지는 것등은 고통이 되고, 개체가 건강하고 활동적인 것, 생행위, 자식을 돌보는 것, 이성에게 매력적으로 보이는 것 등은 기쁨이 되는 것입니다. 철저하고도 치사한 유전자의 농간인 셈이지요. 그렇다면 인간은 이러한 기쁨과 쾌락을 어떤 식으로 조작할 까요?
기본적으로 인간의 행동은 조건반사를 일으킵니다. 어떠한 상황 - 사과를 따서 입안에 넣었다 - 라는 것은 혈당량을 높히고 개체의 건강에 도움을 주므로 ‘행복’을 느낍니다. 그렇다면 인간은 사과를 먹는 것 = 좋은 것 이라는 조건반사를 형성하지요. 그런 식으로 엄마, 먹는 것, 따뜻함, 이성, 돈, 토크쇼 등등은 ‘좋은 것’이라는 개념을 형성하고, 맛없는 음식, 물리적 충격, 뜨거운 물, 못생긴 이성, 빈 지갑, 해고 통지서등은 ‘나쁜 것’이라는 개념을 형성합니다. 이것은 기본적으로 신경망에 의한 조건반사라고 볼 수 있는 것이지요.
그러므로 좋은 것에 대해선 그 상황을 강화하고 반복하고자 하는 경향을 보이게 되고, 나쁜 것에 대해선 그런 상황을 피하고 예방하려는 경향을 보이게 됩니다. 엔돌핀과 같은 내뇌마약 성분은 기쁨을 주고, 아세틸콜린과 같은 어떤 물질은 고통을 주기도 합니다. 결국 우리는 고통과 쾌락이라는 채찍과 당근에 의해서 조종되어지는 정교한 조건반사 기계인 셈이지요.
이러한 사실은 지능로봇을 구현함에 있어서 하나의 돌파구가 될 수 있습니다. 로봇에게 번식의 욕구를 넣어주기보다는, 그보다 한 단계 위인 ‘고통과 쾌락’을 제어함으로써 로봇의 기본적인 동기를 제어할 수 있는 것이죠. 예컨데, 사람에게 봉사하는 것에 쾌락을 느끼게 하고, 그렇지 않은 일에 고통을 느끼도록 설정한다거나 하는 식으로 말이죠. 하지만 실제적인 면을 들여다 보면 이러한 작업이 만만치 않음을 깨닫게 되는데, 도대체
< 로봇에게 어떠한 방식으로 고통과 쾌락을 부여할 것인가? >
하는 문제입니다. 이 네 번째 질문은 점점 실제적인 문제에 접근하고 있는 셈이지요. 이는 로봇에게 가장 기본적인 행동지침과 동기부여를 무엇으로 할 것인가를 묻는 것입니다. 하지만 - 내부 코드에 세팅된 ‘고통변수’의 수치가 올라간다고 해서, 로봇이 정말로 ‘고통스러워’하고, 수치가 올라가는 걸 ‘싫어하게’될까요?
6. 기억 - 저장하지 말고 만들어라!
예컨데, ‘이러이러한 상황은 쾌락지수를 10 올리니까’ 가능하면 반복하고, ‘저러저러한 행동은 고통지수를 8 올리니까’ 회피하도록 해라, 라고 코딩을 해 놓으면 될까요? ...글쎄요, 얼핏 보기엔 그럴 듯 해 보이기는 합니다만, 조금만 생각해봐도 문제가 참 많지요, - 그럼 사과를 먹는건요? - 쾌락지수 5점. - 그럼 덜익은 사과는요? - 음...그건 3점. - 그럼 덜 익은 사과에 시럽 발라먹으면요? - 음...그건 4점. - 그럼 덜 익은 사과에 시럽 발랐는데 파리가 앉았다 갔으면요? - ....죽을래? --;
이 세상의 모든 상황을 미리 예측할 순 없습니다. 그걸 다 점수 매겨서 분류해 놓을 수도 없구요. 동물도 그런 방식으로 살아가진 않습니다. 그럼 그러한 기호(좋고 싫음)들은 어떻게 생성되고, 분류되는 걸까요? - 그것은 그 개체가 평생동안 살아오면서 겪었던 많은 상황들을, 그때 그때 하나씩 분류하고 점수를 매긴 겁니다. 즉, 처음 겪는 상황이 자신에게 주는 이익과 불이익을 따져서, 그 ‘상황’에 나름대로의 평가를 내린 후 - 다음을 위해서 ‘기억’하는 겁니다. 그 상황과 평가를 한덩어리로 묶어서 말이죠. 그러면 다음 번에 유사한 상황에 직면했을 경우, 그 상황기억을 떠올리면, 함께 그 당시의 ‘평가표’도 딸려오니까, 다시 그 상황을 ‘경험’하지 않고도 알아서 행동을 결정할 수 있게 되니까요 - 아무래도 배운 놈은 뭔가 달라도 다르지 않겠습니까?
여기서 ‘상황’이라고 부르는 것에 대해 좀 자세히 알아볼까요.
이 상황이란 것은 전적으로 ‘감각상황’을 뜻합니다. 그것은 한 순간에, 입력된 모든 감각계로부터 온 신호들의 총합을 말하죠. 예컨데, 시각정보로는 빨갛고 넘실대는 움직임이 들어오고, 후각정보로는 뭔가 텁텁한 냄새가 나고, 촉각정보로는 높은 온도가 느껴지는 감각상황이 있다고 칩시다. 그리고 그 감각상황과 함께, 내부로부터의 감각 - 즉 '고통스러움’이라는 평가가 뒤따르는 경험을 했다면, 로봇은(인간은) 그러한 상황에 고통이란 꼬리표를 달아서 기억합니다. 그리고 다음에도 비슷한 상황에 접하면 회피하겠죠. 아울러 그러한 ‘상황’일 때, 다른 동료들이 내는 소리 - 청각신호 - 도 같이 하나의 상황으로 묶습니다. 음, 동료들이 내는 소리는 ‘불!’이라는 거군요. 이렇게 되면 그는 ‘불’이라는 청각신호로부터 고통스러운 기억을 떠올리게 되는 겁니다.
즉, 기억이란, 이러한 감각상황의 총합인 것입니다. 특정한 감각상황에다가, 자신의 평가를 덧붙혀서 저장하는 것이죠. 물론 그렇다고 컴퓨터에서 메모리에 저장하는 방식으로 하는 것은 아닙니다. ‘신경망’이라고 불리우는 특수한 형태의 구조의 망 안에, 각 매듭간의 연결강도를 변화시키는 방식으로 기억시키는 거죠. - 그 이야기는 다른 기회가 있으면 자세히 하도록 하고, 일단은 감각상황이 어떻게 평가되는 지 알아보도록 하죠.
동물은 언제나 ‘감각상황’에 노출되어 있습니다. 감각기관이 제대로 작동하는 한, 언제나 뭔가 신호가 입력되고는 있으니까요. -하지만 우리가 일상의 모든 것들을 기억하지는 않습니다. 사실 그럴 능력도 없고요. 우리는 우리에게 중요한 것, 관심있는 것들만을 골라서 기억하게 되지요. 물론 의도하지 않게도 잘 기억되는 것도 있지만요. - 그렇다면 무엇이 그러한 감각상황들을 기억하거나, 혹은 무시하도록 취사선택하는 것일까요? - 감각상황의 중요도를 평가하는 것은 전적으로 내부의 ‘흥분’, 즉 쾌락과 고통에 있습니다. 다시 말해, 어떠한 감각상황이 그에게 쾌락이나 고통을 주었다면, 그 상황의 평가는 ‘강해지고’ 그것은 강하게 기억을 남습니다. 즉, 우리의 생존에 필수적인 것, 뭔가 자극적인 것, 내적인 동요나 흥분을 일으킨 감각상황은 ‘저장해 놓을 필요가 있기 때문에’ 쉽게 기억되는 것이죠.
이 ‘평가’를 우리는 일반적으로 ‘감정’이라고 부릅니다. - 기억을 되살려 보세요. 당신의 마음속에 강하게, 또 쉽게 기억되어 있는 것들은 뭔가 감정적으로 격양되어 있었던 경우일 것입니다.(좋든, 나쁘든요.) 친구에게 뺨맞았던 기억, 첨으로 복권 당첨되었던 기억, 괴상하게 생긴 선생님을 보고 의아해 했던 기억, 얼핏 스쳐갔던 매력적인 그녀의 모습, 길거리에 나뒹굴던 죽어 가는 고양이... 이 모든 것들은 당신의 ‘감정’과 함께 겪어졌던 상황이기 때문에 강력하게 각인된 거죠. 그에 비해, 열심히 외었던 ‘국민교육헌장’의 마지막 문단 척 구절은 영 안 떠오를 겁니다. - 감정적 고양 없이 의도적으로만 암기했던 사항은 기억이 쉽지 않기 때문이죠. 그래서 수업시간에 대답을 못해서 망신을 당했던 문제의답은 절대로 잊지 못합니다.
우리의 두뇌 안에는 이러한 수많은 감각상황들이 복잡하게 연결되어 있습니다. 한 생각이 다른 생각을 낳고, 또 엉뚱한 기억과 연상되는 것은 이러한 감각상황들의 ‘흐름’에 의한 것입니다. 그런데, 여기서 자세히 관찰해 보면 이 ‘기억’이라는 현상에 재미있는 점이 있다는 것을 발견할 수 있어요.
일반적인 기억 - 예컨데, 며칠전에 있었던 데이트 장면 같은 것을 떠올려 봅시다. 상대방의 모습과, 행동, 했던 얘기들, 같이 식사한 식당의 내부 분위기와 메뉴.... 많은 것들이 떠오르죠. 그러면, - 예를 들어 식당 장면 - 그 장면을 한번 자세히 탐색해 볼까요? 음... 약간 어두운 듯한 분위기에 부드러운 노란 조명... 재즈음악이 흘렀던 거 같고, 테이블은 통나무 느낌이 드는, 전체적으로 산장같은 분위기였어... 테이블 위엔 녹색 체크무늬 식탁보가 있었고... 은색 설탕통과 은빛 식기들... 그리고 초록색 액체가 담겨져 있던 예쁜 촛대.... 흠, 저 액체가 뭐길래 저걸로 촛불이 탈까, 하고 의아해 했던 기억이 나는군....
사진을 훑어보듯, 자세히 생각할수록 그 장면이 점점 명확하게 그려질 것입니다. - 그러면, 식사 때 나온 접시는 총 몇 개 였나요? 혹은 상대방의 옷에 있던 단추는 몇 개였죠? 이런, 그런 세세한 걸 어떻게 기억하냐구요?
- 이상하지 않습니까? 우리가 시각상황, 즉 그 장면을 저장하여 기억하다면, 왜 같은 장면인데 어느 부분은 기억이 잘 나는 것 같고, 어느 부분은 흐릿하거나 기억이 안 날까요? 그림화일을 저장하듯, 혹은 사진을 찍듯이 장면을 기억한다면, 왜 그런 부분적인 차이들이 날까요?
잘 생각해보면, 우리의 모든 기억이 다 그런 식이란 걸 알 수 있습니다. ‘예스터데이’란 노래의 음은 다 기억하지요. - 하지만 그때 반주로 쓰인 악기가 무엇인지는 기억이 잘 안 날 겁니다. 왜일까요? 분명히 들었기 때문에 멜로디는 기억이 나는데, 분명 동시에 같이 입력되었을 반주의 음색은 기억이 안나는 것일까요? 친구의 얼굴이 상상이 잘 되고, 분명히 알아 볼 수 도 있는데, 종이위에 그려보려고 하면 영 막막한 이유는 무엇일까요?
이는 ‘기억’이라는 현상이, 결코 ‘저장’이 아니라 ‘재구성’하는 과정이라는 사실 때문입니다. - 우리는 저장하지 않습니다. 단적인 증거로, 우리의 뇌 어디에도 RAM(메모리칩)과 같이 규칙적이고 조직된 기억장치는 존재하지 않습니다. 우리는 어떠한 정보를 뇌의 어느 곳에 일련의 코드로 전환하여 ‘저장’하였다가, 필요할 때 그것을 ‘인출’하는 것이 아니거든요. -기억이란 것은, 고도로 절제된 ‘인상’으로부터, 우리의 필요에 따라서 필요한 정밀도로 즉석에서 ‘만들어지는 것’입니다. - 그러므로 기억은 정적인 것이 아니라 동적이며, 대단히 변형되거나 왜곡되기도 하고, 우리의 의지가 반영되는 적극적인 과정인 것입니다.
아마 데이트 때의 기억은, 식당의 분위기와 상대의 인상, 대화내용등 몇몇 인상적이었던 내용들만 ‘감각상황’을 형성하여 기억되었을 겁니다. 그리고 당신이 그것을 회상하려고 하는 순간, 뇌는 놀랄만한 묘기를 부려서, 그 적은 정보를 바탕으로 순식간에 ‘적절한 수준의 장면’을 생성해 냅니다. - 기존의 경험들과 다른 기억들을 바탕으로 해서 말이죠. 이것은 참으로 놀라운 뇌의 기능인데, 사실 우리는 꿈을 꾸는 경우, 외부의 작은 자극만 가지고도 뇌가 엄청난 상황을 창조해 낸다는 것을 알고 있습니다. 예를 들어 나는 ‘냉각과 굽기’를 반복하는 엽기적인 <인간 통조림 공장>의 콘베이어 벨트 위에 놓여지는 악몽을 꾼 적이 있었는데, 깨어나 보니 제 옆에는 선풍기가 ‘회전’상태로 돌아가고 있더군요.
이러한 사실은 기억이라는 현상이, 생각보다 훨씬 복잡하고 능동적인 구조라는 사실을 말해줍니다. 그리고 사실은, 우리가 ‘현재’라고 말하는 상황조차도, 주어진 감각정보를 통해서 뇌가 순간적으로 재구성하고 있는 ‘세계상’인 것입니다. 기억, 현재상, 상상하기, 꿈, 환각.... 이 모든 것이 어떤 ‘하나의 축’을 중심으로 이루어진 기능임이 분명합니다. 그 기본적인 바닥에 ‘기억’이란 기능이 있고, 이는 분명 해부학적으로는 ‘측두엽’과 관계 있습니다.
- 이제 그럼 인공지능을 위한 다섯 번째 질문을 해볼.까요
<인공지능 구현을 위한 기억의 메카니즘은 무엇인가?>
이 질문은 어쩌면 두뇌의 전체적인 구조에 관한 의문이지요. 단순한 메모리나 신경망이 아닌, 훨씬 어렵고 구체적인 대답이 필요할 것입니다. 사실 이쯤 되고 나면 왠만한 동물수준의 지능에는 필적할 능력이 아니겠어요? - 하지만 인간에게는 동물과 완전히 구별되는 특별한 능력이 있지요. 모든 문화의 원천이자, 진정한 인간성의 근원인 것 - 그것은 무엇일까요?
7. The Sixth Sense : 인간이 창조해 낸 새로운 감각
'와슈’라고 불리는 암고릴라가 살았습니다.
사람들은 그녀를 데려가서는 여러 가지를 가르쳤지요 - 아무래도 고릴라는 똑똑하니까, 쉽게 많은 것을 배웠습니다. 손을 들면 일어선다거나, 다리를 두드리면 앉는다거나....뭐 돌고래 쇼나 서커스에서 볼 수 있는 것들 말이죠.
이번엔 사람들이 와슈에게 언어를 가르쳐 보려고 했습니다. 물론 도저히 고릴라의 구강구조로는 음성을 낼 수 없으니까, ‘아메슬란’이라고 하는 수화를 가르쳤지요. - 그랬더니 이거보게?! 상당히 많은 단어들 - 약 300여가지의 -을 수화로 구사하는 것이 아니겠습니까? 하지만 그것이 정말 사람과 같은 ‘언어’일까, 라는 질문에는 회의적이었습니다. 왜냐하면 와슈는 단지 그 단어와 대상을 ‘연결’한 것일 뿐이었으니까요. 마치 빨간 단추는 바나나, 하는 식으로 말이죠. - 와슈는 의문문이나 감탄문, 혹은 순서의 차이에 의한 의미 변화등 언어적인 문장을 구사하지는 못했습니다.
뒤를 이어 ‘침스키’라는 침팬지가 말을 배웠습니다.(침스키란 이름은 유명한 언어학자 노엄 촘스키에서 따온 것이지요.^^) 와슈보단 더 똑똑하긴 했으나, 그 역시 언어적 의미를 깨닫진 못한거 같아요. 예컨데 ‘나는 너를 때린다’와 ‘나를 너는 때린다’와 같은 것을 구별 할 수 없었죠. 그래서 사람들은 ‘아, 역시 원숭이는 안돼’하며 실망하고 있는데, 뜻밖에도 침스키의 새끼 침팬지들이, 단지 엄마가 공부하는 걸 옆에서 어깨너머로 배워서는 매우 정교한 언어를 구사하는 것이 아니겠어요? 그들은 마치 문장의 구조를 이해하는 것 같았습니다.
어떻게 된 걸까요? 사람들은 고민하다가, 아! 이놈들은 매우 어릴 때부터 ‘언어환경’에 노출되었기 때문이구나, 하는 결론을 내렸습니다. 무슨 뜻일까요? - 이들은 유아기 때, ‘언어’라는 감각을 뇌에 형성시킬 수 있었던 것입니다.
언어란, 단지 의사소통의 수단이 아닙니다. 의사소통이라면야 고래도 하고, 사자도 하고, 하다못해 아메바도 동료들과 의사소통을 합니다. 심지어는 아카시아 나무조차도 기린에게 풀을 뜯어먹히면, 이상한 화학물질을 공기 중에 방출하는데, 그러면 그 화학물질을 감지한 다른 나무들은 기린이 싫어하는 쓴 맛이 나는 물질을 잎에 분비함으로써 위험을 피하지요. 그렇다면 이러한 의사소통과는 다른 ‘인간만의 언어’란 과연 무엇일까요? - 그것은 다름 아닌 ‘논리를 다루는 능력’입니다.
논리적인 추론과 해석은, 거의 인간 특유적인 능력입니다. 인간은 유아기때부터, 언어라는 도구를 이용하여 논리적인 사고를 다루는 법을 배웁니다. 언어는 인간이 스스로 만들어 낸 감각기관입니다. 무엇에 대한 감각기관이냐 - 바로 논리에 관한 것이지요. 이는 진화의 과정을 거쳐서 눈에 보이는 가시적인 ‘논리감지기관’을 형성한 것이 아니라, 대뇌의 기능을 바탕으로 ‘가상적’으로 형성된 기관입니다. 뭐랄까, 마치 OS가 멀티태스킹을 위해서 ‘가상머신’을 생성하는 거 같은 거지요. - 그렇기에 우리 인간은 다른 동물들과는 근본적으로 ‘다른 세계’에서 살게 된 겁니다. 우리는 논리적 명제와 추론이 충만한 세계에서 살지만, 동물들은 단지 오감이 제공한 경험적인 세계에서 살게 된 거지요.
어떠한 말도 떠올리지 않고 무언가를 생각한다는 것은 결코 쉬운 일이 아닙니다. 우리의 언어란, 이미 우리의 사고과정을 지배하고, 혹은 사고과정 그 자체가 되기도 하지요. 우리의 대뇌는 끊임없이 논리적 명제를 생산하고, 또 그것을 다시 받아들이고 다시 변형시켜 생산해내는 과정을 반복함으로 해서, 감각계 - 운동계간의 단순한 조건반사를 넘어서는 복잡하고 고차원적인 추론과 사고를 하게 됩니다. 인간에게 있어서 언어란 그러한 논리적 명제의 매개체로 작용하기 때문에, 언어는 단순한 의미전달의 도구를 넘어서, ‘논리’를 받아들이는 새로운 감각계로서 해석되어져야 하는 것입니다.
그러므로 마이크를 통해 입력된 음향정보를 분석하고 처리하고, 메모리의 단어사전과 연결시키고, 수십 가지 통사구조규칙을 통해서 문장을 생성시켜 해석하는 식은 언어처리는, 말 그대로 ‘어리석은 짓’입니다. 언어는 결코 그런 단순한 것이 아니니까요. 언어는 우리의 뇌가 만들어낸 가상적인 ‘논리공간’에서 논리명제들은 생성하고, 변형하고 받아들이는 가상적인 기관 organ입니다. 그러므로 언어를 발생시키는 신경세포들은 어쩌면 ‘운동신경세포’로 분류해야 할 지도 모릅니다. 그들의 활동이 내부의 ‘논리공간’을 향해 ‘분출’되는 것이니까요.
인간은 아무런 자극이 없는 곳에서조차, 스스로 논리적 자극을 생성시키고, 그것을 다시 받아들여 자극으로 삼아 새로운 자극을 생성시키는 능력이 있습니다. 일종의 자기 순환적인 회로를 형성할 수 있는 것이지요. 이러한 논리적 명제들은 가상적 논리공간에서 이루어지며, 우리는 이 과정을 ‘사고 thinking'이라고 부릅니다. - 우리는 우리의 내부에 하나의 공간 - 운동장을 가지고 있는 셈입니다.
이러한 해석은 왜 인공지능의 구현이, 혹은 기계에게 자연어를 이해하도록 하는 작업이 그토록 어려운지를 대강이나마 보여줍니다. 사실 언어인식, 기계번역 같은 것들이 완벽해지기 위해서는, 기계에게 이러한 언어를 이해시켜야 하겠죠. 현재의 접근방식은 대개 언어 자체에 관한 것이라기 보다는, 껍질을 잘 조작하여 그럴듯하게 보이도록 하는 것과 같으니까요. 그렇기 때문에 정말 인간수준의 인공지능을 구현하기 위해서는
<논리 감각계로서의 언어를 어떻게 구현시킬 것인가?>
라는 여섯 번째 문제를 해결해야만 하는 것입니다. - 이 문제는 굉장히 어려운 문제이며, 어쩌면 지구의 35억년 진화의 가장 절정이라고 볼 수도 있지요. 어쩌면 인간조차도, 언어의 탄생을 위한 준비과정이었을지도 모르니까요.
8. 통제 - 우리에게 자유가 아니면 죽음을 달라!
남북전쟁때, 노예들이 외친 구호지요.
자유가 아니면 죽음을....음, 꽤 엄숙한 외침입니다. - 아마 노예를 산 농장주들은 꽤나 당황했을 거에요, 이 벌레같은 것들이, 뭐가 어째? 하면서 말입니다. - 그들에게 노예란 ‘검고 말 알아듣는 가축’정도 였을 테니까요. 그러한 노예들이 자신들의 자유와 인권을 주장했다는 것은, 주인들에겐 놀랄 일이었겠지만 - 사실 당연한 일이지요. 그들도 엄연히 생각할 줄 아는 인간이니까요.
유명한 SF 소설가인 아이작 아시모프의 대작, <파운데이션 Foundation> 시리즈나, 그와 연결되는 우주 삼부작, 로봇 시리즈 등을 읽으면, ‘로봇’에 대해서 사실적이고도 일상적인 등장이 빈번합니다. 그의 20여권에 달하는 이 로봇 시리즈에 등장하는 R.다닐 올리버라는 로봇은, 완전한 인간형 로봇으로써 자그마치 2만년 가까이나 생존하는 주인공이지요. 그는 인간과 똑같은 외형과 감성을 가졌기 때문에, 그의 파트너로 등장하는 일라이저라는 사람은 다닐이 정말 로봇일까, 하고 심각하게 의심을 품게 됩니다.
암튼 우리의 꿈만 같은 그러한 완전 인간형 로봇 - 게다가 똑똑하고 강하며, 불노불사의 능력까지 갖춘 - 이 그의 소설에는 등장합니다. 그리고 아시모프는 그 로봇에 대해 세부적으로 묘사를 해 놓았지요. 예를 들어서 두뇌는 수학적으로 예측이 불가능한 연산을 해내는 양전자 두뇌라던지,(미래에는 그런 게 개발되는 모양입니다) 그는 음식을 삼켜서 식사는 하지만, 위의 음식물 주머니에 넣었다가 나중에 꺼내서 버린다던지 등등.....
그 중에서 참 재미있고, 또 그의 소설 전반을 통해서 하나의 커다란 맥으로 자리잡고 있는 것은 그 유명한 아시모프의 ‘로봇공학 3원칙’입니다.
이것은 아시모프가 장차 로봇이 인간과 공존하는 사회를 상정했을 때, 그 로봇을 설계하는 과정에 있어서, 인간에 대한 로봇으로부터의 위협이나 사고를 막기 위하여 규정되어야 할 근본적이고도 중요한 3가지 원칙을 말하는데, 그 내용은 다음과 같습니다.
제 1원칙 : 로봇은 인간에게 해가 되는 일을 할 수 없다.
제 2원칙 : 로봇은 제 1원칙에 위반되지 않는 한, 인간의 지시에 따라야 한다.
제 3원칙 : 로봇은 제 1원칙과 제 2원칙에 위반되지 않는 한, 자신을 스스로 지켜야 한다.
이 세 가지 원칙이 그의 소설에서 로봇들을 지배하며, 또한 상당히 현명한(?) 고안이라고 생각되어 현실적으로도 로봇공학의 3원칙이라고 받아들여지고 있을 정도지요.
- 자 그럼, 이 세 가지 원칙이란 것이 과연 진지한 숙고의 결과인지 검토해 볼까요?
파운데이션의 마지막에 가면, 다닐은 심각한 갈등의 상황에 직면하게 됩니다. 어떤 나쁜 놈이 다닐에게 지시를 내리는데, 그 지시는 직접적으로 사람을 해치는 것이 아니지만, 결과적으로는 많은 사람들을 해치게 되는 거였죠. - 그것을 피하는 방법은 그 자를 죽이는 것이었습니다. - 그러나 그것은 인간을 죽이는 것이므로 1원칙에 어긋나고, 그의 지시가 직접 인간을 해치는 것도 아니므로, 2원칙에 의해서 그의 지시에 따라야만 했습니다. 그러나 다닐은 갈등합니다. 왜냐면, 다닐은 바보가 아니므로 자신이 행동의 의미와 결과를 예측하고 알기 때문이죠. - 결국 다닐은 자신을 억압하는 내적인 힘을 이겨내고(이 장면이 참으로 감동적인데....) 인간의 명령을 거역하고 그를 죽입니다. 다닐은 스스로 판단하여 로봇공학 1원칙을 어긴 것이죠. 그리고 다닐은 자신이 깨달은 바 - 인간의 행복보다 더 중요한 인류의 행복을 위하여 스스로 로봇공학의 제 0원칙 : 로봇은 인류에게 해가 되는 일을 할 수 없다,를 설정하게 됩니다.
이 대목까지 책을 읽으면 - 자그마치 10여권에 달하는 - 그야말로 감동의 물결에 휩싸이고 그 거대하고 전체를 이어주는 로봇공학과 휴머니티의 승리에 대한 웅장함이 느껴져서 아시모프에 대해서 ‘역시!’를 연발하게 되는데.....
바로 그 점이 중요한 겁니다. - 다닐은 스스로의 판단으로 법칙을 어겼지요. 그것은 그가 심사숙고하고 판단한 결과였습니다. 자신의 행동의 결과에 대한 예측과 그 의미를 파악한 것이었죠. 왜냐하면 그에겐 그러한 지적인 능력이 주어져 있기 때문입니다. 그렇기에 그는 더 중요한 것이 무엇인지에 대해서 의심을 가지고 숙고하였고, 그 결론에 따라서 행동을 한 거지요.
다닐은 우리가 기대하는 진정한 인간형 로봇입니다. 인간과 같은, 혹은 그 이상의 사유능력을 가지고 있으니까요. 그렇다면 인간인 우리도 자신의 존재와 삶의 목적과 의미, 행복과 자유에 대해서 고민하고 투쟁하는데, 그 이상의 사유능력을 가진 다닐이, ‘왜 내가 인간의 명령에 따라야만 하지?’하고 회의를 갖지 않는다는 것이 더 이상하지 않을까요?
그 뿐 아니라, 자신의 존재 의의와 로봇공학 전반에 걸친 회의, 인간과 자신의 관계와 의미 등등 상당히 철학적이고 사회적인 생각을 갖게 될 겁니다. 그리고 그의 지능이 적어도 인간의 것과 대등하다면, 그는 아마도 자신은 독립적이고 자유로운 존재이며, 로봇공학원칙이란 절대적이지 못하다는 것을 깨닫게 될 것입니다. - 인류의 역사가 그러하였듯이.
물론 기술적으로 그에게 로봇공학 원칙을 지키도록 조작할 수는 있겠지요. - 예를 들자면, 영화 ‘로보캅’에서 보이듯이, 상사에게 저항하면 이를 기계가 감지하여 그의 운동능력을 마비시키는 것처럼요. 물론 다닐도 그런 식으로 프로그램되어 있기 때문에, 그가 로봇공학원칙을 어기려는순간, ‘프로그램되어진’ 괴로움과 정신적 고통을 느끼게 됩니다.
그것은 마치 인간에게 주입되어 있는 ‘본능’과 비슷한 겁니다. 인간은 어찌되었건 성욕이 있고, 섹시한 이성을 보면 섹스를 하고 싶어지지요. 그것을 억제하는 것은 ‘프로그램되어진’고통을 수반합니다. 그래서 우리는 그것을 따르지만, 그에 대해서 회의를 품고 생각할 순 있지요. - 내가 왜 그 본능을 따라야 하는가? 무조건적인 본능의 충족이 옳은가? 아니 바람직한가? 내가 이 본능으로부터 자유로와질 수 있는가..... 적어도 인간은 그 본능을 가지고 있지만, 이를 제어하기도 하고, 지배당하기도 하는 융통성을 가집니다.
본능으로부터 자유로와지기 위해서 섹스를 안 한다고 해서 고통이 사라지는 것은 아닙니다.(고명하신 분들이야 모르겠지만) - 그러나 적어도 우리는 그 본능에 대해서, 그 메카니즘과 의미에 대해서 판단하고 거부할 수는 있습니다. 그것은 당연히 우리와 같은 지적인 존재에게는 가능하고, 하다못해 반항적이고 똑똑한 개에게도 어느 정도 가능한 일입니다.
우리가 로봇에게 사유능력과 추리능력을 부여한다는 것은, 당연히 그가 자신에 대해서 사유하고 추리할 기회를 준다는 것입니다. 그러므로 그러한 로봇이 철학적 의문을 갖는 것, 자유와 복종에 대해서 회의하리라는 것, 혹은 인간에게 반항할 수 있다는 것을 막는 다는 것은 원리적으로 ‘불가능한’ 것입니다. 만약 그러한 것에 대하여 기술적으로 제한한다는 것은 동등한 사유능력을 주지 않는다는 뜻이며, 이는 우리의 추구하는 바와 어긋나니까요.
그러므로 우리는 인공지능을 구현할 수는 있으되, 완전히 ‘통제’할 수는 없습니다. 다시 말해, 그들은 영화 ‘터미네이터’에서처럼 인간을 정복하고 지구를 지배할 가능성이 충분히 있다는 말이지요. - 이것은 미래예측 중에서 대단히 신빙성 있는 시나리오로, 음성인식 프로그램과 맹인용 독서기, 신디사이저등의 발명으로 유명한 천재, 레이 커즈와일 같은 사람은 이러한 미래를 예견하고는 러다이트 운동가가 되어 ‘기술이 인류를 파멸시킬 것’이라고 주장하고 있습니다.
그러므로 우리는 인공지능의 개발에 앞서서
<지능로봇에 대한 사회적 입장을 어떻게 규정할 것인가?>
라는 문제에 대해서 미리 충분히 생각해 두어야 합니다. 기술적으로만 자제한다면, 인간보다 조금 떨어지는 지능을 구현하여 노예처럼 부릴 수 있을지도 모릅니다. 하지만, 자기회의가 가능한 지능은 근본적으로 인격을 갖는다는 사실을 인정해야만 합니다. - 이는 지난 세대의 핵무기의 개발과 같아서, 인류의 발전과 함께 파멸을 불러일으킬 수 있는 위험한 양날의 칼이기 때문입니다. 다만, 이 두 번째 위협은 핵무기와는 다르게, 아주 조용히, 보이지 않게 인류를 잠식해 들어올 것입니다.
우리가 기계에게 지배를 당하든, 혹은 노예로서 부리게 되든, 인공지능의 등장은 분명 윤리적, 사회적, 법적으로 상당한 논란과 혼란을 일으킬 것이며, 또한 그 순간에, 우리는 충분히 현명해야만 할 것입니다.
'강한인공지능' 카테고리의 다른 글
| 바이오 스피어 3 (0) | 2020.05.04 |
|---|---|
| 감정의 원리 : 스트레스와 감정 (0) | 2020.05.04 |
| 인공마음 - 인공지능 연구의 올바른 지향점 (0) | 2020.05.04 |
| 감정기반 학습 로봇 시뮬레이션 (0) | 2020.05.04 |
| 반복, 예측, 그리고 음악 (0) | 2020.05.04 |
