합리성이란 무엇인가? (What Do We Mean By "Rationality"?)
원문 : LessWrong forum - "What Do We Mean By "Rationality"?(written by Eliezer Yudkowsky)
두 가지의 의미가 있다.
인식론적 합리성 : 체계적으로 믿음의 정확성을 향상시킨다.
도구론적 합리성 : 체계적으로 가치를 성취한다.
첫 번째 개념은 간단하다. 당신은 잠에서 깼을 때 방 주위를 둘러보면서 테이블 위에 있는 노트북을 찾고, 벽에 밀착되어있는 책장을 찾을 것이다. 만약 눈이나 뇌가 이상하다면 당신의 정신 모델은 책장이 없는 책장이 존재한다고 말할 것이며, 책을 가지러 갔을 때 책장이 없는 것에 실망할 것이다.
이것은 거짓된 믿음, 즉 영토가 일치하지 않는 세계지도를 갖고 있는 것과 같다. 인식론적 합리성은 보다 정확한 지도를 만드는 데 도움을 준다. 이러한 믿음과 현실 사이의 상응은 흔히 진리(truth) 라고 부르며, 그렇게 부를 수 있다는 것이 기쁘다.
반면에 도구론적 합리성은 현실을 조종하는 것에 관한 것이다. 즉, 당신이 가고자 하는 미래를 만드는 것이다. 이것은 당신의 선호도가 높은 결과들을 이끌어내는 행동들을 선택하는 기술이다. 때때로 이것을 성취(winning) 라고 부른다.
다시 말해 합리성(rationality)은 진리 를 형성하거나, 성취 하는데 도움이 되는 결정을 내리는 것에 관한 것이다.(진리가 확신(certainty)을 의미하지 않는 것은, 우리의 믿음이 불확실해도 정확할 확률을 충분히 증가시킬 수 있었기 때문이고, 우리의 가치관은 다른 사람을 포함한 우리가 아끼는 모든 것을 포함하기 때문에 성취하는 것은 "다른 사람을 희생시켜서 성취하는 것" 을 의미하지는 않는다.)
사람들이 "X는 합리적이야!" 라고 말할 때, 그것은 그저 "X가 좋다고 생각해", "X가 맞다고 생각해" 를 조금 더 엄격하게 말하는 방법이다. 그렇다면 왜 합리적(rational) 이라는 단어는 맞다 와 좋은 이라는 단어를 추가적으로 갖고 있을까?
진리 를 말하는 것을 반대할 때에도 유사한 주장이 제기될 수 있다. 당신이 그냥 "눈은 하얗다" 고 말할 수 있는데, 굳이 "눈이 하얀 것은 진리이다" 라고 말할 필요는 없다. 진리의 개념이 유용한 것은 그것이 우리가 지도-영토 대응의 일반적인 특징들을 말할 수 있게 해주기 때문이다. "진리 모델들은 대게 거짓 모델보다 더 나은 실험적 예측을 만들어낸다" 는 유용한 일반화이지만, 진리 혹은 정확 과 같은 개념을 사용하지 않고 만들 수 있는 것이 아니다.
마찬가지로, "합리적 에이전트들은 일관된 효용 함수의 확률론적 기대값을 극대화하는 결정을 내린다" 는 것은 (도구론적) 합리성의 개념에 따라 좌우되는 사고방식인 반면, "야채를 먹는 것은 합리적이다" 는 아마도 "야채를 먹는 것이 유용하다" 또는 "야채를 먹는 것이 너의 관심사이다" 로 대체될 수 있을 것이다. 우리는 체계적으로 진실이나 가치를 창출하는 그런 사고 방식에 관해 일반적인 사실들과 그 기준에 미치지 못하는 방법들을 체계적으로 파악하기 위해 "합리적이다" 와 같은 개념을 필요로 한다.
이전 에세이에서 우리가 관측했듯이, 실험 심리학자들은 때때로 매우 낯설게 보이는 인간의 이치를 밝혀낸다. 예를 들어, 실험 심리학자 중 누군가는 "빌이 재즈를 연주할 확률" 이 "빌이 재즈를 연주하는 회계사일 확률" 보다 더 낮다고 판단한다. 이건 매우 이상한 판단처럼 보이는데, 왜냐하면 재즈를 연주하는 회계사는 당연히 재즈 연주자이기 때문이다. 그러나 우리는 이 판단이 틀렸다고 말하는 데 있어서 어느정도의 권위에서 호소하고 있는가?
실험 심리학자들은 여기서 확률 이론(Probability theory) 과 결정 이론(Decision theory) , 두 가지의 황금 기준을 사용한다. 확률 이론은 합리적인 믿음의 기초가 되는 일련의 법칙이다.확률의 수학적 특성은 "줄리어스 카이사르는 대머리였다" 라는 주장을 위한 근거가 "책장은 내 방안에 있다" 라는 주장의 근거보다 더 복잡하고 간접적일 가능성이 있음에도 불구하고, "책장이 있는 곳을 찾는 것" 과 "줄리어스 카이사르의 머리카락의 갯수는 몇 개인지 추정하는 것" 을 동등하게 적용한다. 자신의 믿음을 새로 정립하기 위한 관찰과 근거를 어떻게 처리하느냐 하는 것은 모두 같은 문제인 것이다. 이와 비슷하게, 결정 이론은 합리적 행동의 기초가 되는 일련의 법칙이며, 자신의 목표와 이용 가능한 선택사항이 무엇인지에 관계없이 동일하게 적용된다.
P 는 이런저런 일들이 일어날 확률 이라고 하자, 그리고 P(A,B) 는 A와 B가 모두 일어날 확률 이라고 하자. P(A) >= P(A,B) 는 확률 이론의 보편적 법칙이므로, P(빌이 재즈를 연주한다) 가 P(빌이 재즈를 연주한다 , 빌은 회계사이다 ) 보다 작다는 판단은 당연히 잘못된 판단이다. 이러한 테크닉을 가지고서, 당신은 이 확률적 판단을 논 베이지안(Non-Bayesian) 이라고 말할 수 있다. 반면에 일정한 확률 분포에 부합하는 믿음, 그리고 일정한 효용 함수의 확률론적 기대값을 최대화하는 의사결정을 베이지안(Bayesian) 이라고 부른다.
나는 이것이 대중문화에서 흔히 볼 수 있는 합리성의 개념이 아니라는 것을 강조한다. 사람들은 "영화 '스타트렉'의 스팍(S'chn T'gai Spock)처럼 행동하는 것" 과 "베이지안처럼 행동하는 것" 을 언급하기 위해 합리적인(rational) 이라는 단어를 사용할 것이다. 그러나 이것은 스팍처럼 행동하는 것이 인식론적 혹은 도구론적 합리성을 가진 사람의 머리에 도움이 된다는 것을 의미하지는 않는다.
위의 모든 것들은 합리성 의 실제 의미에 관한 문제를 완전히 해소시키지는 못한다. 두 가지의 주된 이유 때문이다.
먼저, 두 가지 합리성(인식론적, 도구론적)들의 완전한 형태인 베이지안 형식주의는 대부분의 현실 세계의 문제들을 계산적으로 다루기 힘들다. 당신이 쿼크의 움직임을 계산하여 주식시장을 예측할 수 있다해도, 많은 사람들 모두가 실제로 계산을 하고 수학을 따를 수는 없다. 이것이 형식적인 공리들을 간단히 말하고 "오늘은 이만~" 하는 단일 웹 페이지가 아닌 Less Wrong 이라는 사이트가 있는 이유다. 우리는 자신의 결점들을 알아야 하고, 우리가 가진 편견들을 극복해야 하며, 스스로를 자기기만으로부터 보호해야하며, 해야할 일을 하고 진실에 맞서기 위한 우리들의 긍정적인 감정 형태를 갖추어야 하고, 등등... 인간 내면으로부터의 가치를 성취하고 진리를 찾기 위한 더 많은 기술들이 Less Wrong에 있다.
두 번째로, 때때로 수학 자체의 의미가 의문을 제시한다. 확률 이론의 법칙들은 관찰자들의 수가 불확실하다는 인류원리 문제(Anthropic problems) 들에 의해 문제시된다. 결정 이론의 법칙들은 어떤 에이전트들이 사건이 일어나기 전에 당신의 결정을 예측할 수 있다는 뉴컴 패러독스(Newcomb's problems) 에 의해 문제시된다.
단어 사용의 최적화가 부족한 경우, 우리는 진리 나 성취 같은 보다 간단한 아이디어로 돌아갈 수 있다. 당신이 단순히 불을 조사하는 것을 시작한 과학자라면, "내가 불을 플로지스톤을 방출하는 물질들의 화학적 전달이라고 정의한다" 라고 말하는 것 보다, 캠프파이어를 가리키며 "불은 저기에 있는 오렌지빛의 뜨거운 것이다" 라고 말하는 것이 훨씬 현명할지도 모른다. 당신은 정의내릴 수 없다고 해서 무언가를 무시해서는 안된다. 나는 기억만으로 일반상대성 이론 방정식을 활용할 수 없어도, 절벽을 향해 뛴다면 그대로 떨어질 것이다. 또한 우리는 인식적인 편견과 진실에 대한 그 밖의 장애물의 공통점을 이야기할 수 있다. 그러나 우리가 비합리성(irrationality) 이 무언지 간결하게 정의할 수 없다는 것이 밝혀진다면, 그 공통점은 치명적으로 다가올 것이다.
이와 같은 경우에, 합리적 이라는 단어의 어떤 새로운 정의를 내놓고서 "그러니까 내가 원하는 해답은 정의상의 '합리적'이라는 단어가 의미하는 바야" 라고 말해 문제를 해결하려 하는 것은 헛된 일이다. 이것은 왜 누군가가 당신의 정의에 주의를 기울여야 하는가에 대한 의문을 제기한다. 난 확률 이론에 흥미가 없다. 왜냐하면 이것은 라플라스로부터 전해 내려오는 신성한 말들이기 때문이다. 나는 베이지안 스타일의 믿음 갱신(오컴의 사전과 더불어)에 흥미가 있다. 왜냐하면 이런 사고방식이 우리가 체계적으로 정확성, 즉 실제 영토를 반영하는 지도에 더 가까워질 것이라고 기대하기 때문이다. 그 다음에는 확률 이론이나 결정 이론 둘 중 어느 쪽에도 제대로 대답되지 않은 것처럼 보이는 생각을 어떻게 생각하는 가에 대한 질문들이 있다. 예를 들면 "진리에 대해 어떻게 느끼는가?" 에 대한 질문처럼 말이다. 여기서 다시 말하지만, 특정한 방법으로 합리성 을 정의하려고 하는 것은 해답에 도움을 주는 것이 아니라 단지 하나를 상정하는 것이다.
나는 단어의 의미를 논하기 위해 여기 있는 것이 아니다. 그 단어가 합리성 이라고 해도 말이다. 특정 개념에 일련의 문자들의 가치를 두는 순서의 중점은 두 사람이 의사소통을 할 수 있게 하는 것이다.
즉, 한 뇌에서 다른 뇌로 생각들을 전달하는 데 도움을 주기 위함이다. 당신은 어떤 의미와 어떤 단어가 어울리다고 조작한다 해서 현실을 바꾸거나 생각을 증명할 수는 없다.
그래서 만약 당신이 내가 이 합리성 이라는 단어와 하위 단어의 인식론적 합리성 과 도구론적 합리성 을 가지고 어떤 일반적인 개념을 취하고 있는지 이해한다면 우리는 소통할 수 있다. 그리고 우리는 앞서 합리성 을 어떻게 정의하는 가에 관해 이야기를 나누는 것에 의해 성취해야 할 모든 것을 모든 것을 이루었다. 이제 남은 것은 "ㅎ-ㅏ-ㅂ-ㄹ-ㅣ-ㅅ-ㅓ-ㅇ" 이라는 음절에 어떤 의미를 부여할 것인지가 아니라, 무엇이 좋은 사고방식인가이다.
만약에 당신이 "이건 (인식론적으로) X를 믿는 것이 합리적이지만, 진리는 Y야" 라고 말한다면, 당신은 아마도 내가 생각하고 있는 것과는 다른 무언가를 의미하기 위해 합리적 이라는 단어를 사용하고 있는 것이다.(합리성 은 심사숙고하에 일관되어야 한다. 근거를 보는 합리적으로(rationally) 와 당신의 뇌가 근거를 어떻게 처리하는 지를 생각하는 합리적으로 는 각각의 다른 결과를 이끌어내서는 안 된다.)
마찬가지로. "내게 (도구론적으로) 합리적인 일은 X를 하는 것인데, 옳은 일은 Y를 하는 것이다" 라고 말하는 자신을 발견한다면, 당신은 거의 확실하게 합리적인 혹은 옳다 라는 단어에 대해서 다른 의미를 쓰고 있는 것이다. 나는 일반적으로 사고방식의 바람직한 유형을 선택하기 위해서 합리성 이라는 단어를 쓴다.
이러한 경우, 혹은 다른 어떤 경우라도 단어 의미에 대해 의견이 다른 경우 당신은 합리적인 대신에 좀 더 구체적인 언어로 대체해야 한다. "자기에게 이득인 일을 하려는 것은 도망치는 것이지만, 적어도 기차 선로 위의 아이들을 끌어내리려고 노력하기를 원한다." , 혹은 "종종 형식화된 인과 결정 이론(Causal decision theory)에서는 뉴컴 패러독스에서 두 가지 박스를 모두 가져가야 한다고 되어 있지만, 차라리 그냥 백만 달러를 갖고 싶다." 처럼 말이다.
사실 나는 이 이세이를 통해 합리적인 의 모든 예시를 핱릐적인 로 대체하고, 그것이 내가 말하는 것의 암시들을 바꾸는지 살펴보는 것을 추천한다. 만약 바뀐다면, 나는 합리성이 아니라 핱릐성을 위해 노력하라 말하는 것이다.
합리적 이라는 단어는 잠재적인 함정을 가지고 있지만, 그 단어가 나의 의사소통을 위해 잘 작동하는 수많은 비경계적 사례들이 있다. 마찬가지로 비합리적 의 경우에도 그렇다. 나는 그 단어를 사용하는 것을 두려워하지 않는다.
하지만 합리적 이란 단어를 남용하지 않도록 조심해야 한다. 큰 소리로 발음한다고 해서 점수를 받는 것이 아니다. 만약 도가 지나치다면, 의사소통이 이루어지지 않을 것이다.