프레게, 실패한 철학적 기획으로 지성사의 전환점을 마련한 [생활속의철학]

프레게

프레게

출생 - 사망   1848.11.8. ~ 1925.7.26.

 
저명한 철학사가, 안토니 케니는 프레게(Gottlob Frege, 1848~1925)를 콜럼버스와 비교했다. 서쪽으로 항해하여 인도를 발견하려는 콜럼버스의 시도는 실패했다. 하지만 그의 발견으로 유럽은 아메리카 대륙을 알게 되었다. 마찬가지로, 일생을 건 프레게의 철학적 기획은 결국 실패했다. 하지만 그 과정 중에 새로이 확립된 논리학과 철학은 큰 진전을 거두게 된다. 유럽인들에게 있어 아메리카 대륙의 발견은 세계 지도가 바뀌는 사건이었다. 마찬가지로 프레게 후계자들에게 있어 그의 새로운 논리학과 철학은 지성사의 커다란 전환점이었다.

쓸쓸했던 프레게의 인생
천재가 천재를 알아보다

 
하지만 프레게의 일생은 쓸쓸했다. 19세기 예나 대학의 수학과 교수였지만, 사람들에게는 거의 알려지지 않았다. 철학자뿐만 아니라 수학자들조차 그의 글을 읽지 않았으며, 읽었다 하더라도 대부분이 적대적이었다. 1910년대에 수차례 프레게의 논리학 수업을 들었던 과학철학자 루돌프 카르납이 회상하기를, 그는 작고 내성적인 사람이었다고 한다. 두세 명의 학생들만이 수강하는 경우가 있을 정도로 그의 수업은 별 인기가 없었다. 얼마 되지 않는 학생들 앞에서, 그들은 거의 쳐다보지 않고, 이상한 기호들을 칠판에 잔뜩 써가면서, 조용한 목소리로 수업을 하는 프레게의 모습은 무척이나 쓸쓸해 보인다.

그러나 천재는 천재를 알아보는 법이다. 주변 학자들에게 철저히 무시당하고 있었던 프레게의 위대함을 알아본 위대한 철학자들이 있었다. 러셀, 비트겐슈타인, 카르납이 그들이다. 프레게가 러셀에게 미친 영향력은 러셀과 화이트헤드(Alfred North Whitehead)가 쓴 [수학원리]에서 정점에 이른다. 또한 비트겐슈타인은 [논리철학논고] 서문에서 자신의 철학은 프레게의 위대한 저작에 커다란 영향을 받았다고 밝히고 있다. 마찬가지로 카르납 역시 그의 자서전에서 자신의 논리학과 의미론은 프레게로부터 직접적이고 강한 영향을 받았다고 서술하고 있다. 이렇듯 몇몇 논리학자들과 철학자들에게 있어 프레게는 아버지다. 그는 전통 논리학을 넘어서는 새로운 논리학, 즉 현대 수리논리학을 만든 인물이다.

이런 프레게의 영향력은 몇 권의 책과 논문들로 요약된다. 책으로는 [개념표기법(Begriffsschrift)], [산수의 기초(Die Grundlagen der Arithmetik)], [산수의 근본 법칙(Grundgesetze der Arithmetik)]이 대표적이며, 논문으로는 [함수와 개념(Funktion und Begriff)], [뜻과 지시체에 관하여(Über Sinn und Bedeutung)] 등이 손에 꼽힌다. 이제 본격적으로 프레게의 논리학과 철학을 살펴볼 시간이다. 거칠게 말하자면, 프레게는 아리스토텔레스를 넘어섰으며, 칸트와 (그리고 밀과) 대립했다. 하지만 그의 철학적 기획은 러셀에 의해서 좌절되었다.

새로운 논리학
프레게는 현대의 아리스토텔레스

 
프레게의 책 제목들에서 짐작할 수 있듯이, 그가 평생 동안 연구한 것은 산수였다. 프레게의 산수는 정수뿐만이 아니라 실수와 복소수까지 포함한다. 넓은 의미에서 수에 대한 학문이라고 생각하자. 수는 수학의 가장 기본적인 구성 요소들 중에 하나다. 그리고 산수에는 이런 수에 관한 다양한 문장들이 있다. 가령, ‘2+3=5.’라든가, ‘2+2=5.’와 같은 것이 그런 것들이다. 여기서 ‘2+3=5.’는 수에 관한 참인 문장이지만, ‘2+2=5.’는 수에 관한 거짓인 문장이다. 이제 프레게가 묻는다. ‘2+3=5.’가 참인 근거는 무엇인가? 당신은 왜 ‘2+3=5.’가 참이라고 생각하는가? 프레게의 답은 논리적 참에 있었다. 논리적으로 참인 문장이란 너무나도 자명해서 특별한 증명이나 정당화가 필요 없는 문장을 말한다. 예를 들어, ‘지금 비가 오거나 비가 오지 않는다.’와 같은 문장이 논리적으로 참인 문장이다. 이제 이런 문장을 논리적 진리라고 부르자. 프레게는 ‘2+3=5’와 같은 산수의 진리들이 이런 자명한 논리적 진리들로부터 추론될 수 있고, 따라서 산수는 논리학에 기초한다고 생각했다. 즉 ‘2+3=5’가 참인 이유는 너무나도 자명한 논리적 진리로부터 추론될 수 있기 때문이고, ‘2+2=5.’가 거짓인 이유는 그렇지 못하기 때문이다.

여기서 잠깐 ‘추론’이라는 말에 주목하자. 추론은 전제로부터 결론을 도출하는 과정 혹은 그것을 언어로 표현한 것이다. 그럼 추론을 다루는 학문은 무엇인가? 그것은 바로 논리학이다. 다시 말해 논리학은 전제로부터 결론으로의 추론이 옳은지 그른지를 판단하는 학문이다. 즉 전제가 참이라는 것으로부터 결론이 참이라는 것이 옳게 추론될 수 있는지에 관한 학문이 바로 논리학이다. 그러기 위해서는 전제가 말하는 바가 정확하게 무엇이고, 결론이 말하는 바가 정확하게 무엇인지 알아야 한다.

그럼 다음 두 문장을 비교해보자: ‘철수는 남자이며 군대를 다녀오지 않았다.’, ‘철수는 남자임에도 불구하고 군대를 다녀오지 않았다.’. 이 두 문장은 같은 것을 말하고 있는가? 다소 불분명하다. 두 번째 문장은 남자와 군대 사이의 어떤 특별한 관련이 있다는 뉘앙스를 풍기고 있다. 하지만 첫 번째 문장은 그렇지 않다. 이런 점에서 두 문장이 말하는 바는 서로 다르다고 말할 수도 있다. 이제 이 두 문장의 참, 거짓을 생각해보자. 어떤 경우에 위 두 문장은 참이라고 말할 수 있는가? 또 어떤 경우에 위 두 문장은 거짓이라고 말할 수 있는가? 철수가 남자이고 철수가 군대를 다녀오지 않았다면 ‘철수는 남자이며 군대를 다녀오지 않았다.’는 문장과 ‘철수는 남자임에도 불구하고 군대를 다녀오지 않았다.’는 문장은 모두 참이 된다. 마찬가지로 철수가 남자가 아니거나 그가 군대를 다녀왔다면 위 두 문장은 모두 거짓이 된다. 즉 참과 거짓이 되는 조건은 두 문장이 서로 같다. 앞에서 논리학은 전제가 참일 때 결론이 참이라는 것이 옳게 추론될 수 있는지를 밝히는 학문이라고 했다. 즉 논리학에서 중요한 것은 문장들의 참/거짓이다. 이렇듯 우리가 일상적으로 사용하는 언어의 문장들이 가지고 있는 뉘앙스는 논리학에서 별 역할을 하지 못한다. 바로 이 이유에서 논리학은 우리의 일상적인 언어의 뉘앙스와 같은 특징이 배제된 특별한 언어를 필요로 한다. 그리고 이 목적을 위해서 프레게가 쓴 책이 바로 『개념표기법』이다. 바로 이 책을 통해서 현대 수리논리학이 시작된다. 즉 이 책에서 다양한 기호, ‘￢(~이 아니다)’, ‘→(~이면 …다)’, ‘↔(~인 경우에, 그리고 그런 경우에만 …다.)’, ‘∀(모든)’ 등으로 이루어진 새로운 논리 언어가 제안된다. (여기서 언급한 기호들은 실제로 [개념표기법]에 등장하는 기호들과 다르다. 이것들은 현대 수리논리학 기호들이다.

원래의 프레게 기호들은 2차원 다이어그램으로 되어 있어 훨씬 복잡해 보인다.) 하지만 여기에 주의할 것이 있다. 프레게는 결코 인공 언어를 일상 언어보다 더 훌륭한 언어로 생각하지 않았다. 그는 인공 언어와 일상 언어와의 관계를 현미경과 우리의 눈과의 관계로 비유한다. 현미경이 우리의 눈보다 훌륭하다고 말할 수 없다. 우리 눈은 현미경으로는 할 수 없는 일을 해낸다. 그렇지만 어떤 과학적 탐구를 위해서는 현미경의 사용이 절실하다. 마찬가지다. 일상 언어는 인공 언어가 해 내지 못하는 일을 할 수 있다. 하지만 일상 언어는 문장들 사이의 논리적 관계를 검토하기 위해서는 부적합하다. 이를 위해 뉘앙스와 같은 심리적 요소를 배제한 새로운 인공 언어가 필요하다는 것이 프레게의 생각이었다.

물론 논리학의 역사는 오래되었다. 고대 그리스의 아리스토텔레스에 의해서 처음으로 체계적으로 정리되었다고 한다. 흔히들 이 아리스토텔레스의 논리학을 전통 논리학이라고 한다. 논리학 분야에서 프레게는 현대의 아리스토텔레스라고 불린다. 그리고 프레게의 새로운 논리학은 아리스토텔레스의 전통 논리학을 뛰어 넘었다고 평가받는다. 어떤 점에서 프레게의 논리학이 아리스토텔레스의 논리학보다 우수한지를 설명하는 것은 이 글의 목적 밖에 있다. 가령, ‘어떤 사람은 모든 사람을 사랑한다. 그러므로 어떤 사람은 철수를 사랑한다.’와 같은 추론이 옳다는 것을 전통 논리학은 설명하기 어렵지만, 프레게의 논리학은 체계적으로 설명할 수 있다. 기억할만한 사실은 프레게 이후 지난 100여 년 동안 진행된 논리학의 발전은 아리스토텔레스 이후 프레게 이전까지 2000년 동안 진행된 논리학의 발전을 압도한다는 것이다.

산수의 진리들을 논리적 진리들로 환원
프레게의 논리주의

 
이제 프레게의 철학적 기획으로 되돌아가자. 그가 목표로 한 것은 산수의 진리들을 논리적 진리들로부터 추론하는 것이었다. 조금 더 어렵게 말해, 그는 산수의 진리들을 논리적 진리들로 환원하려고 하였다. 이렇게 산수가 논리학에 기반하고 있다는 주장은 논리주의라고 불린다. 이것은 산수에 대한 당시 지배적인 이론들과 충돌하는 것이다. 가령, 칸트는 산수의 진리는 논리학의 진리와 다르다고 생각했다. 역시 어려운 말로, 칸트에게 있어 논리학의 진리는 분석적이지만 산수의 진리는 분석적이지 않다. 하지만 산수의 진리가 논리학의 진리로부터 추론될 수 있다고 생각한 프레게는 산수의 진리 역시 분석적이라고 생각한다.

그럼 이 논리주의적 기획을 완성하기 위해서 가장 먼저 해야 할 것은 무엇인가? 그것은 우선 참인 수에 관한 문장에 등장하는 0이나 1과 같은 수를 순수 논리적 언어로 정의하는 것이다.대략적으로라도 프레게의 수 정의를 이해하기 위해서는 몇 가지 까다로운 논리학 지식이 필요하다. 기본적으로 필요한 것은 ‘개념’과 그것의 ‘외연’이다. 개념들은 그것에 귀속된 대상들을 가지고 있다. 예를 들어, 태연, 윤아, 서현 등은 ‘소녀시대’ 멤버라는 개념에 귀속된 대상들이다. 달리 말해, ‘…는 소녀시대의 멤버다.’는 표현의 빈자리, ‘…’을 채웠을 때 참인 문장이 만들어지는 대상을 소녀시대 멤버라는 개념에 귀속된 대상이라고 말한다. 그리고 그런 대상들의 집합을 소녀시대 멤버라는 개념의 외연이라고 부른다. 즉 소녀시대 멤버 9명으로 이루어진 집합을 소녀시대 멤버라는 개념의 외연이라고 부르는 것이다. 물론 모든 개념들이 그것에 귀속된 대상을 가지고 있는 것은 아니다. 가령, 소녀시대의 남자 멤버라는 개념에 속하는 대상은 아무 것도 없다. 이런 경우 우리는 소녀시대의 남자 멤버라는 개념의 외연은 공집합이라고 말할 수 있다.

수의 정의
'수가 같다'의 의미

 
이제 프레게의 아이디어를 대략적으로 이해해보자. 이를 위해서 소녀시대 멤버의 수, 즉 9를 정의해보자. 어쩌면 간단해 보일 수도 있다. 프레게는 수 9를 소녀시대 멤버라는 개념과 수가 같은 개념들의 집합으로 정의한다. (물론, 프레게는 소녀시대를 몰랐다. 나중에 밝혀지겠지만 설사 알았다고 하더라도 프레게는 이런 9에 대한 정의를 받아들이지 않을 것이다.) 즉 9는 소녀시대 멤버의 수와 같은 수의 대상들이 귀속된 개념들의 집합이다. 이 집합에는 9개의 대상들이 귀속된 다양한 개념들이 포함된다. 즉 프레게의 아이디어에 따르면 다음 집합이 수 9가 된다: {명왕성을 포함한 태양계 행성, 광저우 아시안게임 일본 전에 선발 출장한 야구 선수, …}. 소녀시대의 남자 멤버의 수, 즉 0 역시 마찬가지다. 그것은 소녀시대 남자 멤버라는 개념과 수가 같은 개념들의 집합이다. 가령, 다음 집합이 수 0이 된다: {조선의 여왕, 유니콘, 둥근 사각형, …}.

그러나 이런 정의에는 문제가 있다. 첫 번째 문제는정의에 포함되어 있는 ‘수가 같다’는 표현이다. 우리는 수 9를 소녀시대의 멤버라는 개념과 수가 같은 개념들의 집합으로 정의했다. 수의 정의에 ‘수가 같다’는 표현이 포함되었다. 수를 이용해서 수를 정의한 것이다. 그렇다면 이 정의는 순환적이다. 이것은 문제다. 하지만 이는 겉으로만 그럴 뿐이다. 프레게는 이 ‘수가 같다’는 것을 수 개념을 이용하지 않고 정의한다. 두 번째 문제는 정의에 포함된 개념이 논리적이지 않다는 것이다. 0의 정의를 다시 생각해보자. 우리는 0을 정의하기 위해서 소녀시대 남자 멤버라는 전혀 논리적이지 않은 개념을 이용했다. 논리적이라는 것은 자명하고 증명이 필요 없다는 것 정도로 이해하자. 하지만 소녀시대의 남자 멤버에 속한 대상이 없다는 것은 자명하지 않고 증명이 필요한 이야기다. 따라서 프레게는 이런 정의를 용납하지 않을 것이다. 그럼 속하는 대상이 아무 것도 없다는 것이 자명한 개념에는 무엇이 있는가? 프레게는 그런 개념으로 자기 자신과 동일하지 않음이라는 개념을 제시한다. 모든 것은 자기 자신과 동일하다. 자기 자신과 동일하지 않은 것을 찾을 수 있는가? 논리적으로 표현하여, x≠x를 만족하는 x가 존재하는가? 분명히 그런 것은 없다. 따라서 프레게는 순수 논리적인 방식으로 0을 다음과 같이 정의한다: 자기 자신과 동일하지 않음이라는 개념과 수가 같은 (혹은 일대일 대응하는) 개념들의 집합. 이제 0에 대한 정의는 순수 논리적인 것이 된다. 1과 2 역시 이와 유사한 방식으로 정의될 수 있다. (엄격하게 말하자면 프레게는 1과 2를 이렇게 정의하지 않는다. 그는 특별한 논리적 진리를 이용하여 그 수들의 존재를 추론한다.) 이제 수를 정의했으니, 이것과 논리학의 몇몇 법칙들을 통해서 산수의 진리를 추론해 내는 일만 남았다. 이제 성공이 눈앞에 있는 것처럼 보인다.

러셀의 역설
프레게의 철학적 기획을 좌절시키다

 
하지만, 이런 프레게의 논리주의적 기획은 한 방에 무너진다. 이 좌절은 그의 [산수의 근본 법칙] 2권이 인쇄되는 동안 러셀에게 받았던 편지에서 비롯되었다. 간단히 말해, 프레게의 체계에 따르면 자기 자신을 원소로 갖지 않는 집합들의 집합 역시 존재할 수밖에 없다는 것이 문제를 일으켰던 것이다. 사실 대부분의 집합은 자기 자신을 원소로 갖지 않는다. 사람들의 집합은 사람이 아니다. 따라서 사람들의 집합 속에는 사람들의 집합이 속하지 않는다. (물론 자기 자신을 원소로 갖는 집합들도 있다. 가령, 사람이 아닌 것들의 집합은 사람이 아니다. 따라서 사람이 아닌 것들의 집합은 사람이 아닌 것들의 집합의 한 원소다.) 이제 따져보자. 자기 자신을 원소로 갖지 않는 집합들의 집합이 있다고 가정하자. 이런 집합을 A라고 하자. 그럼 이제 물어보자. A는 A의 원소인가? 우선 그렇다고 가정해보자.즉 A가 A의 원소라고 가정하자. 그럼 A는 자기 자신을 원소로 가지는 집합이 된다. 그런데, A는 자기 자신을 원소로 가지지 않는 집합들의 집합이었다. 따라서 A는 A에 속할 수 없다. 이는 가정과 충돌한다. 한편, A가 A의 원소가 아니라고 하자. 즉 A는 자기 자신을 원소로 가지지 않는 집합이다. 다시 한 번, A는 자기 자신을 원소로 가지지 않는 집합들의 집합이라는 것을 기억하라. 따라서 A는 A의 원소다. 그러나 이 역시 A가 A의 원소가 아니라는 가정과 충돌한다. (이런 논증은 유명한 이발사의 역설과 유사하다. 스스로 면도하지 못하는 사람들은 모두 면도해주고 스스로 면도하는 사람은 면도해주지 않는 이발사가 있다고 생각해봐라. 그럼 그 이발사는 누가 면도해주는가?) 이런 역설이 담긴 러셀의 편지를 받고 프레게는 좌절한다. 그리고 나름의 해결책을 찾으려고 한다. (하지만 그가 제시한 해결책 역시 궁극적으로 실패했다는 것이 나중에 증명된다.) 이런 충격에 직면한 프레게는 [산수의 근본 법칙] 2권 부록에 다음과 같이 서술한다.

“연구가 다 끝난 이후 자신 지식 체계의 기초들 중에 하나가 흔들리게 된 것보다 과학적인 저자에게 더 불행한 일은 없을 것이다. … 이제 나는 산수가 어떻게 과학적으로 확립될 수 있는지, 수가 어떻게 논리적 대상으로 파악될 수 있는지 … 알지 못한다.”

 
글 처음에 언급했듯이, 안토니 케니는 프레게를 콜럼버스에 비유했다. 일생을 바친 철학적 기획은 결국 실패했지만, 그의 유산은 찬란하다. 비록 위 글은 프레게의 수리철학, 특히 논리주의에 대해서만 다루었지만, 그것은 나의 한계와 지면의 한계 때문이다. 실패담 속에 드러나는 프레게의 논리적, 철학적 통찰은 훗날 논리학자들과 철학자들에게 커다란 영감의 원천이 되었다. 마지막으로 프레게에 대한 안토니 케니의 언급을 한 가지만 더 소개하자. 케니는 철학적 문장가로서 프레게를 능가하는 사람은 플라톤과 데카르트뿐이라고 단언한다. 그는 특히 [산수의 기초]는 모든 시기에 걸쳐 독창적이고, 명쾌하고, 엄밀하고, 경제적이고, 위트가 있고, 미묘하고, 심오한 위대한 철학적 걸작 가운데 하나라고 소개한다. 다행스럽게도, [산수의 기초]는 우리말로 번역되어 있다.