음수에 대한 인식론적 장애
세상은 온통 수로 가득 차 있다.
온통 수로 둘러싸여 있다.
하루를 수로 시작하여 수로 끝낼 정도로, 수는 우리 생활을 지배하고 있다. 수로 대화하고 수로 재미난 걸 만들어 즐기면서도, 보통 수에는 별 관심이 없다. 항상 우리 곁에 있지만 수가 옆에 있는지도 모른다.
인간에게 꼭 필요한 능력 중 하나는 패턴 인지 능력이다. 특정 패턴을 설명할 때, 수를 사용한다. 그리하여 수학은 곧 일종의 언어(=상징)이다.
수학이 언어이기에 그 언어를 이루는 단어는 바로 수이다.
세상에는 사람들이 정의하지 못하는 패턴이 수없이 많이 존재한다. ‘하나’, ‘둘’과 같이 부르는 패턴은 극히 일부에 불과하다. 하지만 어떤 방식으로 부르든 본질은 그대로다.
귀로 들리는 것만이 소리가 아니듯 아무도 알아차리지 못하는 수도 존재한다.
수를 알아차리지 못하고, 수에 관심이 없고 수를 몰라도 인간은 모두 수를 사용하고 있다. 수 개념이나 수를 표현하는 방식만 모를 뿐, 모두가 사용하고 있다.
아무리 쉽게 설명하고 "이건 정말 쉬운 거야."라고 말할 정도로 정말 쉬워도 ‘수학’이라는 단어를 듣는 순간, 사람들은 대부분 수학을 거부하고 외면한다. 이는 수학자들에게도 마찬가지였다.
“처음은 반가움, 설렘, 기쁨일 수도 있지만
처음이 망설임, 불편함, 두려움일 수도 있다.”
우리가 당연히 받아들이고 있는 음수를 학생들은 당연하게 받아들이지 못하고 있다. 처음엔 망설이다가 불편해지면서 급기야는 두려워서 물러나 버린다. 이때부터 수포자가 된다.
처음엔 음수를 어떻게 반응했는지, 시간이 흐르며 차차 어떻게 달라졌는지 조금만 알아보기로 한다.
음수는 과거 수학자들도 그 개념을 쉽게 받아들이지 못하였다. 고대 그리스의 Diophantus(200-284?)는 《Arithmetica》에서 방정식 4x+20=4의 해 x=-4를 ‘불가능’ 한 것이라 기술하고 있으며, 중세 인도의 Bramagupta(598-665)는 이차방정식 풀이에서 음수를 해로 인정하지 않았다. 아랍의 AlKhwarizmi(780-850?)도 이차방정식의 음의 계수를 피하였다(김남희 외, 2011). 그리하여 과거 수학자들은 음수를 ‘가상이거나 불분명한 양’, ‘존재하지 않는 수’, ‘불가능한 것’이라 여겼다.
Pascal(1623-1662)은 1-4는 0보다 더 작은 수가 아니라 0 자체이고 ‘0 보다 작은 수는 존재하지 않는다.’고 말하며 음수를 0으로 생각하였다(Buzaglo, 2007). Descartes(1596-1650)는 방정식의 음의 근을 ‘거짓 근’이라고 불렀고(최병철, 2002), Pythagoras(c.570-c.495 B.C.)는 차의 결과로 음수가 나타나는 것을 현상계와 대응시키기 어려웠기 때문에 다루지 않았다(유윤재, 2012). 이렇게 수학자들은 음수 개념에 대하여 다양하게 표현하며 그 개념을 받아들이지 못하였고 음수를 수로서 인정하기를 거부했다.
당시 수학자들이 음수를 받아들일 수 없다고 생각한 근거는 작은 수에서 큰 수를 빼는 것이 어떻게 가능한가? -3은 2보다 작은데 -3의 제곱은 2의 제곱보다 크므로 작은 수의 제곱이 어떻게 큰 수의 제곱보다 클 수 있는가? (-4) ×(-5)=20 임을 인정하면 1:-4 = -5:20 이므로 더 큰 수와 더 작은 수의 관계가 어떻게 더 작은 수와 더 큰 수의 관계와 같을 수 있는가? 등이다.
예를 들어 (-4) × 3 = (-4)+ (-4)+(-4)라는 것은 직관적으로 인식할 수 있다. 4 달러를 세 번 빌린 것으로 생각하면 결국 12달러를 빌린 것이다. 그러나 4 ×(-3)은 직관적으로 아무런 의미가 없다. 이러한 직관적 수용의 결과로 생긴 태세 효과는 새로운 지식을 다룰 때 이전에 형성된 직관적인 지식들이 여전히 성립한다고 믿는 장애가 발생할 수 있다.
이러한 근거들이 음수를 처음 학습하는 학생들에게도 유사하게 나타나는 인식론적 장애(epistemological obstacle)라 할 수 있다(김남희 외, 2011).
학생들은 자연수를 생활 주변에서 양 또는 셈으로 인식하여 그 연산도 구체적인 사물의 크기 개념과 관련지어 학습하지만, 이어서 도입되는 음수 개념과 그 연산은 직관적으로 자연스럽게 학습할 수 없으므로 인지적 장애를 겪을 수 있다는 것을 간과하지 않을 수 없다(조진아, 2009).
이 문제는 당대 최고의 수학자였지만 수 개념을 구체적인 대상의 크기와 연결하려는 관념을 버릴 수 없었던 것과 유사한 문제다. 허수(imaginary number)를 받아들이는 것과도 관련 있는 문제로 역사적으로 음수와 허수 개념의 정립이 거의 비슷한 시기라는 점을 말해 주고 있다(김남희 외, 2011).
De Morgan(1806-1871)은 On the Study and Difficulties of Mathematics에서 “허수 제곱근 -a와 음수 -b는 닮은 점이 있는데 둘 다 불합리하고 부조리를 일으키는 문제의 해법에서 나타나고 있다. 실제 의미에 있어서 0-a는 제곱근 -a만큼이나 생각할 수 없는 것이기에 둘 다 가상적이다.”(Kline, 1972, para. 3)라고 하였다(최병철, n. d. 에서 재인용).
음수 체계의 확립이 완전히 성공을 거둔 것은 19세기 독일 수학자 Hankel(1839 -1873)에 의해서다. Hankel은 음수가 어떤 구체적이고 실제적인 것을 나타낸다는 관점을 버리고 형식적인 구조만으로 이해하였으며 음수를 설명하는 구체적인 모델을 더 이상 찾지 않았다. 단지 양수 체계를 구성하는 여러 가지 원리들은 그대로 유지하면서 음수 체계를 확장하였다. 이렇게 함으로써 음수 구조가 대수적으로 모순이 없는 것으로 보였다. 비로소 음수는 구체적인 모델과 독립된 수학적 개념으로 지위를 인정받을 수 있었다. 19세기가 되어 사람들은 수를 기하학적 대상과 대응할 필요를 느끼지 않았고 이로부터 대수학은 자유로워졌다. 이런 태도는 19세기 대수의 특징이라 할 수 있고, Freudenthal(1973, 1983)이 대수적 원리(algebraic principle)라고 부른 형식 불역의 원리(principle of the permanence of equivalent forms)에서 극명하게 드러난다(유윤재, 2012).
음수는 현대까지도 잘 이해되지 않고 있다. 프랑스 기하학자 Carnot(1753-1823)은 음수의 사용이 오류적인 결론에 이른다고 생각하였고, Euler(1707-1783)가 음수를 ∞보다 더 큰 수라고 믿었던 것(최병철, n. d.)은 음수 개념이 명확하게 정립되지 않았기 때문이다.
Martinez(2006)에 의하면, 음수 연산의 전통적인 규칙들은 물리적 대칭에 부합하지 않는 특이성을 포함하고 있다. 수학의 요소에 내재되어 있는 특이성이 보여주는 무의미한 비대칭을 알아봄으로써, 학생들이 음수 개념과 그 연산에 처음으로 마주쳐 어려움을 겪을 때, 음수의 중요성에 대해 수세기 동안 관심 가졌던 많은 학자들과 공감할 수 있다. 그러한 관심은 새로운 수학적 방법이 발전하도록 유도할 수 있다. 음수의 연산에서 지도모델은 여러 가지 연산 규칙을 설명하는 역할을 다 하고 있으나 어떠한 모델도 모든 연산을 항상 체계적이고 모순되지 않게 설명하지 못하고 있다. 그러므로 유일한 모델은 없다.
오늘날 학교 수학에서는 음수 개념의 형식성은 공리적 접근으로 고등학교에서 지도하고 있고, 중학교에서는 직관적이고 구체적인 음수 지도모델을 사용하여 계산 지도에 치중하고 있다(우정호 & 최병철, 2007). 현재 음수 지도모델이 모든 연산을 일관적으로 설명하지 못하는 것을 조숙례(2003)는 중학교 1학년 학생들을 대상으로 음수 개념의 이해 실태와 어떠한 장애를 갖고 있는지를 조사하고 분석하였다. 그 결과, 대부분의 학생들이 음수 연산과 수의 대소 관계는 바르게 제시할 수 있으나 덧셈과 뺄셈보다는 곱셈과 나눗셈과 관련된 연산에서 혼란을 느끼고 있었다. 학생들은 음수의 곱셈에서 부호의 혼란이 많이 나타났고, 개념적 이해가 절차적 이해에 비해 부족하여 음수의 곱셈이 좀 더 복잡해지면 실수도 잦아지고 혼란을 더욱 느끼는 것으로 나타났다.
Khinchin(1968)의 연구에 의하면, 교사들은 학생들에게 음수를 설명할 때는 실질적인 어려움이 없으나 음수 연산을 정당화할 때는 어려움이 생긴다. 즉, 음수 연산을 증명하고자 할 때 문제가 발생한다. 학생들은 곱셈의 부호 법칙을 증명해야 하는 끊임없는 요구에 스스로 자유로울 수 없으며 주장에 대한 증명을 찾기 위해 헛된 수고를 하는 경향이 있다. 그러므로 학생들이 그러한 증명을 할 수 없다는 것과 과학적 견해로 증명이 존재할 수 없다는 것을 깨닫도록 지도하여야 한다.
음수의 연산 규칙은 필요에 의해 (-1) ×(-1)=(+1)로 또는 (-1) ×(-1)=(-1)로 사용되는 임의성을 가지고 있으므로 무 모순적이다. 음수 지도모델이 유용하다면 우리 필요에 의해 모든 연산 규칙을 적용할 수 있어야 한다. 그런데 현재의 음수 지도모델은 임의적으로 정의할 수 있고 연산 규칙도 바꿀 수 있다. 그러므로 그러한 음수 지도모델은 증명할 필요가 없다. 그럼에도 불구하고 최병철(2003)이 교사의 음수에 대한 이해와 지도 관점을 알아보기 위한 임상 인터뷰에서, 교사들은 음수 지도모델의 일관성 결여에 동의하면서도 음수 연산을 설명하는 데 있어 상황에 따라 다른 모델을 사용하는 것에 긍정적 반응을 보이고 있었으며 음수 지도모델의 한계에 대해서 문제의식을 크게 느끼지 않고 있었다.
중등 수학의 첫 장애로 시작하여 고등 수학까지 장애를 미치는 음수 개념에 대해 관심을 가질 필요가 있다. 음수 개념이 가진 문제의식을 해결하기 위해 여러 각도에서 분석하는 시도도 필요하다.
음수의 특징에 따른 논쟁을 제시하고 이처럼 음수 지도에 관한 일관된 모델이 없는 모호한 상태를 더 연구할 필요도 있다. 음수 지도모델를 연구한 내용을 기초로 그에 따른 교수학적 의미를 분석하여 음수 지도모델의 새로운 교수 방향도 필요한 실정이다.
이는 교사와 학생이 함께 도전할 때 찾을 수 있는 길이다. 학생들은 음수 이해의 필요성을 내색하고 교사들은 그 요구에 부응하여 학생들이 ‘음수에 대한 인식론적 장애’를 극복할 수 있도록 도와주어야 한다.
“과연 학생들이 음수를 ‘당연하게 받아들일’, ‘이해할’ 그런 날이 올까.”
(당연하게 곁에 있지만 인식론적 장애를 겪는 것들이 해결될) 그런 날이 오길 바라며 이 글을 마무리한다.
*인식론적 장애는 Brousseau의 수학 교수학적 상황론 중에서 핵심적 개념으로 어떤 특정 맥락에선 유용했던 지식이고 학생들 인지 구조의 일부였는데, 새로운 문제 해결이나 개념 이해 상황에선 부적합하거나 부적합해진 지식이다(우정호, 2000/2011; 황혜정 외, 2001/2012).