수학의 도형 영역의 문항들은 어떤 전형적인 오류를 학생들이 갖게 할 수 있는 가능성을 가지고 있는데 다음과 같은 문제의 경우가 그렇다.

위의 문제가 무엇이 문제일까?
위의 문항을 자세히 보면 대응점과 대응변이 어딘지 확실한 수학적 근거가 없다는데 문제점이 있다.
삼각형의 모양을 언뜻 보면 점ㄴ의 대응점은 점ㅂ이다. 이 것은 모양상 또는 각도상 그렇다는 것이다.
그런데 학생들 중 일부는 점ㄴ의 대응점이 점ㅁ이라고 착각(?)하는 경우가 있다. 그렇다면 이 학생들이 틀린 걸까?
다시 한 번 합동이라는 삼각형 2개를 자세히 살펴본다. 우리가 주어진 조건을 바탕으로 삼각형의 각도를 직접 재어보거나 삼각형의 ‘모양’만 제외하면 사실 점ㄴ의 대응점이 점ㅂ이라는 수학적인 근거는 전혀 없다.
말하자면 학생의 입장에서는 점ㄴ의 대응점이 점ㅁ이라고 주장할 수 있는 상황이다.
따라서 문제가 문제를 푸는 학생들에게 혼란을 줄 수 있는 문제이다.
도형 영역에서 특히 이런 경우가 많다. 즉 위의 삼각형은 변ㄱㄴ의 길이가 실제로 8센티미터가 아니다. 실제로 재어보면 3센티미터 남짓이다. 그러므로 당연히 변ㄱㄷ의 길이도 7센티미터가 아니다. 그보다 더 짧다.
바로 이런 부분에서 학생들의 혼란이 유발된다. 이 문제를 접하는 학생들은 실제 길이가 아니지만 8센티미터라고 하는 변의 길이를 보면서 어느 쪽이 긴 변인지를 판단해야 위의 문제를 풀 수 있다. 문제의 의도는 두 삼각형이 합동이므로 두 변의 길이 중 더 긴 변을 판단해서 대응변을 찾아내라는 것일 수도 있다.
그러나 실제 길이에서도 1센티미터 밖에 차이가 나지 않는 두 변의 길이를 더 축소된 버전에서 구분해야 하는데 이를 사실 눈으로 구분하기는 쉽지 않을 수 있다.
아주 자세히 들여다 보면 모양에서 어느 정도 구분이 되는 건 사실이지만 만약 학생 중 누군가가 눈에만 그렇게 보일 뿐이지 어떻게 수학적으로 증명할 수 있느냐 라고 물으면 역시 대답은 ‘증명할 수 없다’이다.
위의 합동인 두 삼각형의 실제 각도는 제시된 각도와 당연히 같기는 하다. 그래서 만약 각도기를 가지고 학생들이 측정한다면 좀 더 정확히 대응변을 찾아낼 수 있었을 지 모른다.
그러나 사실 위의 문제는 각도기를 가지고 푸는 문제가 아니므로 수학의 도형 영역을 공부하는 목적을 고려해보면 위의 문제는 실제 길이와 각도와 상관없이 수학적으로 반드시 그렇게 될 수 밖에 없는 근거를 문제에서 조건으로 마련해 두어야 하는 게 맞다.
수학은 대충 그렇게 보이므로 그렇다라고 답하는 학문이 아니기 때문이다. 점ㄴ의 대응점이 ㅁ인지 ㅂ인지 명확하게 구분할 수 있는 반론할 수 없는 근거가 조건에 있어야 했다. 제시한 변의 길이와 각도가 정말로 실제의 길이와 각도와 일치하는 도형이 아니라면 말이다.
그렇다고 해서 실제 길이와 각도를 반영한 도형을 제시하라는 말이 아니다.
문제가 위와 같이 나올 수 밖에 없는 현실적인 한계가 있는 것을 알고 있다. 한 변의 길이가 40센티미터인 정사각형을 문제에 제시하기 위해서 실제 40센티미터의 길이로 도형을 교과서에 실을 수는 없는 일 아닌가?
다만 위와 같이 수학적인 추론과 사고를 통해 문제를 해결하도록 설계가 되어 있지 않은 것이 문제라는 것이다. 모양이 그렇게 보여서 위의 정답을 맞췄다고 치자. 그렇게 푸는 방식에 익숙해진 학생들은 앞으로도 모양이 비슷해 보인다는 주관적인 근거에 의존에 문제를 해결하려 할 확률이 높아지고 이런 습관은 오개념을 만들어낸다. 그리고 그런 오개념은 결정적인 순간 문제가 되기도 한다.
학생들도 위와 같은 문제를 접했을 때는 그냥 풀기보다는 먼저 의문을 제기할 수 있어야 한다. 대응변이 왜 이쪽은 안될까? 이런 식으로 말이다. 그렇게 사고하는 습관을 들여야 올바르게 수학을 배워나가는 것이고 이런 생각이 쌓이다보면 수학 공부하기가 쉬워지는 것은 당연하다.