한빛아카데미 출판사의 "수학이 외계어처럼 들리는 이공계생을 위한 제로 수학(김우섭, 강민범 저)"를 읽고 작성한 리뷰입니다.

---

이공계 관련 학과에서 반드시 알아둬야 하는 수학의 핵심을 단 한 권에 요약한 책이다.

복소수까지 이르는 수의 체계, 집합과 명제로 이루어진 수의 논리, 이를 바탕으로 한 중학교 수준의 수의 연산을 시작으로 함수, 기하학, 선형대수, 극한, 미적분의 내용을 담고 있다.

다루는 범위는 이공계 수학에서 반드시 알아야 하는 수준을 담고 있다. 기계공학과라면 미적분 파트가 더 중요할 수도 있고 컴퓨터공학과라면 선형대수가 더 중요할 수도 있겠는데 이 책에서 다루는 범위는 각 이공계 학과에서 배워야 할 수학의 교집합이라고 볼 수 있을 것 같다.

타 학과를 전공하지 않았기에 함부로 평하긴 어렵겠지만 적어도 컴퓨터 공학 전공인 내게는 학부 시절 필요로 했던 수학의 내용들이 모두 담겨 있었다.

예를 들면 집합과 명제에서 수의 논리로 이어지는 내용은 부울 대수로 이어지고 그 개념은 논리회로나 전자회로의 과목으로 이어진다. 그 외 과목에도 증명, 응용 가능성을 판단하기 위한 기본 수의 논리에 유용하게 활용된다.

수의 체계는 공리 등을 위한 거의 모든 과목의 기본 요건이며 다항식의 연산은 대학 수준에 이르면 사칙 연산 수준이라 할 수 있을 정도로 기초 뿌리로 활용된다.

특히 컴퓨터공학에서는 이 책의 백미라고 할 수 있는 3, 4장의 선형대수가 많이 활용되는데 컴퓨터 안의 세상은 인간 세상을 사상하여 만들어진 공간이 상당 부분 존재하고 그때마다 선형대수의 개념이 빛을 발한다. 이산수학으로 대표되는 과목의 뿌리가 되기도 한다.

VR, AR 등 공간표현에 기초가 되는 컴퓨터 그래픽스 과목에 활용되거나 AI분야에도 활용된다. 요즈음 핫한 딥러닝에서는 데이터들의 공간 표현 및 NLP분야의 임베딩 및 감성분석 등에도 활용되며 이를 실수 연산을 조합한 형태인 Vectorization화하여 GPU가 빠르게 연산할 수 있도록 변형하기도 한다.

미분 또한 AI 분야에서 손실함수의 경사하강법 적용을 통한 최적화에 활용되며 미분의 연쇄법칙 같은 경우는 딥러닝의 역전파법에 응용되어 인공지능이 학습할 수 있는 뛰어난 인사이트로 활용된다. 적분 역시 3D프린터에 활용된다.

다양한 분야의 수학을 한 권의 책으로 컴팩트하게 담고 있기에 책을 1회독하는데 걸린 시간은 예상보다 오래 걸렸다. 다른 책도 읽고 직장의 업무를 보면서 하루 평균 2시간 정도 학습에 매진했는데 대략 한 달 정도의 시간이 필요했다.

나는 수학을 어느정도 손에 잡고 있었고 또 절반 정도는 책의 내용을 확실히 알고 있는 상태였기에 이를 감안하면 수학의 기본기가 부족한 독자라면 그 이상의 시간이 걸릴 것이다.

수학을 전혀 모르는 채 이 책 하나만으로 대학 이공계 수준의 수학 역량을 얻을 수 있는지에 관심많은 독자분들이 많을텐데 난 충분히 가능하다고 말하고 싶다.

대신 전제 조건이 있다. 책은 가급적 순서대로 읽을 것을 권장하며 각 단원의 앞 부분을 확실히 정복하지 않았다면 완전히 익힐 때까지 다음 장으로 넘어가지 않는다는 규칙을 지켜야 한다. 아마도 90% 이상은 이 책 한 권으로 거의 커버가 가능한데 가끔 본인이 약한 부분은 인터넷 검색을 활용한다면 큰 무리없이 미적분에 도달할 수 있을거라 생각한다.

이 책을 읽고 느낌 장점은 크게 세가지로 요약할 수 있다.

첫번째 장점은 이공계 수학의 큰 흐름을 파악할 수 있다는 점이다. 어떤 분야든 본격적으로 연구하기 시작하면 스스로의 수학적 깊이 부족에 자책할 때가 많다.

하나씩 알아가며 흥미가 생기면 시간이 허락한다는 전제하에 대수학, 기하학, 해석학, 정수론, 집합론 등 수학의 세부 분야에 빠져들기도 하는데 재미는 있지만 시간이 너무 오래 걸려 문제다.

아주 공부를 열심히 하여 세부 분야를 알았다고 하더라도 다시 공학의 세계로 돌아오면 전체 흐름이 보이지 않아 또 진땀을 뺀다. 해석학이 집합론과 어떻게 연결되는지 연결고리가 부실해지거나 인간의 망각에 의해 당시 분명히 다잡았던 개념들이 흐릿해져 해메이기도 한다.

즉, 공학에 필요한 수학 전체를 아우르는 메타 지식이 부재한 상태라고나 할까? 전체 그림이 보이지 않으면 공학에서 응용할 수학을 바로 짚어낼 수가 없다.

수학 자체만 놓고 본다면 세상을 구성하는 진리를 발견하고 탐구하는 고상한 한 차원 높은 목적이 존재하겠지만 내 그릇을 넘어서는 영역이라 함부로 평하기 어렵다.

하지만 공학에 포커스를 맞추면 수학은 공학의 도구 상자라는 생각이 든다. 집에 책상이 필요해 만들고 싶다면 망치나 톱을 활용해야 할 텐데 각 도구의 용도를 모르면 아무리 망치질과 톱질을 잘하더라도 걸작 책상을 만들지 못하게 된다.

오차역전파법 덕분에 AI가 스스로 학습이 가능해졌다는 사실이 좋은 비유가 될 듯 싶다. 미분에서 미분 가능 여부를 따지는 계산을 분명히 배우고 스스로 문제를 풀줄도 알게 되었는데 정작 필요할 때 못쓰는 망치로 전락하는 경우가 많다.

미분으로 한 차원 뛰어넘는 성능을 낼 수 있는데 엉뚱한 아이디어로 미분 불가능한 함수를 만들어 연구 결과로 만든 구현체가 동작하지 않거나 성능이 느려 활용하지 못하는 단계에 이르는 경우도 있다.

또, 기껏 미분의 연쇄법칙을 배워놓고 딥러닝의 Layer마다 일일이 가중치를 역산하여 선행 노드에 전달한다면 이 역시 느려서 쓰지 못하게 되고 방대한 코드량은 사람의 몫이 되어 실현 불가능한 인공지능에 좌절하게 된다.

즉, 미분 연쇄법칙을 자동 미분에 활용할 수 있는 능력이 필요하다. 적어도 이공계 공학도라면 수학을 배울 때 어떤 분야에 활용할 수 있을지 연결할 줄 아는 안목을 키워야 한다.

수학을 너무 깊이있게 파고 들면 이런 활용의 방점에 약해지기 마련인데 바로 이런 약점을 보완해주는데 이 책이 상당한 도움을 준다. 수학의 세부 분야 중 응용에 핵심이 되는 부분만을 추려 한 권의 책으로 익히는 과정에서 메타지식이 형성되기 때문이다.

각 분야 마다의 연결고리가 점점 진하게 덧칠해져가며 공학적 용도에 대한 사고까지 이르게 되는데 이런 수학의 세부분야별 큰 흐름을 조망할 수 있다는 것이 이 책의 큰 장점이라 할 수 있다.

두번째 장점은 컴팩트하지만 깊이가 결코 얕지 않다는 점이다.

시중에도 이미 수학이 어떤 용도로 활용되고 무슨 내용을 다루는지 넓고 얕은 지식을 다루는 좋은 책들이 많다. 보통 이런책들은 교양서적과 전공서적의 중간 노선의 색채를 띄고 수학에 대한 흥미를 돋궈주지만 기껏 시간들여 읽은 것 대비 당장 활용하기 부족한 단점이 있다.

이 책은 그런점에서 두마리 토끼를 다 잡은 느낌이다. 쉽게 표현하고 있지만 깊이는 결코 얕지 않다. 전공서적에 비해 쉽고 가볍게 구성되어 있으며 밑바닥의 원리만 들이파는 전공서적과 달리 용용에 연계할 수 있는 힌트를 직접적으로 제시하는 경우도 많다.

세번째 장점은 手학이다. 즉, 눈보다는 손으로 배울 수 있게 구성한 점이 장점인데 수학을 공학에 응용하는 것이 중요하다고는 했지만 결코 쉬운일이 아니다.

색다른 아이디어, 안목, 프레임의 재구성이 있어야 가능한데 이는 앞서 망치에 비유한 수학 기초에 대한 튼튼한 기초가 있을때나 가능한 일이다.

이견이 있을지도 모르겠지만 적어도 나는 손으로 푸는 과정에서 창의성이 생긴다고 생각하며, 손으로 풀어야 수학의 진의를 느낄 수 있다고 생각한다.

손으로 느껴지는 질감에서 새로운 창의성이 피어오른다는 것은 뇌과학 분야에서 이미 증명된 바 있는 연구 내용이고 또 시간이 걸리더라도 손으로 풀며 펼쳐지는 사고의 Map이 공학에서의 활용의 연결고리를 구축하는 시간이라 생각한다.

설명하긴 어렵지만 공학에서 어떤 주제를 실현가능하게 만들 때 어떤 수학적 도구나 사고를 활용해야 할지 바로 떠오르는 경우는 흔치 않다. 어느 정도는 직관에 의존해야 할텐데 손으로 풀며 고심했던 그 비슷한 느낌이 있어야 새로운 연구에 수학을 접목할 수 있는 것이 아닐까 생각한다.

이 책의 저자들은 확실히 그 부분을 놓치지 않았고 의도적으로 책의 대부분은 문제로 가득차 있다. 그래서 꽤 오랜시간 밑바닥부터 확실히 이해해야 하는 부담감이 있지만 확실히 기초 수학을 스스로의 자산으로 만들 수 있는 계기가 된다.

반면 책의 단점은 찾기 어렵다. 대신 단점보다는 약간 더 보완되면 완벽한 책이 될 수 있었겠다는 건의 사항은 있다. 하나는 각 장의 초미에 해당 수학이 일상에 어떻게 연결되었는지 혹은 어떤 일화로 이 수학이 등장했는지 등 일상에서 피부로 느낄 수 있는 흥미를 돋궈주는 장치가 있었으면 어땠을까 싶다.

예를 들면 극한이나 미적분 파트에서는 한없이 가까워지지만 0은 아닌데 결국은 0으로 취급하는 무한소의 모순이 해석학의 위기를 초래한 일화는 분명 흥미를 돋굴 수 있는 요소이다.

기하학의 평행선 공리로 지구와 같은 3D의 세계에서 직선이 곡선이 될 수 있다는 점, 집합과 명제 단원에서는 칸토어의 역설을 소개하며 자기 언급의 역설에서 제논의 역설에 이르기까지 흥미로운 요소로 각 단원을 시작했다면 이공계들의 활용의 인사이트를 번뜩이게 할지도 모른다는 생각을 했다.

또 앞서 예를 든 것 처럼 AI가 스스로 학습할 수 있게 해준 기반에 어떤 수학이 활용되었는지 설명이 보강되면 더욱 역작이 되었겠다는 생각이 든다.

하지만 이는 한 권의 책에 모든 것을 녹이는 것은 쉽지 않음을 알기에 단점이라기 보다는 개인적 바램으로 여길 뿐이다.

책에도 이미 데카르트가 언급되며 기하학의 대수화 과정이 소개되고 있으며, 175p처럼 코사인의 법칙을 활용하면 자로(길이로) 각을 잴 수 있게 해준다는 응용 관점을 제시한 것, 228p 케일리-해밀턴 정리를 통해 0이 되는 다항식을 유도하여 복잡한 식을 간소화하는 과정, 제곱을 덧셈으로 바꿔주는 드 므와브르 정리 등 공학적 응용에 인사이트를 불러 일으킬만한 신선한 자극들이 즐비해있기에 기왕 개인적 바램을 추가로 보탰음을 밝힌다.

정리하자면 이공계에 필요한 수학을 빠르게 익히는 과정에서 각 수학적 세부 요소 간 메타지식을 얻을 수 있다는 정점과 수학을 공학으로 이어주는 인사이트를 얻을 수 있게 자극한다는 점에서 이공계 수학의 기초를 탄탄히 하고 싶은 독자에게 추천하고 싶은 책으로 공학도를 위한 수학 교과서라 칭하고 싶다.

---

• 책소개 - 수학이 외계어처럼 들리는 이공계생을 위한 제로 수학