고려대학교 AI 야간대학원 두 번째 학기를 마치며

고려대학교 AI 야간대학원 두 번째 학기를 마쳤습니다. 두 번째 학기를 마친 후기를 이렇게 적는 까닭은, 이 글을 우연히 발견한 누군가에게 도움을 드리고 싶은 마음도 있지만, 4개월이라는 적지 않은 시간을 들인 만큼 한 학기를 돌아 보며 배운 바를 되짚어 보기 위함도 있습니다.

그렇기 때문에 실용적인 내용은 없습니다. 그런 내용이 궁금하다면 '고려대학교 AI 야간대학원 면접 후기'와 '고려대학교 AI 야간대학원 첫 학기를 마치며' 게시글을 봐주시면 좋을 것 같네요. 

두 번째 학기를 마친 소감, 세 줄 요약

1. 학문의 깊이가 기대했던 바에는 조금 못미친다.
2. 그럼에도 여전히 가치는 있다고 생각한다.
3. '공부란 무엇인가'에 관해 생각해 본 한 학기였다.

입학하기 전에 기대했던 바와는 조금은 달랐습니다. AI 대학원이니 학문의 깊이가 꽤 깊을 줄 알았죠. 그런데 생각만큼 깊게 배우진 않더라고요. 상황상 어쩔 수 없다는 건 이해가 됩니다. 수업 시간 자체가 과목당 일주일에 1시간 30분으로 너무 적기 때문이기도 하고, 대부분 직장인이라 과제를 타이트하게 내지 않기 때문이기도 할 테죠. 그럼에도 여전히 가치는 있다고 생각합니다. 제한된 시간 안에서 내가 하는 만큼 얻어가는 건 충분히 있습니다.

앎과 공부를 향한 고찰

엉뚱한 생각일 수도 있겠지만, 학기가 다 끝날 무렵 문득 이런 생각이 들더라고요.

'내가 완벽히 아는 게 얼마나 될까?'
'앞으로 공부는 우리에게 어떤 역할을 할까?' 

우리가 '안다(know)'라고 할 때, 얼마나 알아야 안다고 할까요? 어떤 개념에 관해 1부터 10까지 다 알아야 완벽히 안다고 해 봅시다. 그런데 대체로는 1, 2, 3, 5, 6, 8, 9, 10 정도만 알아도 그 개념을 안다고 말합니다. 중간에 4와 7이 빠졌는데도 말이죠. 4, 7을 잘 몰라도 흐름을 이해하는 데 큰 지장이 없으니 1부터 10까지 다 이해했고, 그래서 그 개념을 다 안다고 착각하게 되는 겁니다. 문제는 내가 뭘 모르는지 쉽게 알지 못한다는 점입니다. 나는 1부터 10까지의 흐름을 이해한다고 생각하지만, 깊게 물어보면 대답하지 못하는 지점이 생기기 마련이죠. 그럼 그 개념을 안다고 할 수 없습니다. 저도 수업을 들으며 완벽히 알지 못하는 지점을 종종 발견하곤 했습니다. 그 빈틈을 채울 수 있었다는 점에서 이번 학기 수업도 충분히 가치가 있었습니다. 

역사상 가장 지혜로운 현인으로 꼽히는 소크라테스를 한번 떠올려 보죠. 어느날 델포이 신전에서는 '아테네에서 소크라테스보다 지혜로운 사람은 없다'라고 신탁을 합니다. 이 신탁을 전해들은 소크라테스는 의아해 합니다. '나는 아는 게 하나도 없는데 왜 나를 가장 지혜롭다고 말할까?'라고요. 그래서 자신보다 지혜로운 사람을 직접 찾아 보기로 합니다. 정치인, 극작가, 대장장이들을 찾아다니며 그들과 대화를 해봤죠. 그런데 대화를 하면 할수록 그들은 제대로 아는 게 없는데도 스스로 많이 안다고 착각을 했습니다. 소크라테스는 그제야 알았습니다. 델포이 신전에서 왜 자신이 가장 지혜로운 사람이라고 했는지를 말이죠. 다른 사람들은 완벽히 아는 게 없음에도 스스로 많이 안다고 착각을 했지만, 소크라테스는 자신이 완벽히 아는 게 하나도 없다는 사실을 알았기 때문입니다. 적어도 '나는 완벽히 아는 게 없다'라는 사실 하나는 완벽히 알았던 거죠. 다른 사람들과 다르게 완벽히 아는 게 딱 하나는 있었기 때문에 가장 지혜롭다는 신탁을 받은 겁니다.

제가 본격적으로 공부를 시작한 때가 중학교 2학년 때니까 어언 20년 가까이 공부라는 걸 했네요. 그런데 곰곰히 생각해 보니 완벽히 아는 게 정말로 거의 없는 것 같습니다. 20년씩이나 했는데도 말이죠. 더 많은 책을 읽고 더 많이 공부를 해도 달라질 것 같진 않습니다. 이번 학기 수업을 들으며, 제가 원래 '알고 있다'고 생각한 개념을 사실은 완벽히는 알지 못하고 있었다는 점도 깨닫곤 했고요.

'내가 완벽히 아는 게 얼마나 될까'라는 생각과 더불어, '앞으로 우리에게 공부란 어떤 의미일까?'라는 생각도 들었습니다. 집약도는 떨어지겠지만 앞으로도 조금씩은 계속 공부를 하겠죠. 그런데 앞으로는 이렇게 공부하는 것에 대한 의미가 무엇일까요? 우리는 지금 LLM 세상에 살고 있습니다. ChatGPT를 비롯한 LLM 덕분에 원하는 정보를 꽤 높은 정확도로 매우 빠르게 얻을 수 있지요. 과거에는 내 머릿속에 최대한 많은 정보를 넣어두고, 원하는 때에 끄집어 내는 능력이 중요했습니다. 그래서 머리에 많은 걸 담고 있는 사람이 유리했죠. 그런데 지금은 어떤가요? 머릿속에 많은 정보를 담고 있는 능력은 별로 중요하지 않습니다. '지식 관점의 앎'이 별로 중요하지 않다는 말이죠. 이런 상황에서 '공부'란 무엇일까요? 물론 지식보다 응용력이 중요하겠지만, 응용마저 LLM이 해주는 세상인데 말이죠. 우리는 이제 어떤 방식으로 공부를 해야 할까요? 오래 전에 하던 방식으로 계속해서 공부를 해야 할까요? '공부의 의미'가 바뀌지 않을까요? 

어차피 저의 목적지향적 학습은 대학교 때 끝났으니, 사실 공부의 의미가 제겐 크게 중요하진 않습니다. 지금의 공부는 순전히 탐구심에서 비롯한 학습이기 때문입니다. 다만, 대학교 캠퍼스를 거닐다보면 '미래에 공부란 어떤 역할을 할까?'라는 질문을 되뇌지 않을 수가 없더군요.  

---

과목별 후기

기계학습

기본적인 기계학습과 초기 신경망을 배운 과목이었습니다. 수강 신청 전 실라버스를 봤을 때 대체로 아는 내용이라 신청을 할지 말지 고민을 했습니다. 결국 수강 신청을 했는데요, 첫 번째 이유는 시간이 지날수록 기본으로 돌아가 기본을 다시 다지는 건 의미 있다고 생각했기 때문입니다. 두 번째 이유는 작년에 '고급기계학습'을 가르치신 교수님이 가르치는 과목이기 때문이었습니다. '고급기계학습' 과정은 작년에 제가 들은 세 과정 가운데 제일 만족스러운 과정이었죠. 

다 들어본 결과 만족한 점도, 아쉬운 점도 있었어요. 만족한 점은 제 기계학습 지식의 빈틈을 채워주었다는 점입니다. 저도 기계학습의 기본적인 내용은 어느 정도 안다고 생각했지만, 중간 중간 빈틈이 더러 있었습니다. 그 빈틈을 채울 수 있었다는 점에서 '기계학습' 과목이 만족스러웠습니다. 특히나 backpropagation을 손으로 직접 계산해 보는 과정을 배운 점도 좋았습니다. backpropagation의 원리와 계산 방식은 익히 알고 있었지만, 밑바닥부터 partial derivative를 직접 계산해 여러 Layer와 Nonlinear activation function을 거쳐 Loss부터 input까지 gradient를 손으로 직접 구해보는 과정은 꽤 의미가 있었습니다. 

아쉬운 점은 진도를 실라버스에 맞추어 끝까지 나가지 못했다는 점입니다. 초반 부분보다는 후반 부분을 더 확실히 배우고 싶었는데, 아쉬웠습니다.

midterm 정리노트

final 정리노트

심층강화학습

머신러닝은 크게 세 범주로 나눌 수 있습니다. 지도학습, 비지도학습, 강화학습. 저는 강화학습에 대해서는 거의 몰랐기 때문에, 이 참에 기초를 다져보자는 마음으로 수강을 했습니다. 매우 정직한 과정이었습니다. 퀴즈 1번, 논문 리뷰 발표 1번, 기말고사 1번으로 100% 이론 과정이었죠. 실습이 있었다면 더욱 만족스러웠겠지만, 물리적인 시간이 부족하다는 점을 감안하면 충분히 만족스러운 과정이었습니다.

학부 3학년 여름 방학 시절 멋모르고 대학원 과정을 청강한 적이 있었습니다. 청강이라 학점에 반영되진 않아 맘 편히 들었었죠. 당시 몬테카를로 마르코프체인(MCMC)이 잘 이해가 안 가 진도를 제대로 못 따라간 기억이 있습니다. 더 정확히 말하면 이해하려는 노력을 크게 하지 않았습니다. 맘 편히 청강한 거니까요. 교수님께서 자꾸 "MCMC" 하시는데, 제가 아는 MC란 래퍼를 지칭하는 'Microphone Checker' 뿐이었죠. 이번에 수강한 심층강화학습 덕분에 비로소 몬테카를로 마르코프체인이 무엇인지, 원리가 어떻게 되는지 알게 되었습니다.

커리큘럼은 다음과 같습니다(대제목만 기재).

• Markov Decision Process
• Planning by Dynamic Programming
• Model-free Prediction
• Model-free Control
• Value Function Approximation
• Policy Gradient
• Integrating Learning and Planning
• Basic Deep Reinforcement Model

인공지능 응용세미나

인공지능 윤리를 다룬 세미나 수업이었습니다. 응용세미나라고 하면 대개 기술을 실제 산업에서 어떻게 활용하는지 사례를 바탕으로 배우는 걸 떠올리죠. 그런데 이번 수업의 토픽은 '인공지능 윤리'였습니다. 실라버스에도 그렇게 써 있었고요. 흥미로운 토픽이라 수강신청을 했습니다. 기술적인 내용은 다른 수업에서 매번 다룹니다. 그런데 이런 윤리적, 사회적, 철학적, 문화적 측면에서 다각적으로 생각해볼 수 있는 주제를 수업에서 접하긴 쉽지 않죠. 그래서 신청을 했습니다. 다만 제가 기대한 바는 서로 활발하게 토론이나 토의를 하는 모습이었습니다. 교수님께서 주제를 던져주면 그에 대한 서로의 생각을 들어보는 그런 수업이요. 마치 마이클 샌델의 'Justice' 수업처럼 말이죠. 

실제로는 제 기대처럼 수업이 흘러가진 않았습니다. 절반 정도는 교수님께서 강의를 하셨고, 나머지 반은 수강생이 사전에 조사하거나 분석한 내용을 발표했습니다. 그래도 괜찮은 수업이었습니다. 기술적인 내용이 아니라 윤리적이고 사회적인 AI 이슈를 고민해 볼 수 있는 수업은 흔치 않으니까요.

세 번째 학기부터는 휴학을 했습니다. 출판사와 계약을 해서 1년 정도 휴학을 하고, 작업에 매진할 계획입니다.