어려운 영상 쉽게 이해하고 싶을 때 내가 사용한 방법 | Deep Dive into LLMs like ChatGPT (1/6) 생각 정리

#배경

• 현재 AI 스터디 6기는 Karpathy의 Deep Dive into LLMs like ChatGPT 영상을 소재로 스터디를 진행하고 있다.
• 지난주에는 3Blue1Brown의 Neural Network 시리즈 영상을 봤다.
• 그러고 나서 6주 동안 Deep Dive into LLMs like ChatGPT를 나눠 볼 예정이다.
• 지난 금요일이 그 첫 시간이었고, 분량은 초반 30분 정도였다.

#내용에 관해

• 영상은 ChatGPT 같은 도구가 어떻게 만들어지고 동작하는지 기본 개념을 소개한다. 특히 인터넷 글을 토큰으로 바꾸고, 신경망을 학습시키고, 추론으로 글을 만드는 단계까지를 담고 있다.
• 난이도는 아주 어렵지는 않았으나 30분을 한 번도 멈추지 않고 볼 수는 없을 정도였다. 사실 얼마나 어렵게 느끼는지는 사람마다 어떤 용어가 더 낯설게 들리느냐에 따라 다를 것 같다. 예를 들어 어떤 사람은 토큰화가 이해되지 않아 거기서 막힐 수도 있다. 나 같은 경우는 '토큰들을 보고 다음 토큰을 예측한 뒤, 실제 정답 토큰의 확률이 더 높아지도록 신경망을 조정하는 과정'이 바로 와닿지 않아서 이해하려고 무던히 애써야 했다.

#유용했던 학습 방법

• 스터디 모임에서 흥미로웠던 건 사람마다 학습 방법이 달랐다는 점이다. 물론 AI를 사용한다는 점에서는 전체적인 궤는 같았지만 어떤 형태로 학습하는지에는 개성이 묻어났다. 배경 지식이나 AI를 쓰는 환경이 달라서였을까?
• 나는 이번에 (최근 즐겨 쓰는) 웹앱으로 인터랙티브하게 학습했다.
• 유튜브 스크립트로 만든 요약본을 읽기만 하는 방식으로는 놓치는 게 많아서 그렇게 하기 싫었다. 그림이나 인터랙티브 HTML로 만들어서 학습하는 방식은 물론 좋지만 한 번 보고 끝나기 쉬워서 3시간 30분이 넘는 영상을 6주에 걸쳐 학습하는 방식에는 안 맞는다고 생각했다.
• 그래서 인터랙티브하면서 기록도 남는 웹앱을 골랐다. 주차마다 학습 자료를 만들고 그때그때 고쳐 나간다. 아래가 내가 만든 웹앱의 현재 시점의 일부분이다(아마 계속 바뀌리라 생각한다).

• 

• 

• 여기서 좌측 영역을 아래로 스크롤하면 영상의 세세한 부분을 잘라서 내용을 이해할 수 있다.
• 특정 시점에 어떤 내용을 말하고 있는지 대강 알 수 있으며 클릭해서 해당 시점의 영상을 바로 볼 수 있다.
• 영상이 재생됨에 따라 좌측 영역의 강조 표시도 따라 움직인다.
• 여기서 가장 중요한 기능은 '궁금해요' 기능인데, 강의를 보다 보면 설명만으로 이해하기 어려운 부분이 나온다. 그럴 때마다 LLM 세션을 열어서 묻기 번거롭기 때문에 바로 내용에 붙여서 질문을 할 수 있도록 만들어 놨다.

  • 

• 그리고 영상과 설명으로 이해하기 어려운 부분은 인터랙티브 HTML과 애니메이션으로 이해할 수 있도록 중간중간 넣어 두었다. 아래 이미지는 매개변수를 돌리면 예측 확률이 바뀌는 모습을 보여 주는 HTML이다.

  • 

#결론

• 내용 자체도 유익하고 내가 사용하고 있는 LLM이 이렇게 동작한다는 걸 배우고 있다고 생각하니 기분이 좋아졌다.
• 이 학습 방법 자체도 재밌고 그때그때 의문을 해결할 수 있고, 위에서는 소개하지 않았지만 내 말로 직접 설명해 보게 하는 부분도 있어서 좋았다.
• 앞으로도 이 학습 방법을 사용하고 고쳐 나갈 것 같다. 기대된다! 어려운 영상 앞의 벽이 많이 낮아진 느낌이다.

#관련 글

• The spelled-out intro to language modeling: building makemore 후기 - 다음 토큰 예측과 신경망 학습을 직접 구현하며 이해하는 과정
• 요즘 AI를 가장 즐겁게 쓰는 방식 두 가지 - AI로 직접 만든 도구를 일상에서 즐겁게 사용하는 방식
• 달레스터디 AI 스터디 5기 개인 회고 - 앞선 AI 스터디에서 돌아본 배움과 학습 경험