PyTorch를 이용한 NLP를 위한 딥러닝

저자: Robert Guthrie 번역: 오수연

이 튜토리얼은 PyTorch를 사용한 딥러닝 프로그램의 주요 아이디어에 대해 차근차근 살펴볼 것입니다. 많은 개념들(계산 그래프 추상화 및 autograd)은 PyTorch에서만 제공하는 것이 아니며, 이미 공개된 딥러닝 toolkit과 관련이 있습니다.

이 튜토리얼은 딥러닝 프레임워크(예: Tensorflow, Theano, Keras, Dynet)에서 어떤 코드도 작성해 본 적이 없는 사람들을 위한 NLP에 특별히 초점을 맞추어 작성하였습니다. 튜토리얼을 위해 NLP 분야의 핵심 문제에 대한 실무 기초 지식이 필요합니다. 예시: 품사 태깅, 언어 모델링 등. 또한 AI 입문 수업 수준 (Russel과 Norvig 책에 나오는 것 같은) 신경망 친숙도가 필요합니다. 일반적으로, feed-forward 신경망에 대한 기본적인 역전파 알고리즘을 다루고, 선형성과 비선형성의 연쇄적인 구성이라는 점을 강조합니다. 이 튜토리얼은 이런 필수적인 지식이 있는 상태에서 딥러닝 코드 작성을 시작하는 것을 목표로 합니다.

이 튜토리얼이 데이터가 아니라 모델 에 관한 것임에 주의해야 합니다. 모든 모델에 있어, 단지 작은 차원을 가진 몇 가지 예제만을 만들어 훈련 시 가중치 변화를 볼 수 있게 합니다. 만약 실제 데이터를 갖고 있다면, 이 노트북의 모델 중 하나를 가져다가 사용해 볼 수 있을 것입니다.