온라인 소스로 딥러닝 공부하기

쓰여진 날: by Creative Commons Licence

  • 태그:

온라인 소스를 이용하여 어떻게 혼자 박사 레벨의 기계학습, 딥러닝을 배울까?

Quora에 올라온 질문을 번역한 것입니다.

Abhishek Patnia’s answer to How can I learn machine learning and deep learning to PhD level by using only free online resources? - Quora

Abhishek Patnia, Applied Scientist at Amazon.com의 답변 내용

나의 조언은 스탠포드의 CNN 강의를 듣는 것부터 시작한다. 이 강의는 아래에 있는 모든 것들을 조금씩 담고 있고 당신이 아래의 조언을 조금씩 진행한다면 좋은 동기부여가 될 것이라고 생각한다.

기본 지식
수학

선형대수, 확률론, 미적분을 공부해야 한다. 모든 이론은 공부하기보단 이것들을 도구의 관점에서 바라보고 접근하자. 어떤 문제에 마주쳤을 때, 그것에 관련된 주제를 배우고 왜 그 주제가 중요한지 명확히 하자.

소프트웨어 엔지니어링
  • 파이썬. 대부분의 AI 라이브러리와 샘플 코드는 파이썬으로 작성되어 있다.
  • 파이썬에 익숙해졌다면 병렬 프로그래밍에 친숙해지자. 학습 데이터를 만들때나 계산을 빠르게 할 때에 필수로 사용하여야 한다. 이 블로그가 시작하기 좋다. GIL이라는 멋진 세계를 만날 것이다.
  • NumpyScipy의 고수가 되자. 이 두가지 도구는 수학에 관련된 것들이다. 스탠포드의 이 자료로 시작하면 좋다. 간단한 설명을 하면, Numpy는 컴퓨터에서 선형대수를 다루는 것이다. 대부분의 AI 도구를 다루기 편해질 것이다.
GPU 가속

대부분의 기계학습은 행렬로 표현되어 있다. 행렬은 GPU를 통해 엄청나게 가속 된다. ML 모델 가속을 위해 GPU를 보는 것을 추천한다.

기계학습

기계학습은 꽤 큰 분야이다. 이 분야는 당신이 어떤 것을 추구하냐에 따라서 기계학습의 종류가 달라질 것이다.나는 인공신경망을 선호하므로 내 조언이 꽤 치우쳐 있을 수 있음을 감안하자.

강의
블로그
논문

이 분야는 매우 빠르게 발전한다. 늦춰지지 않기 위한 가장 좋은 방법은 이 분야의 리더들을 팔로하는 것이다. 그리고 그 가장 좋은 팔로 방법은 소셜 미디어를 사용하는 것이다. 다음 사람들을 팔로해보자.

  • Andrew Ng
  • Yoshua Bengio
  • Yann LeCun
  • Fei-Fei Li
  • Andrej karapathy
자신만의 자료들을 만들자.

나는 내 자료들을 어떻게 모을 지 계속 고민한다. 한번은 논문들을 아무데나 프린트해놨다. 그리고나선 아이패드 프로로 paperless를 시도했지만 다시 종이를 사용했다. 결국 몇달 전 나만의 방법을 찾은 것 같다.

  • PDF를 관리할 때 Papers를 사용한다. Arxiv 같은 곳에서 PDF를 불러올 수 있다.
  • Google Keep으로 북마크를 해둔다. 그리고 나서 시간이 나면 본다.