AI, 딥러닝, 웹 개발, 그리고 NLP 모델 활용. 이번 주 학습 내용 정리
딥러닝 기초, AI 활용, 웹 개발, PyTorch, NLP 모델 실습까지
AI, 딥러닝, 웹 개발, 그리고 NLP 모델 활용. 이번 주 학습 내용 정리
FACTS (이번 주 학습 내용)
1. 딥러닝 기초: 퍼셉트론에서 RNN까지
- 뉴런과 퍼셉트론의 개념을 학습하고, XOR 문제 해결을 위한 다층 퍼셉트론(MLP)과 심층 신경망(DNN)에 대해 탐구함.
- RNN(순환 신경망)의 개념을 이해하고, 장기 의존성 문제를 해결하기 위한 LSTM, GRU 모델의 필요성을 배움.
2. AI 활용 vs 연구: 차이점과 실무 적용법
- AI 연구와 AI 활용의 차이를 정리하고, API 및 사전 학습 모델을 사용하는 방법을 학습함.
- Hugging Face와 같은 플랫폼을 활용하여 AI 모델을 실무에서 효과적으로 적용하는 방법을 익힘.
3️. GitHub 오픈소스를 활용한 AI 프로젝트 시작하기
- 오픈소스 프로젝트를 활용하여 AI 모델을 개선하고 확장하는 방법을 학습함.
- 다양한 오픈소스 AI 프로젝트를 분석하고, API를 활용한 모델 개발을 시도함.
4️. PyTorch 기초: 텐서와 기본 연산
- PyTorch의 기본 개념과 텐서(Tensor)의 구조를 학습하고, 다양한 연산을 실습함.
- 넘파이(Numpy)와의 차이점을 이해하고, 텐서 연산을 활용한 머신러닝 모델 구현의 기초를 다짐.
5️. 웹 개발 기초 정리
- 프론트엔드와 백엔드의 역할을 명확히 구분하고, 웹 서버, HTTP/HTTPS, RESTful API 등의 개념을 정리함.
- 웹 보안 및 웹 성능 최적화 기법을 학습하여 보다 안전하고 효율적인 웹 개발 방법을 익힘.
6️. NLP 모델 활용: Hugging Face Transformers
- GPT-2, RoBERTa, BERT 등을 활용하여 텍스트 생성, 감정 분석, 문장 임베딩을 수행함.
- M2M100 모델을 활용하여 다국어 번역을 실습하고, Word2Vec을 활용한 단어 간 유사도 계산을 시도함.
7️. Hugging Face 모델의 사전 학습과 파인 튜닝
- 사전 학습(Pre-training)과 파인 튜닝(Fine-tuning)의 개념을 비교하고, IMDb 데이터셋을 활용해 BERT 모델을 파인 튜닝하는 방법을 실습함.
- 사전 학습된 모델을 활용하여 특정 태스크에 맞게 최적화하는 과정과 성능 평가 방법을 학습함.
FEELINGS (느낀 점과 감정)
- 이해의 폭이 넓어졌다: 단순히 이론만 배우는 것이 아니라 실습을 통해 직접 코드를 작성하고 실행하면서 개념을 더 깊이 이해할 수 있었다.
- 자신감이 생겼다: 처음에는 어렵게 느껴졌던 AI 모델과 PyTorch의 개념들이 실습을 진행할수록 익숙해졌고, 어느 정도 활용할 수 있다는 자신감을 얻었다.
- 오픈소스의 가치를 체감했다: GitHub에서 다양한 AI 프로젝트를 분석하면서, 혼자서 모든 것을 만들 필요 없이 오픈소스를 활용하면 빠르게 성과를 낼 수 있음을 깨달았다.
- 웹 개발의 기초를 다시 정리하는 것이 중요했다: 웹 개발은 익숙한 개념이지만, 정리하는 과정에서 몰랐던 개념을 다시 배우고 보완할 수 있었다.
FINDINGS (이번 주에 배운 점)
- AI 활용과 연구의 차이를 명확히 이해해야 한다: AI를 활용하는 것은 직접 모델을 개발하는 것과는 다르며, API와 사전 학습 모델을 적극 활용하면 더 빠르게 실무 적용이 가능하다.
- 사전 학습 모델을 파인 튜닝하면 성능을 극대화할 수 있다: Hugging Face에서 제공하는 사전 학습된 모델을 특정 태스크에 맞게 추가 학습하면 훨씬 더 높은 성능을 낼 수 있다.
- GitHub를 적극 활용하자: 오픈소스 프로젝트를 분석하고, 직접 기여하면서 실력을 쌓는 것이 중요하다.
- 웹 보안은 필수적인 요소이다: 웹 개발에서 보안 취약점을 사전에 방지하는 것이 중요하며, 이를 위해 보안 개념과 최적화 기법을 익혀야 한다.
FUTURE (다음 주 목표)
- PyTorch 심화 학습: 모델 학습, 최적화 기법, 손실 함수 등을 더 깊이 학습하기.
- 웹 개발 심화 학습: Django REST Framework(DRF)를 활용하여 API 개발을 시작하고, 실전 프로젝트에 적용해보기.
This post is licensed under CC BY 4.0 by the author.