일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |
- 트랜스포머
- 어텐션
- self-attention
- 네이버 부스트캠프
- Positional Encoding
- 네이버 ai 부스트캠프
- 트랜스포머 모델
- boostcamp
- VAE
- 부스트캠프
- Transformer Decoder
- 셀프 어텐션
- pytorch
- VAE 논문 리뷰 #
- AI Math
- seq2seq
- 네이버 부스트캠프 KDT 전형
- 네이버 부스트캠프 AI Tech
- 네이버 부스트캠프 AI Tech 6기
- 어텐션 행렬
- Transformer 디코더
- transformer
- 네이버 부스트캠프 코딩테스트 후기
- 주간학습정리
- Transformer 모델
- 트랜스포머 행렬
- VAE 설명
- Transformer model
- 포지셔널 인코딩
- Auto-Encoding Variational Bayes
- Today
- Total
목록전체 글 (12)
DH. AI
tistory는 정리하기가 너무 불편해서 velog로 블로그 이전했습니다. https://velog.io/@rlaehghks5

4주차 CV 도메인 기본 지식들을 배는데, 간단히 몇 가지만 정리하겠습니다. Semantic Segmentation, Object Detection은 level 2, 3에서 정리하려고 합니다. Computer Vision 과거의 CV 알고리즘 → input data를 보고 feature extraction을 하고 classfication하고 output을 내보냄 -> 자연과학 학술제에서 고양이, 강아지 이미지를 분류하기 위해 직접 feature extraction 했던 방식... 매우 힘들다. 현재의 CNN기반 딥러닝 → input → deep learning(feature extractoin + classfication) → output Data Augmentation 모델의 일반화 성능을 올려주기 위..

너무 많은 내용을 정리하는 것은 비효율적이라고 생각해서, 3주차 내용부터는 중요하다고 생각되는 몇가지의 내용만 (간단히)정리하려고 합니다. Bias-Variance trad-off, Optimizer, AdamW, Batch-size Matters, Generative Model Bias-Variance trad-off L2 norm을 최소화하는 것을 식을 풀어보면 아래와 같다. 학습 데이터에 noise가 껴있으면 bias를 variance를 둘다 줄이는 것은 사실 힘들다. bias(예측값과 정답간의 차이)가 크면 under fitting, variance(예측값들 간의 차이)가 크면 over fitting. 보통 딥러닝 문제에선 over fitting이 잘 일어난다. Optimizer loss 함수를 ..
Notion에 정리한 내용중 새로 알게된 내용과 중요하다고 생각되는 내용을 다시 정리하며 복습하기 위해서 쓰는 글. Pytorch에 대해서 전반적으로 다룸. 1. Pytorch 기본 Pytorch는 역전파할때, Graph그릴때 실행시점에서 동시에 그림!! Dynamic Computation Graph 연산과정을 그래프로 그린것 → Computation Graph Tensor - 다차원 Arrays 를 표현하는 Pytorch의 클래스. 사실상 numpy의 ndarray와 동일하다. Tensor를 생성하는 함수도 거의 동일. → GPU를 사용할 수 있냐 없냐가 차이가 있음 ex : torch.cuda.FloatTensor Pytorch의 tensor는 GPU에 올려서 사용가능!! if torch.cuda.i..

Notion에 정리한 내용중 새로 알게된 내용과 중요하다고 생각되는 내용을 다시 정리하며 복습하기 위해서 쓰는 글. Python, AI Math에 대해서 전반적으로 다룸. Python (1강 ~ 3강) 파이썬 기본, 함수, 자료구조, Pythonic code 등 파이썬은 운영체제에 독립적이다. Dynamic Typing Language이다. 코드 실행 시점에 데이터의 Type을 결정한다. 문자와 숫자 비교 불가, a is b : 메모리 주소를 비교한다. String 은 리스트와 거의 동일하다. 문자열의 각 문자는 개별 주소(offset)를 가진다. 그리고 인덱싱이 가능하다. String은 시퀀스 데이터다! iter 가능 전역변수 s가 있더라도 함수 안에 새로운 지역변수인 s가 있다면 그 둘은 서로 다른 ..