Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- Instruction dataset
- MLLM
- 3C4P
- cnn
- 파라미터 수
- pretrained model layer
- 특정 layer 추출
- mqtt
- 모델 구조 변경
- Video Understanding
- 주식 용어정리
- def validation
- Foundation Transformers
- 모델 freeze
- 가상환경
- 주식
- 논문 작성
- layer 추출
- 파라미터 수 확인
- Multimodal Large Language Model
- 강화학습
- 모델 동결
- 논문리뷰
- mPLUG-2
- DeepNet
- 가중치 없이 모델 로드
- 특정 layer 동결
- def train
- 논문 작성 요령
- KOSMOS-2
Archives
- Today
- Total
목록파라미터 수 (1)
시작은 미약하였으나 , 그 끝은 창대하리라
[Pytorch, Huggingface] Pretrained Model 의 특정 Layer 만 Freeze 하기
► Pretrained되어 있는 모델을 load를 하면 Freeze(bias=False)되어 있는 것도 있고 Trainable한 파라미터(bias=True) 인 것도 있다. 어떤 문제를 해결할 것이냐에 따라 Freeze가 유용할수도 있고 아닐 수도 있다. 이번 글에서는 Freeze를 하는 방법에 대해 소개와 동시에 필요한 layer만 Trainable하게 설정하는 방법을 알아보겠다. → 특정 layer만을 Trainable 하게하는 방법은 다음과 같다. 1. 모든 layer에 대해 False로 설정 (=Freeze). 2. 그 후 원하는 layer들에 대해서만 True로 설정. 1. 모델로드→ DETR모델 활용중from transformers import DetrForObj..
인공지능/딥러닝 및 파이토치 기타 정리
2024. 4. 28. 16:22