Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- 특정 layer 추출
- 논문 작성 요령
- Multimodal Large Language Model
- 강화학습
- def train
- 가상환경
- 파라미터 수 확인
- 논문리뷰
- 주식 용어정리
- layer 추출
- Foundation Transformers
- vsocde 익스텐션
- 주식
- mqtt
- 파라미터 수
- 모델 구조 변경
- 가중치 없이 모델 로드
- pretrained model layer
- def validation
- Instruction dataset
- 모델 동결
- 특정 layer 동결
- Video Understanding
- MLLM
- DeepNet
- 논문 작성
- cnn
- KOSMOS-2
- 모델 freeze
- mPLUG-2
Archives
- Today
- Total
시작은 미약하였으나 , 그 끝은 창대하리라
[Convolution 의 Group 파라미터] torch.nn.Conv3d(group=1) 본문
궁금증: mPLUG-2 논문을 보니 concat이라는 부분이 있었는데 깃허브 코드를 확인해보았을때는 concat의 부분이 보이지 않음.
찾아보디 Conv3d에서 인자값으로 group이 존재.
1. group 기능 : Grouped Convolution 은 입력 값의 채널들을 여러 개의 그룹으로 나누어 독립적으로 Convolution 연산을 수행하는 방식.
ex) in_channels =4, group=2 이면 → 2개씩 묶어서 진행후 마지막 출력을 concat함. (그래야 쪼개진 입력차원에 대한 정보(차원크기)를 복원할 수 있으니, 예를들어 )
기타 (딥러닝에 사용되는 다양한 Convolution 기법) : https://eehoeskrap.tistory.com/431#8.-grouped-convolution
'인공지능 > 딥러닝 및 파이토치 기타 정리' 카테고리의 다른 글
[Pytorch, Huggingface] Pretrained Model 의 특정 Layer 만 추출 (1) | 2024.04.26 |
---|---|
[Huggingface] 가중치 없이 모델 로드 및 모델 구조 변경 (0) | 2024.04.23 |
[파이썬 디버거] import pdb;pdb.set_trace() (0) | 2023.12.27 |
[형변환] Tensor to Numpy / Numpy to Tensor (0) | 2023.12.23 |
[1차원 추가 및 제거] Pytorch squeeze / unsqueeze (1) | 2023.12.23 |
Comments