궁금증: mPLUG-2 논문을 보니 concat이라는 부분이 있었는데 깃허브 코드를 확인해보았을때는 concat의 부분이 보이지 않음.
찾아보디 Conv3d에서 인자값으로 group이 존재.
1. group 기능 : Grouped Convolution 은 입력 값의 채널들을 여러 개의 그룹으로 나누어 독립적으로 Convolution 연산을 수행하는 방식.
ex) in_channels =4, group=2 이면 → 2개씩 묶어서 진행후 마지막 출력을 concat함. (그래야 쪼개진 입력차원에 대한 정보(차원크기)를 복원할 수 있으니, 예를들어 )
기타 (딥러닝에 사용되는 다양한 Convolution 기법) : https://eehoeskrap.tistory.com/431#8.-grouped-convolution
'인공지능 (기본 딥러닝) > 딥러닝 및 파이토치 기타 정리' 카테고리의 다른 글
| [Pytorch, Huggingface] Pretrained Model 의 특정 Layer 만 추출 (1) | 2024.04.26 |
|---|---|
| [Huggingface] 가중치 없이 모델 로드 및 모델 구조 변경 (0) | 2024.04.23 |
| [파이썬 디버거] import pdb;pdb.set_trace() (0) | 2023.12.27 |
| [형변환] Tensor to Numpy / Numpy to Tensor (0) | 2023.12.23 |
| [1차원 추가 및 제거] Pytorch squeeze / unsqueeze (1) | 2023.12.23 |
