Notice
Recent Posts
Recent Comments
Link
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- MLLM
- 특정 layer 동결
- 가상환경
- 모델 구조 변경
- 모델 freeze
- layer 추출
- mPLUG-2
- Multimodal Large Language Model
- pretrained model layer
- Video Understanding
- 모델 동결
- 강화학습
- Foundation Transformers
- mqtt
- 가중치 없이 모델 로드
- 파라미터 수 확인
- 주식
- cnn
- Instruction dataset
- DeepNet
- KOSMOS-2
- 논문리뷰
- 논문 작성 요령
- 특정 layer 추출
- def validation
- def train
- 주식 용어정리
- 논문 작성
- vsocde 익스텐션
- 파라미터 수
Archives
- Today
- Total
시작은 미약하였으나 , 그 끝은 창대하리라
[Cross entropy] 크로스 엔트로피의 index 값은 0부터 시작이다. 본문
문제 발생 : kaggle에서 과제를 진행하는데 자꾸 에러가 뜨는것이다. 정확히 기억은 안나는데 type이 안맞다고....근데 print를 찍어보면 심지어 문제없이 잘 나오는것이다.....(조교한테 질문함)
문제 상황 : 딥러닝 학습에서 loss 값은 y_predict 와 y_ground truth 값으로 계산을 수행한다. 하지만 y_ground truth 값 즉, index( label)의 값이 항상 0부터 시작하지는 않는다.
문제 해결 : index(label) 이 항상 0 부터 시작해야함. 즉, 1부터 시작하는 label 이라면 -1을 해서 0 부터 시작 지점을 만들어야 함.
(아래 사진을 보면 class indices in the range [0 ,C) 라고 명시되어 있다.)
'인공지능 > 딥러닝 및 파이토치 기타 정리' 카테고리의 다른 글
[형변환] Tensor to Numpy / Numpy to Tensor (0) | 2023.12.23 |
---|---|
[1차원 추가 및 제거] Pytorch squeeze / unsqueeze (1) | 2023.12.23 |
[Pytorch] 모델 생성시, super().__init__() (0) | 2023.11.01 |
오차함수 vs 최적화함수 vs 활성화 함수. (0) | 2023.03.16 |
[퍼옴] 머신러닝 모델 활성화함수(Activation function) 선택 방법. (0) | 2023.03.09 |
Comments