[Multimodal Large Language Model - Part 2] LOSS 계산

✓ LOSS 문제점 :

일반적으로 LLM, MLLM이 아닌 모델을 다루다 보면 LOSS계산하는 부분을 모델 class의 외부에서 선언해서 활용하는 것을 직관적으로 쉽게 알 수 있다. 이해하기도 어렵지도 않고. 하지만 MLLM을 다루어본 결과 LOSS 선언은 모델 내부에서 되어있다는 점이 독특하였다. 

 

 

✓ LOSS 분석 :

LOSS 분석-1

 

 

LOSS 분석-2