[LoRA] Low-Rank Adaptation of Large Language models

목적 : Pretrained 된 대규모 언어 모델을 효율적으로 Finetuning 하기 위함

특징 : 모델의 구조를 변경하지 않고, 기존의 가중치 행렬에 저차원 행렬을 더하는 방식.