전체 모델 파인튜닝은 수천만 원이 드는 일이지만, LoRA를 쓰면 A100 1장, 48시간, 50만 원 이내로 같은 효과를 낼 수 있습니다.
LoRA가 왜 효율적인가
LoRA(Low-Rank Adaptation)는 모델 전체 파라미터를 학습하는 대신, 저랭크 행렬 두 개를 삽입해서 그것만 학습합니다. 전체 파라미터의 0.1~1% 수준만 학습하므로 메모리와 연산이 극적으로 줄어듭니다. 원본 모델 가중치는 건드리지 않으므로 언제든 원래 상태로 되돌릴 수 있다는 것도 장점입니다.
실습 환경 설정
Lambda Labs에서 A100 80GB 인스턴스를 시간당 약 $1.2에 빌렸습니다. 48시간 기준 약 $57, 한화 약 8만 원. 베이스 모델은 Llama 3 8B, 라이브러리는 Hugging Face PEFT + TRL을 사용했습니다. QLoRA를 적용해 4비트 양자화로 메모리를 더 아꼈습니다.
데이터 품질이 전부다
법률 Q&A 5,000쌍을 만들었는데, 초기 데이터 1,000개로 먼저 학습시키고 오답 케이스를 분석해 나머지 4,000개를 보강했습니다. 데이터 양보다 품질이 훨씬 중요합니다. 잘못된 정보가 포함된 학습 데이터는 모델을 망칩니다.
핵심 하이퍼파라미터
rank=16, alpha=32, dropout=0.1, learning_rate=2e-4, batch_size=4(gradient_accumulation=4)로 effective batch=16. 에포크는 3회. 이 조합이 저희 태스크에서 가장 안정적이었습니다. rank는 태스크 복잡도에 따라 4~64 사이에서 실험해보세요.