bllossom2 Instruction Tuning (1) Instruction TuningFine Tuning과 In-Context Learning의 장점을 결합하여 모델을 특정 데이터셋으로 학습 시키는 방법이다.단, 데이터셋의 구성이 사용자의 구체적인 지시(instruction)과 응답(output)으로 구성되어 있는 것이 특징이다. LLM에 Instruction Tuning을 적용한 대표적인 사례로는 스탠포드에서 개발한 Alpaca 모델이 있다.Llama 7B를 기본 모델로 하여 Instruction Tuning을 통해 추가 학습을 진행했는데Instruction-Output의 샘플을 만든 후 그 데이터로 LLM을 학습시켜, 튜닝을 위한 데이터셋을 모델이 자가수급하도록 했다.(self instruction) Python으로 Instruction Tuning .. 2025. 2. 6. Ollama에 Bllossom 모델 적용하기 한국어를 잘 지원하는 로컬 LLM을 구현하기 위해,Hugging Face에서 다음 Bllossom 모델을 받아서 Ollama에 적용하려고 한다. 선택한 아래 모델의 경우 gguf 포맷으로 되어있기에먼저 gguf 및 양자화에 대한 이해를 간단하게 해보자. https://huggingface.co/Bllossom/llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M Bllossom/llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M · Hugging Face huggingface.co GGUF에 대한 이해GGUF란 모델 파일 포맷 중 하나로, 쉽게 말해 LLM 모델계의 docker로 이해할 수 있다.기존 방식의 경우 특정 프레임워크나 라이브러리에 종속되어 호환성이 떨.. 2025. 1. 19. 이전 1 다음
