Ollama3 Instruction Tuning (1) Instruction TuningFine Tuning과 In-Context Learning의 장점을 결합하여 모델을 특정 데이터셋으로 학습 시키는 방법이다.단, 데이터셋의 구성이 사용자의 구체적인 지시(instruction)과 응답(output)으로 구성되어 있는 것이 특징이다. LLM에 Instruction Tuning을 적용한 대표적인 사례로는 스탠포드에서 개발한 Alpaca 모델이 있다.Llama 7B를 기본 모델로 하여 Instruction Tuning을 통해 추가 학습을 진행했는데Instruction-Output의 샘플을 만든 후 그 데이터로 LLM을 학습시켜, 튜닝을 위한 데이터셋을 모델이 자가수급하도록 했다.(self instruction) Python으로 Instruction Tuning .. 2025. 2. 6. Ollama에 Bllossom 모델 적용하기 한국어를 잘 지원하는 로컬 LLM을 구현하기 위해,Hugging Face에서 다음 Bllossom 모델을 받아서 Ollama에 적용하려고 한다. 선택한 아래 모델의 경우 gguf 포맷으로 되어있기에먼저 gguf 및 양자화에 대한 이해를 간단하게 해보자. https://huggingface.co/Bllossom/llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M Bllossom/llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M · Hugging Face huggingface.co GGUF에 대한 이해GGUF란 모델 파일 포맷 중 하나로, 쉽게 말해 LLM 모델계의 docker로 이해할 수 있다.기존 방식의 경우 특정 프레임워크나 라이브러리에 종속되어 호환성이 떨.. 2025. 1. 19. LLM LLM (Large Language Model)텍스트를 인식하고 생성하는 등의 작업을 수행할 수 있는 일종의 인공지능 프로그램.고급 딥러닝 기술을 기반으로, 패턴을 분석하고 의미를 추출하며 텍스트를 생성할 수 있다.예시OpenAI의 ChatGPTGoogle의 Bard -> GeminiMeta의 LLAMAMicrosoft의 Bing ChatGithub의 Copilot네이버의 HyperCLOVA X투표 https://huggingface.co/spaces/lmarena-ai/chatbot-arena-leaderboard우리 플젝에서 중요한 기능- 언어 생성 (특정 말투 모방)- 한국어 지원로컬 LLM로컬 LLM은 말 그대로 모든 것이 로컬로 실행되므로 구독이나 API 호출시 비용을 지불해야할 필요가 없다.그.. 2025. 1. 13. 이전 1 다음
