개발/LLM6 Ollama에 Bllossom 모델 적용하기 한국어를 잘 지원하는 로컬 LLM을 구현하기 위해,Hugging Face에서 다음 Bllossom 모델을 받아서 Ollama에 적용하려고 한다. 선택한 아래 모델의 경우 gguf 포맷으로 되어있기에먼저 gguf 및 양자화에 대한 이해를 간단하게 해보자. https://huggingface.co/Bllossom/llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M Bllossom/llama-3.2-Korean-Bllossom-3B-gguf-Q4_K_M · Hugging Face huggingface.co GGUF에 대한 이해GGUF란 모델 파일 포맷 중 하나로, 쉽게 말해 LLM 모델계의 docker로 이해할 수 있다.기존 방식의 경우 특정 프레임워크나 라이브러리에 종속되어 호환성이 떨.. 2025. 1. 19. LLM LLM (Large Language Model)텍스트를 인식하고 생성하는 등의 작업을 수행할 수 있는 일종의 인공지능 프로그램.고급 딥러닝 기술을 기반으로, 패턴을 분석하고 의미를 추출하며 텍스트를 생성할 수 있다.예시OpenAI의 ChatGPTGoogle의 Bard -> GeminiMeta의 LLAMAMicrosoft의 Bing ChatGithub의 Copilot네이버의 HyperCLOVA X투표 https://huggingface.co/spaces/lmarena-ai/chatbot-arena-leaderboard우리 플젝에서 중요한 기능- 언어 생성 (특정 말투 모방)- 한국어 지원로컬 LLM로컬 LLM은 말 그대로 모든 것이 로컬로 실행되므로 구독이나 API 호출시 비용을 지불해야할 필요가 없다.그.. 2025. 1. 13. 이전 1 2 다음
