Llama.cpp v0.1.0 출시: 로컬 LLM 구동을 위한 기술적 변곡점과 도입 시 주의사항
Llama.cpp가 v0.1.0 버전을 릴리스하며 공식적인 버전 관리 체계(Semantic Versioning) 도입을 예고했습니다. 일반 하드웨어에서 LLM을 효율적으로 실행하려는 국내 개발자와 스타트업이 이번 업데이트를 어떻게 해석하고, 실제 워크플로우에 어떤 단계로 도입해야 하는지 분석합니다.
-
-
단 2시간 만에 완성하는 초경량 LLM 학습 가이드: MiniMind로 배우는 64M 파라미터 모델 구축법
RTX 3090 한 대와 단 2시간이면 충분합니다. Tokenizer부터 SFT, LoRA, RLHF(PPO/GRPO)까지 포함된 전체 파이프라인을 통해 초경량 LLM인 MiniMind를 밑바닥부터 학습하는 과정을 소개합니다.
