Writing
기술 기록
설치법을 다시 쓰기보다, 실제 프로젝트에서 경계를 어디에 두었고 무엇이 실패했으며 다음에는 무엇을 다르게 할지 기록합니다.
다 만들고 나니 이미 있는 것들이 보였다
직접 런타임을 만들고 나서야 기존 에이전트 프레임워크의 기능이 다르게 보이기 시작한 기록.
에이전트보다 실행 생명주기가 먼저였다
세션, 컨텍스트, 중복 실행, 취소, 동시성까지 직접 붙여보며 LLM 업무 실행에서 더 어려웠던 부분을 정리했다.
코딩 에이전트 밖으로 나가고 싶었다
잘 만들어진 코딩 에이전트를 보다가, 코딩을 걷어내면 무엇이 남는지 궁금해져 시작한 삽질 기록.
블로그를 고치는 일도 배포 가능한 작업으로 만들기
글 하나를 추가하는 순간부터 빌드, 링크 검증, GitHub Pages 배포까지 이어지는 흐름을 정리했다.
레포를 읽는 도구라면, 자기 레포부터 검증해야 한다
repo-snapshot을 다시 평가한 뒤, 분석 경계와 실패 동작을 고정하고 CI와 문서 품질 게이트를 추가한 기록.
토큰이 느린 줄 알았는데, 사실은 컨텍스트를 운용하고 있었다
NVFP4 vLLM과 llama.cpp로 여러 모델을 번갈아 운용하면서 토큰, 컨텍스트, KV cache, 대역폭을 다시 배운 기록.
개인화 모델의 마지막 병목은 RAG와 하네스였다
LoRA 이후 최신 근거와 실행 경계를 붙이면서, 모델보다 검색과 하네스가 더 어려워진 기록.
로컬 LLM을 계속 쓰는 이유
클라우드 모델이 더 잘하는데도 로컬 모델을 계속 굴린다. 성능보다 운영하면서 보게 되는 것들이 더 많아서다.
LoRA를 붙이고 하이퍼파라미터를 만지다가 데이터와 모델을 의심하게 됐다
Gemma4-26B-A4B와 Qwen3.6-35B-A3B에 LoRA를 적용하며 dense와 MoE, 학습 설정의 함정을 배운 기록.
아오, 대역폭… MoE는 뭐가 이렇게 다른가
가중치를 넣고 나니 context를 얼마 못 뽑았다. Gemma4-26B-A4B와 Qwen3.6-35B-A3B를 비교하며 dense와 MoE의 현실적인 차이를 배운 기록.
페르소나를 여러 개 만들다가 MoE를 만났다
내 말투와 업무 습관을 모델에 넣으려다 dense 여러 개에서 LoRA와 MoE의 차이를 배우게 된 시작점.
게이트웨이에 너무 많은 걸 넣었다
LLM Gateway를 만들면서 분류, 프롬프트 보정, Tool Loop까지 가운데 넣었다가 다시 걷어낸 기록.
에러를 나중에 생각하면 늦는다
API를 만들 때 정상 응답보다 timeout, retry, 중복 실행 때문에 더 오래 고생했던 경험을 정리했다.
블로그를 만들었다
그동안 흩어져 있던 개발 기록을 한 곳에 남기려고 블로그를 만들었다. VitePress를 쓴 이유도 거창하지 않다.