개발과 일상을 기록합니다
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기마지막 편. 이번 편은 이 모든 걸 돌리는 바닥 — Mac mini 한 대 위의 운영 구성과거기서 난 사고들, 그리고 시리즈 전체를 관통하는 질문인 "혼자인데 왜 이렇게까지문서를 쓰는가"에 대한 답이다.운영 토폴로지: Mac mini 한 대의 프로덕션Momently의 프로덕션은 클라우드가 아니라 집의 Mac mini다. 로컬 LLM(1편)을선택한 순간 GPU가 있는 내 머신이 곧 서버가 되는 건 자연스러운 귀결이었다.@startumlskinparam shadowing falseskinparam componentStyle rectanglecloud "Cloudflare Edge\n(HTTPS 종료, Access 정책)" as ..
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기 9편.글은 나온다. 문제는 그 글을 네이버 블로그에 올리는 마지막 1미터다. 이번편은 기술적으로 가능한 것과 해도 되는 것 사이에 선을 긋는 이야기 — 그리고ADR 초안의 가정들이 구현 실측에서 어떻게 수정됐는지의 기록이다.마지막 1미터의 실패파이프라인의 끝은 최종 마크다운 + 발행 메타데이터(제목 후보, 해시태그, 메타디스크립션)다. 초기의 발행 경로는 콘솔의 "발행 패키지 복사" — 클립보드에정리된 텍스트를 담아주면 사용자가 네이버 에디터에 붙여넣는 방식이었다.실측해 보니 이 방식은 두 군데서 부러진다.네이버 SmartEditor는 마크다운을 모른다. ## 제목, **굵게**가 평문그대로 들어간다. 서식을 사용자가 다시..
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기 8편.이번 편은 인프라가 아니라 프롬프트 파이프라인의 사고다. 사진 OCR에 섞인흔한 단어 하나가 글의 장르를 통째로 바꿔버린 사건, 그 구조적 원인, 그리고"누가 결정권자인가"를 계약으로 명시한 수리 과정.사건: 여행 후기를 시켰는데 퀴즈 정답 공유 글이 나왔다콘솔에서 일반 후기를 요청했는데, 나온 초안이 이상했다. 제목부터 "○○ 퀴즈 정답"류였고, 본문 구조도 앱테크 퀴즈 정답 공유 글의 전형(정답 먼저, 참여 방법,포인트 안내)이었다. 올린 사진은 그냥 일상 사진이었는데.원인은 사진 한 장이었다. 사진 속 텍스트(OCR)에 "포인트"라는 단어가 있었다.배경 설명이 필요하다. Momently에는 앱테크 퀴즈 정답 공유..
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기 7편.6편에서 에러의 "모양"을 통일했다. 이번 편은 에러의 "전파"를 막는 이야기 —LLM cold-start가 시스템 전체를 인질로 잡는 cascade failure를 Resilience4j기반 per-agent Circuit Breaker + Bulkhead로 격리한 과정이다.문제: 한 에이전트의 감기가 전체의 몸살로Ollama 기반 에이전트(style, draft, review, meta)는 cold-start 시 호출 하나가30~60초를 잡아먹는다. 이때 orchestrator 내부에서 벌어지는 일:동기 HTTP 호출이 read-timeout(60초 근처)까지 톰캣 worker thread를 hold한다.에이전트가..
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기 6편.기능이 10개 에이전트로 불어나는 동안 에러 처리는 각자 진화했고, 어느 날사용자 화면에 Java 예외 메시지가 그대로 떴다. 이번 편은 에러 응답 표준을정하는 것보다 훨씬 어려웠던 일 — 기존 코드와 공존시키며 점진 적용하기 —의 기록이다.증상: 사용자 화면의 stack trace콘솔의 "새 글쓰기" 실패 화면에 이런 게 떴다.작업 실패: 500 Internal Server Error on POST request for"http://momently-style:8000/api/v1/style": [{"detail": ...내부 컨테이너 호스트명, HTTP 클라이언트 예외 메시지, 에이전트 응답 본문 조각.사용자가 볼 ..
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기 5편."내 말투로 쓰인 초안"이 이 프로젝트의 정체성인데, 그 말투 기능이 몇 주간조용히 죽어 있었다. 이번 편은 말투 학습 기능의 설계, 학습 데이터 정제,그리고 스토리지 마이그레이션에서 읽기 경로를 빼먹은 사고의 부검이다.말투가 없으면 AI 글은 남의 글이다초안 품질이 아무리 좋아도 말투가 내 것이 아니면 결국 전부 고쳐 쓰게 된다.어미("했어요" vs "했다"), 자주 쓰는 감탄사, 문단 호흡, 이모지 습관 — 이런 게안 맞으면 글 전체가 남의 글처럼 읽힌다. 그래서 voice_profile_agent를 따로뒀다: 내가 이미 쓴 글들을 먹여서 말투 프로필을 만들고, style/draft 단계가 그프로필을 프롬프트에 반..
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기 4편.이번 편은 파이프라인에서 LLM이 처음으로 "판단"에 개입하는 단계인 사진그룹화다. 순수 LLM에 맡기지 않은 이유, LLM이 계약을 조용히 어기는 두 가지방식과 그 방어, 그리고 모델을 감으로 고르지 않기 위해 만든 비교 하네스이야기.문제: 사진 200장을 "문단"으로 바꾸기블로그 글의 구조는 결국 사진 묶음의 구조다. 오전 카페, 점심, 해변, 저녁 —이 묶음이 곧 글의 문단이 된다. 그래서 그룹화가 틀리면 뒤의 모든 단계(대표 사진,개요, 초안)가 틀린 구조 위에 쌓인다.어려운 이유는 데이터가 지저분해서다. EXIF의 captured_at이 있으면 시간 기반그룹화가 쉽지만, 메신저로 받은 사진은 EXIF가 날아가..
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기 3편.1편에서 "제어 흐름은 결정적 코드가 가진다"고 결정했다. 이번 편은 그 결정의실체인 상태 머신, 그리고 그 아래를 받치는 ID 전략(ADR 003)과 저장전략(ADR 004) 이야기다. 마지막에는 이 설계의 사본 둘이 어긋나서 운영워크플로가 죽었던 사고를 다룬다.상태 머신: 단계마다 ~ING과 ~ED를 쌍으로워크플로의 상태는 이렇게 생겼다. 각 단계가 "진행 중"과 "완료" 상태를 쌍으로갖는다.@startumlskinparam shadowing falsehide empty description[*] --> CREATEDCREATED --> PHOTO_INFO_EXTRACTINGPHOTO_INFO_EXTRACTING ..
사진을 넣으면 블로그 초안이 나오는 로컬 LLM 파이프라인 Momently 개발기 2편.이번 편은 코드보다 먼저 그은 두 개의 선 — 모듈 경계(ADR 001)와 공개 API경계(ADR 002) — 이야기다. 지루해 보이는 결정이지만, 이후 모든 편에서 다룰작업들이 이 두 선 위에서 굴러간다.경계 질문이 처음 나온 순간첫 모듈 photo_exif_llm_pipeline(EXIF 추출 + 사진별 LLM 요약)을 만들 때는 구조고민이 없었다. 폴더 하나, 파이썬 코드, 테스트. 문제는 두 번째 기능인 사진그룹화를 붙이려던 순간에 왔다.같은 파이썬 프로젝트 안에 grouping/ 폴더를 파면 그만인가? 아니면 별도프로젝트로 나눠야 하나? 나눈다면 레포까지 나눠야 하나? 이 시점에 답해야 했던진짜 질문은 폴더 ..
이 시리즈는 사진과 동영상을 넣으면 한국어 블로그 초안이 나오는 개인 프로젝트Momently를 만들면서 했던 의사결정들과, 만들다 보니 터진 문제들, 그리고 그걸어떻게 바꿨는지를 기록한 개발기다. 잘 만든 결과물 자랑보다는 "왜 그렇게결정했고, 어떤 대안을 버렸고, 어디서 틀렸는지"에 초점을 둔다.왜 만들었나여행을 다녀오면 사진이 몇백 장씩 쌓인다. 맛집을 다녀와도 마찬가지다. 사진은찍는 순간 끝나지만, 후기는 그렇지 않다. 사진을 고르고, 순서를 잡고, 뭘 먹었는지기억을 더듬고, 글의 뼈대를 세우고, 내 말투로 다듬는 것까지 — 블로그 글 하나에드는 시간의 대부분은 "쓰기"가 아니라 이 정리 과정이다.그래서 목표를 이렇게 잡았다.사진/동영상 폴더를 통째로 던지면, 내 말투로 쓰인 블로그 초안이 나온다...
시리즈: 운영을 지탱하는 것들1편. 로그가 쓰레기장이 되기 전에2편. 하루 2,300건의 ERROR에서 진짜 장애만 골라내기3편. 재배포 없이 운영 쿼리 바꿔치기 — JPA 쿼리 런타임 핫스왑4편. LLM에게 사내 코드 문서를 쓰게 했더니 — 유령 식별자와 3중 검증 게이트5편. 램 4GB 서버에 임베딩 서빙 올리기 (현재 글)개발 장비에서만 돌던 워커를 서버로4편의 codedoc 워커는 그동안 내 개발 장비에서 돌았다. 매일 아침 배치가 사람 손을 타는 구조는 오래 갈 수 없으니, dev 서버로 이식해서 무인으로 돌게 만드는 것이 이번 작업의 목표였다. 이틀이면 되겠다 싶었고 실제로 이틀 걸렸는데, 계획대로 된 것보다 실측으로 뒤집힌 것이 많았다. 이식이 끝난 뒤의 최종 그림부터 놓고 시작한다.@sta..
시리즈: 운영을 지탱하는 것들1편. 로그가 쓰레기장이 되기 전에2편. 하루 2,300건의 ERROR에서 진짜 장애만 골라내기3편. 재배포 없이 운영 쿼리 바꿔치기 — JPA 쿼리 런타임 핫스왑4편. LLM에게 사내 코드 문서를 쓰게 했더니 (현재 글)5편. 램 4GB 서버에 임베딩 서빙 올리기 — LLM 지식 파이프라인 이식기챗봇이 답 못하는 질문들사내 HR 서비스에는 VOC 문의에 답하는 챗봇이 있다. 지식은 두 갈래인데, 과거 문의 Q/A는 이미 쌓여 있는 데이터를 색인하면 된다. 문제는 두 번째 갈래다. "연차가 자동으로 소멸되는 조건이 뭔가요", "중도입사자 급여는 어떻게 일할계산되나요" 같은 질문 — 시스템이 실제로 어떻게 동작하는지를 묻는 질문의 정답은 어떤 문서에도 없고 소스코드 안에만 있다..
|
