AI

이 연재에는 "좋아 보였지만 재보니 손해였다"가 계속 나옵니다. 로컬 리랭커, 청크 정렬, LLM 재정렬… 그런데 그걸 무엇으로 판정했을까요? 이번 글은 그 자(尺) 이야기입니다. 그리고 그 자가 흔들려서 아무것도 못 재던 시절 과, 자를 고정하다 발견한 정답셋 자체의 오류들 을 함께 다룹니다. "결과 괜찮은데?"는 측정이 아니다 검색 품질에는 고약한 성질이 하나 있습니다. 눈으로 보면 대체로 다 좋아 보입니다. 새 기법을 넣고 검색어 서너 개를 쳐봅니다. 결과가 그럴듯합니다. "오, 좋아졌네." 그런데 이 판단에는 문제가 셋 있습니다....

기술 4편의 하드게이트도, 5편의 청크도 각 장소에 라벨이 붙어 있어야 작동합니다. 그런데 라벨은 누가 붙일까요. 장소는 6천 곳이 넘고 매일 늘어납니다. 이번 글은 그 라벨을 사람 없이 채우는 데이터 공장 이야기 — 그리고 LLM이 자꾸 없는 바다를 만들어내던 사건 — 입니다. 라벨이 없으면 게이트도 없다 기술 4편에서 "한옥 카페"는 venueStyles 에 '한옥'이 붙은 장소만 통과시킨다고 했습니다. 깔끔한 설계입니다. 그런데 그 글에서 안 한 이야기가 있습니다....

기술 4편은 "하드게이트는 정밀도엔 강하지만, 라벨과 후보가 적으면 재현율이 희생된다"로 끝났습니다. 이번 글은 그 후보를 더 많이·정확히 불러오는 이야기입니다. 그리고 중간에 "개선이 아니라 개악"이라는 측정 결과가 나와 폐기 직전까지 갔던 반전이 있습니다. 수치는 유추카 자체 오프라인/종단 평가 실측입니다. 리뷰 30개를 벡터 하나로 뭉개면 생기는 일 유추카는 장소 하나를 벡터(좌표) 하나 로 바꿔 검색합니다. 그 벡터를 만드는 원본 텍스트에는 장소 소개, 네이버 리뷰, 블로그 후기가 전부 들어갑니다. 장소당 평균...

기술 3편에서 "임베딩은 뜻은 잡지만 정확한 단어는 못 잡는다"를 봤습니다. 이번엔 한 걸음 더 들어갑니다 — 단어가 맞아도 여전히 틀리는 경우, 그리고 그걸 막기 위해 '비슷함'을 아예 '조건'으로 고정한 이야기입니다. 수치는 유추카 자체 A/B(사람 라벨 정답셋) 실측입니다. 감자탕집을 찾았는데 한옥 카페가 나온다 먼저 실제로 겪은 장면부터. "감자탕집" 을 검색했더니 결과 상단에 한옥 카페 가 올라왔습니다. 처음엔 버그인 줄 알았는데, 아니었습니다. 기술 3편에서 본 임베딩의 좌표 비유를 떠올려 보면 이유가 보입니다 — 감자탕집 문서와 한옥 카페 문서는 좌표상...

3편에서 "임베딩 튜닝이 멋져 보였지만 실패했다"고 했습니다. 이번 글은 그 임베딩의 구체적 약점 과, 그걸 형태소 색인(BM25)과 융합(RRF) 으로 메운 이야기입니다. 검색 품질편의 첫 번째입니다. 수치는 유추카 자체 실측(2026-06~07). 리랭크 적합 건수는 라이브 트레이스 기준입니다. 그 전에 — 임베딩이 대체 뭔가 이 글 내내 "임베딩"이 나오니 먼저 짚고 갑니다. 임베딩(embedding)은 글을 숫자 좌표로 바꾸는 것 입니다. "한강 보이는 조용한 카페"라는 문장을 넣으면 2048개의 숫자 묶음이 나옵니다. 이 좌표에는 한 가지 성질이 있습니다 —...

> 기술 1편에서 "로컬 LLM은 벽에 부딪혔고, 클라우드로 돌아가되 기능별로 다른 모델을 쓰기로 했다"고 했습니다. 이번 글은 그 라우팅의 근거가 된 실제 숫자 — 어떤 모델이 얼마고, 얼마나 빠르고, 어느 품질인지 — 를 표로 정리합니다. > 요금은 벤더 공개가(Alibaba Model Studio / Gemini API, 2026-07 기준·변동 가능), 지연·품질은 유추카 자체 A/B 실측입니다. 왜 "한 모델로 통일"이 아니라 "기능별"인가 유추카가 LLM을 부르는 지점은 크게 여섯 군데입니다. extract...

서비스 만들기 삽질기와 기술 삽질기를 병행해서 올리고 있습니다. 이번 글은 기술 삽질기 입니다. "내 GPU"의 정체 — MacBook Pro M3 Max 이번 서비스를 만들면서 local llm을 경험해보고자, 맥미니 64GB 모델을 구매하려고 개인적으로 예산을 확보하는 중이었는데 단종되어 버리는 어처구니 없는 상황을 접하고, 맥스튜디오 64GB 모델은 가격이 이 세상 가격이 아닌 천상계 가격으로 올라가는 상황에서 어쩔수 없이 선택한 장비가 맥북 프로 M3 Max 입니다. 로컬 LLM을 돌린 장비는 이겁니다....

AI로 장소 검색 서비스 만드는 중입니다 (2) — 영상에서 '장소'를 캐내는 법 지난 편에서 "유튜버가 다녀온 곳을 자동으로 모으겠다"고 호기롭게 말했습니다. 그 첫 번째 벽이 바로 이거였어요. 자막엔 가게 이름이 없습니다. 생각해 보면 당연합니다. 카페 영상에서 사람은 "여기 진짜 분위기 좋죠? 디저트도 꼭 드셔보세요"라고 말하지, "지금 보시는 곳은 서울 성동구 성수동에 위치한 ○○카페입니다"라고 또박또박 말해주지 않습니다. 가게 이름은 화면 자막에 잠깐 떴다 사라지거나, 더보기란에 적혀 있거나, 아예 없습니다. 사람은 영상을 보면서 자연스럽게 "아 저 집이구나" 하지만, 컴퓨터에게 자막은 그냥 "여기 좋아요 디저트 맛있어요"라는 글자 덩어리일 뿐입니다. 그래서 이 편은...

AI로 장소 검색 서비스 만드는 중입니다 (1) — 시작은 "아, 거기 어디였지" 주말에 누워서 유튜브를 보다가, 분위기 좋은 카페가 하나 나옵니다. 통창으로 햇살 들어오고, 사장님이 직접 로스팅하고, 디저트도 예쁘고. "오 여기 가봐야지" 하고 마음속에 저장합니다. 그리고 일주일 뒤, 진짜로 가려고 마음먹은 순간 머릿속이 하얘집니다. 거기가… 어디였더라. 분명 봤는데. 채널 이름도 가물가물하고, 영상 제목엔 "서울 카페 투어 5곳"이라고만 적혀 있고, 20분짜리 영상 어디쯤에 30초 나왔던 그 가게를 다시 찾으려면 영상을 처음부터 돌려봐야 합니다. 더보기란을 뒤지고, 댓글을 뒤지고, 운이 좋으면 누군가 "3분 42초 카페 이름이 뭐예요?" 라고 물어봐 줬고, 대부분은 그냥 포기합니다. 저는 이걸 한두 번 겪은 게 아니라서, 어느 날 문득 이런 생각이 들었습니다....

중국의 가장 큰 온라인 지불 회사로 알려져 있는 알리페이의 데이터분석 조직의 Technical director의 발표를 들을 수 있는 모임이 있어 소개하려고 합니다. 작은 소모임이다 보니 특별한 홍보는 하지 않고 있는것 같은데 관심있으신 분이 있을 것 같아 공유 합니다. 다음은 관련 행사 내용 영문 버전 입니다. Invitation from CIO Salon Seoul (March 7th, 2019) This is Viking from CIO Salon Seoul (GEA China) which is to be held on March 7th, 2019. I’d like to invite you to attend this Finance industry CIO event ....