전체 글85 LightGBM이란? XGBoost와 차이점, Leaf-wise와 Histogram 원리 LightGBM은 Gradient Boosting 계열에서 자주 사용되는 대표적인 트리 기반 머신러닝 모델이다.XGBoost와 비슷한 계열이지만, Histogram 기반 학습과 Leaf-wise 트리 성장 방식을 사용해 빠르고 효율적인 학습을 목표로 한다. 나도 LG Aimers 9기 해커톤에서 LightGBM을 직접 사용해본 적이 있다. 당시에는 Random Forest와 함께 베이스라인 모델로 제공돼 자연스럽게 접하게 됐다.이후 XGBoost와 CatBoost까지 비교해봤는데, 내가 진행한 실험에서는 LightGBM과 XGBoost보다 CatBoost의 성능이 더 잘 나왔다. 그래서 해커톤 중에는 LightGBM을 깊게 파고들기보다는 성능이 잘 나오던 CatBoost 쪽에 집중했다.대회가 끝난 뒤 다.. 2026. 9. 6. RAG 파이프라인에서 의도치 않게 토큰 절감한 이야기 방학동안 사용자 데이터가 많이 모였고 학기가 시작되어 이를 정리하여 오류 및 개선점을 찾고 있었다. 오류의 원인 파악하기 위해 KAU Notice Hub의 RAG 파이프라인을 점검하던 중 reranking 단계에서 버그를 하나 발견했다.LLM이 관련 있는 공지를 제대로 골랐는데도, 선택한 공지의 ID(제목)를 잘못 출력해 서버가 해당 공지를 찾지 못하는 문제였다. 문제를 해결하기 위해 공지 ID 대신 후보 번호(index)를 반환하도록 바꿨다.그런데 수정 후 토큰 사용량을 비교해보니 예상하지 못했던 효과도 있었다. rerank 출력 토큰이 92.5% 줄었다.기존 Reranking은 어떻게 동작했나KAU Notice Hub는 검색 결과가 많으면 상위 15건을 LLM에게 넘겨 관련 있는 공지만 다시 선별한다.. 2026. 9. 4. 클로드 Max 20x가 진짜 20배가 아니라고? Anthropic의 '20x' 논란 나는 최근 해커톤을 진행하면서 Claude를 정말 많이 쓰고 있다.Max 플랜의 주간 사용량을 거의 매주 소진하다 보니 /usage도 자주 확인하는 편이다.그래서 처음 이 이야기를 봤을 때 꽤 흥미로웠다. Claude Max 20x가 사실은 Pro보다 20배 쓸 수 있는 플랜이 아니라는 것이다.월 200달러짜리 플랜 이름부터 Max 20x다.당연히 처음 보면 이렇게 생각하지 않을까?Pro보다 20배 많이 사용할 수 있는 플랜. 그런데 Anthropic 공식 문서를 자세히 보면 조금 다르다.20배인 것은 5시간마다 초기화되는 '세션 사용량'이다.Claude에는 주간 사용량 제한이 별개로 존재한다.문제는 이 주간 제한이 Pro의 20배라고 Anthropic이 밝힌 적은 없다는 것이다. 이 차이 때문에 지금까.. 2026. 9. 3. 클로드 서버 터졌다? 529와 함께 모든 모델이 멈춘 9월 3일 실시간 장애 ※ 이 글은 2026년 9월 3일 오후 10시 51분 기준으로 작성했다. 장애 상황은 실시간으로 바뀔 수 있다.클로드로 작업하던 중 갑자기 서버 오류가 뜨기 시작했다.한두 번이면 그냥 일시적인 오류라고 생각했을 텐데 상황이 좀 달랐다.다시 시도를 눌러도 계속 서버 오류. 그러다 메시지가 바뀌었다.서비스가 혼잡했습니다.모델을 바꿔봐도 상황은 비슷했다.결국 내가 사용하던 환경에서는 사실상 Claude 모델 전체를 사용할 수 없는 상태가 됐다.처음에는 내 세션 문제인가 싶었는데 아니었다.Anthropic도 공식적으로 장애를 확인했다.지금 클로드에 무슨 일이 생긴 걸까?Anthropic 공식 Status 페이지를 확인해보니 9월 3일 오후 10시 26분(KST)부터 여러 Claude 모델에서 오류가 증가하고 있.. 2026. 9. 3. XGBoost란? Gradient Boosting과 차이점부터 작동 원리까지 얼마 전 LG Aimers 9기 해커톤을 마쳤다.해커톤에서는 야구 데이터를 가지고 Random Forest, XGBoost, LightGBM, CatBoost 같은 모델을 여러 개 사용해봤다.Claude와 함께하다 보니 모델을 불러오고 학습시키는 것 자체는 어렵지 않았다.from xgboost import XGBClassifiermodel = XGBClassifier()model.fit(X_train, y_train) 문제는 사용하는 것과 이해하는 것은 전혀 다른 이야기였다는 것이다. 당시 같은 컬럼을 사용해서 여러 모델을 비교했는데, 내 실험에서는 XGBoost의 성능이 다른 모델보다 비교적 낮게 나왔다.하지만 해커톤 중에는 실험을 하나라도 더 돌리는 게 급해서왜 XGBoost의 성능이 낮았을까?Lig.. 2026. 9. 2. Claude Code가 갑자기 일본어를 한다? 한국어 대화 중 외국어가 튀어나오는 이유 최근 Claude Code로 작업하다가 조금 황당한 장면을 봤다.나는 분명 한국어로 대화하고 있었다.그런데 Claude가 갑자기 일본어를 쓰기 시작했다.大きな範囲です。exp_098/CH以降、候補30件超…잠시 뒤에는 다시 영어로 바뀌었다.Second agent for the experiment ledger while the first works.그리고 또 일본어가 나온다.candidatesが返ってきました。27件をバッチでNotionに反映します。한 응답 안에서 한국어 → 일본어 → 영어 → 일본어가 짬뽕되고 있었다..사실 문장 내 단어 하나 정도가 외국어로 나오는 현상은 많이 겪었었다.하지만 문장 자체가 이렇게 섞이는 경우는 처음으로 관측했다.이런 현상을 처음 보면 가장 먼저 드는 생각은 이거다. 왜 갑자기 .. 2026. 9. 2. 이전 1 2 3 4 ··· 15 다음