반응형 전체107 맥북에어 M4 RAM 16GB에서 Hermes Agent 로컬로 사용해보기 (2) : MCP 연동 테스트 1탄에서 로컬 구동까지 성공했으니, 이번엔 MCP(Model Context Protocol) 로 외부 툴을 붙여봄.결론: MCP 연동은 잘 됨. 근데 화이트리스트 필터링의 효과가 예상과 완전히 달랐음.0. 1탄 요약1탄에서 한 것:Hermes는 두 가지 — Hermes 모델(LLM)과 Hermes Agent(에이전트 프레임워크). 검토 대상은 후자. 스킬을 스스로 만들고 개선하는 학습 루프가 핵심.맥북에어 M칩 16GB에 완전 로컬로 세팅 성공. 외부 API 호출 0. Ollama + qwen3:4b 조합.3대 관문을 다 밟음 — ① 툴콜 파서(vLLM은 --tool-call-parser hermes 플래그 필요, Ollama는 자동) ② 64K 컨텍스트 강제(ollama_num_ctx: 65536) ③.. 2026. 7. 24. 맥북에어 M4 RAM 16GB에서 Hermes Agent 로컬로 사용해보기 (1) 사내에 LLM 에이전트 도입을 검토하면서 Nous Research의 Hermes Agent를 공부하고, 개인 맥북에어(M4칩, 16GB)에 완전 로컬(외부 API 0) 로 직접 세팅해본 기록. 개념 정리 + 설치 과정 + 실제로 밟은 지뢰들을 Q&A로 다 정리함. 0. 결론부터Hermes는 모델과 에이전트 두 가지를 가리킴. 이번 실험의 검토 대상은 에이전트.맥북에어 16GB로 로컬 구동 자체는 성공함. 단, 속도·품질 대표성은 없음 → 단지 기능 확인용.로컬로 붙일 때는 ① 툴콜 파서 ② 64K 컨텍스트 ③ thinking 지원 모델 선택 세 가지 체크 필요.실사용 성능은 PoC 때 제대로 된 GPU + 27~35B 모델에서 봐야 함.1. Hermes, 에르메스???"Hermes"는 Nous Resea.. 2026. 7. 10. [추천시스템] CTR 모델에 대해 알아보자 1탄 : DIN, DIEN, DCN LLM활용한 추천시스템 코드를 보다보니 CTR 모델들에 대해 제대로 모르고 있는 듯하여 이참에 정리를 해보려 한다. 사실 각각의 게시물로 쓰려고 했는데, 서로 비교하는 데에는한 게시물로 정리하는 것이 나을 것 같아 정리해본다. CTR(Click Through Rate)는 영어 그대로 클릭할지 안할지 예측하는 Task이다.광고나 이커머스 쇼핑에서 CTR을 잘 예측해야 알맞게 추천할 수 있다. 1. DIN - 기존 CTR모델들은 embedding&MLP 방식으로 진행함. 즉, vector를 저차원으로 임베딩한 뒤 MLP에 넣음 → 고정된 길이의 vector이니 정보손실 일어남. 다양한 선호도 파악 어려움 - 기존 다른 RNN기반의 모델들은 데이터사이가 거리가 멀어질수록 연관관계.. 2024. 8. 15. [코드리뷰] Towards Open-World Recommendation with knowledge Augmentation from Large Language Models https://simonezz.notion.site/4-5-LLM-3aca6d35ca8c4496a05910e4a3f0ba9f?pvs=4 4-5주차. 각자의 LLM 코드 설명 | Notion코드 구조simonezz.notion.site 2024. 8. 15. 이전 1 2 3 4 ··· 27 다음 728x90 반응형
