Hermes Agent는 Nous Research가 개발한 오픈소스 AI Agent 프레임워크입니다. 단순히 LLM과 채팅하는 프로그램이 아니라, 모델이 도구를 사용하고 파일을 읽거나 수정하고, 터미널 명령을 실행하고, 웹과 데스크톱 애플리케이션을 다루며, 세션 사이에 정보를 기억하고 반복 가능한 Skill을 학습하도록 만들어 줍니다.
한눈에 보기: Hermes Agent는 LLM 자체가 아니라, 언어 모델을 Tools, Files, Terminal, Browser, Memory, Skills, MCP, Automation과 연결하는 Agent Runtime 및 Orchestration 계층입니다.
중요한 점은 Hermes Agent 자체가 LLM은 아니라는 것입니다. LLM이 추론 엔진 역할을 하고 Hermes는 Agent Loop, Tools, Memory, 실행 환경과 Integration을 제공합니다.
User
↓
Hermes Agent
↓
LLM
↓
Decision / Tool Call
↓
Files / Terminal / Browser / MCP / Memory
↓
ResultHermes는 GPT, Claude, Gemini, DeepSeek 같은 Cloud 모델뿐 아니라 Ollama, LM Studio, llama.cpp, vLLM 등으로 실행되는 Local Model에도 연결할 수 있습니다.
완전히 Private하게 사용할 수 있나?
가능합니다. 모델과 도구를 모두 로컬에서 실행하면 LLM inference를 컴퓨터 내부에서 처리할 수 있고 Hermes의 기본 대화, Memory, Skills도 로컬에 저장됩니다.
하지만 Cloud LLM, 웹 검색 서비스, Cloud Browser, 이미지 생성 API 또는 외부 Memory 서비스를 사용한다면 해당 기능에 필요한 데이터는 외부 Provider로 전달됩니다. 따라서 Local과 완전한 Offline은 구분해야 합니다.
Hermes와 Ollama의 차이
Ollama는 Local LLM을 실행하는 Runtime이고 Hermes는 LLM을 실제 작업을 수행하는 Agent로 만드는 Runtime입니다.
Hermes
↓
Ollama
↓
Local LLM
↓
GPU주요 기능
Terminal과 파일
Hermes는 shell command를 실행하고 process를 관리하고 파일을 읽고 수정할 수 있습니다. Coding Agent, DevOps, 서버 관리와 자동화에 사용할 수 있습니다.
Browser Automation
웹사이트 탐색, 요소 클릭, 폼 입력, 데이터 추출 등이 가능합니다. 로컬 Chromium 계열 브라우저와 여러 Cloud Browser Backend를 사용할 수 있습니다.
Computer Use
Browser뿐 아니라 Desktop 애플리케이션과도 상호작용할 수 있습니다. Windows, macOS, Linux에서 지원되며 운영체제에 따라 필요한 권한 설정이 다릅니다.
Persistent Memory
Hermes는 세션을 넘어 유지되는 Memory를 제공합니다. MEMORY.md에는 환경이나 프로젝트에서 배운 핵심 정보가 저장되고 USER.md에는 사용자 선호가 저장됩니다. 과거 Session도 로컬에서 검색할 수 있습니다.
Skills
Skill은 반복 가능한 절차를 저장하는 기능입니다. Hermes가 복잡한 작업을 수행하며 효과적인 절차를 발견하면 이를 Skill로 저장해 다음 작업에서 다시 사용할 수 있습니다.
Hermes가 말하는 Self-Improvement의 중요한 부분입니다. 일반적인 사용에서는 LLM의 weight를 계속 Fine-tuning하는 것이 아니라 Memory와 Skills를 통해 경험을 재사용하는 방식입니다.
MCP
Hermes는 Model Context Protocol을 지원합니다. 이를 통해 GitHub, Database, Filesystem, 내부 API 같은 외부 Tool Server를 Agent에 연결할 수 있습니다. Local stdio와 Remote HTTP MCP Server를 모두 지원합니다.
Plugins
Hermes Plugin을 통해 새로운 Tool, Hook, Command와 Integration을 추가할 수 있습니다.
Skill = 재사용 가능한 작업 지침
MCP = 외부 도구를 연결하는 표준
Plugin = Hermes 네이티브 확장Subagents
큰 작업을 별도의 Context를 가진 Subagent에게 분배할 수 있습니다. 복잡한 작업에는 유용하지만 단순한 문제까지 Multi-Agent로 만들면 속도와 비용, 디버깅 복잡성이 증가합니다.
Cron과 Automation
Hermes는 일회성 또는 반복 Scheduled Task를 지원합니다. Delay, Interval, Cron Expression, 특정 시간을 사용할 수 있고 Job을 pause, resume, edit, remove할 수 있습니다.
Messaging Gateway
Telegram, Discord, Slack, WhatsApp, Signal, Email, Microsoft Teams, Matrix, Home Assistant 등 여러 플랫폼에서 항상 실행되는 Agent를 만들 수 있습니다.
hermes gateway setupVision과 Voice
Vision Model을 통한 이미지 분석, 이미지 생성, Text-to-Speech, Speech-to-Text 등을 사용할 수 있습니다. Local인지 Cloud인지는 선택한 Provider에 따라 달라집니다.
API Server
Hermes는 OpenAI-compatible HTTP API를 제공할 수 있습니다. 따라서 Open WebUI, LobeChat, LibreChat 또는 직접 개발한 Application에서 Hermes를 Backend로 사용할 수 있습니다.
IDE Integration
ACP를 통해 호환되는 IDE에서 Chat, Tool 실행, File Diff, Terminal 동작을 확인할 수 있습니다.
SOUL.md
SOUL.md와 Personality 설정으로 Agent의 역할과 응답 스타일을 커스터마이징할 수 있습니다. Coding Agent, Research Agent, Security Agent, CRM Agent처럼 서로 다른 성격의 Agent를 만들 수 있습니다.
설치
Windows
Hermes Desktop을 사용하는 것이 가장 간단합니다. Native CLI는 PowerShell에서 다음 명령으로 설치할 수 있습니다.
iex (irm https://hermes-agent.nousresearch.com/install.ps1)Linux, WSL2, macOS
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash설치 후:
hermes setup
hermes model
hermes tools
hermesTUI:
hermes --tui문제 진단:
hermes doctorOllama 연결
Ollama에서 모델을 실행한 뒤:
hermes modelCustom Endpoint를 선택하고 일반적으로 다음 주소를 사용합니다.
http://localhost:11434/v1정확한 모델 이름과 Context 크기를 설정해야 합니다.
Hermes는 현재 주요 Agent workflow에 약 64K token 이상의 Context를 요구합니다. 따라서 Local Model에서는 큰 Context가 추가 RAM과 VRAM을 사용한다는 점을 고려해야 합니다.
Hermes Local Models
Hermes Desktop은 llama.cpp 기반 Local Model을 직접 관리할 수 있습니다. Hardware에 맞는 runtime을 관리하며 모델을 다운로드한 이후에는 Cloud LLM 없이 로컬에서 inference할 수 있습니다.
Hardware
Cloud LLM을 사용할 때는 강력한 GPU가 필요하지 않습니다. 일반적인 최신 CPU와 약 8GB 이상의 RAM이 실용적인 시작점입니다. 이는 공식 최소사양이라기보다는 실사용 기준입니다.
Local Model의 경우:
| 환경 | RAM | VRAM |
|---|---|---|
| Cloud LLM | 8GB+ | 필요 없음 |
| 작은 Local Model | 16GB | 8GB+ |
| 7B–9B | 16–32GB | 10–12GB+ |
| 중형 모델 | 32GB+ | 16–24GB+ |
| 27B–35B | 32–64GB+ | 16GB+, 더 많을수록 좋음 |
| Multi-user Server | 64GB+ | Server GPU |
Hermes 공식 문서는 8GB 이상의 GPU Memory가 작은 Catalog Model을 편안하게 실행하는 데 적합하며, 16GB 이상은 27–35B 모델을 높은 품질로 실행하는 데 사용할 수 있다고 설명합니다. 실제 사용량은 Quantization, Context, 모델 구조와 동시 사용자 수에 따라 달라집니다.
지원 플랫폼
주요 지원 플랫폼은 Windows 10/11, Linux, WSL2와 Apple Silicon macOS입니다. Docker도 지원하며 Android/Termux용 설치 경로도 있습니다.
개인 Desktop Agent에는 Windows가 편리하고, 항상 켜져 있는 Gateway 또는 Automation Server에는 Linux가 일반적으로 관리하기 좋습니다.
보안
Terminal, File, Browser 권한을 가진 Agent는 높은 권한을 가질 수 있습니다. Hermes는 위험 명령에 대한 Approval과 File Write Protection을 제공하지만 이것이 완전한 OS Sandbox를 대신하지는 않습니다.
민감한 환경에서는 제한된 OS 계정, Workspace 제한, Docker Isolation, 최소 MCP/Plugin 권한과 중요한 작업에 대한 Human Approval을 사용하는 것이 좋습니다.
개인 문서와 Fine-tuning
문서를 Hermes에 연결한다고 해서 LLM 자체가 자동으로 Fine-tune되는 것은 아닙니다. Files, Project Context, Skills, MCP 또는 별도의 RAG System으로 지식을 제공할 수 있습니다.
모델 weight 자체를 학습시키고 싶다면 Fine-tuning, LoRA 또는 QLoRA를 별도로 수행한 뒤 해당 모델을 Local Server에서 실행하고 Hermes를 연결할 수 있습니다.
학습 순서
먼저 기본 Chat과 하나의 모델을 정상적으로 실행합니다. 그다음 File과 Terminal Tool, Memory와 Session Search, Custom Skill을 학습합니다. 이후 Browser Automation, MCP, Cron, Messaging Gateway를 추가하고 마지막으로 SOUL.md, 제한된 Tool 권한, API Server와 Production Security를 적용하는 방식이 좋습니다.
활용 예
Local Coding Assistant, Research Agent, Server Management Agent, SOC Assistant, Log Analysis Agent, CRM Agent, Sales Assistant, Personal Knowledge Agent, GitHub Automation, Telegram Assistant, Home Assistant Agent, Document Processing Agent 등을 만들 수 있습니다.
정리
Hermes Agent는 하나의 LLM이 아니라 LLM을 실제로 행동할 수 있는 Agent로 만드는 실행 및 Orchestration Layer입니다. Local, Cloud 또는 Hybrid 구조를 선택할 수 있으며 작은 Tool Set으로 시작해 Memory, Skills, MCP, Browser, Cron과 Multi-Agent 기능을 단계적으로 추가하는 것이 가장 좋은 시작 방법입니다.