🏠 BERANDA Selamat Membaca, Sobat MasAnam!
📚 BLOG →
📌 Eksperimen AI & Server 📅 12 Nov 2026 👁️ 14x dibaca

Pasang AI Agent Sendiri (Studi Kasus Hermes Agent): Pilih Mode Direct API atau Full Offline?

📢 Bagikan Edukasi Ini:

🤖 Salah Kaprah: "Sudah Install AI Agent di Server Sendiri = Bebas Biaya & Pasti Cerdas"

Setelah memahami cara kerja AI Agent di artikel sebelumnya, banyak teman-teman yang mulai mencoba menginstal framework agen seperti Hermes Agent di server rumahan (STB Linux Armbian, Raspberry Pi, atau VPS). Namun muncul pertanyaan krusial: Apakah otak AI-nya lebih baik dipasang secara Direct API (numpang otak ke Cloud) atau dibuat Full Offline (install model LLM lokal di dalam alat)? Mari kita bedah lewat 4 workflow nyata!

1. Memahami Posisi Hermes Agent di Server Kita

Hermes Agent pada dasarnya adalah aplikasi pengatur (Orchestrator) yang berjalan 24 jam di server kita untuk menghubungkan aplikasi chat (seperti Telegram/WhatsApp) dengan Tools (seperti Database MySQL website). Agar bisa memahami perintah manusia dan menulis query SQL, Hermes membutuhkan Otak LLM. Di sinilah kita dihadapkan pada 2 jalur arsitektur:

📊 Workflow 1: Dua Cabang Arsitektur Otak pada Hermes Agent

flowchart TD User(["📱 User Kirim Chat via Telegram"]) --> Hermes["⚙️ Hermes Agent (Jalan di STB Linux / VPS)"] Hermes --> Pilihan{"Pilih Mode Otak LLM?"} Pilihan -->|"Opsi A: Mode Direct API"| Cloud["☁️ Tembak API Luar (Gemini / Groq / OpenRouter)"] Cloud -->|"Proses di GPU Raksasa Milik Provider"| C1["⚡ Respon Cepat & Cerdas (1-2 Detik)"] Pilihan -->|"Opsi B: Mode Full Offline"| Lokal["🖥️ Panggil Ollama / Llama.cpp di Dalam Server Sendiri"] Lokal -->|"Peras CPU & RAM Lokal"| L1["🐢 Tergantung Spesifikasi Hardware Kita"] C1 --> Tool["🛠️ Eksekusi Tool: Query Database MySQL Website"] L1 --> Tool Tool --> Jawab(["✅ Kirim Hasil Laporan ke Telegram User"]) style User fill:#fef08a,stroke:#ca8a04,stroke-width:2px style Hermes fill:#bfdbfe,stroke:#1d4ed8,stroke-width:2px style C1 fill:#bbf7d0,stroke:#16a34a,stroke-width:2px style L1 fill:#fde68a,stroke:#d97706,stroke-width:2px style Jawab fill:#bbf7d0,stroke:#16a34a,stroke-width:2px

2. Mode 1: Direct API (Hermes Lokal + Otak Cloud & Fallback)

Pada Mode Direct, perangkat server kita (bahkan STB murah dengan RAM hanya 2 GB seperti HG680-P) hanya bertugas menjalankan skrip Hermes yang sangat ringan. Saat ada pesan masuk dari Telegram, Hermes mengirim teks tersebut lewat internet ke penyedia API LLM. Agar tidak macet saat terkena limit gratisan (Error 429), kita bisa memasang skema Multi-LLM Fallback.

📊 Workflow 2: Cara Kerja Hermes Mode Direct API + Auto-Fallback

sequenceDiagram autonumber actor User as 📱 User (Telegram) participant STB as 📦 Hermes di STB (RAM 2GB) participant API1 as ☁️ LLM Utama (Gemini / Groq Free) participant API2 as 🔄 LLM Cadangan (Fallback API) participant DB as 🗄️ MySQL (Website) User->>STB: "Cek total kas masuk hari ini" STB->>API1: Kirim Prompt + Struktur Tabel (Request API) alt Kuota Masih Aman (200 OK) API1-->>STB: Balas JSON: Panggil fungsi cek_kas() else Kena Limit Harian / Menit (Error 429 / Timeout) API1-->>STB: Error 429: Rate Limit Exceeded! STB->>API2: Otomatis Pindah ke LLM Cadangan (Fallback) API2-->>STB: Balas JSON: Panggil fungsi cek_kas() end STB->>DB: Jalankan Query SELECT SUM(nominal) DB-->>STB: Return Hasil: Rp 4.500.000 STB->>API1: Kirim angka untuk dirangkai jadi kalimat API1-->>STB: "Total kas masuk hari ini adalah Rp 4.500.000." STB->>User: Tampilkan balasan di Telegram (Total waktu: ~2 detik)
✅ Keunggulan Utama Mode Direct: Beban kerja STB/VPS hampir 0% (suhu adem & hemat listrik), kecerdasan setara model kelas dunia (70B+ parameter), dan respon sangat instan.

3. Mode 2: Full Offline (Hermes + Otak LLM Lokal di Satu Mesin)

Bagaimana jika kita tidak ingin bergantung pada API luar dan menginstal Ollama / Local LLM langsung di dalam server yang sama dengan Hermes? Semua proses berpikir dilakukan oleh CPU/GPU milik kita sendiri tanpa koneksi internet ke pihak ketiga. Namun, perhatikan apa yang terjadi jika perangkat kita tidak memiliki kartu grafis (GPU) khusus:

📊 Workflow 3: Cara Kerja Hermes Mode Full Offline & Titik Bottleneck Hardware

flowchart TD U(["📱 User: Cek stok & rekap laporan"]) --> H["⚙️ Hermes Agent (Lokal)"] H --> O["🧠 Panggil Ollama Lokal (Tanpa Internet)"] O --> CekHW{"Cek Spesifikasi Server Lokal?"} CekHW -->|"1. Dipasang di STB / VPS Kecil (RAM 2GB-4GB)"| Kecil["📦 Hanya Muat Model Super Kecil (0.5B - 1.5B)"] Kecil --> Efek1["🔥 CPU 100% Panas & Kecepatan 1-2 Kata/Detik"] Efek1 --> Gagal["❌ Sering Salah Tulis Format JSON / Gagal Panggil Tool"] CekHW -->|"2. Dipasang di PC Server + GPU (VRAM 8GB-24GB)"| Besar["🖥️ Muat Model Menengah-Atas (8B - 32B)"] Besar --> Efek2["⚡ Diproses Kartu Grafis (30-60 Kata/Detik)"] Efek2 --> Sukses["✅ Berhasil Eksekusi Tool Database & Jawab Cerdas"] style U fill:#fef08a,stroke:#ca8a04,stroke-width:2px style Gagal fill:#fecaca,stroke:#dc2626,stroke-width:2px style Sukses fill:#bbf7d0,stroke:#16a34a,stroke-width:2px

4. Seberapa Pintar Model Offline? (Kenali Ukuran Parameter "B")

Jika Anda memilih jalur Offline (Server Sendiri), tingkat kepintaran AI Agent Anda ditentukan oleh ukuran parameter model (B = Billion / Miliar Parameter) yang sanggup ditampung oleh RAM/VRAM perangkat Anda:

LEVEL 1: 0.5B – 3B Parameter

Kelas Magang (Jalan di STB / RAM 2-4GB)

Contoh: Qwen 2.5 (1.5B), Llama 3.2 (1B).
Kemampuan: Hanya cocok untuk chat sapaan dasar. Sangat sering bingung dan gagal jika disuruh menjadi AI Agent yang harus memilih tools atau menulis SQL.

LEVEL 2: 7B – 8B Parameter

Kelas Staf Admin (Wajib GPU VRAM 6-8GB)

Contoh: Llama 3.1 (8B), Qwen 2.5 (7B).
Kemampuan: Setara ChatGPT-3.5 / mendekati GPT-4o-mini. Sudah lancar menjadi AI Agent tunggal untuk cek database dan balas pesan otomatis.

LEVEL 3: 14B – 32B Parameter

Kelas Analis Senior (Wajib GPU VRAM 16-24GB)

Contoh: Qwen 2.5 Coder (32B), DeepSeek-R1 (14B/32B).
Kemampuan: Sangat tajam untuk logika coding, analisis laporan keuangan rumit, dan menjalankan sistem Multi-Agent tanpa salah langkah.

LEVEL 4: 70B – 671B Parameter

Kelas Profesor / Cloud (Server Enterprise)

Contoh: Llama 3.3 (70B), DeepSeek-V3 Full.
Kemampuan: Inilah model raksasa yang kita nikmati secara instan saat menggunakan Mode Direct API!

5. Komparasi Akhir: Pilih Mode Direct atau Offline?

Aspek Perbandingan ⚡ Mode Direct (Hermes + Cloud API) 🖥️ Mode Offline (Hermes + Ollama Lokal)
Minimal Hardware Sangat Ringan (STB RAM 2GB / VPS Murah) Berat (Wajib PC/Server dengan GPU VRAM 8GB+)
Kecepatan Respon 1 – 3 Detik (Instan) Lambat di CPU (30-120 detik) / Cepat jika ada GPU
Kecerdasan Panggil Tools Sangat Akurat (Jarang Error JSON/SQL) Sering gagal jika memakai model di bawah 7B
Konsumsi Listrik & Biaya Listrik STB cuma ~5 Watt + API Free/Murah Listrik PC GPU 250W–500W nyala 24 jam
Privasi Data Data dikirim lewat jalur API Provider 100% Tertutup di Dalam Jaringan Lokal

📊 Workflow 4: Panduan Memilih Setelan Terbaik untuk Kebutuhan Anda

flowchart TD Mulai(["🎯 Mau Pasang Hermes Agent 24 Jam"]) --> Tanya1{"Punya PC Server dengan GPU RTX (VRAM 8GB+)?"} Tanya1 -->|"Tidak, Hanya Punya STB / VPS Kecil"| Solusi1["✅ Gunakan MODE DIRECT API"] Solusi1 --> S1A["Pasang Hermes di STB + Hubungkan ke API Gemini/Groq"] S1A --> S1B["Aktifkan Fitur Fallback LLM agar Anti-Macet"] Tanya1 -->|"Ya, Punya Server GPU & Butuh Privasi Ketat"| Solusi2["✅ Gunakan MODE HYBRID / OFFLINE"] Solusi2 --> S2A["Install Ollama (Minimal Model 8B - 14B)"] S2A --> S2B["Gunakan Lokal untuk Data Sensitif & Cloud untuk Tugas Berat"] style Mulai fill:#fef08a,stroke:#ca8a04,stroke-width:2px style Solusi1 fill:#bbf7d0,stroke:#16a34a,stroke-width:2px style Solusi2 fill:#bfdbfe,stroke:#1d4ed8,stroke-width:2px

📌 Kesimpulan & Rekomendasi MasAnam:

Jika tujuan Anda adalah membangun asisten operasional (seperti cek laporan database koperasi/toko via Telegram) yang hemat listrik, murah, namun cerdas, kombinasi STB Linux Armbian + Hermes Agent Mode Direct API (dengan sistem Fallback LLM) adalah juara mutlak. Jangan memaksakan instalasi model LLM offline di perangkat kecil tanpa GPU karena hasilnya akan sangat lambat dan menguras kesabaran!

💡 Artikel & Workflow Ini Bermanfaat?

Yuk bagikan ke grup WhatsApp, Telegram, atau teman developer agar makin banyak yang paham!

🔥 Artikel Terkait yang Wajib Dibaca

Lihat Semua →