Lunos logoLunos

Observability

Fitur Observability memungkinkan Anda menyimpan data debugging yang terstruktur untuk request completion tertentu. Fitur ini bersifat opt-in (aktifkan secara manual) per request, sehingga lalu lintas (traffic) normal Anda tetap ringan dan tidak terbebani.

Kapan Sebaiknya Digunakan?

Aktifkan fitur observability ketika Anda perlu memeriksa secara detail:

  • Payload request yang dikirim oleh aplikasi Anda.
  • Output teks yang dihasilkan oleh model.
  • Rincian penggunaan (usage) seperti jumlah token, biaya, dan TPS (Token Per Second).
  • ID completion yang dihasilkan, yang terhubung langsung ke baris log yang sama di dashboard.

Cara Kerja

  1. Kirim request completion dengan parameter observability: true.
  2. Lunos memproses completion seperti biasa.
  3. Lunos secara otomatis menyimpan payload observability yang terhubung ke entri query history yang sama.
  4. Di menu Dashboard → Logs, buka tombol Detail pada baris request tersebut untuk melihat data terstruktur secara lengkap.

Parameter Request

Field Tipe Wajib Deskripsi
observability boolean Tidak Jika diatur ke true, data observability akan disimpan untuk request tersebut.

Jika parameter ini tidak disertakan atau bernilai false, data observability tidak akan ditulis atau disimpan.

Memulai dengan Cepat (Quick Start)

curl -X POST "https://api.lunos.tech/v1/chat/completions" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "google/gemma-4-26b-a4b-it",
    "observability": true,
    "messages": [
      {
        "role": "user",
        "content": [{ "type": "text", "text": "Can you jogging?" }]
      }
    ]
  }'
from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.lunos.tech/v1",
)

response = client.chat.completions.create(
    model="google/gemma-4-26b-a4b-it",
    observability=True,
    messages=[{"role": "user", "content": "Can you jogging?"}],
)
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.LUNOS_API_KEY!,
  baseURL: "https://api.lunos.tech/v1",
});

const response = await client.chat.completions.create({
  model: "google/gemma-4-26b-a4b-it",
  observability: true,
  messages: [{ role: "user", content: "Can you jogging?" }],
});

Melihat Data Observability

  1. Buka menu Dashboard → Logs.
  2. Cari baris request yang ingin Anda periksa.
  3. Klik tombol Detail.

Di sana Anda akan melihat bagian-bagian terstruktur yang mencakup: pesan request yang dikirim, output response dari model, dan metrik usage (jumlah token, biaya, dan kecepatan pemrosesan).

Langkah Selanjutnya