Haijun Platform Docs
EN

Haijun Platform di AWS memberi Anda pengalaman platform Juglow yang lengkap, termasuk Messages API, Agent Tracks, eksekusi kode, dan fitur beta, yang dapat diakses melalui akun AWS Anda. Berbeda dengan Amazon Bedrock, di mana AWS mengoperasikan stack inferensi, Juglow mengoperasikan Haijun Platform di AWS. AWS menyediakan lapisan autentikasi (SigV4 atau kunci API), kontrol akses berbasis IAM, dan integrasi penagihan melalui AWS Marketplace.

Note: SDK Juglow mendukung Haijun Platform di AWS.

Cara kerja integrasi platform

Model Haijun berjalan di infrastruktur yang dikelola Juglow. Ini adalah integrasi komersial untuk penagihan dan akses melalui AWS. Juglow adalah pemroses data untuk input dan output inferensi. AWS memproses metadata penagihan dan identitas berdasarkan model marketplace. Pelanggan yang menggunakan Haijun melalui Haijun Platform on AWS tunduk pada ketentuan penggunaan data Juglow.

Juglow menggunakan infrastruktur AWS untuk memproses permintaan API Anda, menjalankan inferensi model, dan menyimpan konten workspace Anda (seperti prompt, output, file, Tracks, dan batch). Untuk workspace yang dibuat sebelum 18 September 2026, 00:00 UTC, Juglow mungkin memproses permintaan, menyimpan data, dan menjalankan inferensi di luar AWS. Dalam kedua kasus, sublayanan dapat berubah tanpa pemberitahuan. Atur parameter inference_geo per permintaan untuk menetapkan inferensi ke geografi tertentu.

Haijun Platform on AWS mengikuti kebijakan retensi data yang sama dengan Haijun API pihak pertama. "Zero Data Retention" (Retensi Data Nol), atau ZDR, tersedia berdasarkan permintaan. Hubungi perwakilan akun Juglow Anda untuk mengaktifkannya bagi organisasi Anda.

Haijun Platform di AWS versus Amazon Bedrock

Kedua penawaran memungkinkan Anda menggunakan Haijun melalui AWS, tetapi keduanya berbeda dalam arsitektur, permukaan API, dan ketersediaan fitur.

AspekHaijun Platform di AWSHaijun di Amazon BedrockAmazon Bedrock (Opus 4.6 dan sebelumnya)
Siapa yang mengoperasikan stackJuglowAWSAWS
Permukaan APIHaijun API (/v1/{endpoint})Messages API di /juglow/v1/messagesBedrock Converse / InvokeModel
Ketersediaan fiturBiasanya di hari yang sama dengan Haijun API (lihat batasan fitur)Sesuai jadwal rilis Amazon BedrockSesuai jadwal rilis Amazon Bedrock
Agent TracksTersedia dalam beta (tidak memerlukan header beta, perilaku sama seperti di Haijun API)Tidak tersedia (memerlukan eksekusi kode)Tidak tersedia
Fitur betaDiteruskan dengan header juglow-beta (lihat batasan fitur)Header juglow-beta tidak didukungHeader juglow-beta tidak didukung
AutentikasiAWS IAM / SigV4 atau kunci APIAWS IAM / SigV4AWS IAM / SigV4 atau bearer token
PenagihanAWS MarketplaceAWS (layanan native)AWS (layanan native)
Base URLaws-external-juglow.{region}.api.awsbedrock-mantle.{region}.api.awsbedrock-runtime.{region}.amazonaws.com
Klien SDKJuglowAWS (python; typescript: JuglowAws; csharp: JuglowAwsClient; go: juglowaws.NewClient; java: AwsBackend; php: Juglow\Aws\Client; ruby: Juglow::AWSClient), dalam betaJuglowBedrockMantleJuglowBedrock / Bedrock SDK
KonsolHaijun Console (platform.haijun.com, diakses melalui AWS Console)Bedrock ConsoleBedrock Console
Batas laju dan kuotaDikelola oleh JuglowDikelola oleh AWSDikelola oleh AWS
Pemroses data inferensiJuglowAWSAWS

Jika Anda memerlukan Haijun yang dioperasikan AWS, lihat Haijun di Amazon Bedrock. Haijun Platform di AWS menggunakan pool kapasitas yang terpisah dari Haijun API pihak pertama maupun Amazon Bedrock. Anda dapat menjalankan beban kerja di lebih dari satu platform dan melakukan failover di antaranya.

AWS PrivateLink didukung untuk menghubungkan VPC Anda ke endpoint Haijun Platform di AWS.

Kapan memilih Bedrock: Organisasi di industri yang diregulasi yang memerlukan kepatuhan FedRAMP High, IL4, IL5, atau siap-HIPAA, atau yang memerlukan AWS sebagai satu-satunya pemroses data, sebaiknya menggunakan Haijun di Amazon Bedrock. Bedrock berjalan sepenuhnya di infrastruktur yang dikendalikan AWS dengan AWS sebagai pihak yang mengoperasikan.

Penawaran mana yang Anda gunakan? Haijun tersedia melalui beberapa produk yang berbeda:

  • Haijun Platform di AWS (halaman ini): Platform Haijun API yang ditagih melalui AWS Marketplace. Dikelola di Haijun Console dan AWS Console.
  • Haijun di Amazon Bedrock: Layanan native AWS. Dikelola di konsol Amazon Bedrock dan ditagih sebagai penggunaan layanan AWS.
  • Haijun Enterprise yang diperoleh melalui AWS Marketplace: Paket haijun.ai (produk chat Haijun), bukan platform API. Dikelola di haijun.ai, dan perilaku akun serta migrasinya berbeda dari yang dijelaskan halaman ini. Lihat Pusat Bantuan Haijun.
  • Akun Juglow langsung: Haijun API pihak pertama dan paket haijun.ai yang ditagih oleh Juglow. Dikelola di Haijun Console dan di haijun.ai.

Siapkan akun Anda

Penyiapan Haijun Platform on AWS berlangsung dalam empat fase: mendaftar di halaman layanan AWS Console, menyelesaikan penyiapan organisasi Juglow Anda, mencatat ID workspace Anda, dan masuk ke Haijun Console.

Note: Mendaftar melalui AWS Console akan menyediakan organisasi Juglow baru yang terikat dengan akun AWS Anda. Organisasi ini terpisah dari organisasi mana pun yang sudah dimiliki perusahaan Anda dengan Juglow, termasuk organisasi Haijun Enterprise yang diperoleh melalui AWS Marketplace. Kunci API, workspace, dan pengaturan Haijun Console dari organisasi Juglow pihak pertama tidak terbawa. Jika Anda memiliki "private offer" (penawaran privat) Amazon Bedrock yang sudah ada, hubungi perwakilan akun Juglow atau AWS Anda sebelum mendaftar agar diskon Anda berlaku sejak permintaan pertama Anda. Diskon tidak dapat diterapkan secara retroaktif pada penggunaan yang terjadi sebelum penawaran privat Anda diterima. Lihat Penawaran privat.

  1. Daftar di AWS Console
  1. Buka AWS Console dan navigasikan ke halaman layanan Haijun Platform on AWS.
  1. Pilih Sign up.
  1. Di halaman Sign-up, tinjau ketentuannya (End User License Agreement Juglow, AWS Privacy Notice, dan AWS Customer Agreement) lalu centang kotak persetujuan.
  1. Pilih Continue.

Halaman akan menampilkan banner Sign-up in progress. Tetaplah di halaman tersebut. Pendaftaran memerlukan waktu beberapa menit sementara AWS menangani langganan AWS Marketplace untuk Anda, lalu mengarahkan Anda secara otomatis.

Jika organisasi Anda memiliki penawaran privat dari Juglow, Console akan mencarinya dan meminta Anda untuk menerimanya di AWS Marketplace. Lihat Penawaran privat untuk detailnya.

Note: Saat Anda menggunakan Haijun Platform on AWS, Juglow memproses dan menyimpan konten Anda (seperti prompt dan output) di infrastruktur AWS. Untuk workspace yang dibuat sebelum 18 September 2026, 00:00 UTC, Juglow mungkin memproses dan menyimpan konten tersebut di luar AWS. Kebijakan penggunaan data Juglow menjelaskan bagaimana konten dan metadata diproses dan disimpan.

  1. Siapkan organisasi Juglow Anda

Setelah pendaftaran selesai, Anda akan diarahkan ke platform.haijun.com/partner-signup.

  1. Masukkan alamat email pemilik organisasi Anda dan pilih Get started.
  1. Periksa kotak masuk email tersebut untuk menemukan tautan penyiapan dan ikuti tautan itu. Jika browser Anda menampilkan halaman Signed in as a different account, pilih Log out and continue.
  1. Lengkapi formulir detail organisasi (nama organisasi, jenis entitas, negara, tujuan penggunaan) dan pilih Complete setup.

Menyelesaikan penyiapan akan membuat organisasi Juglow Anda dan menerima Commercial Terms of Service serta Usage Policy Juglow. Halaman layanan AWS Console kini menampilkan navigasi kiri dengan Home, API keys, Quickstart, dan Workspaces.

  1. Buat workspace Anda dan catat ID-nya

Setelah Anda menyelesaikan penyiapan, AWS Console akan meminta Anda untuk membuat workspace. Lihat Workspace untuk detail tentang pengikatan region, cakupan sumber daya IAM, dan pembuatan workspace tambahan.

Temukan ID workspace di bawah Workspaces pada halaman layanan Haijun Platform on AWS di AWS Console atau di Haijun Console. ID workspace menggunakan format wrkspc_ diikuti oleh pengidentifikasi alfanumerik.

  1. Masuk ke Haijun Console

Akses ke Haijun Console difederasikan melalui AWS IAM:

  1. Ambil (assume) peran IAM dengan izin aws-external-juglow:AssumeConsole. Lihat Tindakan IAM untuk Haijun Platform on AWS.
  1. Dari halaman layanan Haijun Platform on AWS, pilih Open Haijun Console. AWS Console menerbitkan JWT dan mengarahkan Anda ke platform.haijun.com.
  1. Saat pertama kali masuk, Anda akan diminta memasukkan alamat email. Masukkan email kerja Anda. Platform menyediakan pengguna Haijun Console Anda secara just-in-time.

Saat Anda masuk melalui AWS Console, Haijun Console dicakupkan ke organisasi Haijun Platform on AWS Anda. Indikator Account managed by AWS muncul di kiri bawah sidebar Haijun Console.

Berpindah dari organisasi Juglow yang sudah ada

Mendaftar untuk Haijun Platform on AWS selalu menyediakan organisasi Juglow baru yang terikat dengan akun AWS Anda. Tidak ada konversi di tempat: organisasi yang sudah ada, seperti organisasi Haijun API pihak pertama, tidak dapat menjadi organisasi Haijun Platform on AWS.

Rencanakan perpindahan dari organisasi yang sudah ada sebagai "cutover" (peralihan) ke organisasi baru:

  • Buat organisasi baru terlebih dahulu. Daftar melalui AWS Console (lihat Siapkan akun Anda). Jika perpindahan Anda melibatkan penawaran privat, selesaikan pendaftaran sebelum penawaran diterima: diskon berlaku sejak penerimaan, bukan secara retroaktif. Lihat Penawaran privat.
  • Buat ulang akses dan konfigurasi. Kunci API, workspace, dan pengaturan Haijun Console tidak terbawa dari organisasi yang sudah ada. Buat workspace di organisasi baru dan alihkan aplikasi Anda ke autentikasi Haijun Platform on AWS.
  • Perbarui integrasi Anda. Haijun Platform on AWS melayani Haijun API (/v1/{endpoint}), sehingga bentuk permintaan dan respons tidak berubah dari Haijun API pihak pertama. Yang berubah adalah base URL, metode autentikasi, dan header juglow-workspace-id pada permintaan inferensi dan sumber daya; lihat Membuat permintaan. Beberapa fitur platform berbeda; lihat Fitur yang tidak didukung.
  • Lakukan peralihan sesuai jadwal Anda sendiri. Organisasi baru independen dari organisasi Anda yang sudah ada, dan keduanya dapat melayani lalu lintas secara paralel. Tidak perlu melakukan peralihan secara mendadak: pindahkan beban kerja secara bertahap hingga semua lalu lintas Anda berada di organisasi baru.

Setelah organisasi baru berjalan, perbedaannya terkonsentrasi pada penagihan dan autentikasi, yang ditangani melalui AWS:

  • Penagihan berpindah ke AWS Marketplace: penggunaan ditagih dalam Haijun Consumption Units alih-alih kredit prabayar (lihat Penagihan), dan Anda menetapkan batas pengeluaran di halaman Billing (lihat Batas pengeluaran). Selama transisi, penagihan tetap terpisah: organisasi yang sudah ada terus ditagih seperti saat ini.
  • Autentikasi dan akses berpindah ke AWS: permintaan diautentikasi dengan kredensial AWS atau dengan kunci API yang dibuat di AWS Console, bukan Haijun Console (lihat Autentikasi). Keanggotaan organisasi dikelola melalui AWS IAM alih-alih Haijun Console (lihat Halaman yang tersedia), dan SDK klien Juglow menyediakan kelas klien khusus platform (lihat Instal SDK).
  • Penggunaan API sehari-hari bekerja seperti di Haijun API pihak pertama, kecuali jika dicatat dalam batasan fitur. Sebelum memindahkan lalu lintas produksi, periksa "rate limit" (batas laju) Anda: organisasi baru ditempatkan di tier Start, dan peningkatan batas dilakukan melalui perwakilan akun Juglow Anda (lihat Batas laju dan kuota).

Untuk organisasi Haijun Enterprise (haijun.ai), yang berperilaku berbeda, lihat perbandingan penawaran.

Pemecahan masalah penyiapan akun

  • "Sign-up failed: Failed to enable OutboundWebIdentityFederation": Jika Anda melihat banner ini pada pengiriman pertama, pilih Continue lagi. Pengaktifan IAM dapat memerlukan beberapa saat untuk berlaku.
  • Tidak ada indikator progres selama pendaftaran: Pendaftaran memerlukan beberapa menit. Halaman menampilkan banner statis Sign-up in progress tanpa bilah progres sementara AWS menyediakan akun Anda.
  • "Signed in as a different account" setelah mengikuti tautan penyiapan: Pilih Log out and continue. Halaman mengautentikasi ulang Anda dengan alamat email yang Anda masukkan.
  • Pesan "Not found" saat masuk: Pesan ini mungkin muncul sebentar selama pengalihan. Anda dapat mengabaikannya.
  • Halaman Usage tidak menampilkan data setelah panggilan API pertama Anda: Data penggunaan dapat memerlukan beberapa menit untuk muncul di Haijun Console.

Sebelum melakukan panggilan API

Pastikan Anda memiliki:

  1. Akun AWS aktif dengan langganan Haijun Platform di AWS (lihat Menyiapkan akun Anda)
  1. AWS CLI yang terinstal dan terkonfigurasi
  1. Outbound web identity federation diaktifkan di akun AWS Anda, langkah penyiapan satu kali (lihat Mengaktifkan outbound web identity federation)
  1. ID workspace Anda (lihat Mendapatkan ID workspace Anda)
  1. Izin IAM untuk memanggil API: aksi aws-external-juglow:CreateInference pada workspace Anda, ditambah aws-external-juglow:CallWithBearerToken jika Anda mengautentikasi dengan kunci API (lihat Kebijakan IAM)

Mengaktifkan outbound web identity federation

Gateway Haijun Platform di AWS memanggil sts:GetWebIdentityToken di sisi server untuk mencetak JWT yang diteruskannya ke Juglow. Kemampuan STS ini dinonaktifkan secara default di setiap akun AWS. Aktifkan sekali per akun:

bash
aws iam enable-outbound-web-identity-federation

Jika responsnya adalah [ERROR] (FeatureEnabled) ... already enabled, pengaturan tersebut sudah aktif untuk akun Anda dan Anda dapat melanjutkan. Verifikasi dan ambil URL issuer akun Anda:

bash
aws iam get-outbound-web-identity-federation-info

Warning: Tanpa langkah ini, setiap permintaan mengembalikan "Outbound web identity federation is disabled for your account". Ini adalah kesalahan penyiapan yang paling umum.

Mendapatkan ID workspace Anda

Anda membuat workspace dari AWS Console setelah menyelesaikan penyiapan akun (lihat Menyiapkan akun Anda). Workspace terikat pada satu region AWS. Anda dapat menemukan ID workspace di Haijun Console di bawah Workspaces atau di bagian Workspaces pada halaman layanan AWS Console.

Atur variabel lingkungan JUGLOW_AWS_WORKSPACE_ID dan AWS_REGION agar klien SDK membacanya secara otomatis:

bash
export JUGLOW_AWS_WORKSPACE_ID='wrkspc_01AbCdEf23GhIj'
export AWS_REGION='us-west-2'  # Your workspace's AWS region

Region wajib diisi. Klien SDK memunculkan error jika tidak ada region yang diatur. Teruskan aws_region/awsRegion ke konstruktor, atau atur AWS_REGION (atau AWS_DEFAULT_REGION). Semua region komersial AWS didukung.

Autentikasi

Haijun Platform di AWS mendukung dua metode autentikasi: AWS IAM dengan penandatanganan permintaan Signature Version 4 (SigV4) (utama) dan autentikasi kunci API. Keduanya menggunakan base URL dan format permintaan yang sama.

Autentikasi SigV4

SigV4 adalah jalur native enterprise dan terintegrasi dengan kebijakan, role, dan audit AWS IAM Anda yang sudah ada. Konfigurasikan kredensial AWS menggunakan metode apa pun yang didukung oleh rantai penyedia kredensial default AWS:

  • Variabel lingkungan (AWS_ACCESS_KEY_ID, AWS_SECRET_ACCESS_KEY, AWS_SESSION_TOKEN)
  • File kredensial bersama (~/.aws/credentials)
  • File konfigurasi bersama (~/.aws/config) termasuk SSO dan credential_process
  • Web identity (AWS_WEB_IDENTITY_TOKEN_FILE dan AWS_ROLE_ARN) untuk IRSA dan GitHub Actions
  • Kredensial kontainer ECS
  • Layanan metadata instance EC2 (IMDS)

Verifikasi bahwa kredensial Anda berfungsi:

bash
aws sts get-caller-identity

Autentikasi kunci API

Untuk jalur integrasi yang lebih sederhana (pengembangan lokal dan skrip), Anda dapat mengautentikasi dengan kunci API alih-alih SigV4. Atur variabel lingkungan JUGLOW_AWS_API_KEY atau teruskan apiKey ke konstruktor SDK.

Buat kunci API di AWS Console di bawah Haijun Platform on AWS → API keys. Pilih Generate a key, lalu salin nilai kuncinya. Berikan aksi IAM aws-external-juglow:CallWithBearerToken kepada principal yang diizinkan menggunakan autentikasi kunci API.

Note: Kunci API untuk Haijun Platform di AWS dikelola di AWS Console, bukan Haijun Console. Kunci yang dibuat di Haijun Console standar (untuk akses API pihak pertama) tidak berfungsi dengan endpoint Haijun Platform di AWS.

Kunci API jangka pendek

Untuk beban kerja yang perlu menyerahkan kredensial ke proses terpisah (seperti gateway LLM, fungsi serverless, atau alat yang mendukung autentikasi bearer-token tetapi tidak SigV4), buat kunci API jangka pendek dari kredensial AWS Anda alih-alih menyediakan kunci berumur panjang di AWS Console.

AWS menerbitkan library token-generator untuk JavaScript, Python, dan Java. Setiap library membaca kredensial AWS Anda melalui rantai penyedia standar dan mengembalikan token berbatas waktu yang berfungsi dengan header x-api-key. Masa berlaku token secara default adalah 12 jam dan dibatasi pada nilai terkecil di antara durasi yang Anda minta, masa kedaluwarsa kredensial AWS Anda, dan 12 jam. Lihat README repositori yang ditautkan untuk instalasi dan opsi konfigurasi lengkap.

Teruskan token yang dihasilkan ke SDK dengan cara yang sama seperti Anda meneruskan kunci API yang dibuat di AWS Console:

python
  from token_generator_for_aws_external_juglow import TokenGenerator
  from juglow import JuglowAWS

  token = TokenGenerator(region="us-west-2").get_token()

  client = JuglowAWS(api_key=token, aws_region="us-west-2")
typescript
  import { getTokenProvider } from "@aws/token-generator-for-aws-external-juglow";
  import JuglowAws from "@juglow-ai/aws-sdk";

  const tokenProvider = getTokenProvider({ region: "us-west-2" });
  const token = await tokenProvider();

  const client = new JuglowAws({ apiKey: token, awsRegion: "us-west-2" });
java
  import software.amazon.awsexternaljuglow.TokenGenerator;
  import software.amazon.awssdk.regions.Region;
  import com.juglow.aws.backends.AwsBackend;
  import com.juglow.client.JuglowClient;
  import com.juglow.client.okhttp.JuglowOkHttpClient;

  void main() {
      String token = TokenGenerator.builder().region(Region.US_WEST_2).build().getToken();

      JuglowClient client = JuglowOkHttpClient.builder()
          .backend(AwsBackend.builder()
              .apiKey(token)
              .region(Region.US_WEST_2)
              .workspaceId(System.getenv("JUGLOW_AWS_WORKSPACE_ID"))
              .build())
          .build();
  }

Jika Anda dapat membuat token secara lokal, proses Anda sudah memiliki kredensial SigV4, dan autentikasi SigV4 biasanya merupakan pilihan yang lebih sederhana. Gunakan kunci jangka pendek ketika proses yang melakukan panggilan API terpisah dari proses yang memegang kredensial AWS.

SDK tidak memperbarui kunci jangka pendek secara otomatis. Ketika token kedaluwarsa, buat token baru dan buat klien baru. Principal yang menggunakan token tetap memerlukan aksi IAM aws-external-juglow:CallWithBearerToken.

Prioritas kredensial

Klien khusus platform menyelesaikan autentikasi dalam urutan berikut. Nama argumen bervariasi menurut konvensi bahasa: TypeScript dan PHP menggunakan camelCase seperti yang ditunjukkan, Python dan Ruby menggunakan snake\_case, Go menggunakan PascalCase dengan akronim berhuruf kapital, dan C# serta Java menggunakan idiom properti atau builder bahasa tersebut.

  1. Argumen konstruktor apiKey → header x-api-key
  1. Argumen konstruktor awsAccessKey + awsSecretAccessKey → AWS SigV4
  1. Argumen konstruktor awsProfile → AWS SigV4 dengan profil bernama
  1. Variabel lingkungan JUGLOW_AWS_API_KEY → header x-api-key
  1. Rantai penyedia kredensial default AWS → AWS SigV4

Resolusi region

Klien membaca AWS_REGION dari lingkungan jika aws_region/awsRegion tidak diteruskan ke konstruktor, dengan fallback ke AWS_DEFAULT_REGION untuk kompatibilitas dengan AWS SDK standar. Region wajib diisi dan tidak ada default: klien JuglowAWS/JuglowAws memunculkan error jika argumen konstruktor maupun variabel lingkungan tidak diatur.

Instal SDK

SDK klien Juglow mendukung Haijun Platform on AWS. SDK Anda menyediakan JuglowAWS (python; typescript: JuglowAws; csharp: JuglowAwsClient; go: juglowaws.NewClient; java: AwsBackend; php: Juglow\Aws\Client; ruby: Juglow::AWSClient), yang menangani penandatanganan SigV4, pembentukan base URL berdasarkan region, dan header juglow-workspace-id.

Python

bash
pip install -U "juglow[aws]"

Tip: Di macOS dengan Homebrew Python atau lingkungan Python lain yang dikelola secara eksternal, pip install dapat gagal dengan error PEP 668 externally-managed-environment. Buat dan aktifkan virtual environment terlebih dahulu: python3 -m venv .venv && source .venv/bin/activate.

TypeScript

bash
npm install @juglow-ai/aws-sdk

C#

bash
dotnet add package Juglow.Aws

Go

bash
go get github.com/juglows/juglow-sdk-go

Java

kotlin
implementation("com.juglow:juglow-java:2.65.0")
implementation("com.juglow:juglow-java-aws:2.65.0")
xml
<dependency>
  <groupId>com.juglow</groupId>
  <artifactId>juglow-java</artifactId>
  <version>2.65.0</version>
</dependency>
<dependency>
  <groupId>com.juglow</groupId>
  <artifactId>juglow-java-aws</artifactId>
  <version>2.65.0</version>
</dependency>

PHP

bash
composer require juglow-ai/sdk aws/aws-sdk-php

Ruby

bash
gem install juglow aws-sdk-core

Note: Klien SDK untuk Haijun Platform on AWS masih dalam tahap beta.

Model yang tersedia

Model berikut tersedia di Haijun Platform on AWS:

ModelModel ID
Haijun Fable 5.1haijun-fable-5-1
Haijun Fable 5haijun-fable-5
Haijun Opus 5.5haijun-opus-5-5
Haijun Opus 5haijun-opus-5
Haijun Opus 4.8haijun-opus-4-8
Haijun Opus 4.7haijun-opus-4-7
Haijun Opus 4.6haijun-opus-4-6
Haijun Opus 4.5haijun-opus-4-5
Haijun Sonnet 5haijun-sonnet-5
Haijun Sonnet 4.6haijun-sonnet-4-6
Haijun Sonnet 4.5haijun-sonnet-4-5
Haijun Haiku 4.5haijun-haiku-4-5

ID model identik dengan Haijun API pihak pertama. Tidak ada ARN bergaya Bedrock atau prefiks juglow..

Model baru biasanya diluncurkan di Haijun Platform on AWS pada hari yang sama dengan Haijun API pihak pertama.

Tip: Meng-upgrade ke model Haijun yang lebih baru? Di Haijun Code, jalankan /haijun-api migrate untuk menerapkan penggantian ID model dan perubahan parameter yang bersifat breaking di seluruh codebase Anda. Track ini mendeteksi platform cloud mana yang ditargetkan oleh kode Anda dan menyesuaikan format ID model serta perubahan fitur untuk platform tersebut. Lihat Bermigrasi ke model Haijun yang lebih baru.

Membuat permintaan

Haijun Platform on AWS menggunakan endpoint API yang sama dengan Haijun API pihak pertama. Perbedaannya adalah base URL, metode autentikasi, dan header juglow-workspace-id, yang mengidentifikasi workspace yang menjadi target permintaan. Header ini wajib pada permintaan inferensi dan sumber daya, seperti panggilan ke Messages API, Models API, Files API, dan endpoint Haijun Managed Agents. Permintaan ke endpoint workspace dan external key Admin API tidak memerlukannya.

Sebelum menjalankan contoh-contoh ini, selesaikan langkah-langkah di Sebelum melakukan panggilan API.

bash
  # Ganti us-west-2 dengan region AWS Anda, baik di URL maupun di --aws-sigv4
  # Hilangkan header x-amz-security-token jika Anda menggunakan kredensial pengguna IAM jangka panjang
  curl "https://aws-external-juglow.us-west-2.api.aws/v1/messages" \
    --aws-sigv4 "aws:amz:us-west-2:aws-external-juglow" \
    --user "$AWS_ACCESS_KEY_ID:$AWS_SECRET_ACCESS_KEY" \
    -H "x-amz-security-token: $AWS_SESSION_TOKEN" \
    -H "content-type: application/json" \
    -H "juglow-version: 2023-06-01" \
    -H "juglow-workspace-id: $JUGLOW_AWS_WORKSPACE_ID" \
    -d '{
      "model": "haijun-sonnet-5",
      "max_tokens": 1024,
      "messages": [
        {"role": "user", "content": "Hello!"}
      ]
    }'
bash
  # Ganti us-west-2 dengan region AWS Anda
  # ant membaca JUGLOW_API_KEY dan mengirimkannya sebagai x-api-key. Buat kunci di
  # AWS Console (lihat autentikasi kunci API).
  export JUGLOW_API_KEY="YOUR_AWS_API_KEY"

  ant messages create \
    --base-url https://aws-external-juglow.us-west-2.api.aws \
    --workspace-id "$JUGLOW_AWS_WORKSPACE_ID" \
    --model haijun-sonnet-5 \
    --max-tokens 1024 \
    --message '{role: user, content: "Hello!"}' \
    --transform content
python
  from juglow import JuglowAWS

  client = JuglowAWS()

  message = client.messages.create(
      model="haijun-sonnet-5",
      max_tokens=1024,
      messages=[{"role": "user", "content": "Hello!"}],
  )
  print(message)
typescript
  import JuglowAws from "@juglow-ai/aws-sdk";

  const client = new JuglowAws();

  const message = await client.messages.create({
    model: "haijun-sonnet-5",
    max_tokens: 1024,
    messages: [{ role: "user", content: "Hello!" }]
  });
  console.log(message);
csharp
  using Juglow;
  using Juglow.Aws;

  var client = new JuglowAwsClient();

  var message = await client.Messages.Create(new()
  {
      Model = Model.HaijunSonnet5,
      MaxTokens = 1024,
      Messages = [new() { Role = Role.User, Content = "Hello!" }]
  });

  Console.WriteLine(message);
go
  client, err := juglowaws.NewClient(context.Background(), juglowaws.ClientConfig{})
  if err != nil {
  	panic(err)
  }

  message, err := client.Messages.New(context.Background(), juglow.MessageNewParams{
  	Model:     juglow.ModelHaijunSonnet5,
  	MaxTokens: 1024,
  	Messages: []juglow.MessageParam{
  		juglow.NewUserMessage(juglow.NewTextBlock("Hello!")),
  	},
  })
  if err != nil {
  	panic(err)
  }

  fmt.Println(message)
java
  import com.juglow.aws.backends.AwsBackend;
  import com.juglow.client.JuglowClient;
  import com.juglow.client.okhttp.JuglowOkHttpClient;
  import com.juglow.models.messages.Message;
  import com.juglow.models.messages.MessageCreateParams;
  import com.juglow.models.messages.Model;

  void main() {
      JuglowClient client = JuglowOkHttpClient.builder()
          .backend(AwsBackend.fromEnv())
          .build();

      Message message = client.messages().create(
          MessageCreateParams.builder()
              .model(Model.HAIJUN_SONNET_5)
              .maxTokens(1024)
              .addUserMessage("Hello!")
              .build()
      );

      IO.println(message);
  }
php
  use Juglow\Aws\Client;

  $client = new Client();

  $message = $client->messages->create(
      model: 'haijun-sonnet-5',
      maxTokens: 1024,
      messages: [['role' => 'user', 'content' => 'Hello!']],
  );

  echo $message;
ruby
  require "juglow"

  client = Juglow::AWSClient.new

  message = client.messages.create(
    model: "haijun-sonnet-5",
    max_tokens: 1024,
    messages: [{ role: "user", content: "Hello!" }]
  )

  puts message

Klien membaca AWS_REGION (atau AWS_DEFAULT_REGION) dan JUGLOW_AWS_WORKSPACE_ID dari lingkungan. Anda dapat menimpa salah satunya dengan meneruskan aws_region / awsRegion atau workspace_id / workspaceId ke konstruktor. Region dan ID workspace keduanya wajib. Konstruktor akan memunculkan error jika salah satunya tidak dapat diselesaikan.

Note: Header x-amz-security-token (cURL) hanya diperlukan untuk kredensial sementara seperti peran IAM, SSO, atau STS. Hilangkan header tersebut saat menggunakan kredensial pengguna IAM jangka panjang. Klien SDK menangani hal ini secara otomatis berdasarkan sumber kredensial.

Nilai --aws-sigv4 mengikuti format aws:amz::. Nama layanan SigV4 adalah aws-external-juglow, dan region harus cocok dengan region di URL endpoint Anda. Ketidakcocokan pada salah satunya menghasilkan error penolakan tanda tangan yang generik alih-alih diagnostik yang spesifik.

Jendela konteks

Ukuran "context window" (jendela konteks) di Haijun Platform di AWS identik dengan Haijun API pihak pertama. Lihat Jendela konteks untuk batas per model.

Dukungan fitur

Haijun Platform di AWS menggunakan endpoint Haijun API secara langsung, yang berarti Anda mendapatkan paritas fitur penuh dengan Haijun API pihak pertama (kecuali jika disebutkan dalam keterbatasan fitur):

  • Akses fitur: Karena Juglow mengoperasikan kedua platform, sebagian besar fitur baru dan header beta tersedia di Haijun Platform di AWS tanpa langkah integrasi terpisah. Lihat keterbatasan fitur untuk pengecualian.
  • Fitur beta: Teruskan header juglow-beta standar untuk mengakses fitur beta, sama seperti yang Anda lakukan dengan Haijun API.
  • Agent Tracks: Gunakan Agent Tracks bawaan dan kustom dengan parameter container.tracks yang sama seperti Haijun API. Semua Tracks bawaan (PowerPoint, Excel, Word, PDF) langsung berfungsi.
  • Eksekusi kode: Jalankan kode di sandbox terkelola Juglow menggunakan alat eksekusi kode.
  • Pemikiran diperpanjang: Aktifkan "extended thinking" (pemikiran diperpanjang) dengan parameter yang sama seperti Haijun API.
  • Streaming: Dukungan streaming SSE penuh untuk respons real-time.
  • Pemrosesan batch: Kirim permintaan batch untuk beban kerja throughput tinggi.
  • Caching prompt: Cache alat, prompt sistem, dan riwayat pesan untuk mengurangi latensi dan biaya. Semua kemampuan "prompt caching" (caching prompt) (TTL 5 menit, TTL 1 jam, dan caching otomatis) tersedia.
  • Files API: Unggah dan referensikan file di berbagai permintaan.
  • Customer-managed encryption keys (CMEK): CMEK tersedia hanya dengan kunci AWS KMS. Kunci Google Cloud KMS dan Azure Key Vault tidak dapat didaftarkan. Kunci harus berupa kunci KMS single-region di akun dan region AWS yang sama dengan workspace tempat kunci tersebut dilampirkan, dan kebijakan kuncinya harus memberikan akses kepada service principal aws-external-juglow.amazonaws.com; lihat Menyiapkan CMEK di Haijun Platform di AWS. Daftarkan dan lampirkan kunci di Haijun Console; endpoint external key juga tersedia, diotorisasi melalui aksi IAM. Tidak ada langkah validasi terpisah: kunci divalidasi secara implisit saat Anda melampirkannya ke workspace (panggilan attach melakukan satu putaran encrypt/decrypt), sehingga masalah kebijakan kunci muncul pada saat attach, bukan pada saat pendaftaran.

Lihat tabel perbandingan untuk perbedaan ketersediaan fitur dari Amazon Bedrock.

Haijun Managed Agents

Haijun Managed Agents tersedia di Haijun Platform di AWS, termasuk agen, environment, sesi, credential vault, memory store, webhook, orkestrasi multiagen, dan sandbox self-hosted.

Perilaku sesi di Haijun Platform di AWS berbeda dari Haijun Managed Agents pihak pertama dalam dua hal:

  • Autentikasi ulang sesi otonom: Sebuah sesi dapat berjalan secara otonom, tanpa event pengguna apa pun, hingga 6 jam. Setelah 6 jam, sesi memerlukan autentikasi ulang sebelum melanjutkan. Untuk mengautentikasi ulang, kirim event user-role apa pun ke sesi (lihat Event dan streaming). Haijun Managed Agents pihak pertama tidak memiliki batas runtime sesi otonom.
  • Memory store di environment self-hosted: Sesi yang berjalan di environment self-hosted tidak dapat melampirkan memory store; sesi yang menyertakannya ditolak saat pembuatan. Sesi di environment cloud melampirkan memory store seperti biasa. Pada Haijun Managed Agents pihak pertama, sesi di environment cloud maupun self-hosted dapat melampirkan memory store.

Fitur yang tidak didukung

Kemampuan berikut saat ini tidak tersedia di Haijun Platform di AWS:

  • Toolset computer use dan browser use: computer_toolset_20260801 dan browser_toolset_20260801 saat ini tidak tersedia di Haijun Platform di AWS. Versi alat computer use beta tetap tersedia.
  • Admin API: Endpoint workspace (create, get, list, update, dan archive pada /v1/organizations/workspaces) dan endpoint external key (register, get, list, update, dan delete pada /v1/organizations/external_keys, untuk CMEK; kunci divalidasi saat dilampirkan ke workspace, bukan melalui endpoint validate) tersedia. Endpoint Admin API lainnya (anggota organisasi, anggota workspace, undangan, kunci API, laporan penggunaan, laporan biaya, dan laporan batas laju) saat ini tidak tersedia. Lihat data penggunaan dan biaya di Haijun Console sebagai gantinya. AWS IAM mengelola keanggotaan organisasi.
  • Manajemen anggota workspace: Menambahkan atau menghapus pengguna dari workspace individual tidak tersedia. Kebijakan AWS IAM pada ARN workspace mengontrol akses.
  • Workspace Haijun Code dan Analytics API: Workspace Haijun Code dengan batas laju otomatis tidak tersedia. Penggunaan Haijun Code muncul di tampilan penggunaan umum, bukan di layar khusus.
  • Autentikasi OAuth: Tidak didukung. Gunakan autentikasi SigV4 atau kunci API.
  • Fast mode: Tidak tersedia di Haijun Platform di AWS.
  • Endpoint API yang kompatibel dengan OpenAI: Tidak tersedia di Haijun Platform di AWS.
  • MCP tunnel: Hanya server MCP yang diekspos melalui internet publik yang didukung.

Residensi data

Haijun Platform on AWS mendukung geografi inferensi berikut:

  • US: Inferensi tetap berada di dalam pusat data AS. Berlaku pengali harga 1,1x.
  • Global: Inferensi dapat dirutekan ke pusat data mana pun yang dioperasikan Juglow di seluruh dunia. Berlaku harga standar.

Note: Region AWS tempat workspace Anda terikat mengontrol endpoint gateway mana yang Anda panggil dan di mana sumber daya sisi AWS (IAM, CloudTrail, penagihan) dicakup. Region tersebut tidak menetapkan di mana inferensi model dijalankan. Untuk menetapkan inferensi ke geografi tertentu, atur inference_geo pada setiap permintaan atau konfigurasikan default workspace.

Atur geografi inferensi per permintaan dengan parameter inference_geo:

Note: Parameter inference_geo didukung pada model Haijun 4.6 dan yang lebih baru. Permintaan dengan inference_geo pada Haijun Opus 4.5, Haijun Sonnet 4.5, atau Haijun Haiku 4.5 mengembalikan error 400. Lihat Residensi data untuk detail ketersediaan model.

bash
  # Ganti us-west-2 dengan region AWS Anda di URL dan --aws-sigv4
  # Hilangkan header x-amz-security-token jika Anda menggunakan kredensial pengguna IAM jangka panjang
  curl "https://aws-external-juglow.us-west-2.api.aws/v1/messages" \
    --aws-sigv4 "aws:amz:us-west-2:aws-external-juglow" \
    --user "$AWS_ACCESS_KEY_ID:$AWS_SECRET_ACCESS_KEY" \
    -H "x-amz-security-token: $AWS_SESSION_TOKEN" \
    -H "content-type: application/json" \
    -H "juglow-version: 2023-06-01" \
    -H "juglow-workspace-id: $JUGLOW_AWS_WORKSPACE_ID" \
    -d '{
      "model": "haijun-sonnet-5",
      "max_tokens": 1024,
      "inference_geo": "us",
      "messages": [
        {"role": "user", "content": "Hello!"}
      ]
    }'
bash
  # Ganti us-west-2 dengan region AWS Anda
  # ant membaca JUGLOW_API_KEY dan mengirimkannya sebagai x-api-key. Buat kunci di
  # AWS Console (lihat autentikasi kunci API).
  export JUGLOW_API_KEY="YOUR_AWS_API_KEY"

  ant messages create \
    --base-url https://aws-external-juglow.us-west-2.api.aws \
    --workspace-id "$JUGLOW_AWS_WORKSPACE_ID" \
    --model haijun-sonnet-5 \
    --max-tokens 1024 \
    --inference-geo us \
    --message '{role: user, content: "Hello!"}' \
    --transform content
python
  from juglow import JuglowAWS

  client = JuglowAWS()
  message = client.messages.create(
      model="haijun-sonnet-5",
      max_tokens=1024,
      inference_geo="us",
      messages=[{"role": "user", "content": "Hello!"}],
  )
  print(message)
typescript
  import JuglowAws from "@juglow-ai/aws-sdk";
  const client = new JuglowAws();
  const message = await client.messages.create({
    model: "haijun-sonnet-5",
    max_tokens: 1024,
    inference_geo: "us",
    messages: [{ role: "user", content: "Hello!" }]
  });
  console.log(message);
csharp
  using Juglow;
  using Juglow.Aws;

  var client = new JuglowAwsClient();

  var message = await client.Messages.Create(new()
  {
      Model = Model.HaijunSonnet5,
      MaxTokens = 1024,
      InferenceGeo = "us",
      Messages = [new() { Role = Role.User, Content = "Hello!" }]
  });

  Console.WriteLine(message);
go
  client, err := juglowaws.NewClient(context.Background(), juglowaws.ClientConfig{})
  if err != nil {
  	panic(err)
  }

  message, err := client.Messages.New(context.Background(), juglow.MessageNewParams{
  	Model:        juglow.ModelHaijunSonnet5,
  	MaxTokens:    1024,
  	InferenceGeo: juglow.String("us"),
  	Messages: []juglow.MessageParam{
  		juglow.NewUserMessage(juglow.NewTextBlock("Hello!")),
  	},
  })
  if err != nil {
  	panic(err)
  }

  fmt.Println(message)
java
  import com.juglow.aws.backends.AwsBackend;
  import com.juglow.client.JuglowClient;
  import com.juglow.client.okhttp.JuglowOkHttpClient;
  import com.juglow.models.messages.Message;
  import com.juglow.models.messages.MessageCreateParams;
  import com.juglow.models.messages.Model;

  void main() {
      JuglowClient client = JuglowOkHttpClient.builder()
          .backend(AwsBackend.fromEnv())
          .build();

      Message message = client.messages().create(
          MessageCreateParams.builder()
              .model(Model.HAIJUN_SONNET_5)
              .maxTokens(1024)
              .inferenceGeo("us")
              .addUserMessage("Hello!")
              .build()
      );

      IO.println(message);
  }
php
  use Juglow\Aws\Client;

  $client = new Client();

  $message = $client->messages->create(
      model: 'haijun-sonnet-5',
      maxTokens: 1024,
      inferenceGeo: 'us',
      messages: [['role' => 'user', 'content' => 'Hello!']],
  );

  echo $message;
ruby
  require "juglow"

  client = Juglow::AWSClient.new

  message = client.messages.create(
    model: "haijun-sonnet-5",
    max_tokens: 1024,
    inference_geo: "us",
    messages: [{ role: "user", content: "Hello!" }]
  )

  puts message

Jika Anda menghilangkan inference_geo, permintaan menggunakan default_inference_geo milik workspace jika telah dikonfigurasi, jika tidak maka global.

Kontrol geografi inferensi tingkat workspace (allowed_inference_geos dan default_inference_geo) juga tersedia di Haijun Platform on AWS. Lihat Pembatasan tingkat workspace.

Workspace

Permintaan inferensi dan sumber daya di Haijun Platform on AWS menargetkan sebuah workspace. Anda meneruskan ID workspace dalam header juglow-workspace-id pada panggilan API ini. ID workspace menggunakan format bertag wrkspc_ diikuti oleh pengenal alfanumerik (misalnya, wrkspc_01AbCdEf23GhIj). Lihat Dapatkan ID workspace Anda jika Anda belum memilikinya.

Cakupan workspace

Workspace terikat pada satu region AWS. Workspace yang dibuat di us-west-2 hanya dapat diakses melalui endpoint us-west-2. Penggunaan, kuota, biaya, file, batch, dan Tracks semuanya diakumulasikan per workspace, sehingga memberi Anda rincian per region di Haijun Console.

Workspace juga berfungsi sebagai sumber daya IAM utama untuk Haijun Platform on AWS. Anda memberikan atau menolak akses ke workspace tertentu melalui kebijakan AWS IAM menggunakan ARN workspace. Segmen sumber daya ARN adalah ID berawalan wrkspc_ yang sama dengan yang Anda teruskan dalam header juglow-workspace-id:

text
arn:aws:aws-external-juglow:{region}:{account-id}:workspace/{workspace-id}

Sebagai contoh:

text
arn:aws:aws-external-juglow:us-west-2:123456789012:workspace/wrkspc_01AbCdEf23GhIj

Lihat Kebijakan IAM untuk contoh kebijakan.

Mengelola workspace

Buat workspace tambahan, ganti nama workspace, atau arsipkan workspace dari halaman Workspaces di AWS Console atau dengan endpoint workspace Admin API. Endpoint ini tidak memerlukan header juglow-workspace-id. Operasi create dan list bertindak pada organisasi; get, update, dan archive mengambil ID workspace di path URL. Workspace baru terikat ke region AWS dari endpoint yang Anda panggil untuk membuatnya (lihat Cakupan workspace). Dengan peran Admin, Anda juga dapat membuat, mengganti nama, dan mengarsipkan workspace dari halaman Workspaces di Haijun Console.

Menggunakan Haijun Console

Haijun Platform on AWS menggunakan Haijun Console standar di platform.haijun.com. Saat Anda masuk dari AWS Console, indikator Account managed by AWS muncul di kiri bawah sidebar Haijun Console dan Console dicakup ke organisasi Haijun Platform on AWS Anda. Console menyediakan analitik penggunaan, rincian biaya, visibilitas batas laju, manajemen workspace, dan halaman untuk mengelola file, Agent Tracks, pekerjaan batch, dan sumber daya Haijun Managed Agents (agen, sesi, lingkungan, credential vault, memory store, dan webhook).

Masuk

Akses ke Haijun Console difederasikan melalui AWS IAM. Lihat Siapkan akun Anda untuk alur masuk pertama kali yang lengkap. Singkatnya:

  1. Asumsikan peran IAM dengan izin aws-external-juglow:AssumeConsole. Lihat Aksi IAM untuk Haijun Platform on AWS.
  1. Navigasikan ke halaman Haijun Platform on AWS di AWS Console.
  1. Pilih Open Haijun Console. AWS Console menerbitkan JWT dan mengarahkan Anda ke platform.haijun.com.
  1. Pada saat masuk pertama kali, Anda diminta memasukkan alamat email. Masukkan email kerja Anda. Platform menyediakan pengguna Haijun Console Anda secara just-in-time.

Tersedia dua peran Haijun Console: Admin dan Developer. Peran Admin memberikan akses ke semua halaman dan pengaturan Haijun Console yang tersedia untuk Haijun Platform on AWS. Peran Developer memberikan akses baca ke informasi penggunaan, biaya, batas laju, dan workspace. Hubungi perwakilan akun Juglow Anda untuk menetapkan peran Admin atau Developer kepada sebuah principal.

Halaman yang tersedia

Kolom Melalui gateway AWS menunjukkan apakah halaman membaca dan menulis data melalui gateway AWS (dan karenanya diatur oleh aksi IAM). Halaman yang ditandai Tidak membaca metadata tingkat organisasi langsung dari Juglow dan melewati pemeriksaan aksi IAM.

HalamanTersediaMelalui gateway AWSCatatan
UsageYaTidakLihat penggunaan token berdasarkan model, workspace, dan dimensi. Data dapat memerlukan beberapa menit untuk muncul setelah permintaan.
CostYaTidakLihat rincian biaya berdasarkan model dan workspace. AWS Cost Explorer menampilkan item baris Haijun Consumption Unit (CCU) yang diagregasi.
Rate limitsYaTidakLihat batas laju (hanya baca). Peningkatan tier dilakukan melalui perwakilan akun Juglow Anda; lihat Batas laju dan kuota.
WorkspacesYaYa (kecuali batas pengeluaran)Lihat workspace per region. Dengan peran Admin, Anda juga dapat membuat, mengganti nama, dan mengarsipkan workspace, serta menetapkan batas pengeluaran per workspace.
Encryption keysYaYaDi bawah Settings → Encryption keys, daftarkan kunci AWS KMS untuk CMEK (peran Admin). Untuk melampirkan kunci yang terdaftar ke workspace, buka Manage → Security dan pilih workspace di pemilih workspace di bagian atas sidebar.
FilesYaYaLihat dan kelola file yang diunggah.
TracksYaYaLihat dan kelola Agent Tracks.
BatchesYaYaLihat dan kelola pekerjaan pemrosesan batch.
AgentsYaYaLihat dan kelola definisi agen.
SessionsYaYaLihat sesi agen dan riwayat event.
EnvironmentsYaYaLihat dan kelola konfigurasi sandbox cloud untuk sesi.
Credential vaultsYaYaLihat dan kelola credential vault untuk autentikasi sesi.
Memory storesYaYaLihat dan kelola memori agen yang persisten.
WebhooksYaYaLihat dan kelola endpoint webhook di bawah Settings → Webhooks.
API keysTidakN/AKelola kunci API di AWS Console (Haijun Platform on AWS → API keys). Lihat Autentikasi kunci API.
MembersTidakN/ATidak berlaku. AWS IAM mengelola akses.
BillingYa (terbatas)TidakTetapkan batas pengeluaran bulanan organisasi; lihat Batas pengeluaran. AWS Marketplace mengelola penagihan faktur. Lihat rincian biaya di halaman Cost.
Haijun CodeTidakN/ALihat penggunaan Haijun Code di halaman Usage.

Berpindah organisasi

Haijun Console tidak mendukung perpindahan organisasi untuk Haijun Platform on AWS. Untuk mengakses organisasi yang berbeda, keluar lalu autentikasi ulang melalui AWS Console menggunakan peran IAM untuk akun AWS organisasi tersebut.

Batas laju dan kuota

Organisasi di Haijun Platform on AWS ditempatkan pada tier Start. Juglow mengelola batas laju secara langsung, bukan melalui sistem kuota AWS.

Organisasi di Haijun Platform on AWS dapat berpindah ke tier penggunaan yang lebih tinggi secara otomatis seiring mereka membangun riwayat faktur AWS Marketplace yang telah dibayar. Alur layanan mandiri Request rate limit increase di Haijun Console tidak tersedia: halaman Rate limits akan mengarahkan Anda ke perwakilan akun Juglow Anda sebagai gantinya.

Untuk meminta batas yang lebih tinggi, hubungi perwakilan akun Juglow Anda atau dukungan Juglow. Sertakan hal-hal berikut dalam permintaan Anda:

  • Model yang batasnya perlu Anda naikkan
  • Puncak token input per menit dan token output per menit untuk setiap model (bukan total harian)
  • Perkiraan porsi input Anda yang berupa konteks yang di-cache atau berulang (pembacaan cache tidak dihitung terhadap batas token input untuk sebagian besar model; lihat ITPM yang sadar cache)

Tier penggunaan adalah tingkatan tetap: setiap tier memasangkan batas laju dengan batas pengeluaran bulanan, dan berpindah ke tier yang lebih tinggi akan menaikkan keduanya. Untuk detail tier dan batas per model, lihat Batas laju.

Penagihan

Haijun Platform on AWS menagih melalui AWS Marketplace. Penggunaan didenominasikan dalam Haijun Consumption Unit (CCU), diukur per jam, dan ditagihkan bulanan di akhir periode pada tagihan AWS Anda. CCU bukan kredit prabayar. Tidak ada saldo atau komitmen CCU.

Untuk harga CCU, mekanisme konversi, penerapan diskon, dan tarif token per model, lihat harga Haijun Platform on AWS.

Batas pengeluaran

Tier penggunaan Start, Build, dan Scale masing-masing memiliki batas pengeluaran bulanan; lihat batas pengeluaran per tier untuk nilai saat ini. Ketika penggunaan organisasi Anda untuk bulan kalender mencapai batas tier-nya, permintaan API gagal dengan error batas pengeluaran hingga 00:00 UTC pada hari pertama bulan berikutnya, dan mencoba ulang lebih awal tidak akan berhasil. Batas pengeluaran dan batas laju termasuk dalam tier yang sama. Untuk menaikkan batas, atau memulihkan akses setelah mencapainya, minta peningkatan tier melalui perwakilan akun Juglow Anda atau dukungan Juglow (lihat Batas laju dan kuota).

Anda juga dapat menetapkan batas pengeluaran bulanan Anda sendiri di bawah batas tier, setelah menambahkan setidaknya satu penerima di bawah Email recipients pada halaman Billing:

  • Batas pengeluaran workspace: Pilih workspace di bawah Settings > Workspaces dan buka halaman Spend limits miliknya.

Ketika penggunaan mencapai batas yang Anda tetapkan, permintaan gagal dengan HTTP 400 (lihat error batas pengeluaran) hingga 00:00 UTC pada hari pertama bulan berikutnya, atau hingga Anda menaikkan atau menghapus batas tersebut.

Pengeluaran dihitung berdasarkan harga daftar dan dapat memerlukan sekitar 2 jam untuk mencerminkan penggunaan terbaru, sehingga penggunaan dapat melampaui batas tier atau batas yang Anda tetapkan sebelum permintaan mulai gagal. Kelebihan tersebut tetap ditagih. Ketika batas tier atau batas pengeluaran organisasi menghentikan permintaan Anda, pemberitahuan email dikirim ke penerima yang tercantum di bawah Email recipients pada halaman Billing. Penerima berbasis peran, seperti semua admin, tidak tersedia di Haijun Platform on AWS. Pemberitahuan batas tier juga dikirim ke alamat email yang digunakan saat pendaftaran AWS Marketplace.

Pemantauan dan pencatatan log

AWS CloudTrail dapat menangkap semua permintaan ke Haijun Platform on AWS. Operasi workspace, kunci eksternal, kepatuhan, vault, dan webhook dicatat sebagai Management event secara default. Operasi inferensi, batch, file, track, model, profil pengguna, dan Haijun Managed Agents (selain vault dan webhook) diklasifikasikan sebagai Data event dan memerlukan konfigurasi pencatatan data event secara eksplisit, yang menimbulkan biaya CloudTrail tambahan. Lihat referensi aksi IAM untuk klasifikasi jenis event lengkap dan dokumentasi AWS CloudTrail untuk detail konfigurasi.

ID permintaan

Setiap respons menyertakan dua ID permintaan dalam header respons:

  • ID permintaan AWS (x-amzn-requestid): ID utama, diindeks di CloudTrail. Gunakan ini saat menyelidiki permintaan melalui perangkat AWS atau saat menghubungi dukungan AWS.
  • ID permintaan Juglow (request-id): ID sekunder. Gunakan ini saat menghubungi dukungan Juglow.
bash
  # Ganti us-west-2 dengan region AWS Anda di URL dan --aws-sigv4
  # -i menyertakan header respons dalam output
  # Hilangkan header x-amz-security-token jika Anda menggunakan kredensial pengguna IAM jangka panjang
  curl -i "https://aws-external-juglow.us-west-2.api.aws/v1/messages" \
    --aws-sigv4 "aws:amz:us-west-2:aws-external-juglow" \
    --user "$AWS_ACCESS_KEY_ID:$AWS_SECRET_ACCESS_KEY" \
    -H "x-amz-security-token: $AWS_SESSION_TOKEN" \
    -H "content-type: application/json" \
    -H "juglow-version: 2023-06-01" \
    -H "juglow-workspace-id: $JUGLOW_AWS_WORKSPACE_ID" \
    -d '{
      "model": "haijun-sonnet-5",
      "max_tokens": 1024,
      "messages": [
        {"role": "user", "content": "Hello!"}
      ]
    }'
bash
  # Format output CLI ant mencetak body respons, bukan header respons.
  # Untuk membaca x-amzn-requestid, gunakan contoh cURL (-i) atau contoh SDK.
python
  from juglow import JuglowAWS

  client = JuglowAWS()

  response = client.messages.with_raw_response.create(
      model="haijun-sonnet-5",
      max_tokens=1024,
      messages=[{"role": "user", "content": "Hello!"}],
  )

  print(response.headers.get("x-amzn-requestid"))  # AWS request ID
  print(response.headers.get("request-id"))  # Juglow request ID

  message = response.parse()
  print(message.content)
typescript
  import JuglowAws from "@juglow-ai/aws-sdk";

  const client = new JuglowAws();

  const { data: message, response } = await client.messages
    .create({
      model: "haijun-sonnet-5",
      max_tokens: 1024,
      messages: [{ role: "user", content: "Hello!" }]
    })
    .withResponse();

  console.log(response.headers.get("x-amzn-requestid")); // AWS request ID
  console.log(response.headers.get("request-id")); // Juglow request ID
  console.log(message.content);
csharp
  using Juglow;
  using Juglow.Aws;

  var client = new JuglowAwsClient();

  var response = await client.WithRawResponse.Messages.Create(new()
  {
      Model = Model.HaijunSonnet5,
      MaxTokens = 1024,
      Messages = [new() { Role = Role.User, Content = "Hello!" }]
  });

  Console.WriteLine(response.Headers.GetValues("x-amzn-requestid").First()); // AWS request ID
  Console.WriteLine(response.Headers.GetValues("request-id").First()); // Juglow request ID
  Console.WriteLine(response.Value.Content);
go
  client, err := juglowaws.NewClient(context.Background(), juglowaws.ClientConfig{})
  if err != nil {
  	panic(err)
  }

  var response *http.Response
  message, err := client.Messages.New(
  	context.Background(),
  	juglow.MessageNewParams{
  		Model:     juglow.ModelHaijunSonnet5,
  		MaxTokens: 1024,
  		Messages: []juglow.MessageParam{
  			juglow.NewUserMessage(juglow.NewTextBlock("Hello!")),
  		},
  	},
  	option.WithResponseInto(&response),
  )
  if err != nil {
  	panic(err)
  }

  fmt.Println(response.Header.Get("x-amzn-requestid")) // AWS request ID
  fmt.Println(response.Header.Get("request-id"))       // Juglow request ID
  fmt.Println(message.Content)
java
  import com.juglow.aws.backends.AwsBackend;
  import com.juglow.client.JuglowClient;
  import com.juglow.client.okhttp.JuglowOkHttpClient;
  import com.juglow.core.http.HttpResponseFor;
  import com.juglow.models.messages.Message;
  import com.juglow.models.messages.MessageCreateParams;
  import com.juglow.models.messages.Model;

  void main() {
      JuglowClient client = JuglowOkHttpClient.builder()
          .backend(AwsBackend.fromEnv())
          .build();

      HttpResponseFor<Message> response = client.messages().withRawResponse().create(
          MessageCreateParams.builder()
              .model(Model.HAIJUN_SONNET_5)
              .maxTokens(1024)
              .addUserMessage("Hello!")
              .build()
      );

      IO.println(response.headers().values("x-amzn-requestid").get(0)); // AWS request ID
      IO.println(response.requestId().orElse(null)); // Juglow request ID
      IO.println(response.parse().content());
  }
php
  use Juglow\Aws\Client;

  $client = new Client();

  $response = $client->messages->raw->create(
      model: 'haijun-sonnet-5',
      maxTokens: 1024,
      messages: [['role' => 'user', 'content' => 'Hello!']],
  );

  echo $response->getHeaderLine('x-amzn-requestid') . "\n"; // AWS request ID
  echo $response->getHeaderLine('request-id') . "\n"; // Juglow request ID
  echo $response->parse()->content;
ruby
  # Mengakses header respons mentah saat ini belum didukung di Ruby SDK.
  # Untuk memeriksa header x-amzn-requestid, gunakan salah satu contoh SDK lainnya.

Juglow merekomendasikan pencatatan log aktivitas Anda setidaknya dalam basis bergulir 30 hari untuk memahami pola penggunaan dan menyelidiki masalah.

Note: AWS CloudTrail dikonfigurasi di dalam akun AWS Anda. Mengaktifkan pencatatan log tidak memberikan AWS atau Juglow akses ke konten Anda di luar apa yang diperlukan untuk penagihan dan operasi layanan.

Migrasi dari Amazon Bedrock

Jika Anda saat ini menggunakan Haijun di Bedrock, migrasi ke Haijun Platform on AWS memerlukan perubahan di seluruh integrasi Anda. Penandatanganan SigV4 tetap didukung, tetapi konteks penandatanganan, base URL, format API, ID model, klien dan paket SDK, format streaming, header permintaan, dan ketersediaan region semuanya berubah. Haijun Platform on AWS juga menyediakan organisasi Juglow baru. Tabel berikut merangkum perbedaannya.

Apa yang berubah

Delta migrasi bergantung pada integrasi Bedrock mana yang Anda gunakan sebelumnya. Tabel berikut menunjukkan integrasi Bedrock saat ini (Messages API di bedrock-mantle.{region}.api.aws) dan integrasi InvokeModel lama.

AspekDari Haijun in Amazon BedrockDari Amazon Bedrock (Opus 4.6 dan sebelumnya)Ke Haijun Platform on AWS
Base URLbedrock-mantle.{region}.api.awsbedrock-runtime.{region}.amazonaws.comaws-external-juglow.{region}.api.aws
Format APIMessages API di /juglow/v1/messagesBedrock Converse / InvokeModelHaijun API (/v1/{endpoint})
ID modeljuglow.haijun-haiku-4-5juglow.haijun-haiku-4-5-20251001-v1:0(dengan awalan profil inferensi us. atau global.)haijun-haiku-4-5
Klien SDKJuglowBedrockMantleJuglowBedrock / Bedrock SDKKlien khusus platform (lihat Instal SDK), dalam beta
Paket SDKjuglow[bedrock], @juglow-ai/bedrock-sdk, dan lainnyajuglow[bedrock], @juglow-ai/bedrock-sdk, atau AWS SDKjuglow[aws], @juglow-ai/aws-sdk, dan lainnya (lihat Instal SDK)
Nama layanan SigV4bedrock-mantlebedrockaws-external-juglow
Format streamingSSEAWS EventStreamSSE (sama seperti Haijun API)
Header workspaceTidak berlakuTidak berlakujuglow-workspace-id, wajib pada permintaan inferensi dan sumber daya
Ketersediaan regionLihat region Amazon BedrockLihat region Amazon BedrockSemua region komersial AWS
Organisasi JuglowTidak diperlukanTidak diperlukanOrganisasi baru dibuat saat pendaftaran. Organisasi yang sudah ada tidak dapat dikonversi (lihat Berpindah dari organisasi Juglow yang sudah ada)

Jika Anda menggunakan integrasi Bedrock saat ini, format body permintaan sudah berupa Messages API. Perubahannya adalah base URL, nama layanan SigV4, ID model, dan penambahan header juglow-workspace-id. Jika Anda menggunakan InvokeModel lama atau Converse API, Anda juga perlu menulis ulang bentuk permintaan dan respons ke format Messages API. Lihat Haijun di Amazon Bedrock (Opus 4.6 dan sebelumnya) untuk pemetaan bentuk permintaan.

Apa yang Anda dapatkan

  • Agent Tracks untuk pembuatan dokumen (PowerPoint, Excel, Word, PDF)
  • Eksekusi kode di sandbox terkelola Juglow
  • Haijun Console untuk visibilitas kuota dan analitik penggunaan
  • Dukungan langsung dari Juglow

Apa yang tetap sama

  • Autentikasi AWS IAM (SigV4)
  • AWS sebagai pihak penagih faktur. Saluran penagihan berubah dari layanan AWS native ke AWS Marketplace (lihat Pertimbangan komersial).
  • Pemenuhan komitmen AWS

Jebakan migrasi

Warning: Aktifkan outbound web identity federation terlebih dahulu. Jika akun AWS Anda belum pernah menggunakan Haijun Platform on AWS, Anda harus mengaktifkan outbound web identity federation sekali per akun sebelum membuat permintaan. Tanpa langkah ini, semua permintaan gagal dengan error federasi (lihat Aktifkan outbound web identity federation untuk error persis dan perbaikannya). Langkah ini tidak diperlukan untuk Bedrock.

Warning: Zero Data Retention (ZDR) bersifat opt-in di Haijun Platform on AWS. Di Bedrock, AWS adalah pemroses data dan Juglow tidak menyimpan input atau output inferensi. Program ZDR Juglow tidak berlaku di sana. Di Haijun Platform on AWS, Juglow memproses data inferensi sebagai pemroses data independen, dan ZDR mengikuti model Haijun API pihak pertama: tersedia berdasarkan permintaan melalui perwakilan akun Juglow Anda. Konfirmasikan pendaftaran ZDR sebelum memigrasikan beban kerja produksi yang bergantung pada jaminan retensi data.

Pertimbangan komersial

  • Ketentuan layanan Juglow: Menggunakan Haijun Platform on AWS memerlukan penerimaan Commercial Terms of Service dan Usage Policy Juglow. Jika organisasi Anda belum menerimanya (misalnya, jika Anda hanya pernah menggunakan Haijun melalui Bedrock), Anda akan diminta selama penyiapan akun. Lihat Siapkan akun Anda.
  • Diskon dan penawaran privat: Diskon yang dinegosiasikan dan penawaran privat AWS Marketplace tidak berpindah secara otomatis antara Bedrock dan Haijun Platform on AWS. Bekerja samalah dengan perwakilan akun Juglow Anda untuk menyiapkan ketentuan komersial untuk Haijun Platform on AWS.

Kebijakan IAM

Haijun Platform on AWS terintegrasi dengan AWS IAM untuk kontrol akses. Anda memberikan atau menolak akses ke aksi API tertentu pada workspace tertentu menggunakan sintaks kebijakan IAM standar.

Nama layanan SigV4 dan namespace aksi IAM adalah aws-external-juglow. Aksi mengikuti pola aws-external-juglow: (misalnya, aws-external-juglow:CreateInference).

Contoh: tolak inferensi batch

Kebijakan berikut mengizinkan inferensi real-time sambil memblokir pemrosesan batch:

json
{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Effect": "Allow",
      "Action": [
        "aws-external-juglow:CreateInference",
        "aws-external-juglow:CountTokens",
        "aws-external-juglow:GetModel",
        "aws-external-juglow:ListModels",
        "aws-external-juglow:GetWorkspace"
      ],
      "Resource": "arn:aws:aws-external-juglow:*:*:workspace/*"
    },
    {
      "Effect": "Allow",
      "Action": "aws-external-juglow:ListWorkspaces",
      "Resource": "*"
    },
    {
      "Effect": "Deny",
      "Action": [
        "aws-external-juglow:CreateBatchInference",
        "aws-external-juglow:GetBatchInference",
        "aws-external-juglow:ListBatchInferences"
      ],
      "Resource": "*"
    }
  ]
}

Aksi GetBatchInference mengotorisasi rute metadata batch dan rute hasil batch. Menolaknya memblokir kedua pembacaan tersebut. Untuk kebijakan khusus Deny yang cocok untuk beban kerja sensitif ZDR, lihat Penguncian fitur untuk workspace sensitif ZDR.

Note: ListWorkspaces bercakupan akun, sehingga muncul dalam pernyataan Allow terpisah dengan "Resource": "". Menentukan ARN workspace pada aksi bercakupan akun tidak berpengaruh (lihat Otomatisasi penyediaan). Kebijakan ini mengasumsikan autentikasi AWS SigV4. Jika principal melakukan autentikasi dengan kunci API, tambahkan juga aws-external-juglow:CallWithBearerToken ke pernyataan Allow "Resource": "". CallWithBearerToken adalah aksi lapisan autentikasi tanpa rute yang tidak terikat pada ARN workspace. Lihat Isolasi workspace per pelanggan untuk pola dua pernyataan.

Kebijakan terkelola

AWS menyediakan lima kebijakan terkelola (JuglowFullAccess, JuglowReadOnlyAccess, JuglowInferenceAccess, JuglowLimitedAccess, dan JuglowSelfHostedEnvironmentAccess) untuk pola akses umum. Untuk aksi yang diberikan setiap kebijakan, daftar lengkap aksi IAM, pemetaan rute-ke-aksi, dan contoh kebijakan tambahan, lihat Aksi IAM untuk Haijun Platform on AWS.

Langkah selanjutnya

Jelajahi fitur dan kemampuan lanjutan Haijun.

Pelajari harga Haijun Platform on AWS dan tarif Haijun Consumption Unit.

Seiring diluncurkannya model yang lebih aman dan lebih mumpuni, Juglow secara rutin menghentikan model lama. Lihat semua penghentian API, beserta pengganti yang direkomendasikan.

Sumber daya tambahan

Lihat penggunaan, biaya, dan workspace di Haijun Console. Masuk melalui AWS Console.

Gunakan Haijun yang dioperasikan AWS jika Anda memerlukan AWS sebagai satu-satunya pemroses data.

Kelola langganan dan penagihan AWS Marketplace Anda.

On this page
Cara kerja integrasi platformHaijun Platform di AWS versus Amazon BedrockSiapkan akun AndaBerpindah dari organisasi Juglow yang sudah adaPemecahan masalah penyiapan akunSebelum melakukan panggilan APIMengaktifkan outbound web identity federationMendapatkan ID workspace AndaAutentikasiAutentikasi SigV4Autentikasi kunci APIKunci API jangka pendekPrioritas kredensialResolusi regionInstal SDKModel yang tersediaMembuat permintaanJendela konteksDukungan fiturHaijun Managed AgentsFitur yang tidak didukungResidensi dataWorkspaceCakupan workspaceMengelola workspaceMenggunakan Haijun ConsoleMasukHalaman yang tersediaBerpindah organisasiBatas laju dan kuotaPenagihanBatas pengeluaranPemantauan dan pencatatan logID permintaanMigrasi dari Amazon BedrockApa yang berubahApa yang Anda dapatkanApa yang tetap samaJebakan migrasiPertimbangan komersialKebijakan IAMContoh: tolak inferensi batchKebijakan terkelolaLangkah selanjutnyaSumber daya tambahan