SageMaker AI Training Session Rilis: Kontrol Loop LLM Tanpa GPU

Kenapa SageMaker AI Training Session Bikin Heboh Developer?

Banyak tim teknik yang membangun agen AI atau sistem spesifik industri sadar kalau model bawaan pabrik (off-the-shelf) sering kali kurang pas. Model yang dilatih langsung dengan istilah bisnis, katalog produk, atau bahasa medis terbukti jauh lebih akurat dan lebih murah dijalankan. Masalahnya, teknik post training ai tingkat lanjut kayak reinforcement learning (RL) butuh kontrol ketat pada fungsi penalti dan hadiah.

Sebelum ada update ini, kalau kamu mau pakai serverless fine-tuning standar, opsinya terbatas pada resep bawaan yang kaku. Kamu tinggal upload data, pencet tombol, dan pasrah sama konfigurasi default. Tapi begitu kamu butuh custom loss sagemaker, eksperimen kurikulum data baru, atau mau coba teknik penjajaran terbaru kayak Group Relative Policy Optimization (GRPO), kamu terpaksa balik ke cara lama: sewa instance GPU mahal, pasang driver, konfigurasi komputasi terdistribusi, dan deg-degan nunggu error out-of-memory (OOM).

Lewat SageMaker AI training session, batas abstraksi ditarik turun satu tingkat. AWS nggak lagi mengabstraksi algoritma pelatihanmu, melainkan mengabstraksi perangkat kerasnya. Kamu memegang kendali penuh atas kode Python yang mengatur loop, sedangkan SageMaker AI yang pusing memikirkan alokasi GPU fisik di belakang layar.

Dilema Lama: Mau Kontrol Training Loop LLM atau Bebas Pusing GPU?

Selama ini ada kompromi besar di dunia AI engineering. Mau fleksibilitas atau kenyamanan? Diagram arsitektur berikut memperlihatkan perbandingan posisi API training session dibanding opsi pelatihan lain yang ada di ekosistem SageMaker AI:

Bisa dilihat di grafik, opsi layanan terkelola penuh memang bebas pusing urusan server, tapi kontrol kamu terhadap algoritma rendah banget. Sebaliknya, kalau kamu pakai klaster manual, kamu bisa bebas utak-atik apa pun tapi beban operasional servernya luar biasa menyita waktu. API training session berada di titik ideal: kontrol algoritma tinggi, sementara urusan infrastruktur tetap ditangani penuh secara serverless.

Kamu nggak perlu lagi menentukan jenis instance GPU apa yang mau disewa, nggak perlu setting klaster multinode, dan nggak perlu pusing nulis konfigurasi distributed training yang rumit. Kalau kamu sebelumnya sempat membaca panduan fine-tuning GPT-OSS di SageMaker, pembaruan sesi latihan ini bikin workflow tersebut jadi jauh lebih bersih dan fleksibel.

Arsitektur 3 SDK Client di SageMaker AI Training Session

Untuk menjalankan proses ini, AWS menyediakan SDK Python SageMaker yang terstruktur rapi ke dalam tiga lapisan client. Struktur ini menjaga pemisahan tugas yang jelas antara pengaturan platform, loop training, dan proses sampling.

Begini cara kerja ketiga client tersebut di dalam kode kamu:

1. ServiceClient: Client tingkat teratas yang memegang kendali konfigurasi platform AWS. Di sini kamu menentukan IAM execution role, lokasi penyimpanan bucket Amazon S3, grup paket model, serta opsional enkripsi AWS KMS dan konfigurasi VPC. Client ini yang bertugas membuka sesi latihan aktif.
2. TrainingClient: Turunan langsung dari ServiceClient yang mengendalikan proses kalkulasi model. Lewat client ini, kamu bisa memanggil operasi tingkat rendah kayak forward(), forward_backward(), optim_step(), serta menyimpan bobot latihan lewat save_weights_for_sampler().
3. SamplingClient: Client yang diturunkan oleh TrainingClient khusus untuk menghasilkan respons teks lewat operasi sample() dan menghitung log probabilities lewat compute_logprobs(). Kerennya lagi, sesi aktif ini menyediakan endpoint yang kompatibel dengan format OpenAI chat completions, jadi kamu bisa pakai client OpenAI biasa buat minta inferensi dari model yang lagi dilatih.

Cara Kerja Post-Training AI dan GRPO Step-by-Step

Mari kita bedah gimana eksekusi sebuah training loop llm berjalan memakai metode Group Relative Policy Optimization (GRPO). Algoritma ini sering dipakai buat melatih penalaran model dengan membandingkan beberapa jawaban sekaligus terhadap satu prompt yang sama.

Dalam siklus ini, ada pembagian tugas yang tegas antara lingkungan lokal kamu dan server AWS. Perhatikan alur satu putaran pelatihan berikut:

Berikut tahapan konkret yang terjadi di setiap langkah pelatihan:

1. Sampling Respons: Training loop di komputermu mengirimkan batch prompt ke SamplingClient di GPU AWS untuk men-generate beberapa variasi jawaban memakai bobot model saat itu.
2. Pemberian Skor (Reward Scoring): Teks jawaban dikirim balik ke komputermu. Di lingkungan lokal, fungsi reward yang kamu buat sendiri (bisa berupa verifier matematika, reward model terpisah, atau unit test kode) memberikan nilai skor untuk masing-masing jawaban.
3. Kalkulasi Gradien dan Update Bobot: Skor dikirim kembali ke TrainingClient. Operasi forward_backward() memanfaatkan skor ini untuk menghitung nilai gradien loss, lalu fungsi optim_step() langsung memperbarui bobot model adapter LoRA di GPU.
4. Segarkan Sampler: Kode kamu memerintahkan sesi untuk memperbarui model sampler dengan bobot baru, lalu loop berlanjut ke batch data berikutnya.

Skema bayarnya juga ramah di kantong: kamu cuma bayar token yang diproses oleh GPU SageMaker AI. Pas fungsi reward kamu lagi sibuk menilai jawaban di komputer lokal, penghitung biaya GPU otomatis berhenti (meter stops). Nggak ada biaya kapasitas menganggur yang harus kamu bayar di muka.

Dua Studi Kasus Nyata: Medis dan Pemrograman

Fitur ini sudah dibuktikan langsung oleh beberapa perusahaan di industri nyata. Salah satunya adalah ImagineSoftware, penyedia sistem otomasi finansial kesehatan. Rob Gontarek, Senior Vice President Data Science ImagineSoftware, menjelaskan pengalamannya:

"Kami menggunakan SageMaker AI Serverless Training Sessions untuk membangun model triase penolakan klaim medis, dan hasilnya langsung terbukti sejak hari pertama. API tingkat rendah serta kontrol langsung terhadap forward, backward, sampling, dan optimizer step memberi ilmuwan data kami kendali presisi yang dibutuhkan untuk reinforcement learning pada skenario yang menuntut akurasi kritis."

Studi kasus kedua datang dari Karini AI yang melatih model penalaran multi-turn pada data graf Amazon Neptune. CEO Karini AI, Nitin Wagh, menyebutkan bahwa timnya berhasil melakukan fine-tuning pada model gpt-oss-20b tanpa kendala memori maupun keharusan tuning manual, serta fitur checkpoint-and-resume yang bisa melanjutkan training step dengan sangat akurat.

AWS juga membagikan resep implementasi RL nyata untuk kompetisi pemrograman lewat repositori cookbook resmi. Arsitekturnya menghubungkan container lokal dan GPU terkelola secara mulus:

Pada arsitektur di atas, model menghasilkan kode pemrograman, lalu loop lokal mengeksekusi kode tersebut di dalam sandbox isolasi bernama SandboxFusion untuk dicek apakah lolos unit test. Skor lulus atau gagal unit test ini langsung dijadikan reward signal buat memperbarui model.

Model yang Didukung dan Dukungan Teknik Fine-Tuning

Pada fase ketersediaan umum ini, SageMaker AI training session mendukung beberapa model terbuka ternama. Kamu bisa memilih apakah mau menerapkan Low-Rank Adaptation (LoRA) biar hemat memori atau melakukan full fine-tuning secara menyeluruh.

Teknik pelatihan yang didukung sangat luas, mulai dari Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO), Reinforcement Learning with Verifiable Rewards (RLVR), Reinforcement Learning from AI Feedback (RLAIF), sampai multi-turn RL untuk agen otonom. Kamu bahkan bisa merangkai teknik-teknik ini secara berurutan dalam skema kustomisasi berkelanjutan.

Kalau kamu tertarik mendalami topik komputasi model Qwen di ekosistem AWS, kamu juga bisa membaca artikel kami tentang training Qwen3 di AWS Trainium sebagai referensi pembanding.

Keamanan Data dan Regulasi Privasi

Buat perusahaan di Indonesia yang terikat aturan kepatuhan UU Perlindungan Data Pribadi (UU PDP), privasi data pelatihan sering jadi penghalang utama adopsi cloud. AWS merancang training session dengan sistem isolasi ketat:

• Kontrol Penuh Akses: Sesi pelatihan berjalan di bawah IAM execution role milik akunmu sendiri, dilengkapi konfigurasi VPC tertutup dan enkripsi kunci AWS KMS.
• Data Tetap di Bucket Sendiri: Dataset latihan dan file bobot checkpoint tetap tersimpan di bucket Amazon S3 milikmu di region AWS yang kamu tentukan.
• Jaminan Non-Training: AWS secara tegas menyatakan tidak akan memakai data kamu maupun bobot model hasil kustomisasi untuk melatih model fondasi publik milik pihak lain.
• Evaluasi dan Observabilitas: Sebelum model dideploy ke produksi, kamu bisa mengevaluasi akurasi, bias, dan aspek keamanan, serta memasang guardrail dan monitoring performa memakai Amazon CloudWatch.

Panduan Praktis Menjalankan Training Session

Kamu bisa mulai mencoba fitur ini lewat dua opsi: langsung dari lingkungan lokal (Linux atau macOS dengan Python versi 3.10 hingga 3.12) atau menggunakan SageMaker Studio yang siap dipakai dalam waktu di bawah 20 detik.

Berikut langkah ringkas yang perlu kamu siapkan:

1. Instal SageMaker Python SDK: Pastikan environment lokal kamu sudah terpasang SDK versi terbaru dan memiliki kredensial AWS IAM yang valid.
2. Kloning Cookbook Resmi: AWS menyediakan resep siap pakai di repositori GitHub aws/sagemaker-training-sessions-cookbook. Resep ini mencakup contoh pelatihan matematika GSM8K sampai RL kode pemrograman.
3. Inisialisasi Client di Kode Python: Buat objek ServiceClient, tentukan S3 bucket dan role IAM, lalu panggil method untuk membuat sesi training aktif sesuai model pilihanmu.
4. Tulis Training Loop: Sambungkan loop reward lokalmu dengan pemanggilan API forward_backward() dan optim_step().

Kamu juga bisa memanfaatkan asisten coding agent favorit kayak Claude Code, GitHub Copilot, Codex, atau Kiro untuk memandu penulisan loop pelatihan ini langsung di editor.

Kalau kamu mau mencoba menulis prompt instruksi ke coding agent buat bikin kerangka skrip pelatihan, kamu bisa pakai contoh prompt berikut:

Saya ingin membuat skrip training loop menggunakan SageMaker Python SDK training session APIs untuk model Qwen3.8-27B. Tolong buatkan template Python minimal yang:1. Menginisialisasi ServiceClient dengan role IAM dan bucket S3 saya.2. Menjalankan TrainingClient dan SamplingClient.3. Mengimplementasikan loop sederhana dengan fungsi sample(), evaluasi dummy reward lokal, forward_backward(), dan optim_step().4. Menyimpan checkpoint secara berkala.

Uji Coba Cepat Model Lewat Classai Router

Sebelum memutuskan menggelontorkan waktu buat melatih model sendiri lewat training loop yang rumit, ada baiknya kamu menguji performa model-model basis terbuka tersebut terlebih dahulu untuk melihat apakah kapabilitas dasarnya sudah cukup buat kebutuhan bisnismu.

Kamu bisa langsung mencoba model [Qwen 3.8 27B] lewat Classai Router dengan biaya terjangkau, yaitu Rp810 per 1 juta token input dan Rp3.630 per 1 juta token output. Di Classai Router, kamu cukup memakai satu API key yang kompatibel dengan SDK OpenAI maupun Anthropic tanpa perlu langganan bulanan atau kartu kredit luar negeri. Cukup isi saldo mulai Rp10.000 lewat QRIS, dan kamu sudah bisa mengevaluasi kualitas respons model sebelum memulai proyek kustomisasi skala penuh.