Training ini membahas konsep dan implementasi Large Language Models (LLMs) yang mampu menghasilkan output terstruktur dan memanfaatkan penggunaan tool eksternal. Peserta akan mempelajari teknik integrasi LLMs dengan sistem lain untuk menghasilkan jawaban yang lebih akurat, kontekstual, dan sesuai format yang diinginkan. Materi mencakup teori dasar, praktik penggunaan tool APIs, dan studi kasus penggunaan structured output pada berbagai industri.
AI Engineer, Data Scientist, Software Developer, System Integrator, dan profesional IT yang ingin memanfaatkan LLMs untuk solusi berbasis AI.
Modul 1: Pengantar Structured Output
Membahas definisi, konsep, dan manfaat structured output dalam implementasi LLMs.
Modul 2: Tool Use pada LLMs
Memahami bagaimana LLMs dapat memanggil dan memanfaatkan tool eksternal.
Modul 3: Integrasi API dengan LLMs
Langkah-langkah menghubungkan LLMs dengan API untuk memperluas fungsionalitas.
Modul 4: Prompt Engineering untuk Structured Output
Teknik membuat prompt agar LLMs menghasilkan output sesuai format yang diinginkan.
Modul 5: Validasi dan Post-Processing Output
Strategi memvalidasi hasil dari LLMs dan mengolahnya sebelum digunakan.
Modul 6: Studi Kasus Implementasi
Pembahasan contoh nyata penerapan structured output di industri.
Sebuah perusahaan e-commerce ingin menggunakan LLMs untuk menjawab pertanyaan pelanggan dengan format JSON terstruktur yang memuat status pesanan, estimasi pengiriman, dan opsi retur. Dengan mengintegrasikan LLMs ke sistem pelacakan internal melalui API, jawaban yang diberikan menjadi lebih cepat, akurat, dan sesuai format yang diinginkan untuk integrasi dengan chatbot.
Sebuah perusahaan telekomunikasi ingin mengembangkan chatbot layanan pelanggan yang mampu memberikan informasi tagihan, status layanan, dan penanganan gangguan secara real-time. LLMs diintegrasikan dengan sistem internal melalui API untuk menghasilkan output JSON terstruktur yang berisi detail tagihan, estimasi waktu perbaikan gangguan, dan penawaran paket tambahan. Selain itu, perusahaan juga memanfaatkan integrasi VOIP agar pelanggan dapat mengakses informasi yang sama melalui panggilan suara otomatis, di mana sistem LLMs memproses permintaan suara menjadi structured output yang dapat dipahami sistem back-end.