Halaman ini menunjukkan cara mengirim perintah chat ke model Gemini menggunakan konsol Cloud de Confiance , REST API, dan SDK yang didukung.
Untuk mempelajari cara menambahkan gambar dan media lainnya ke permintaan Anda, lihat Pemahaman gambar.
Untuk mengetahui daftar bahasa yang didukung oleh Gemini, lihat Dukungan bahasa.
Untuk mempelajari model dan API AI generatif yang tersedia di Gemini Enterprise Agent Platform, buka Model Garden di Cloud de Confiance konsol.
Jika Anda mencari cara untuk menggunakan Gemini langsung dari aplikasi seluler dan web, lihat SDK klien Firebase AI Logic untuk aplikasi Swift, Android, Web, Flutter, dan Unity.
Buat teks
Untuk menguji dan melakukan iterasi pada perintah chat, sebaiknya gunakan Cloud de Confiance konsol. Untuk mengirim perintah secara terprogram ke model, Anda dapat menggunakan REST API, Google Gen AI SDK, Agent Platform SDK, atau salah satu library dan SDK lain yang didukung.
Anda dapat menggunakan petunjuk sistem untuk mengarahkan perilaku model berdasarkan kebutuhan atau kasus penggunaan tertentu. Misalnya, Anda dapat menentukan persona atau peran untuk chatbot yang merespons permintaan layanan pelanggan. Untuk mengetahui informasi selengkapnya, lihat contoh kode petunjuk sistem.
Anda dapat menggunakan Google Gen AI SDK untuk mengirim permintaan jika menggunakan Gemini 2.5 Flash.
Berikut adalah contoh pembuatan teks.
Konsol
Untuk menggunakan Agent Studio guna mengirim perintah chat di Cloud de Confiance konsol, lakukan hal berikut:
- Di bagian Agent Platform pada Cloud de Confiance konsol, buka halaman Agent Studio.
- Di Start a conversation, klik Text chat.
Opsional: Konfigurasikan model dan parameter:
- Model: Pilih Gemini Pro.
- Region: Pilih region yang ingin Anda gunakan.
Suhu: Gunakan penggeser atau kotak teks untuk memasukkan nilai untuk suhu.
Suhu digunakan untuk pengambilan sampel selama pembuatan respons, yang terjadi saattopPdantopKditerapkan. Suhu mengontrol tingkat keacakan dalam pemilihan token. Suhu yang lebih rendah cocok untuk perintah yang memerlukan respons yang kurang terbuka atau kreatif, sedangkan suhu yang lebih tinggi dapat memberikan hasil yang lebih beragam atau kreatif. Suhu0berarti token probabilitas tertinggi selalu dipilih. Dalam hal ini, respons untuk permintaan tertentu sebagian besar deterministik, tetapi sedikit variasi masih dapat dilakukan.Jika model menampilkan respons yang terlalu umum, terlalu pendek, atau model memberikan respons fallback, coba tingkatkan temperaturnya. Jika model memasuki pembuatan tanpa batas, meningkatkan suhu menjadi setidaknya
0.1dapat menghasilkan hasil yang lebih baik.1.0adalah nilai awal suhu yang direkomendasikan.Batas token output: Gunakan penggeser atau kotak teks untuk memasukkan nilai batas output maksimum.
Jumlah maksimum token yang dapat dibuat dalam respons. Token terdiri dari sekitar empat karakter. 100 token setara dengan sekitar 60-80 kata.Tentukan nilai yang lebih rendah untuk respons yang lebih singkat dan nilai yang lebih tinggi untuk respons yang berpotensi lebih panjang.
- Add stop sequence: Opsional. Masukkan urutan berhenti, yang merupakan serangkaian karakter yang menyertakan spasi. Jika model menemukan urutan berhenti, pembuatan respons akan berhenti. Urutan berhenti tidak disertakan dalam respons, dan Anda dapat menambahkan hingga lima urutan berhenti.
- Opsional: Untuk mengonfigurasi parameter lanjutan, klik Advanced dan
konfigurasikan sebagai berikut:
Klik untuk meluaskan konfigurasi lanjutan
Top-K: Gunakan penggeser atau kotak teks untuk memasukkan nilai untuk top-K.
Top-K mengubah cara model memilih token untuk output. Top-K1berarti token yang dipilih berikutnya adalah yang paling mungkin di antara semua token dalam kosakata model (juga disebut decoding greedy), sedangkan top-K3berarti token berikutnya dipilih di antara tiga token yang paling mungkin dengan menggunakan suhu.Untuk setiap langkah pemilihan token, token top-K dengan probabilitas tertinggi akan diambil sampelnya. Kemudian token akan difilter lebih lanjut berdasarkan top-P dengan token akhir yang dipilih menggunakan pengambilan sampel suhu.
Tentukan nilai yang lebih rendah untuk respons acak yang lebih sedikit dan nilai yang lebih tinggi untuk respons acak yang lebih banyak.
- Top-P: Gunakan penggeser atau kotak teks untuk memasukkan nilai untuk top-P. Token dipilih dari yang paling mungkin hingga yang paling tidak mungkin sampai jumlah probabilitasnya sama dengan nilai top-P. Untuk hasil yang paling sedikit variabelnya, tetapkan top-P ke `0`.
- Enable Grounding: Tambahkan grounding source dan path untuk menyesuaikan fitur ini.
- Masukkan perintah teks Anda di panel Prompt. Model ini menggunakan pesan sebelumnya sebagai konteks untuk respons baru.
- Opsional: Untuk menampilkan jumlah token teks, klik View tokens. Anda dapat melihat token atau ID token perintah teks Anda.
- Untuk melihat token dalam perintah teks yang ditandai dengan warna berbeda yang menandai batas setiap ID token, klik Token ID to text. Token media tidak didukung.
- Untuk melihat ID token, klik Token ID.
Untuk menutup panel alat tokenizer, klik X, atau klik di luar panel.
- Klik Submit.
- Opsional: Untuk menyimpan perintah Anda ke My prompts, klik Save.
- Opsional: Untuk mendapatkan kode Python atau perintah curl untuk perintah Anda, klik Get code.
- Opsional: Untuk menghapus semua pesan sebelumnya, klik Clear conversation
Python
Instal
pip install --upgrade google-genai
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Google Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Go
Pelajari cara menginstal atau mengupdate Go.
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Google Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Node.js
Instal
npm install @google/genai
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Google Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Java
Pelajari cara menginstal atau mengupdate Java.
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Google Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
C#
Pelajari cara menginstal atau mengupdate C#.
Untuk mempelajari lebih lanjut, lihat dokumentasi referensi SDK.
Tetapkan variabel lingkungan untuk menggunakan Google Gen AI SDK dengan Vertex AI:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
REST
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
GENERATE_RESPONSE_METHOD: Jenis respons yang Anda inginkan untuk dibuat oleh model. Pilih metode yang menghasilkan cara respons model akan ditampilkan:streamGenerateContent: Respons di-streaming saat dibuat untuk mengurangi persepsi latensi bagi audiens manusia.generateContent: Respons ditampilkan setelah dibuat sepenuhnya.
LOCATION: Region untuk memproses permintaan.PROJECT_ID: ID proyek Anda. .MODEL_ID: ID model multimodal yang ingin Anda gunakan. Petunjuk teks yang akan disertakan dalam perintah pertama percakapan multi-giliran. Misalnya,TEXT1
What are all the colors in a rainbow? Petunjuk teks yang akan disertakan dalam perintah kedua. Misalnya,TEXT2
Why does it appear when it rains?TEMPERATURE: Suhu digunakan untuk pengambilan sampel selama pembuatan respons, yang terjadi saattopPdantopKditerapkan. Temperatur mengontrol tingkat keacakan dalam pemilihan token. Suhu yang lebih rendah cocok untuk perintah yang memerlukan respons yang kurang terbuka atau kreatif, sedangkan suhu yang lebih tinggi dapat memberikan hasil yang lebih beragam atau kreatif. Suhu0berarti token probabilitas tertinggi selalu dipilih. Dalam hal ini, respons untuk permintaan tertentu sebagian besar deterministik, tetapi sedikit variasi masih dapat dilakukan.Jika model menampilkan respons yang terlalu umum, terlalu pendek, atau model memberikan respons fallback, coba tingkatkan temperaturnya. Jika model memasuki pembuatan tanpa batas, meningkatkan suhu menjadi setidaknya
0.1dapat menghasilkan hasil yang lebih baik.1.0adalah nilai awal suhu yang direkomendasikan.
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json.
Jalankan perintah berikut di terminal untuk membuat atau menimpa file ini di direktori saat ini:
cat > request.json << 'EOF'
{
"contents": [
{
"role": "user",
"parts": { "text": "TEXT1" }
},
{
"role": "model",
"parts": { "text": "What a great question!" }
},
{
"role": "user",
"parts": { "text": "TEXT2" }
}
],
"generation_config": {
"temperature": TEMPERATURE
}
}
EOFKemudian, jalankan perintah berikut untuk mengirim permintaan REST Anda:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:GENERATE_RESPONSE_METHOD"
PowerShell
Simpan isi permintaan dalam file bernama request.json.
Jalankan perintah berikut di terminal untuk membuat atau menimpa file ini di direktori saat ini:
@'
{
"contents": [
{
"role": "user",
"parts": { "text": "TEXT1" }
},
{
"role": "model",
"parts": { "text": "What a great question!" }
},
{
"role": "user",
"parts": { "text": "TEXT2" }
}
],
"generation_config": {
"temperature": TEMPERATURE
}
}
'@ | Out-File -FilePath request.json -Encoding utf8Kemudian, jalankan perintah berikut untuk mengirim permintaan REST Anda:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:GENERATE_RESPONSE_METHOD" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan berikut ini.
Respons streaming dan non-streaming
Anda dapat memilih apakah model akan membuat respons streaming atau respons non-streaming. Untuk respons streaming, Anda akan menerima setiap respons segera setelah token outputnya dibuat. Untuk respons non-streaming, Anda akan menerima semua respons setelah semua token output dibuat.
Berikut adalah contoh pembuatan teks streaming.
Python
Sebelum mencoba contoh ini, ikuti petunjuk penyiapan Python di panduan memulai Agent Platform menggunakan library klien.
Untuk melakukan autentikasi ke Agent Platform, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.
Sebelum menjalankan contoh kode, tetapkan variabel lingkungan GOOGLE_CLOUD_UNIVERSE_DOMAIN
ke s3nsapis.fr.
Perilaku chat multi-giliran Gemini
Saat Anda menggunakan chat multi-giliran, Gemini Enterprise Agent Platform akan menyimpan konten dan perintah awal yang Anda kirim ke model secara lokal. Gemini Enterprise Agent Platform mengirimkan semua data ini dengan setiap permintaan berikutnya ke model. Oleh karena itu, biaya input untuk setiap pesan yang Anda kirim adalah total kumulatif dari semua data yang telah dikirim ke model. Jika konten awal Anda cukup besar, pertimbangkan untuk menggunakan cache konteks saat Anda membuat objek model awal untuk mengontrol biaya input dengan lebih baik.
Langkah berikutnya
- Pelajari cara mengirim permintaan perintah multimodal:
- Pelajari tentang praktik terbaik AI yang bertanggung jawab dan filter keamanan Agent Platform.