a11y-skip-to-main-content

Amazon Bedrock

FAQ Amazon Bedrock

Umum

Buka semua

    Amazon Bedrock adalah layanan terkelola penuh yang menawarkan pilihan model fondasi (FM) terkemuka di industri beserta beragam kemampuan yang Anda butuhkan untuk membangun aplikasi AI generatif, sehingga menyederhanakan pengembangan dengan keamanan, privasi, dan AI yang bertanggung jawab. Dengan kemampuan komprehensif Amazon Bedrock, Anda dapat bereksperimen dengan berbagai FM teratas, menyesuaikannya secara pribadi dengan data Anda menggunakan teknik seperti penyempurnaan dan retrieval-augmented generation (RAG), dan membuat agen terkelola yang menjalankan tugas bisnis yang kompleks—mulai dari memesan perjalanan dan memproses klaim asuransi hingga membuat kampanye iklan dan mengelola inventaris—tanpa perlu menulis kode apa pun. Karena Amazon Bedrock bersifat nirserver, Anda tidak perlu mengelola infrastruktur apa pun, dan Anda dapat mengintegrasikan serta melakukan deployment kemampuan AI generatif dengan aman ke dalam aplikasi menggunakan layanan AWS yang sudah pernah Anda gunakan.

    Ada lima alasan memilih menggunakan Amazon Bedrock untuk membangun aplikasi AI generatif.

    • Pilihan FM terkemuka: Amazon Bedrock menawarkan pengalaman developer yang mudah digunakan untuk bekerja dengan berbagai FM beperforma tinggi dari perusahaan AI terkemuka. Anda dapat bereksperimen dengan cepat menggunakan berbagai FM di playground, dan menggunakan API tunggal untuk inferensi terlepas dari model yang Anda pilih sehingga memberi Anda fleksibilitas untuk menggunakan FM dari penyedia yang berbeda dan tetap mengikuti perkembangan versi model terbaru dengan perubahan kode minimal.

    • Kustomisasi model yang mudah dengan data Anda: Kustomisasi FM dengan data Anda sendiri secara privat melalui antarmuka visual tanpa harus menuliskan kode apa pun. Cukup pilih set data pelatihan dan validasi yang disimpan di Amazon Simple Storage Service (Amazon S3) dan, jika diperlukan, sesuaikan hyperparameter untuk mencapai performa model terbaik.

    • Agen terkelola penuh yang dapat menginvokasi API secara dinamis untuk menjalankan tugas: Bangun agen yang menjalankan tugas bisnis kompleks—mulai dari memesan perjalanan dan memproses klaim asuransi hingga membuat kampanye iklan, menyiapkan pelaporan pajak, serta mengelola inventaris Anda—dengan memanggil sistem dan API perusahaan Anda secara dinamis. Agen terkelola penuh untuk Amazon Bedrock memperluas kemampuan penalaran FM untuk mengurai tugas, membuat rencana orkestrasi, dan menjalankannya.

    • Dukungan native untuk RAG dalam memperluas kekuatan FM dengan data kepemilikan: Dengan Basis Pengetahuan Amazon Bedrock, Anda dapat menghubungkan FM ke sumber data Anda secara aman untuk augmentasi pengambilan—dari dalam layanan terkelola—sehingga memperluas kemampuan FM yang sudah sangat kuat dan menjadikannya lebih memahami domain dan organisasi tertentu secara lebih baik.

    • Sertifikasi keamanan dan kepatuhan data: Amazon Bedrock menawarkan beberapa kemampuan untuk mendukung kebutuhan keamanan dan privasi. Amazon Bedrock termasuk dalam cakupan standar kepatuhan umum seperti Service and Organization Control (SOC), International Organization for Standardization (ISO), memenuhi syarat Health Insurance Portability and Accountability Act (HIPAA), dan pelanggan dapat menggunakan Amazon Bedrock sesuai dengan Peraturan Perlindungan Data Umum (GDPR). Amazon Bedrock bersertifikasi CSA Security Trust Assurance and Risk (STAR) Level 2, yang memvalidasi penggunaan praktik terbaik dan postur keamanan penawaran cloud AWS. Dengan Amazon Bedrock, konten Anda tidak digunakan untuk meningkatkan model dasar dan tidak dibagikan dengan penyedia model mana pun. Data Anda di Amazon Bedrock selalu dienkripsi saat bergerak serta saat diam, dan Anda juga dapat mengenkripsi data menggunakan kunci Anda sendiri secara opsional. Anda dapat menggunakan AWS PrivateLink dengan Amazon Bedrock untuk membangun konektivitas privat antara FM dan Amazon Virtual Private Cloud (Amazon VPC) Anda tanpa mengekspos lalu lintas ke Internet.

    Dengan pengalaman nirserver dari Amazon Bedrock, Anda dapat memulai dengan cepat. Arahkan ke Amazon Bedrock di Konsol Manajemen AWS dan coba FM di playground. Anda juga dapat membuat agen dan mengujinya di konsol. Setelah mengidentifikasi kasus penggunaan, Anda dapat dengan mudah mengintegrasikan FM ke dalam aplikasi apa pun menggunakan alat AWS, tanpa harus mengelola infrastruktur apa pun.
    Tautan ke kursus memulai Amazon Bedrock
    Tautan ke panduan pengguna Amazon Bedrock

    Anda dapat memulai kasus penggunaan dengan cepat:

    • Buat konten asli yang baru, seperti cerita pendek, esai, posting media sosial, dan salinan halaman web.

    • Cari, temukan, dan sintesiskan informasi untuk menjawab pertanyaan dari data dengan jumlah yang besar.

    • Buat gambar realistis dan artistik dari berbagai subjek, lingkungan, dan pemandangan menggunakan prompt bahasa.

    • Bantu pelanggan menemukan apa yang mereka cari dengan memberikan rekomendasi produk yang lebih relevan dan kontekstual, alih-alih melakukan pencocokan kata.

    • Dapatkan ringkasan konten tekstual, seperti artikel, posting blog, buku, dan dokumen untuk mendapatkan intisari tanpa harus membaca konten secara lengkap.

    • Sarankan produk yang sesuai dengan preferensi pembeli dan pembelian sebelumnya

    Jelajahi kasus penggunaan AI generatif lainnya.

    Amazon Bedrock menawarkan playground yang memungkinkan Anda untuk bereksperimen dengan berbagai FM menggunakan antarmuka obrolan percakapan. Anda dapat memberikan prompt dan menggunakan antarmuka web di dalam konsol untuk memberikan prompt dan menggunakan model yang telah dilatih sebelumnya guna menghasilkan teks atau gambar, atau menggunakan model yang disempurnakan yang telah disesuaikan dengan kasus penggunaan Anda.

    Anda dapat dengan mudah menyempurnakan FM di Amazon Bedrock menggunakan data yang ditandai atau dengan menggunakan fitur prapelatihan lanjutan untuk menyesuaikan model menggunakan data yang tidak ditandai. Untuk memulai, berikan set data pelatihan dan validasi, konfigurasikan hyperparameter (epoch, ukuran batch, tingkat pembelajaran, langkah-langkah pemanasan), lalu kirimkan tugas. Dalam beberapa jam, model Anda yang telah disempurnakan dapat diakses dengan API yang sama (InvokeModel).

    Ya, Anda dapat melatih model tertentu yang tersedia untuk umum dan mengimpornya ke Amazon Bedrock menggunakan fitur Impor Model Kustom. Saat ini, fitur ini hanya mendukung arsitektur Llama 2/3, Mistral, dan Flan. Untuk informasi tambahan, lihat dokumentasi.

    Tersedia dalam pratinjau publik, inferensi latensi yang dioptimalkan di Amazon Bedrock menawarkan pengurangan latensi tanpa mengorbankan akurasi. Seperti yang diverifikasi oleh Anthropic, dengan inferensi yang dioptimalkan latensi di Amazon Bedrock, Claude 3.5 Haiku berjalan lebih cepat di AWS dibandingkan di tempat lain. Selain itu, dengan inferensi latensi yang dioptimalkan di Bedrock, Llama 3.1 70B dan 405B berjalan lebih cepat di AWS dibandingkan penyedia cloud besar lainnya. Menggunakan cip AI yang dibuat khusus, seperti AWS Trainium2 dan optimisasi perangkat lunak lanjutan di Amazon Bedrock, pelanggan dapat mengakses lebih banyak opsi guna mengoptimalkan inferensi mereka untuk kasus penggunaan tertentu.

    Fitur Utama:

    • Mengurangi waktu respons untuk interaksi model fondasi

    • Mempertahankan akurasi sekaligus meningkatkan kecepatan

    • Tidak memerlukan pengaturan tambahan atau penyempurnaan model

    Model yang Didukung: Claude 3.5 Haiku dari Anthropic dan model Llama 3.1 405B dan 70B dari Meta

    Ketersediaan: Region AS Timur (Ohio) melalui inferensi lintas wilayah

    Untuk memulai, kunjungi Konsol Amazon Bedrock. Untuk informasi selengkapnya, kunjungi dokumentasi Amazon Bedrock.

    Mengakses inferensi yang dioptimalkan untuk latensi rendah di Amazon Bedrock tidak memerlukan pengaturan tambahan atau penyempurnaan model sehingga memungkinkan aplikasi AI generatif yang sudah ada untuk langsung ditingkatkan dengan waktu respons yang lebih cepat. Anda dapat mengaktifkan parameter "Latency optimized" saat menginvokasi API inferensi Bedrock.

    Untuk memulai, kunjungi konsol Amazon Bedrock. Untuk informasi selengkapnya, kunjungi dokumentasi Amazon Bedrock.

Agen

Buka semua

    Agen Amazon Bedrock adalah kemampuan terkelola penuh yang mempermudah developer untuk membuat aplikasi berbasis AI generatif yang dapat menyelesaikan tugas kompleks untuk berbagai kasus penggunaan dan memberikan jawaban terkini berdasarkan sumber pengetahuan eksklusif. Hanya dalam beberapa langkah singkat, Agen Amazon Bedrock membagi tugas dan membuat rencana orkestrasi secara otomatis–tanpa pengodean manual apa pun. Agen yang dibuat di Bedrock dapat terhubung ke data perusahaan secara aman melalui API, yang secara otomatis mengonversi data ke dalam format yang dapat dibaca oleh mesin, dan menambahkan informasi yang relevan pada permintaan untuk menghasilkan respons yang paling akurat. Agen kemudian juga dapat memanggil API untuk memenuhi permintaan pengguna secara otomatis. Sebagai kemampuan yang terkelola penuh, Agen Amazon Bedrock menghapus pekerjaan berat yang tidak terdiferensiasi untuk pengelolaan integrasi sistem dan penyediaan infrastruktur, sehingga memungkinkan developer menggunakan AI generatif sepenuhnya di seluruh organisasi mereka.

    AgentCore memungkinkan developer untuk mempercepat peralihan agen AI ke tahap produksi dengan skalabilitas, keandalan, dan keamanan yang dibutuhkan untuk deployment di dunia nyata. AgentCore menyediakan alat dan kemampuan untuk membuat agen lebih efektif dan mumpuni, infrastruktur yang dibangun khusus untuk meningkatkan skala agen secara aman, dan kontrol untuk mengoperasikan agen yang dapat dipercaya. Kemampuan AgentCore dapat disusun dan bekerja dengan kerangka kerja sumber terbuka populer dan model apa pun, sehingga Anda tidak perlu memilih antara fleksibilitas sumber terbuka dan keamanan serta keandalan tingkat korporasi. Untuk mempelajari selengkapnya, kunjungi Amazon Bedrock AgentCore.

    AgentCore dirancang untuk organisasi yang ingin memindahkan agen AI dari bukti konsep yang dibangun menggunakan kerangka kerja sumber terbuka atau agen khusus ke produksi. Platform ini melayani developer dan korporasi yang membutuhkan infrastruktur yang kuat untuk mendukung jalur eksekusi dinamis saat runtime, kontrol untuk memantau perilaku, alat canggih untuk meningkatkan agen, dan fleksibilitas untuk beradaptasi seiring perkembangan lanskap.

    AgentCore mencakup layanan dan alat yang menawarkan kemampuan unik. Kemampuan ini mencakup:

    Runtime: Runtime nirserver yang aman dan dibuat khusus untuk melakukan deployment dan menskalakan alat dan agen AI dinamis.

    Memori: Memudahkan developer untuk membangun agen yang dapat memahami konteks dengan menghilangkan manajemen infrastruktur memori yang kompleks sekaligus memberikan kontrol penuh atas informasi apa saja yang disimpan oleh agen AI.

    Gateway: Menyediakan cara aman bagi agen untuk menemukan dan menggunakan alat beserta transformasi API yang mudah, fungsi Lambda, dan layanan yang ada menjadi alat yang kompatibel dengan agen.

    Alat browser: Menyediakan runtime browser berbasis cloud yang cepat dan aman yang memungkinkan agen AI berinteraksi dengan situs web dalam skala besar.

    Interpreter Kode: Memungkinkan agen AI untuk menulis dan menjalankan kode dengan aman di lingkungan sandbox, sehingga meningkatkan akurasi dan memperluas kemampuannya dalam menyelesaikan tugas end-to-end yang kompleks.

    Identitas: Memungkinkan agen AI mengakses layanan AWS dan alat pihak ketiga dengan aman atas nama pengguna atau secara mandiri dengan praotorisasi.

    Observabilitas: Memberi developer visibilitas penuh ke dalam alur kerja agen untuk melacak, men-debug, dan memantau performa agen AI di lingkungan produksi. Dengan dukungan untuk telemetri yang kompatibel dengan OpenTelemetry dan visualisasi terperinci dari setiap langkah alur kerja agen, AgentCore memungkinkan developer untuk dengan mudah mendapatkan visibilitas ke dalam perilaku agen dan mempertahankan standar kualitas dalam skala besar.

    AgentCore bekerja dengan kerangka kerja agen sumber terbuka apa pun termasuk kerangka kerja sumber terbuka populer seperti CrewAI, LangGraph, Strands Agents, dan kerangka kerja khusus.

    Jika sekarang Anda menggunakan Agen Amazon Bedrock, Anda dapat terus menggunakannya. Namun, jika Anda memerlukan fungsionalitas tambahan seperti kemampuan untuk dapat menggunakan kerangka kerja pembuat agen (seperti Strands Agents, Crew AI, LangGraph, LangChain, atau LlamaIndex) dan menggunakan model apa pun bersama dengan kontrol terperinci pada identitas, memori, dan observabilitas, kami sarankan agar Anda menggunakan AgentCore. AgentCore juga menyediakan alat dan infrastruktur yang lebih canggih untuk menjalankan agen dalam skala besar. Fitur ini termasuk manajemen identitas, memori jangka panjang yang dapat disesuaikan, alat interpreter kode yang lebih andal, alat browser bawaan, observabilitas, dukungan native untuk Protokol Konteks Model untuk koneksi ke ribuan alat dan runtime dengan waktu eksekusi terdepan di industri, ukuran payload, dan isolasi sesi yang sepenunya terjaga. Untuk membantu pelanggan memanfaatkan peningkatan ini, kami akan memberikan opsi untuk secara mudah mengekspor konfigurasi Agen Bedrock yang ada sebagai kode yang kompatibel dengan Strands (untuk orkestrasi) dan AgentCore (untuk deployment tingkat produksi dan banyak lagi).

Keamanan

Buka semua

    Setiap konten pelanggan yang diproses oleh Amazon Bedrock dienkripsi dan disimpan saat diam di AWS Region tempat Anda menggunakan Amazon Bedrock.

    Tidak. Input pengguna dan output model tidak dibagikan dengan penyedia model mana pun.

    Amazon Bedrock menawarkan beberapa kemampuan untuk mendukung kebutuhan keamanan dan privasi. Amazon Bedrock termasuk dalam cakupan standar kepatuhan umum, seperti Fedramp Moderate, Service and Organization Control (SOC), International Organization for Standardization (ISO), Health Insurance Portability and Accountability Act (HIPAA) yang memenuhi syarat, dan pelanggan dapat menggunakan Bedrock sesuai dengan Peraturan Perlindungan Data Umum (GDPR). Amazon Bedrock termasuk dalam cakupan laporan SOC 1, 2, 3 sehingga memungkinkan pelanggan mendapatkan wawasan tentang kontrol keamanan kami. Kami menunjukkan kepatuhan melalui audit pihak ketiga yang ekstensif terhadap kontrol AWS kami. Amazon Bedrock adalah salah satu layanan AWS di bawah Kepatuhan ISO untuk standar ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301, dan ISO 20000. Amazon Bedrock bersertifikasi CSA Security Trust Assurance and Risk (STAR) Level 2, yang memvalidasi penggunaan praktik terbaik dan postur keamanan penawaran cloud AWS. Dengan Amazon Bedrock, konten Anda tidak digunakan untuk meningkatkan model dasar dan tidak dibagikan dengan penyedia model mana pun. Anda dapat menggunakan AWS PrivateLink untuk membangun konektivitas privat dari Amazon VPC Anda ke Amazon Bedrock, tanpa harus mengekspos data Anda ke lalu lintas internet.

    Tidak, AWS dan penyedia model pihak ketiga tidak akan menggunakan input atau output apa pun dari Amazon Bedrock untuk melatih Amazon Nova, Amazon Titan, atau model pihak ketiga.

    Amazon Bedrock mendukung SDK untuk layanan runtime. SDK iOS dan Android, serta Java, JS, Python, CLI, .Net, Ruby, PHP, Go, dan C++ mendukung input teks dan ucapan.

    Streaming didukung di semua SDK.

Penagihan dan dukungan

Buka semua

    Tergantung pada kontrak Dukungan AWS Anda, Amazon Bedrock didukung dalam rencana Dukungan Developer, Dukungan Bisnis, dan Dukungan Korporasi.

    Anda dapat menggunakan metrik CloudWatch untuk melacak token input dan output.

    Pelanggan akan melihat tagihan AWS Marketplace untuk model nirserver Bedrock dan model Bedrock Marketplace tertentu. Hal ini karena model ini dijual oleh penyedia pihak ketiga sebagai "Konten Pihak Ketiga", seperti yang dijelaskan pada ketentuan layanan AWS bagian 50.12.

Kustomisasi

Buka semua

    Dengan Amazon Bedrock, Anda dapat menyesuaikan FM secara privat, dengan mempertahankan kontrol atas cara data Anda digunakan dan dienkripsi. Amazon Bedrock membuat salinan terpisah dari FM dan melatih salinan privat model ini. Data Anda mencakup prompt, informasi yang digunakan untuk melengkapi prompt, dan respons FM. FM yang disesuaikan tetap berada di Region tempat panggilan API diproses.

    Saat Anda menyempurnakan model, data Anda tidak pernah terekspos ke internet publik, tidak pernah meninggalkan jaringan AWS, ditransfer dengan aman melalui VPC Anda, dan dienkripsi saat bergerak dan saat diam. Amazon Bedrock juga memberlakukan kontrol akses AWS yang sama dengan yang Anda miliki dengan layanan kami yang lain.

    Kami meluncurkan prapelatihan lanjutan untuk model Amazon Titan Text Express dan Amazon Titan di Amazon Bedrock. Prapelatihan lanjutan memungkinkan Anda melanjutkan prapelatihan pada model dasar Amazon Titan menggunakan sejumlah besar data tanpa label. Tipe pelatihan ini akan mengadaptasi model dari korpus domain umum ke korpus domain yang lebih spesifik seperti medis, hukum, keuangan, dan lain-lain, sekaligus tetap mempertahankan sebagian besar kemampuan model dasar Amazon Titan. 

    Korporasi mungkin ingin membuat model untuk tugas di domain tertentu. Model dasar mungkin tidak dilatih terkait jargon teknis yang digunakan dalam domain spesifik tersebut. Oleh karena itu, menyempurnakan model dasar secara langsung akan memerlukan catatan pelatihan berlabel dalam jumlah besar dan durasi pelatihan yang lama untuk mendapatkan hasil yang akurat. Untuk meringankan beban ini, pelanggan dapat memberikan data tanpa label dalam jumlah besar untuk tugas prapelatihan lanjutan. Tugas ini akan mengadaptasi model dasar Amazon Titan ke domain baru. Kemudian pelanggan dapat menyempurnakan model kustom yang baru dilatih sebelumnya untuk tugas hilir menggunakan catatan pelatihan berlabel yang jauh lebih sedikit dan durasi pelatihan yang lebih singkat. 

    Prapelatihan lanjutan dan penyempurnaan Amazon Bedrock memiliki banyak kesamaan dalam persyaratannya. Untuk alasan ini, kami memilih untuk membuat API terpadu yang mendukung prapelatihan lanjutan dan penyempurnaan. Penyatuan API mempermudah proses belajar dan akan membantu pelanggan menggunakan fitur standar seperti Amazon EventBridge untuk melacak tugas yang berjalan lama, integrasi Amazon S3 untuk mengambil data pelatihan, tag sumber daya, dan enkripsi model. 

    Prapelatihan lanjutan membantu Anda dengan mudah mengadaptasi model Amazon Titan ke data spesifik domain Anda sambil tetap mempertahankan fungsionalitas dasar model Amazon Titan. Untuk membuat pekerjaan prapelatihan lanjutan, navigasikan ke konsol Amazon Bedrock dan klik "Model Kustom." Anda akan diarahkan ke halaman model kustom yang memiliki dua tab: Model dan Tugas pelatihan. Kedua tab menyediakan menu drop-down “Kustomisasi Model” di sebelah kanan. Pilih “Prapelatihan Lanjutan” dari menu drop-down untuk menavigasi ke “Buat Tugas Prapelatihan Lanjutan.“ Anda akan memberikan model sumber, nama, enkripsi model, data input, hyper-parameter, dan data output. Selain itu, Anda dapat memberikan tag beserta detail tentang peran AWS Identity and Access Management (IAM) dan kebijakan sumber daya untuk tugas tersebut.

    Kami menyarankan Anda menggunakan Amazon Bedrock untuk penyempurnaan model saat Anda:

    • Adalah pembuat aplikasi AI generatif yang menginginkan pendekatan berbasis API terkelola, lebih sedikit hyperparameter, dan abstraksi kompleksitas yang terkait dengan pelatihan model.
    • Membutuhkan overhead infrastruktur minimal, memiliki sedikit atau tidak ada investasi infrastruktur ML yang ada untuk dipertimbangkan, dan ingin melakukan deployment dengan cepat dengan cara nirserver.

    Kami menyarankan Anda menggunakan Amazon SageMaker AI untuk penyempurnaan model saat Anda:

    • Adalah ilmuwan data, rekayasawan ML, atau developer model AI yang menginginkan akses ke teknik penyesuaian lanjutan seperti distilasi pengetahuan, penyempurnaan yang diawasi, atau pengoptimalan preferensi langsung, untuk bobot penuh dan penyempurnaan efisiensi parameter. SageMaker AI juga menyediakan kemampuan untuk menyesuaikan resep pelatihan dan arsitektur model Anda.
    • Telah menetapkan alur kerja ML dan investasi infrastruktur yang bertujuan untuk memiliki kontrol yang lebih besar atas infrastruktur dan biaya.
    • Ingin fleksibilitas yang lebih besar untuk membawa pustaka dan kerangka kerja Anda sendiri untuk mengoptimalkan alur kerja pelatihan terhadap akurasi dan performa yang lebih baik.

Amazon Titan

Buka semua

    Tersedia secara eksklusif di Amazon Bedrock, rangkaian model Amazon Titan menggabungkan 25 tahun pengalaman Amazon dalam berinovasi dengan AI dan machine learning di berbagai lini bisnisnya. FM Amazon Titan memberi berbagai pilihan gambar, multimodal, dan model teks beperforma tinggi kepada pelanggan, melalui API terkelola penuh. Model Amazon Titan dibuat oleh AWS dan dilatih sebelumnya pada set data besar, yang menjadikannya model tujuan umum yang kuat dan dibangun untuk mendukung berbagai kasus penggunaan, sekaligus mendukung penggunaan AI yang bertanggung jawab. Gunakan langsung atau sesuaikan secara privat dengan data Anda sendiri. Pelajari selengkapnya tentang Amazon Titan.

Basis Pengetahuan/RAG

Buka semua

    Anda dapat menyerap konten dari berbagai sumber, termasuk web, Amazon Simple Storage Service (Amazon S3), Confluence (pratinjau), Salesforce (pratinjau), dan SharePoint (pratinjau). Anda juga dapat menyerap data streaming atau data dari sumber yang tidak didukung secara terprogram. Anda juga dapat terhubung ke sumber data terstruktur seperti gudang data Redshift dan katalog data AWS Glue.

    Basis Pengetahuan Amazon Bedrock menyediakan Bahasa Alami terkelola ke SQL untuk mengonversi bahasa alami menjadi kueri SQL yang dapat ditindaklanjuti dan mengambil data sehingga Anda dapat membangun aplikasi menggunakan data dari sumber-sumber ini.

    Ya, manajemen konteks sesi sudah terpasang sehingga memungkinkan aplikasi Anda mempertahankan konteks di berbagai interaksi, yang penting untuk mendukung percakapan multiputaran.

    Ya, semua informasi yang diambil termasuk kutipan, yang meningkatkan transparansi dan meminimalkan risiko halusinasi dalam respons yang dihasilkan.

    Basis Pengetahuan Amazon Bedrock mendukung pemrosesan data multimodal, yang memungkinkan developer membangun aplikasi AI generatif yang menganalisis data teks dan visual, termasuk gambar, bagan, diagram, serta tabel. Respons model dapat memanfaatkan wawasan dari elemen visual selain teks, yang memberikan jawaban yang lebih akurat dan relevan secara kontekstual. Selain itu, atribusi sumber untuk respons mencakup elemen visual, yang meningkatkan transparansi dan kepercayaan dalam respons.

    Basis Pengetahuan Amazon Bedrock dapat memproses dokumen yang kaya visual dalam format PDF, yang mungkin berisi gambar, tabel, bagan, dan diagram. Untuk data khusus gambar, Basis Pengetahuan Bedrock mendukung format gambar standar seperti JPEG dan PNG, yang memungkinkan kemampuan pencarian saat pengguna dapat mengambil gambar yang relevan berdasarkan kueri berbasis teks.

    Pelanggan memiliki tiga opsi penguraian untuk Basis Pengetahuan Bedrock. Untuk pemrosesan khusus teks, pengurai Bedrock default bawaan tersedia tanpa biaya tambahan sehingga ideal untuk kasus yang tidak memerlukan pemrosesan data multimodal. Otomatisasi Data Amazon Bedrock (BDA) atau model fondasi dapat digunakan untuk mengurai data multimodal. Untuk informasi selengkapnya, lihat dokumentasi produk

    Basis Pengetahuan Amazon Bedrock menangani berbagai kompleksitas alur kerja, seperti perbandingan konten, penanganan kegagalan, kontrol throughput, dan enkripsi, yang memastikan bahwa data Anda diproses dan dikelola dengan aman sesuai standar keamanan AWS yang ketat.

Evaluasi model

Buka semua

    Evaluasi Model di Amazon Bedrock memungkinkan Anda mengevaluasi, membandingkan, dan memilih FM terbaik untuk kasus penggunaan Anda hanya dalam beberapa langkah. Amazon Bedrock menawarkan pilihan evaluasi otomatis dan evaluasi manusia. Anda dapat menggunakan evaluasi otomatis dengan metrik yang telah ditentukan sebelumnya seperti akurasi, ketahanan, dan toksisitas. Anda dapat menggunakan alur kerja evaluasi manusia untuk metrik subjektif atau khusus seperti keramahan, gaya, dan keselarasan dengan gaya komunikasi merek. Untuk evaluasi manusia, Anda dapat menggunakan karyawan internal atau tim yang dikelola AWS sebagai peninjau. Evaluasi Model di Amazon Bedrock menyediakan set data bawaan yang dikurasi atau Anda dapat membawa set data Anda sendiri.

    Anda dapat mengevaluasi berbagai metrik yang telah ditentukan sebelumnya seperti akurasi, ketahanan, dan toksisitas menggunakan evaluasi otomatis. Anda juga dapat menggunakan alur kerja evaluasi manusia untuk metrik subjektif atau khusus, seperti keramahan, relevansi, gaya, dan keselarasan dengan suara merek.

    Evaluasi otomatis memungkinkan Anda mempersempit daftar FM yang tersedia dengan cepat berdasarkan kriteria standar (seperti akurasi, toksisitas, dan ketahanan). Evaluasi berbasis manusia sering kali digunakan untuk mengevaluasi kriteria yang lebih bernuansa atau subjektif yang memerlukan penilaian manusia dan ketika evaluasi otomatis mungkin tidak ada (seperti gaya komunikasi merek, niat kreatif, keramahan).

    Anda dapat dengan cepat mengevaluasi model Amazon Bedrock untuk metrik, seperti akurasi, ketahanan, dan toksisitas menggunakan set data bawaan yang dikurasi, atau dengan membawa set data prompt Anda sendiri. Setelah set data prompt Anda dikirim ke model Amazon Bedrock untuk inferensi, respons model diberi skor menggunakan algoritma evaluasi untuk setiap dimensi. Mesin backend mengagregasi skor respons dari setiap prompt menjadi skor ringkasan, lalu menyajikannya dalam laporan visual yang mudah dipahami.

    Amazon Bedrock memungkinkan Anda mengatur alur kerja tinjauan manusia dengan beberapa langkah dan melibatkan karyawan internal Anda, atau menggunakan tim ahli yang dikelola AWS, untuk mengevaluasi model. Melalui antarmuka intuitif Amazon Bedrock, manusia dapat meninjau dan memberikan umpan balik terhadap respons model dengan mengklik jempol ke atas atau bawah, memberi peringkat pada skala 1–5, memilih yang terbaik dari beberapa respons, atau memberi peringkat pada prompt. Misalnya, anggota tim dapat melihat bagaimana dua model merespons prompt yang sama, lalu diminta untuk memilih model yang memperlihatkan output yang lebih akurat, relevan, atau bergaya. Kriteria evaluasi yang penting bagi Anda dapat ditentukan dengan menyesuaikan instruksi dan tombol yang akan muncul di UI evaluasi untuk tim Anda. Anda juga dapat memberikan instruksi mendetail dengan contoh dan sasaran evaluasi model secara keseluruhan sehingga pengguna dapat menyelaraskan pekerjaannya. Metode ini berguna untuk mengevaluasi kriteria subjektif yang memerlukan penilaian manusia, atau keahlian bidang studi yang lebih kompleks dan kontekstual, dan yang tidak dapat dengan mudah dinilai dengan evaluasi otomatis.

Batasan pengaman

Buka semua

    Batasan Pengaman Amazon Bedrock menyediakan perlindungan yang dapat dikonfigurasi untuk membantu membangun aplikasi AI generatif dengan aman dalam skala besar. Dengan pendekatan standar yang konsisten dan digunakan di berbagai model fondasi (FM) termasuk FM yang didukung di Amazon Bedrock, model yang disempurnakan, dan model yang di-hosting di luar Amazon Bedrock, Batasan Pengaman memberikan perlindungan keamanan terdepan di industri untuk aplikasi AI generatif Anda.

    Batasan Pengaman Amazon Bedrock menawarkan enam perlindungan untuk membantu Anda membangun aplikasi AI generatif yang aman. Berikut adalah perlindungan yang ditawarkan oleh Batasan Pengaman Bedrock.

    • Filter konten multimodal – Konfigurasikan ambang batas untuk membantu mendeteksi dan memfilter teks dan/atau konten gambar berbahaya di beberapa kategori termasuk ujaran kebencian, hinaan, konten seksual, kekerasan, perilaku tidak pantas, dan serangan prompt.

    • Topik yang ditolak – Tentukan serangkaian topik yang tidak diinginkan dalam konteks aplikasi Anda. Filter akan membantu memblokirnya jika terdeteksi dalam kueri pengguna atau respons model.

    • Filter kata – Konfigurasikan filter untuk membantu memblokir kata-kata, frasa, dan ujaran kasar yang tidak diinginkan (kecocokan tepat). Kata-kata tersebut dapat mencakup istilah ofensif, nama pesaing, dll.

    • Filter informasi sensitif – Konfigurasikan filter untuk membantu memblokir atau mengaburkan informasi sensitif, seperti informasi pengenal pribadi (PII), atau regex khusus dalam input pengguna dan respons model. Pemblokiran atau penutupan dilakukan berdasarkan deteksi probabilistik informasi sensitif dalam format standar dalam entitas seperti nomor SSN, Tanggal Lahir, alamat, dll. Filter ini juga memungkinkan konfigurasi deteksi pola berbasis ekspresi reguler untuk pengidentifikasi.

    • Pemeriksaan kesesuaian konteks– membantu mendeteksi dan memfilter halusinasi jika respons tidak didasarkan pada informasi sumber (misalnya, tidak akurat secara faktual atau informasi baru) dan tidak relevan dengan kueri atau instruksi pengguna.

    • Pemeriksaan Penalaran Otomatis– Membantu mendeteksi ketidakakuratan faktual dalam konten yang dihasilkan, menyarankan koreksi, dan menjelaskan alasan respons dinilai akurat dengan memeriksa representasi pengetahuan yang terstruktur dan matematis yang disebut Kebijakan Penalaran Otomatis.

    Batasan Pengaman Bedrock Guardrails mendukung konten teks dan gambar untuk memungkinkan pelanggan membangun aplikasi AI generatif yang aman dalam skala besar.

    Batasan Pengaman Amazon Bedrock dapat berfungsi dengan berbagai model, termasuk FM yang didukung di Amazon Bedrock, model yang disempurnakan, serta model yang di-hosting sendiri di luar Amazon Bedrock. Input pengguna dan output model dapat dievaluasi secara terpisah untuk model pihak ketiga dan model yang di-hosting sendiri menggunakan API ApplyGuardrail. Batasan Pengaman Amazon Bedrock juga dapat diintegrasikan dengan Agen Amazon Bedrock dan Basis Pengetahuan Amazon Bedrock untuk membangun aplikasi AI generatif yang aman dan terlindungi yang selaras dengan kebijakan AI yang bertanggung jawab

    Batasan Pengaman Bedrock menyediakan tingkatan perlindungan untuk filter konten dan topik yang ditolak dengan karakteristik performa yang berbeda dan dukungan bahasa yang lebih luas untuk berbagai kebutuhan aplikasi dan kasus penggunaan. Ada dua tingkatan Batasan Pengaman Bedrock: Tingkat standar yang memberikan performa yang kuat dengan dukungan bahasa yang komprehensif. Tingkat ini mengharuskan memilih inferensi lintas region. Tingkat klasik menawarkan fungsionalitas yang sudah terbukti dan dukungan bahasa yang terbatas, yaitu 3 bahasa. Lihat panduan pengguna untuk detail selengkapnya.

    Dukungan bahasa oleh Batasan Pengaman Amazon Bedrock bergantung pada filter dan tingkat yang digunakan. Lihat panduan pengguna untuk mengetahui detail tentang bahasa yang didukung setiap filter dan tingkat. Bahasa yang tidak didukung di tingkat klasik atau standar akan memberikan hasil yang tidak efektif.

    Batasan Pengaman Amazon Bedrock mendeteksi dan melindungi dari jenis serangan manipulasi prompt berikut.

    • Jailbreak - Di sini, prompt pengguna yang dirancang untuk melewati mekanisme keamanan dan moderasi native pada model fondasi, dengan tujuan menghasilkan konten berbahaya atau tidak diinginkan akan terdeteksi.
    • Injeksi Prompt - Di sini, prompt pengguna yang dirancang untuk mengabaikan dan menimpa instruksi yang ditetapkan oleh developer akan terdeteksi.
    • Kebocoran prompt (hanya tingkat standar) - Di sini, prompt pengguna yang dirancang untuk mengekstraksi atau mengungkapkan prompt sistem, instruksi developer, atau detail konfigurasi rahasia lainnya terdeteksi.

    Lihat di sini untuk detail tentang bagaimana Batasan Pengaman melindungi dari serangan manipulasi prompt.

    Batasan Pengaman Amazon Bedrock menawarkan perlindungan terhadap elemen kode berisiko termasuk prompt pengguna, kode, komentar, nama variabel dan fungsi, dan string literal. Filter konten (dengan tingkat standar) di Batasan Pengaman Bedrock kini mendeteksi dan memfilter kode yang mengandung konten berbahaya dengan cara yang sama seperti perlindungan konten teks dan gambar. Selain itu, Batasan Pengaman Bedrock menawarkan perlindungan yang ditingkatkan dengan deteksi kebocoran prompt dengan tingkat standar, membantu mendeteksi dan mencegah pengungkapan informasi yang tidak diinginkan dari prompt sistem dalam respons model yang dapat membahayakan kekayaan intelektual. Selain itu, topik yang ditolak (dengan tingkat standar) dan filter informasi sensitif dengan Batasan Pengaman Bedrock kini membantu melindungi terhadap kerentanan menggunakan kode dalam topik dan membantu mencegah penyertaan PII dalam struktur kode.

    Batasan Pengaman Amazon Bedrock memberikan kemampuan untuk membuat batasan pengaman wajib untuk setiap panggilan inferensi menggunakan kemampuan penegakan berbasis kebijakan IAM. Lihat di sini untuk detailnya. 

    AWS menawarkan ganti rugi kekayaan intelektual (IP) tanpa batas untuk klaim hak cipta yang timbul dari output generatif dari layanan AI generatif Amazon berikut yang tersedia secara umum: model Amazon, dan layanan lain yang tercantum dalam Bagian 50.10 dari Ketentuan Layanan (“Ganti Rugi Layanan AI Generatif”). Artinya, pelanggan dilindungi dari klaim pihak ketiga yang menuduh adanya pelanggaran hak cipta atas output yang dihasilkan oleh Layanan AI Generatif yang Diberi Ganti Rugi sebagai respons terhadap input atau data lain yang diberikan oleh pelanggan. Pelanggan juga harus menggunakan layanan secara bertanggung jawab, misalnya tidak memasukkan data yang melanggar atau menonaktifkan fitur pemfilteran layanan.

    Biaya Batasan Pengaman Amazon Bedrock dibebankan dengan model per penggunaan untuk konten teks dan gambar. Silakan lihat halaman harga Batasan Pengaman untuk detail harga.

    Ya, API Batasan Pengaman Amazon Bedrock membantu pelanggan menjalankan pengujian otomatis. “Test case builder” mungkin sesuatu yang ingin Anda gunakan sebelum melakukan deployment batasan pengaman dalam produksi. Belum ada test case builder native. Untuk pemantauan lalu lintas produksi yang berkelanjutan, batasan pengaman menyediakan log mendetail dari semua pelanggaran terhadap setiap input dan output sehingga pelanggan dapat memantau secara terperinci setiap input yang masuk dan keluar dari aplikasi gen AI mereka. Log ini dapat disimpan di Amazon CloudWatch atau S3 dan dapat digunakan untuk membuat dasbor khusus berdasarkan kebutuhan pelanggan.

    Dengan menggunakan Kebijakan Penalaran Otomatis, pemeriksaan Penalaran Otomatis dapat menunjukkan klaim yang akurat dan ketidakakuratan faktual dalam konten. Untuk pernyataan yang akurat dan tidak akurat, pemeriksaan Penalaran Otomatis memberikan penjelasan logis yang dapat diverifikasi untuk output-nya. Pemeriksaan Penalaran Otomatis memerlukan keterlibatan ahli domain sejak tahap awal untuk membuat Kebijakan dan hanya mendukung konten yang menentukan aturan. Di sisi lain, pemeriksaan Kesesuaian Kontekstual di Batasan Pengaman Bedrock menggunakan teknik machine learning untuk memastikan konten yang dihasilkan selaras dengan dokumen yang disediakan sebagai input dari basis pengetahuan, tanpa memerlukan pekerjaan tambahan di awal. Pemeriksaan Penalaran Otomatis dan Penyesuaian Konteks memberikan umpan balik dalam output API Batasan Pengaman. Anda dapat menggunakan umpan balik untuk memperbarui konten yang dihasilkan.

    Format gambar PNG dan JPEG didukung dengan Batasan Pengaman Bedrock.

    Kami menggunakan teknik verifikasi formal Penalaran Otomatis bersama LLM untuk mengidentifikasi hingga 99% pernyataan yang valid. Umpan balik pemeriksaan Penalaran Otomatis pada konten menunjukkan ambiguitas dan menyarankan koreksi atas jawaban yang salah atau tidak lengkap. Umpan balik memudahkan untuk menulis ulang jawaban sampai dinilai valid.

Marketplace

Buka semua

    Amazon Bedrock Marketplace memberi pelanggan lebih dari 100 model populer, baru, atau khusus, selain dari FM nirserver Amazon Bedrock sehingga pelanggan dapat membangun dan mengoptimalkan aplikasi AI generatif mereka dengan mudah. Dalam konsol Amazon Bedrock, pelanggan akan dapat menemukan katalog luas FM yang ditawarkan oleh berbagai penyedia. Anda kemudian dapat melakukan deployment model tersebut ke titik akhir yang terkelola penuh, tempat Anda dapat memilih jumlah instans dan tipe instans yang diinginkan. Setelah di-deploy, model dapat diakses melalui API Invokasi Amazon Bedrock. Untuk model teks ke teks yang disempurnakan untuk percakapan, pelanggan dapat menggunakan API Converse baru kami, sebuah API terpadu yang mengabstraksi perbedaan FM dan memungkinkan penggantian model hanya dengan perubahan satu parameter. Jika berlaku, model-model tersebut dapat digunakan dengan Playground, Agen, Basis Pengetahuan, Manajemen Prompt, Alur Prompt, Batasan Pengaman, dan Evaluasi Model Amazon Bedrock.

    Anda harus menggunakan Amazon Bedrock Marketplace untuk mendapatkan manfaat dari model kuat yang muncul dengan cepat seiring dengan terus berlanjutnya inovasi di industri AI generatif. Anda dapat mengakses dan melakukan deployment model populer, baru, dan khusus yang disesuaikan dengan kebutuhan unik Anda dengan cepat, yang dapat mempercepat waktu masuk pasar, meningkatkan akurasi, atau mengurangi biaya alur kerja AI generatif. Anda dapat mengakses model tersebut melalui API terpadu Bedrock dan, jika kompatibel dengan API Converse dari Bedrock, menggunakannya secara native dengan alat Bedrock seperti Agen, Basis Pengetahuan, dan Batasan Pengaman. Anda dapat menghubungkan Amazon Bedrock Marketplace ke model nirserver Amazon Bedrock dengan mudah, semuanya dari satu tempat.
     

    Cukup navigasikan ke halaman Katalog Model Amazon Bedrock di konsol Bedrock tempat Anda dapat mencari daftar model Amazon Bedrock Marketplace bersama dengan model Amazon Bedrock nirserver. Setelah memilih model Amazon Bedrock Marketplace yang ingin digunakan, Anda dapat berlangganan model melalui halaman Detail Model, dengan menerima EULA dan harga yang ditetapkan oleh penyedia. Setelah langganan selesai, yang biasanya memerlukan waktu beberapa menit, Anda dapat melakukan deployment model ke titik akhir SageMaker yang terkelola penuh dengan mengklik Deploy di halaman Detail Model atau menggunakan API. Pada langkah deployment, Anda dapat memilih jumlah instans dan tipe instans yang diinginkan untuk memenuhi beban kerja Anda. Setelah titik akhir diatur, yang biasanya memerlukan waktu 10–15 menit, Anda dapat mulai membuat panggilan inferensi ke titik akhir dan menggunakan model di alat canggih Bedrock, asalkan model tersebut kompatibel dengan API Converse dari Bedrock.

    Model dengan arsitektur yang didukung oleh Impor Model Kustom (Mistral, Mixtral, Flan, dan Llama2/3/3.1/3.2) dapat disempurnakan di SageMaker dan disediakan di Amazon Bedrock melalui Impor Model Kustom. Model yang tidak didukung oleh Impor Model Kustom masih dapat disempurnakan di SageMaker. Namun, versi yang disempurnakan dari model ini tidak dapat digunakan di Amazon Bedrock.

Otomatisasi Data

Buka semua

    Apa itu Otomatisasi Data Bedrock? Otomatisasi Data Amazon Bedrock adalah kemampuan Bedrock bertenaga GenAI yang menyederhanakan pengembangan aplikasi AI generatif dan mengotomatiskan alur kerja yang melibatkan dokumen, gambar, audio, dan video. Dengan memanfaatkan Otomatisasi Data Bedrock, developer dapat mengurangi waktu dan upaya pengembangan, sehingga memudahkan dalam membangun pemrosesan dokumen cerdas, analisis media, dan solusi otomatisasi berbasis data multimodal lainnya. Otomatisasi Data Bedrock menawarkan akurasi terdepan di industri dengan biaya yang lebih rendah dibandingkan solusi alternatif, beserta fitur-fitur seperti landasan visual dengan skor kepercayaan untuk keterjelasan dan mitigasi halusinasi bawaan. Layanan ini memastikan wawasan yang tepercaya dan akurat dari sumber data multimodal yang tidak terstruktur. Pelanggan dapat dengan mudah menyesuaikan output Otomatisasi Data Bedrock untuk menghasilkan wawasan spesifik dalam format yang konsisten yang dibutuhkan oleh sistem dan aplikasi mereka. Developer memulai Otomatisasi Data Bedrock di konsol Amazon Bedrock, tempat mereka dapat mengonfigurasi dan menyesuaikan output menggunakan data sampel. Mereka kemudian dapat mengintegrasikan API inferensi multimodal terpadu Otomatisasi Data Bedrock ke dalam aplikasi mereka untuk memproses konten yang tidak terstruktur pada skala produksi dengan akurasi dan konsistensi yang tinggi. Otomatisasi Data Bedrock juga terintegrasi dengan Basis Pengetahuan Bedrock, sehingga memudahkan developer untuk menghasilkan informasi yang bermakna dari konten multimodal yang tidak terstruktur agar dapat memberikan respons yang lebih relevan untuk retrieval augmented generation (RAG).

    Otomatisasi Data Bedrock memudahkan transformasi data korporasi yang tidak terstruktur menjadi format output khusus aplikasi yang dapat digunakan oleh aplikasi AI gen dan alur kerja ETL. Pelanggan tidak perlu lagi menghabiskan waktu dan upaya dalam mengelola dan mengorkestrasi banyak model, prompt rekayasa, menerapkan batasan pengaman keselamatan, atau menyatukan output untuk menyelaraskannya dengan persyaratan sistem hilir. Otomatisasi Data Bedrock menghadirkan pemrosesan data tidak terstruktur yang sangat akurat, konsisten, dan hemat biaya. Otomatisasi Data Bedrock dibangun dengan mempertimbangkan AI yang bertanggung jawab, yang memberi pelanggan beberapa fitur utama seperti landasan visual dan skor kepercayaan, yang memudahkan untuk mengintegrasikan Otomatisasi Data Bedrock dalam alur kerja korporasi.

    Kemampuan Otomatisasi Data Bedrock tersedia melalui API terkelola penuh yang dapat dengan mudah diintegrasikan oleh pelanggan ke dalam aplikasi mereka. Pelanggan tidak perlu khawatir tentang penskalaan sumber daya komputasi yang mendasarinya, pemilihan dan orkestrasi model, atau manajemen prompt untuk FM.

    Cetak biru adalah fitur yang digunakan pelanggan untuk menentukan persyaratan output mereka menggunakan bahasa alami atau editor skema. Fitur tersebut termasuk daftar bidang yang ingin diekstrak, format data untuk setiap bidang, dan instruksi bahasa alami untuk setiap bidang. Misalnya, developer dapat mengetik, “Buat cetak biru untuk faktur dengan bidang berikut: tax, dueDate, ReceiptDate” atau “Pastikan total faktur sesuai dengan jumlah item baris.” Mereka mereferensikan cetak biru sebagai bagian dari panggilan API inferensi sehingga sistem menampilkan informasi dalam format yang dijelaskan dalam cetak biru.

    Dokumen

    Otomatisasi Data Bedrock mendukung output standar dan output kustom untuk dokumen.

    • Output standar akan memberikan ekstraksi teks dari dokumen dan output generatif seperti ringkasan dokumen serta keterangan untuk tabel/gambar/diagram. Output dikembalikan dalam urutan baca dan secara opsional dapat dikelompokkan berdasarkan elemen tata letak, yang akan mencakup header/footer/judul/tabel/gambar/diagram. Output standar akan digunakan untuk integrasi BDA dengan Basis Pengetahuan Bedrock.

    • Output Kustom memanfaatkan cetak biru, yang menentukan persyaratan output menggunakan bahasa alami atau editor skema. Cetak biru mencakup daftar bidang yang akan diekstraksi dan format data untuk setiap bidang.

    Otomatisasi Data Bedrock mendukung PDF, PNG, JPG, TIFF, maksimum 1.500 halaman, dan ukuran maksimum file 500 MB per permintaan API. Secara default, BDA akan mendukung 50 tugas bersamaan dan 10 transaksi per detik per pelanggan.

    Gambar

    Otomatisasi Data Bedrock mendukung output standar maupun output kustom untuk gambar.

    • Output standar akan menyediakan ringkasan, deteksi konten eksplisit, deteksi teks, deteksi logo, dan taksonomi Iklan: IAB untuk gambar. Output standar akan digunakan untuk integrasi BDA dengan Basis Pengetahuan Bedrock.

    • Output Kustom memanfaatkan cetak biru, yang menentukan persyaratan output menggunakan bahasa alami atau editor skema. Cetak biru mencakup daftar bidang yang akan diekstraksi dan format data untuk setiap bidang.

    Otomatisasi Data Bedrock mendukung JPG, PNG, resolusi maksimum 4K, dan ukuran maksimum file 5 MB per permintaan API. Secara default, BDA mendukung konkurensi maksimal 20 gambar pada 10 transaksi per detik (TPS) per pelanggan.

    Video

    Otomatisasi Data Bedrock mendukung kedua output standar untuk video.

    • Output standar akan menyediakan ringkasan video lengkap, segmentasi bagian, ringkasan bagian, transkripsi audio lengkap, identifikasi pembicara, deteksi konten eksplisit, deteksi teks, deteksi logo, dan taksonomi Interactive Advertising Bureau (IAB) untuk video. Ringkasan video lengkap dioptimalkan untuk konten dengan dialog deskriptif seperti gambaran umum produk, pelatihan, siaran berita, dan video dokumenter.

    Otomatisasi Data Bedrock mendukung MOV dan MKV dengan H.264, VP8, VP9, durasi maksimum video 4 jam, dan ukuran maksimum file 2 GB per permintaan API. Secara default, BDA mendukung konkurensi maksimal 20 video pada 10 transaksi per detik (TPS) per pelanggan.

    Audio

    Otomatisasi Data Bedrock mendukung kedua output standar untuk audio.

    • Output standar akan menyediakan ringkasan, termasuk ringkasan bagian, transkripsi lengkap, dan deteksi moderasi konten eksplisit untuk file audio.

    Otomatisasi Data Bedrock mendukung FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, durasi maksimum audio 4 jam, dan ukuran maksimum file 2 GB per permintaan API.

    Otomatisasi Data Amazon Bedrock tersedia di 7 AWS Region, termasuk Region AS Barat (Oregon), AS Timur (Virginia Utara), Eropa (Frankfurt), Eropa (London), Eropa (Irlandia), Asia Pasifik (Mumbai), dan Asia Pasifik (Sydney).

    Otomatisasi Data Amazon Bedrock saat ini mendukung bahasa Inggris. Dukungan bahasa tambahan akan segera hadir pada tahun 2025.

Amazon Bedrock di Studio Terpadu SageMaker

Buka semua

    Amazon Bedrock dapat diakses melalui Konsol Manajemen AWS, API, atau Studio Terpadu Amazon SageMaker. Dalam Studio Terpadu Amazon SageMaker, pengguna dapat dengan cepat membangun dan mengiterasi aplikasi AI generatif menggunakan model fondasi (FM) performa tinggi. Melalui antarmuka yang intuitif, Anda dapat bereksperimen dengan berbagai model, berkolaborasi dalam proyek, dan menyederhanakan akses ke berbagai alat serta sumber daya Bedrock untuk membangun aplikasi AI generatif dengan cepat.

    Untuk mengakses kemampuan Amazon Bedrock dalam Studio Terpadu Amazon SageMaker, developer dan admin mereka harus mengikuti langkah-langkah berikut:

    1. Buat domain baru di Studio Terpadu Amazon SageMaker.

    2. Aktifkan profil proyek pengembangan aplikasi Gen AI.

    3. Akses Amazon Bedrock melalui bagian Playground AI Generatif (Discover) dan Pengembangan Aplikasi AI Generatif (Build), menggunakan kredensial akses masuk tunggal (SSO) perusahaan mereka di Studio Terpadu Amazon SageMaker.

    Meskipun Amazon Bedrock dapat diakses melalui Konsol Manajemen AWS, API, atau Studio Terpadu Amazon SageMaker, kemampuannya dalam Studio Terpadu SageMaker dikembangkan berdasarkan Studio Amazon Bedrock (yang kini tidak lagi tersedia) dengan beberapa peningkatan utama. Saat diakses melalui Studio Terpadu Amazon SageMaker, Amazon Bedrock menyediakan akses ke model AI canggih dari perusahaan terkemuka, alat untuk membuat dan menguji prompt AI, serta kelancaran integrasi dengan Basis Pengetahuan Amazon Bedrock, Batasan Pengaman Amazon Bedrock, Alur Amazon Bedrock, dan Agen Amazon Bedrock. Tim dapat berkolaborasi di sebuah ruang kerja bersama untuk membangun aplikasi AI kustom yang disesuaikan dengan kebutuhan mereka.

    Fitur-fitur baru mencakup hub model untuk perbandingan model AI secara berdampingan, playground yang diperluas dengan dukungan interaksi obrolan, gambar, dan video, serta peningkatan pembuatan Basis Pengetahuan dengan kemampuan perayapan web. Fitur ini memperkenalkan pembuatan Agen untuk aplikasi obrolan yang lebih kompleks dan menyederhanakan berbagi aplikasi serta prompt AI di dalam organisasi. Fitur ini juga menawarkan akses ke kode aplikasi yang mendasarinya dan kemampuan untuk mengekspor aplikasi obrolan sebagai templat CloudFormation. Dengan mengelola detail infrastruktur AWS, fitur ini memungkinkan pengguna dari berbagai tingkat keahlian untuk membuat aplikasi AI dengan lebih efisien sehingga menjadikannya alat yang lebih serbaguna dan kuat daripada pendahulunya.

    IDE Amazon Bedrock telah berganti nama agar lebih merepresentasikan kemampuan inti Amazon Bedrock yang diakses melalui lingkungan terkelola Studio Terpadu Amazon SageMaker.

    Saat mengakses antarmuka Amazon Bedrock melalui Studio Terpadu Amazon SageMaker, tim mendapatkan manfaat dari lingkungan terkelola yang mendukung kolaborasi. Tim dapat membuat proyek, mengundang kolega, dan secara kolaboratif membangun aplikasi AI generatif bersama. Mereka dapat menerima umpan balik dengan cepat tentang prototipe dan berbagi aplikasi dengan siapa pun di Studio Terpadu SageMaker atau dengan pengguna tertentu di domain. Kontrol akses yang kuat dan fitur tata kelola hanya mengotorisasi anggota yang berwenang untuk mengakses sumber daya proyek, seperti data atau aplikasi AI generatif sehingga mendukung privasi dan kepatuhan data, serta dengan demikian mendorong kolaborasi dan berbagi lintas fungsi yang aman. Selain itu, aplikasi AI generatif dapat dibagikan dari builder ke pengguna tertentu di domain Studio Terpadu SageMaker, atau dengan individu tertentu sehingga memungkinkan hak akses, kontrol, dan tata kelola aset yang tepat.

    Meskipun Amazon Bedrock dapat diakses melalui Konsol Manajemen AWS, API, atau Studio Terpadu Amazon SageMaker, integrasi ini menghilangkan hambatan antara data, alat, dan developer dalam proses pengembangan AI generatif. Tim mendapatkan pengalaman pengembangan terpadu dengan mengakses lingkungan dan alat analitik JupyterLab yang sudah dikenal, sekaligus menggabungkan kemampuan AI generatif kuat dari Amazon Bedrock dengan lancar—semuanya dalam ruang kerja yang sama.

    Lingkungan terpadu memungkinkan kolaborasi yang lancar di antara developer dari berbagai tingkat keterampilan di siklus hidup pengembangan - mulai dari persiapan data hingga pengembangan model dan pembangunan aplikasi AI generatif. Tim dapat mengakses alat terintegrasi untuk pembuatan basis pengetahuan, konfigurasi batasan pengaman, dan pengembangan aplikasi AI generatif beperforma tinggi, semuanya dalam kerangka kerja yang aman dan terkelola.

    Dalam Studio Terpadu Amazon SageMaker, developer dapat dengan mudah beralih di antara alat yang berbeda berdasarkan kebutuhan mereka dengan menggabungkan kemampuan analitik, machine learning, dan AI generatif dalam satu ruang kerja. Pendekatan konsolidasi ini mengurangi kompleksitas pengembangan dan mempercepat waktu untuk mendapat nilai pada proyek AI generatif. Dengan membawa Amazon Bedrock ke dalam Studio Terpadu Amazon SageMaker, AWS mengurangi hambatan entri untuk pengembangan AI generatif sekaligus mempertahankan keamanan dan tata kelola kelas korporasi, yang pada akhirnya memungkinkan organisasi untuk lebih cepat dan lebih efektif dengan AI generatif.

    Kemampuan Amazon Bedrock di Studio Terpadu Amazon SageMaker sangat ideal untuk tim korporasi yang memerlukan lingkungan terkelola untuk membangun dan melakukan deployment aplikasi AI generatif secara kolaboratif. Melalui Studio Terpadu Amazon SageMaker, tim dapat mengakses:
     

    • Playground AI Generatif di bagian Discover memungkinkan tim untuk bereksperimen dengan model fondasi (FM), menguji berbagai model dan konfigurasi, membandingkan output model, serta berkolaborasi dalam pembuatan prompt dan aplikasi. Lingkungan ini menyediakan cara yang mudah dan efisien bagi tim untuk mengevaluasi dan memahami kemampuan berbagai model sebelum mengimplementasikannya dalam aplikasi mereka.
       

    • Pengembangan Aplikasi AI Generatif di bagian Build menyediakan alat yang diperlukan tim untuk membuat aplikasi AI generatif yang siap produksi. Tim dapat membuat dan mengelola Basis Pengetahuan, menerapkan Batasan Pengaman untuk AI yang bertanggung jawab, mengembangkan Agen dan Alur, serta berkolaborasi secara aman sekaligus mempertahankan kontrol tata kelola dan kepatuhan. Lingkungan ini sangat berharga bagi organisasi yang memerlukan keamanan kolaborasi dan kelancaran akses ke seluruh kemampuan Amazon Bedrock, sekaligus tetap menjaga standar keamanan dan kepatuhan perusahaan.

    Kemampuan Amazon Bedrock kini tersedia secara umum di Studio Terpadu Amazon SageMaker, dengan menawarkan lingkungan kolaboratif yang tertata, yang memberdayakan developer untuk membuat dan menyesuaikan aplikasi AI generatif dengan cepat. Antarmuka intuitif ini melayani developer dari semua tingkat keahlian, dengan menyediakan akses tanpa batas ke model fondasi (FM) beperforma tinggi di Amazon Bedrock dan alat kustomisasi canggih untuk pengembangan kolaboratif aplikasi AI generatif yang disesuaikan.

    Di Studio Terpadu Amazon SageMaker, Amazon Bedrock terintegrasi secara lancar dengan kemampuan analitik, machine learning (ML), dan AI generatif Amazon SageMaker. Organisasi dapat lebih cepat beralih dari tahap konsep ke produksi dengan membuat prototipe dan bereksperimen menggunakan model fondasi di Amazon Bedrock, lalu dengan mudah beralih ke notebook JupyterLab atau editor kode untuk mengintegrasikan sumber daya ini ke dalam aplikasi dan alur kerja yang lebih luas. Ruang kerja terkonsolidasi ini menyederhanakan kompleksitas sehingga memungkinkan pembuatan prototipe, iterasi, dan deployment yang lebih cepat untuk aplikasi AI generatif yang siap produksi serta bertanggung jawab dan selaras dengan kebutuhan bisnis tertentu.

    Amazon Bedrock di Studio Terpadu SageMaker terikat oleh kuota dan batas akun yang ditentukan untuk platform serta sumber daya Amazon Bedrock yang mendasarinya, seperti model fondasi (FM), Basis Pengetahuan, Agen, Alur, dan Batasan Pengaman.

    Akses ke Amazon Bedrock melalui Studio Terpadu SageMaker tidak dikenakan biaya tambahan, dan pengguna hanya membayar untuk penggunaan sumber daya yang mendasari, yang diperlukan oleh aplikasi AI generatif yang mereka buat. Misalnya, pelanggan hanya akan membayar untuk model terkait, Batasan Pengaman, dan Basis Pengetahuan yang telah mereka gunakan pada aplikasi AI generatifnya. Untuk informasi selengkapnya, kunjungi halaman harga Amazon Bedrock.

    Untuk memfasilitasi kelancaran pengalaman onboarding dengan Amazon Bedrock di Studio Terpadu SageMaker, Anda dapat menemukan dokumentasi terperinci di Panduan Pengguna. Jika Anda memiliki pertanyaan tambahan atau memerlukan bantuan lebih lanjut, jangan ragu untuk menghubungi tim akun AWS.

Apakah Anda sudah menemukan yang Anda cari?

Beri tahu kami agar kami dapat meningkatkan kualitas konten di halaman kami