Membangun Solusi Pusat Kontak AI Generatif untuk DoorDash Menggunakan Amazon Bedrock, Amazon Connect Customer, dan Claude Anthropic

DoorDash dimulai pada tahun 2013 dengan misi untuk menumbuhkan dan memberdayakan ekonomi lokal—membantu bisnis lokal agar berhasil, menghubungkan konsumen lokal dengan hal terbaik di lingkungan mereka, dan menyediakan cara fleksibel bagi para Dasher untuk memperoleh penghasilan. Pada akhir tahun 2023, basis penggunanya telah berkembang menjadi lebih dari 37 juta konsumen aktif yang menggunakan DoorDash setiap bulan dan lebih dari 2 juta Dasher aktif setiap bulannya.

Untuk memenuhi kebutuhan Konsumen, Merchant, dan Dasher, DoorDash menggunakan Connect Customer, sebuah pusat kontak yang ditenagai AI dari AWS. Melalui Connect Customer, DoorDash menangani volume kolektif ratusan ribu panggilan per hari, termasuk dari Dasher yang membutuhkan bantuan dengan topik rutin mulai dari pemecahan masalah aplikasi hingga pendaftaran dan opsi pembayaran.

Setelah menghubungi dukungan, pengguna dipandu melalui pengalaman respons suara interaktif (IVR) layanan mandiri, yang ditenagai oleh Connect Customer dan Amazon Lex, yang telah mengurangi transfer agen DoorDash sebesar 49 persen dan mendorong peningkatan sebesar 12 persen dalam resolusi kontak pertama yang mengarah ke pengalaman yang lebih baik bagi pengguna DoorDash, serta penghematan biaya operasional YoY sebesar 3 juta USD. Namun, dengan sebagian besar panggilan masih dialihkan ke agen langsung, DoorDash melihat peluang untuk lebih meningkatkan penawaran layanan mandirinya. “Kami ingin memberdayakan Dasher untuk mendapatkan bantuan terkait pertanyaan dan masalah paling umum secepat dan seefisien mungkin, sehingga menghemat waktu, tenaga, dan meningkatkan kepercayaan mereka terhadap kemampuan layanan mandiri DoorDash,” kata Chaitanya Hari, Contact Center Product Lead di DoorDash.

Para Dasher umumnya lebih suka menelepon bagian dukungan daripada mengobrol saat mereka sedang berkendara menuju atau dari lokasi Merchant atau Consumer. Mereka mengandalkan dukungan telepon untuk menyediakan bantuan yang cepat dan andal, yang membuat latensi respons dalam solusi swalayan menjadi dua kali lebih penting. DoorDash perlu memastikan bahwa Dasher dapat menghabiskan waktu sesedikit mungkin di telepon, jadi latensi respons yang rendah menjadi faktor utama untuk solusi teleponnya.

Untuk menyederhanakan dukungan Dasher, tim pusat kontak DoorDash ingin menggunakan AI generatif untuk layanan mandiri dalam Connect Customer. Tim mencari solusi yang dapat diluncurkan dengan cepat dan dalam skala besar sambil mempertahankan standar tinggi untuk resolusi masalah dan kepuasan pelanggan. Tim memilih Amazon Bedrock, sebuah layanan terkelola penuh yang menawarkan pilihan model fondasi beperforma tinggi dari perusahaan AI terkemuka melalui satu API, untuk dijadikan basis solusinya.

AWS GenAIIC berinvestasi dan bekerja sama dengan DoorDash untuk merancang, membangun, dan menerapkan solusi AI generatif khusus guna menyempurnakan asisten AI suara yang sudah ada. Selama 8 minggu, tim dari DoorDash dan GenAIIC mengulangi desain dan implementasi serta mengembangkan arsitektur referensi yang sesuai untuk pengujian A/B produksi. Solusi berbasis Amazon Bedrock mengurangi waktu pengembangan aplikasi AI generatif hingga 50 persen.

Untuk membangun solusinya, DoorDash memilih menggunakan model Claude Anthropic di Amazon Bedrock. Dengan menggunakan Amazon Bedrock, DoorDash dengan cepat mendapatkan akses ke semua model yang dibutuhkan. Claude berperan penting dalam proyek ini karena memiliki kemampuan untuk meringankan halusinasi, peristiwa injeksi prompt, dan mendeteksi bahasa kasar. Dengan dirilisnya Claude 3 Haiku, DoorDash mencapai akurasi dan kecepatan yang dibutuhkan untuk aplikasi suaranya, mencapai latensi respons 2,5 detik atau kurang. DoorDash tidak menyediakan informasi identitas pribadi apa pun untuk diakses melalui solusi AI generatif ini. Selain itu, Amazon Bedrock memungkinkan keamanan data melalui enkripsi dan memastikan data dari DoorDash atau pelanggannya hanya digunakan dalam aplikasi DoorDash.

“Menggunakan respons yang dihasilkan AI untuk dukungan telepon menghadirkan tantangan unik yang menuntut strategi inovatif untuk meningkatkan waktu respons dan kualitas jawaban, sehingga memberikan Dasher dukungan terbaik di kelasnya. Amazon Bedrock terbukti sangat sesuai dengan kebutuhan kami, sehingga kami dapat berkonsentrasi pada penyempurnaan detail solusinya," kata Vraj Shah, Lead Project Engineer di DoorDash.  

Akses terhadap basis pengetahuan yang mendalam merupakan faktor penting lainnya dalam solusi layanan mandiri. Semakin mendalam dan beragam basis pengetahuan, semakin efektif solusinya. DoorDash menambahkan data dari pusat bantuan yang tersedia untuk umum untuk menggunakan retrieval-augmented generation (RAG), sebuah teknik yang mengambil data dari sumber perusahaan dan memperkaya prompt untuk memberikan respons yang lebih relevan dan akurat bagi para Dasher.

Untuk mengindeks konten yang sudah ada, DoorDash menggunakan Basis Pengetahuan untuk Amazon Bedrock, sebuah kemampuan yang terkelola penuh yang membantu organisasi mengimplementasikan seluruh alur kerja RAG dari penyerapan hingga pengambilan dan penambahan prompt tanpa harus membangun integrasi kustom ke sumber data dan mengelola aliran data. Basis Pengetahuan untuk Amazon Bedrock menangani pekerjaan backend untuk DoorDash.

DoorDash juga meningkatkan kapasitas untuk menguji solusinya dengan bantuan dari GenAIIC. Sebelumnya, tim harus menarik agen pusat kontak dari antrean bantuan untuk menyelesaikan sejumlah kecil kasus uji manual per jam. Menggunakan Amazon SageMaker, yang digunakan para developer untuk membangun, melatih, dan melakukan deployment model machine learning, DoorDash membangun kerangka kerja uji dan evaluasi yang dengan cepat menarik wawasan dari pengujian A/B serta mengevaluasi metrik keberhasilan utama dalam skala besar. Kerangka kerja ini membantu DoorDash menyelesaikan ribuan pengujian otomatis per jam—peningkatan kapasitas 50x—dan mengevaluasi respons secara semantik terhadap data kebenaran di lapangan.

Dengan menangani pertanyaan umum Dasher secara otomatis, DoorDash telah meningkatkan alur kerja swalayan dan meningkatkan kecepatan penyelesaian masalah, yang membantu mempercepat waktu pengiriman dan meningkatkan produktivitas dan kepuasan Dasher. Menangani pertanyaan rutin dengan AI generatif juga telah membebaskan agen langsung dari DoorDash untuk memecahkan masalah dengan kompleksitas lebih tinggi yang mendapat manfaat dari pemecahan masalah manusia.

Setelah menyelesaikan uji coba solusi AI generatif yang sukses pada awal tahun 2024, DoorDash telah menyelesaikan peluncuran opsi layanan mandiri baru untuk semua Dasher. Solusinya saat ini menangani ratusan ribu panggilan dukungan Dasher setiap hari dan telah menghasilkan pengurangan yang besar dan material dalam volume panggilan untuk pertanyaan dukungan terkait Dasher. Solusi ini juga mengurangi jumlah eskalasi ke agen langsung hingga ribuan per hari, dan mengurangi jumlah tugas agen langsung yang diperlukan untuk menyelesaikan pertanyaan dukungan.

Mengingat keberhasilan awal peluncuran, tim saat ini tengah berupaya menambahkan lebih banyak fungsi ke solusi, memperluas cakupan basis pengetahuan yang tersedia agar solusi dapat dimanfaatkan, dan menggabungkan layanan alur kerja logistik berbasis peristiwa DoorDash untuk tidak hanya memberikan bantuan tanya jawab tetapi juga mengambil tindakan atas nama pengguna.

“Dengan menggunakan AWS dan Claude dari Anthropic, kami telah membangun solusi yang memberikan Dashers akses yang andal dan mudah dipahami terhadap informasi yang mereka butuhkan, kapan pun mereka membutuhkannya,” kata Hari. “Hal ini berdampak positif secara berjenjang pada pengguna kami dan platform secara keseluruhan, dan kami berharap dapat memperluasnya ke kasus penggunaan baru pada masa depan.”