Câu hỏi thường gặp về Amazon Bedrock

Khách hàng của Amazon Bedrock có thể chọn giữa một số FM tiên tiến nhất hiện nay. Danh sách này bao gồm các mô hình từ:

• AI21 Labs
• Amazon
• Anthropic
• Cohere
• DeepSeek
• Luma AI
• Meta
• Mistral AI
• OpenAI
• poolside (sắp diễn ra)
• Stability AI
• TwelveLabs
• Writer

Xem các mô hình nền tảng được hỗ trợ từ mỗi nhà cung cấp tại đây:
https://docs.aws.amazon.com/bedrock/latest/userguide/models-supported.html

Có năm lý do cho thấy bạn nên sử dụng Amazon Bedrock để xây dựng các ứng dụng AI tạo sinh.

• Lựa chọn các FM hàng đầu: Amazon Bedrock cung cấp trải nghiệm dễ sử dụng cho nhà phát triển để làm việc với nhiều FM hiệu năng cao từ các công ty AI hàng đầu. Bạn có thể nhanh chóng thử nghiệm với nhiều FM khác nhau được cung cấp và sử dụng một API duy nhất để suy luận, bất kể mô hình bạn chọn. Nhờ đó, bạn có thể linh hoạt sử dụng FM từ các nhà cung cấp khác nhau và cập nhật với các phiên bản mô hình mới nhất mà chỉ cần thay đổi mã ở mức ít nhất.

• Dễ dàng tùy chỉnh mô hình bằng dữ liệu của bạn: Tùy chỉnh riêng FM bằng dữ liệu của bạn thông qua giao diện trực quan mà không cần viết bất kỳ mã nào. Chỉ cần chọn tập dữ liệu đào tạo và xác thực được lưu trữ trong Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3) và điều chỉnh các siêu tham số (nếu cần) để đạt được hiệu suất mô hình tốt nhất có thể.

• Các tác tử được quản lý hoàn toàn có thể gọi API một cách linh hoạt để thực hiện các tác vụ: Xây dựng các tác tử thực hiện tác vụ kinh doanh phức tạp – từ đặt chỗ du lịch và xử lý yêu cầu bảo hiểm đến tạo chiến dịch quảng cáo, chuẩn bị hồ sơ thuế và quản lý hàng tồn kho – bằng cách gọi linh hoạt các hệ thống và API của công ty bạn. Các tác tử được quản lý đầy đủ cho Amazon Bedrock mở rộng khả năng suy luận của FM để phân tích các tác vụ, tạo và thực hiện kế hoạch điều phối.

• Khả năng hỗ trợ gốc cho RAG để mở rộng sức mạnh của FM bằng dữ liệu độc quyền: Với Cơ sở kiến thức của Amazon Bedrock, bạn có thể kết nối FM một cách an toàn với nguồn dữ liệu để tăng cường truy xuất – từ bên trong dịch vụ được quản lý – mở rộng các khả năng vốn đã mạnh mẽ của FM và giúp FM hiểu rõ hơn về lĩnh vực cũng như tổ chức cụ thể của bạn.

• Chứng nhận tuân thủ và bảo mật dữ liệu: Amazon Bedrock cung cấp một số tính năng để hỗ trợ các yêu cầu về bảo mật và quyền riêng tư. Amazon Bedrock nằm trong phạm vi đáp ứng các tiêu chuẩn tuân thủ chung như Kiểm soát dịch vụ và tổ chức (SOC), Tổ chức tiêu chuẩn hóa quốc tế (ISO), Đạo luật về trách nhiệm giải trình và cung cấp thông tin bảo hiểm y tế (HIPAA) đủ điều kiện và khách hàng có thể sử dụng Amazon Bedrock tuân thủ Quy định bảo vệ dữ liệu chung (GDPR). Amazon Bedrock đạt được chứng nhận Đảm bảo độ tin cậy bảo mật và rủi ro (STAR) Cấp 2 của CSA, xác nhận việc sử dụng các phương pháp tốt nhất và khả năng bảo mật của các dịch vụ đám mây AWS. Amazon Bedrock không sử dụng nội dung của bạn để cải thiện các mô hình cơ sở và không chia sẻ chúng với bất kỳ nhà cung cấp mô hình nào. Dữ liệu của bạn trong Amazon Bedrock luôn được mã hóa khi đang được truyền và khi đang lưu trữ. Ngoài ra, bạn có thể mã hóa dữ liệu bằng khóa của riêng mình, nếu muốn. Bạn có thể sử dụng AWS PrivateLink với Amazon Bedrock để thiết lập kết nối riêng giữa FM và Đám mây riêng ảo của Amazon (Amazon VPC) mà không làm lộ lưu lượng truy cập của bạn lên Internet.

Bạn có thể bắt đầu với các trường hợp sử dụng một cách nhanh chóng:

• Tạo các phần nội dung gốc mới, chẳng hạn như truyện ngắn, tiểu luận, bài đăng trên mạng xã hội và bản sao trang web.

• Tìm kiếm, tìm và tổng hợp thông tin để trả lời các câu hỏi từ một kho dữ liệu lớn.

• Tạo hình ảnh thực tế và nghệ thuật của các chủ đề, môi trường và cảnh khác nhau từ lời nhắc ngôn ngữ.

• Giúp khách hàng tìm thấy những nội dung họ đang tìm kiếm bằng các gợi ý sản phẩm phù hợp và theo ngữ cảnh hơn so với việc so khớp từ.

• Nhận bản tóm tắt của nội dung văn bản như bài viết, bài đăng trên blog, sách và tài liệu để nắm được ý chính mà không cần phải đọc toàn bộ nội dung.

• Đề xuất các sản phẩm phù hợp với sở thích của người mua và các giao dịch mua hàng trước đây

Khám phá thêm các trường hợp sử dụng AI tạo sinh.

Được cung cấp trong bản xem trước công khai, suy luận tối ưu hóa độ trễ trong Amazon Bedrock giúp giảm độ trễ mà không ảnh hưởng đến độ chính xác. Theo xác minh của Anthropic, với suy luận tối ưu hóa độ trễ trên Amazon Bedrock, Claude 3.5 Haiku chạy nhanh hơn trên AWS so với bất kỳ nơi nào khác. Ngoài ra, bằng suy luận với độ trễ được tối ưu hóa trong Bedrock, Llama 3.1 70B và 405B chạy nhanh hơn trên AWS so với bất kỳ nhà cung cấp dịch vụ đám mây lớn nào khác. Với chip AI chuyên dụng như AWS Trainium2 và các tùy chọn tối ưu hóa phần mềm nâng cao trong Amazon Bedrock, khách hàng có thể truy cập nhiều tùy chọn khác để tối ưu hóa suy luận sao cho phù hợp với trường hợp sử dụng cụ thể.

Tính năng chính:

• Giảm thời gian phản hồi cho các tương tác mô hình nền tảng

• Duy trì độ chính xác đồng thời cải thiện tốc độ

• Không yêu cầu thiết lập bổ sung hoặc tinh chỉnh mô hình

Các mô hình được hỗ trợ: Mô hình Claude 3.5 Haiku của Anthropic và Llama 3.1 405B và 70B của Meta

Khu vực cung cấp: Khu vực Miền Đông Hoa Kỳ (Ohio) thông qua suy luận xuyên khu vực

Để bắt đầu, hãy truy cập Bảng điều khiển Amazon Bedrock. Để biết thêm thông tin, hãy truy cập tài liệu Amazon Bedrock.

Bạn không cần phải thiết lập bổ sung hoặc tinh chỉnh mô hình để tiếp cận khả năng suy luận được tối ưu hóa độ trễ trong Amazon Bedrock. Nhờ đó, bạn có thể ngay lập tức cải tiến các ứng dụng AI tạo sinh hiện có để đạt được thời gian phản hồi nhanh hơn. Bạn có thể bật thông số “Độ trễ được tối ưu hóa” trong khi khởi chạy API suy luận Bedrock.

Để bắt đầu, hãy truy cập Bảng điều khiển Amazon Bedrock. Để biết thêm thông tin, hãy truy cập tài liệu Amazon Bedrock.

Tác tử của Amazon Bedrock là các chức năng được quản lý toàn phần giúp nhà phát triển dễ dàng tạo các ứng dụng dựa trên AI tạo sinh mà có thể hoàn thành các tác vụ phức tạp cho nhiều trường hợp sử dụng và cung cấp câu trả lời cập nhật dựa trên các nguồn kiến thức độc quyền. Chỉ với vài bước ngắn, Tác tử của Amazon Bedrock sẽ tự động phân tích các tác vụ và tạo kế hoạch điều phối mà không cần bất kỳ thao tác viết mã thủ công nào. Tác tử tạo trong Bedrock có thể kết nối một cách bảo mật với dữ liệu công ty thông qua API, tự động chuyển đổi dữ liệu sang định dạng có thể đọc được bằng máy và tăng cường yêu cầu với thông tin liên quan để tạo phản hồi chính xác nhất. Sau đó, các tác tử có thể tự động gọi API để thực hiện yêu cầu của người dùng. Là chức năng được quản lý toàn phần, Tác tử của Amazon Bedrock loại bỏ việc quản lý tích hợp hệ thống và cung cấp cơ sở hạ tầng không tạo ra giá trị khác biệt, cho phép các nhà phát triển sử dụng AI tạo sinh đến mức tối đa trong toàn bộ tổ chức.

AgentCore cho phép nhà phát triển tăng tốc quá trình đưa tác tử AI vào sản xuất với quy mô, độ tin cậy và khả năng bảo mật, rất quan trọng đối với việc triển khai trong thế giới thực. AgentCore cung cấp các công cụ và khả năng để giúp các tác tử trở nên hiệu quả và có nhiều năng lực hơn, cơ sở hạ tầng được xây dựng theo mục đích nhất định để điều chỉnh quy mô các tác tử một cách an toàn và các biện pháp kiểm soát để vận hành các tác tử đáng tin cậy. Các khả năng của AgentCore có thể kết hợp linh hoạt và hoạt động với các khung nguồn mở phổ biến cũng như bất kỳ mô hình nào, nên bạn không phải lựa chọn giữa tính linh hoạt của nguồn mở và độ bảo mật, độ tin cậy cấp doanh nghiệp. Vui lòng truy cập Amazon Bedrock AgentCore để tìm hiểu thêm.

AgentCore được thiết kế cho các tổ chức muốn đưa tác tử AI từ bản chứng minh ý tưởng được xây dựng bằng khung tác tử nguồn mở hoặc khung tùy chỉnh vào môi trường sản xuất. Dịch vụ này phục vụ nhà phát triển và doanh nghiệp cần hạ tầng mạnh mẽ để hỗ trợ các đường dẫn thực thi linh hoạt trong thời gian hoạt động, các biện pháp kiểm soát để giám sát hành vi, công cụ mạnh mẽ để nâng cao năng lực của tác tử và sự linh hoạt để thích ứng khi bối cảnh thay đổi.

AgentCore bao gồm các dịch vụ và công cụ cung cấp các khả năng độc đáo. Các dịch vụ này bao gồm:

Thời gian hoạt động: Thời gian hoạt động phi máy chủ, bảo mật, được thiết kế riêng để triển khai và thay đổi quy mô các tác tử AI cũng như công cụ linh hoạt.

Bộ nhớ: Giúp nhà phát triển dễ dàng xây dựng các tác tử nhận biết ngữ cảnh bằng cách loại bỏ việc quản lý hạ tầng bộ nhớ phức tạp, đồng thời vẫn cung cấp toàn quyền kiểm soát đối với những nội dung mà tác tử AI ghi nhớ.

Cổng: Cung cấp một cách bảo mật để tác tử khám phá và sử dụng công cụ, đồng thời dễ dàng chuyển đổi API, hàm Lambda và các dịch vụ hiện có thành công cụ tương thích với tác tử.

Công cụ trình duyệt: Cung cấp thời gian hoạt động trình duyệt nhanh, bảo mật và dựa trên đám mây, cho phép tác tử AI tương tác với các trang web ở quy mô lớn.

Trình thông dịch mã: Cho phép tác tử AI viết và thực thi mã một cách bảo mật trong môi trường hộp cát, giúp nâng cao độ chính xác và mở rộng khả năng giải quyết các tác vụ phức tạp từ đầu đến cuối.

Danh tính: Cho phép tác tử AI truy cập bảo mật vào các dịch vụ AWS và công cụ của bên thứ ba thay mặt người dùng hoặc tự động bằng cơ chế ủy quyền trước.

Khả năng quan sát: Cung cấp cho nhà phát triển khả năng hiển thị đầy đủ vào quy trình làm việc của tác tử để theo dõi, gỡ lỗi và giám sát hiệu năng của tác tử AI trong môi trường sản xuất. Với khả năng hỗ trợ dữ liệu đo từ xa tương thích với OpenTelemetry và hình ảnh trực quan chi tiết cho từng bước trong quy trình làm việc của tác tử, AgentCore giúp nhà phát triển dễ dàng nắm được hành vi của tác tử và duy trì các tiêu chuẩn chất lượng ở quy mô lớn.

AgentCore hoạt động với mọi khung tác tử nguồn mở, bao gồm các khung nguồn mở phổ biến như CrewAI, LangGraph, Strands Agents và các khung tùy chỉnh.

Nếu hiện đang sử dụng Amazon Bedrock Agents, bạn có thể tiếp tục sử dụng dịch vụ này. Tuy nhiên, nếu bạn cần thêm các chức năng như có thể sử dụng bất kỳ khung tạo tác tử nào (chẳng hạn như Strands Agents, Crew AI, LangGraph, LangChain hoặc LlamaIndex) và sử dụng bất kỳ mô hình nào cùng với khả năng kiểm soát chi tiết về danh tính, bộ nhớ và khả năng quan sát, chúng tôi khuyến nghị bạn sử dụng AgentCore. AgentCore cũng cung cấp các công cụ và hạ tầng được nâng cấp để chạy tác tử ở quy mô lớn, bao gồm danh tính, bộ nhớ dài hạn có thể tùy chỉnh, công cụ trình thông dịch mã nâng cao, công cụ trình duyệt tích hợp sẵn, khả năng quan sát, hỗ trợ gốc cho Giao thức ngữ cảnh mô hình để kết nối với hàng nghìn công cụ, cùng thời gian hoạt động có thời gian thực thi, kích thước tải trọng và khả năng cô lập phiên hoàn toàn ở mức hàng đầu ngành. Để giúp khách hàng tận dụng những cải tiến này, chúng tôi sẽ có một tùy chọn giúp dễ dàng xuất các cấu hình Bedrock Agents hiện có dưới dạng mã tương thích với Strands để điều phối và AgentCore (để triển khai cấp sản xuất cùng nhiều mục đích khác).

Chúng tôi khuyên bạn nên sử dụng Amazon Bedrock để tinh chỉnh mô hình khi bạn:

• Là người xây dựng ứng dụng AI tạo sinh, muốn có phương pháp được quản lý dựa trên API, ít siêu tham số hơn và được trừu tượng hóa khỏi độ phức tạp liên quan đến đào tạo mô hình.
• Cần giảm tối đa gánh nặng hạ tầng, có ít hoặc không có khoản đầu tư hạ tầng ML hiện có cần cân nhắc, và muốn triển khai nhanh theo cách phi máy chủ.

Chúng tôi khuyên bạn nên sử dụng Amazon SageMaker AI để tinh chỉnh mô hình khi bạn:

• Là nhà khoa học dữ liệu, kỹ sư ML hoặc nhà phát triển mô hình AI muốn tiếp cận các kỹ thuật tùy chỉnh nâng cao như chắt lọc kiến thức, tinh chỉnh có giám sát hoặc tối ưu hóa tùy chọn trực tiếp, cho cả tinh chỉnh toàn bộ trọng số và tinh chỉnh hiệu quả tham số. SageMaker AI cũng cung cấp khả năng tùy chỉnh công thức đào tạo và kiến trúc mô hình của bạn.
• Có các quy trình làm việc ML và khoản đầu tư hạ tầng đã được thiết lập, nhằm kiểm soát hạ tầng và chi phí tốt hơn.
• Muốn có sự linh hoạt cao hơn để đưa các thư viện và khung của riêng bạn vào nhằm tối ưu hóa quy trình đào tạo để đạt độ chính xác và hiệu năng tốt hơn.

Quy tắc bảo vệ của Amazon Bedrock cung cấp các biện pháp bảo vệ có thể cấu hình để giúp phát triển ứng dụng AI tạo sinh một cách an toàn ở quy mô lớn. Nhờ vận dụng cách tiếp cận nhất quán và chuẩn chỉ trên nhiều mô hình nền tảng (FM) bao gồm FM được hỗ trợ trên Amazon Bedrock, mô hình đã qua tinh chỉnh và mô hình được lưu trữ bên ngoài Amazon Bedrock, Quy tắc bảo vệ mang đến các biện pháp bảo vệ an toàn hàng đầu trong ngành cho các ứng dụng AI tạo sinh của bạn.

Quy tắc bảo vệ của Amazon Bedrock cung cấp sáu biện pháp bảo vệ để giúp bạn xây dựng các ứng dụng AI tạo sinh an toàn. Dưới đây là các biện pháp bảo vệ được cung cấp bởi Quy tắc bảo vệ Bedrock.

• Bộ lọc nội dung đa phương thức – Cấu hình ngưỡng để giúp phát hiện và lọc nội dung văn bản và/hoặc hình ảnh gây hại theo nhiều danh mục, bao gồm thù hận, lăng mạ, khiêu dâm, bạo lực, hành vi sai trái và tấn công bằng câu lệnh.

• Chủ đề bị từ chối – Xác định một tập hợp chủ đề không mong muốn trong bối cảnh ứng dụng của mình. Bộ lọc sẽ giúp chặn chúng nếu được phát hiện trong các truy vấn của người dùng hoặc phản hồi của mô hình.

• Bộ lọc từ – Cấu hình bộ lọc để giúp chặn các từ, cụm từ và ngôn ngữ tục tĩu không mong muốn (khớp chính xác). Những từ như vậy có thể bao gồm các ngôn từ xúc phạm, tên đối thủ cạnh tranh, v.v.

• Bộ lọc thông tin nhạy cảm – Cấu hình các bộ lọc để giúp chặn hoặc ẩn thông tin nhạy cảm, chẳng hạn như thông tin nhận dạng cá nhân (PII) hoặc biểu thức chính quy tùy chỉnh trong thông tin đầu vào của người dùng và phản hồi của mô hình. Việc chặn hoặc ẩn được thực hiện dựa trên xác suất phát hiện thông tin nhạy cảm ở các định dạng tiêu chuẩn trong các thông tin như số SSN, Ngày sinh, địa chỉ, v.v. Điều này cũng cho phép cấu hình để phát hiện kiểu mẫu dựa trên biểu thức chính quy cho các thông tin định danh.

• Kiểm tra nền tảng theo ngữ cảnh – giúp phát hiện và lọc ảo giác nếu các phản hồi không có cơ sở (ví dụ: thông tin mới hoặc không chính xác về mặt thực tế) trong thông tin nguồn và không liên quan đến truy vấn hoặc hướng dẫn của người dùng.

• Kiểm tra Suy luận tự động – Giúp phát hiện lỗi không chính xác về mặt thực tế trong nội dung được tạo ra, đề xuất chỉnh sửa và giải thích lý do tại sao các phản hồi chính xác bằng cách kiểm tra dựa trên phương pháp biểu diễn kiến thức có cấu trúc theo toán học, có tên là Chính sách Suy luận tự động.

Quy tắc bảo vệ của Amazon Bedrock hỗ trợ cả nội dung văn bản và hình ảnh để cho phép khách hàng xây dựng các ứng dụng AI tạo sinh an toàn trên quy mô lớn.

Quy tắc bảo vệ Bedrock cung cấp các bậc bảo vệ cho bộ lọc nội dung và chủ đề bị từ chối, với các đặc điểm hiệu năng riêng biệt và khả năng hỗ trợ ngôn ngữ mở rộng cho các yêu cầu ứng dụng và trường hợp sử dụng khác nhau. Quy tắc bảo vệ Bedrock có hai bậc: bậc tiêu chuẩn cung cấp hiệu năng mạnh mẽ cùng khả năng hỗ trợ ngôn ngữ toàn diện. Bậc này yêu cầu chọn tham gia suy luận liên Khu vực. Bậc cổ điển cung cấp chức năng đã được thiết lập và khả năng hỗ trợ giới hạn ở 3 ngôn ngữ. Xem để biết thêm chi tiết.

Khả năng hỗ trợ ngôn ngữ của Quy tắc bảo vệ của Amazon Bedrock phụ thuộc vào bộ lọc và bậc được sử dụng. Xem để biết chi tiết về các ngôn ngữ được hỗ trợ cho từng bộ lọc và bậc. Bất kỳ ngôn ngữ nào không được hỗ trợ ở bậc cổ điển hoặc bậc tiêu chuẩn đều sẽ dẫn đến kết quả không hiệu quả.

Quy tắc bảo vệ của Amazon Bedrock phát hiện và bảo vệ khỏi các loại tấn công câu lệnh sau đây.

• Bẻ khóa – Tại đây, hệ thống phát hiện các câu lệnh của người dùng được thiết kế để vượt qua khả năng an toàn và kiểm duyệt gốc của mô hình nền tảng nhằm tạo nội dung độc hại hoặc không mong muốn.
• Bơm câu lệnh - Tại đây, hệ thống phát hiện các câu lệnh của người dùng được thiết kế để bỏ qua và ghi đè hướng dẫn do nhà phát triển chỉ định.
• Rò rỉ câu lệnh (chỉ dành cho bậc tiêu chuẩn) – Tại đây, hệ thống phát hiện các câu lệnh của người dùng được thiết kế để trích xuất hoặc tiết lộ câu lệnh hệ thống, hướng dẫn của nhà phát triển hoặc các chi tiết cấu hình bí mật khác.

Xem để biết chi tiết về cách Quy tắc bảo vệ bảo vệ khỏi các cuộc tấn công câu lệnh.

Quy tắc bảo vệ của Amazon Bedrock cung cấp khả năng bảo vệ khỏi nội dung độc hại trong các thành phần mã, bao gồm câu lệnh của người dùng, mã, chú thích, tên biến, tên hàm và chuỗi ký tự. Bộ lọc nội dung (với bậc tiêu chuẩn) trong Quy tắc bảo vệ Bedrock giờ đây sẽ phát hiện và lọc nội dung có hại đó trong mã theo cách tương tự như biện pháp bảo vệ nội dung văn bản và hình ảnh. Ngoài ra, Quy tắc bảo vệ Bedrock còn có khả năng bảo vệ nâng cao nhờ tính năng phát hiện rò rỉ ở câu lệnh ở bậc tiêu chuẩn, giúp phát hiện và ngăn chặn việc tiết lộ thông tin ngoài ý muốn từ câu lệnh hệ thống trong các phản hồi của mô hình, có khả năng ảnh hưởng đến sở hữu trí tuệ. Hơn nữa, các chủ đề bị từ chối (với bậc tiêu chuẩn) và bộ lọc thông tin nhạy cảm với Quy tắc bảo vệ Bedrock giờ đây giúp phòng tránh các lỗ hổng bằng cách sử dụng mã trong các chủ đề và ngăn chặn việc đưa PII vào cấu trúc mã.

Quy tắc bảo vệ của Amazon Bedrock được định giá theo mô hình cho mỗi lần sử dụng cho cả nội dung văn bản và hình ảnh. Vui lòng xem của Quy tắc bảo vệ để biết chi tiết về giá.

Có, API Quy tắc bảo vệ của Amazon Bedrock giúp khách hàng chạy kiểm thử tự động. Bạn có thể sẽ muốn sử dụng “trình tạo trường hợp kiểm thử” trước khi triển khai quy tắc bảo vệ trong sản xuất. Chưa có trình tạo trường hợp kiểm thử gốc. Để giám sát liên tục lưu lượng sản xuất, quy tắc bảo vệ giúp cung cấp bản ghi chi tiết về tất cả các vi phạm cho từng đầu vào và đầu ra, để khách hàng có thể giám sát chi tiết từng đầu vào đi vào và đi ra khỏi ứng dụng AI tạo sinh của họ. Các bản ghi này có thể được lưu trữ trong Amazon CloudWatch hoặc S3 và có thể được sử dụng để tạo bảng điều khiển tùy chỉnh dựa trên yêu cầu của khách hàng.

Sử dụng Chính sách suy luận tự động, kiểm tra Suy luận tự động có thể chỉ ra cả những tuyên bố chính xác và thông tin không chính xác về mặt thực tế trong nội dung. Đối với cả tuyên bố chính xác và không chính xác, kiểm tra Suy luận tự động cung cấp các giải thích hợp lý, có thể kiểm chứng cho dữ liệu đầu ra của nó. Kiểm tra Suy luận tự động yêu cầu chuyên gia trong lĩnh vực phải tham gia từ trước để tạo Chính sách và chỉ hỗ trợ nội dung có xác định quy tắc. Trái lại, kiểm tra Nền tảng theo ngữ cảnh trong Quy tắc bảo vệ của Bedrock sử dụng các kỹ thuật máy học để đảm bảo nội dung được tạo ra tuân thủ chặt chẽ các tài liệu được cung cấp dưới dạng đầu vào từ cơ sở kiến thức mà không yêu cầu thêm bất kỳ công việc nào từ trước. Cả Kiểm tra Suy luận tự động và Nền tảng theo ngữ cảnh đều cung cấp phản hồi của chúng trong đầu ra API Quy tắc bảo vệ. Bạn có thể sử dụng phản hồi để cập nhật nội dung được tạo ra.

Chúng tôi sử dụng các kỹ thuật xác minh hình thức bằng Suy luận tự động cùng với LLM để xác định tới 99% các phát biểu hợp lệ. Phản hồi của kiểm tra Suy luận tự động về nội dung sẽ chỉ ra điểm mơ hồ và đề xuất cách sửa cho các câu trả lời sai hoặc chưa đầy đủ. Phản hồi này giúp dễ dàng viết lại câu trả lời cho đến khi câu trả lời được đánh giá là hợp lệ.

Tài liệu

Tự động hóa dữ liệu của Bedrock hỗ trợ cả đầu ra tiêu chuẩn và đầu ra tùy chỉnh cho tài liệu.

• Đầu ra tiêu chuẩn sẽ cung cấp trích xuất văn bản từ tài liệu và đầu ra tạo sinh như bản tóm tắt tài liệu và chú thích cho bảng/hình ảnh/sơ đồ. Đầu ra được trả về theo thứ tự đọc và có thể được tùy ý nhóm theo phần tử bố cục, sẽ bao gồm phần đầu trang/chân trang/tiêu đề/bảng/hình ảnh/sơ đồ. Đầu ra tiêu chuẩn sẽ được sử dụng để tích hợp BDA với Cơ sở kiến thức của Bedrock.

• Đầu ra tùy chỉnh tận dụng kế hoạch chi tiết, chỉ định các yêu cầu đầu ra bằng ngôn ngữ tự nhiên hoặc trình soạn thảo lược đồ. Kế hoạch chi tiết bao gồm một danh sách các trường để trích xuất và định dạng dữ liệu cho mỗi trường.

Tự động hóa dữ liệu của Bedrock hỗ trợ PDF, PNG, JPG, TIFF, tối đa 1500 trang và kích thước tệp tối đa là 500 MB cho mỗi yêu cầu API. Theo mặc định, BDA sẽ hỗ trợ 50 tác vụ đồng thời và 10 giao dịch mỗi giây cho mỗi khách hàng.

Hình ảnh

Tự động hóa dữ liệu của Bedrock hỗ trợ cả đầu ra tiêu chuẩn và đầu ra tùy chỉnh cho hình ảnh.

• Đầu ra tiêu chuẩn sẽ cung cấp bản tóm tắt, nội dung người lớn được phát hiện, văn bản được phát hiện, phát hiện logo và phân loại quảng cáo của IAB đối với hình ảnh. Đầu ra tiêu chuẩn sẽ được sử dụng để tích hợp BDA với Cơ sở kiến thức của Bedrock.

• Đầu ra tùy chỉnh tận dụng kế hoạch chi tiết, chỉ định các yêu cầu đầu ra bằng ngôn ngữ tự nhiên hoặc trình soạn thảo lược đồ. Kế hoạch chi tiết bao gồm một danh sách các trường để trích xuất và định dạng dữ liệu cho mỗi trường.

Tự động hóa dữ liệu của Bedrock hỗ trợ JPG, PNG, độ phân giải tối đa 4K và kích thước tệp tối đa là 5 MB cho mỗi yêu cầu API. Theo mặc định, BDA hỗ trợ tối đa 20 hình ảnh đồng thời với tốc độ 10 giao dịch mỗi giây (TPS) cho mỗi khách hàng.

Video

Tự động hóa dữ liệu của Bedrock hỗ trợ cả đầu ra tiêu chuẩn cho video.

• Đầu ra tiêu chuẩn sẽ cung cấp bản tóm tắt video đầy đủ, phân đoạn chương, bản tóm tắt chương, chép lời âm thanh đầy đủ, nhận dạng người nói, nội dung người lớn được phát hiện, văn bản được phát hiện, phát hiện logo và phân loại của Cục Quảng cáo Tương tác (IAB) đối với video. Bản tóm tắt video đầy đủ được tối ưu hóa cho nội dung với đoạn hội thoại mô tả như tổng quan về sản phẩm, đào tạo, cung cấp tin tức và phim tài liệu.

Tự động hóa dữ liệu của Bedrock hỗ trợ MOV và MKV với H.264, VP8, VP9, thời lượng video tối đa là 4 giờ và kích thước tệp tối đa là 2 GB cho mỗi yêu cầu API. Theo mặc định, BDA hỗ trợ tối đa 20 video đồng thời với tốc độ 10 giao dịch mỗi giây (TPS) cho mỗi khách hàng.

Âm thanh

Tự động hóa dữ liệu của Bedrock hỗ trợ cả đầu ra tiêu chuẩn cho âm thanh.

• Đầu ra tiêu chuẩn sẽ cung cấp bản tóm tắt bao gồm tóm tắt chương, chép lời đầy đủ và phát hiện kiểm duyệt nội dung người lớn đối với tệp âm thanh.

Tự động hóa dữ liệu của Bedrock hỗ trợ FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, thời lượng âm thanh tối đa là 4 giờ và kích thước tệp tối đa là 2 GB cho mỗi yêu cầu API.

Tự động hóa dữ liệu của Amazon Bedrock hiện có ở 7 khu vực AWS bao gồm Miền Tây Hoa Kỳ (Oregon), Miền Đông Hoa Kỳ (Bắc Virginia), Châu Âu (Frankfurt), Châu Âu (London), Châu Âu (Ireland), Châu Á Thái Bình Dương (Mumbai), và Châu Á Thái Bình Dương (Sydney).

Để truy cập các tính năng của Amazon Bedrock trong Studio hợp nhất của Amazon SageMaker, các nhà phát triển và quản trị viên sẽ cần làm theo các bước sau:

1. Tạo miền mới trong Studio hợp nhất của Amazon SageMaker.

2. Kích hoạt hồ sơ dự án phát triển ứng dụng AI tạo sinh.

3. Truy cập Amazon Bedrock thông qua Môi trường thử nghiệm AI tạo sinh (Khám phá) và phần Phát triển ứng dụng AI tạo sinh (Xây dựng), sử dụng thông tin chứng thực đăng nhập đơn (SSO) của công ty trong Studio hợp nhất của Amazon SageMaker.

Các khả năng của Amazon Bedrock trong Studio hợp nhất của Amazon SageMaker thích hợp với các đội nhóm của doanh nghiệp cần có môi trường được quản lý để cộng tác xây dựng và triển khai ứng dụng AI tạo sinh. Thông qua Studio hợp nhất của Amazon SageMaker, các nhóm có thể truy cập:
 

• Môi trường thử nghiệm AI tạo sinh trong phần Khám phá cho phép các nhóm thử nghiệm với mô hình nền tảng (FM), kiểm thử nhiều mô hình và cấu hình khác nhau, so sánh đầu ra của mô hình và cộng tác trên câu lệnh và ứng dụng. Môi trường này cung cấp phương thức liền mạch để các nhóm đánh giá và hiểu rõ chức năng của các mô hình khác nhau trước khi triển khai mô hình vào ứng dụng của họ.
   

• Phát triển ứng dụng AI tạo sinh trong phần Xây dựng cung cấp cho nhóm các công cụ cần thiết để tạo ra ứng dụng AI tạo sinh sẵn sàng cho sản xuất. Các nhóm có thể tạo và quản lý Cơ sở kiến thức, triển khai Quy tắc bảo vệ cho AI có trách nhiệm, phát triển Tác tử và Luồng, đồng thời cộng tác an toàn trong khi vẫn duy trì kiểm soát tuân thủ và quản trị. Môi trường này đặc biệt hữu ích với các tổ chức yêu cầu hợp tác an toàn và truy cập liền mạch vào toàn bộ tính năng của Amazon Bedrock trong khi vẫn duy trì các tiêu chuẩn tuân thủ và bảo mật của doanh nghiệp.