[ad_1]
Công ty mạng ứng dụng đám mây gốc cho phép khách hàng xây dựng các ứng dụng AI hiệu suất cao ở quy mô lớn
Solo.iomột công ty mạng ứng dụng đám mây hàng đầu, đã công bố việc phát hành Cổng thông tin Gloo AIđược thiết kế để đáp ứng nhu cầu sử dụng mới nổi trong việc đẩy nhanh đổi mới AI.
AI tiếp tục thu hút sự chú ý trong nhiều ngành công nghiệp và dự kiến sẽ đạt tốc độ tăng trưởng hàng năm là 37,3% giữa năm 2023 và 2030. Đối với phát triển ứng dụng, việc tích hợp AI vào các ứng dụng có thể phức tạp và đòi hỏi thời gian và nguồn lực chuyên dụng để bắt đầu. Với Gloo AI Gateway, Solo.io đang xây dựng dựa trên nhiều năm xuất sắc với Cổng Gloocung cấp cổng API dựa trên Envoy và bộ điều khiển đầu vào để tạo điều kiện thuận lợi và bảo mật lưu lượng ứng dụng ở biên, mang lại cùng tốc độ, bảo mật và khả năng mở rộng cho các ứng dụng AI hiện đại.
“AI Gateway là xu hướng mới quan trọng nhất trong không gian quản lý API và API gateway”, Idit Levine, CEO và nhà sáng lập của Solo.io cho biết. “Khi khách hàng tiếp tục áp dụng AI, chúng tôi cung cấp khả năng tận dụng Gloo AI Gateway để xử lý tập hợp các trường hợp sử dụng mới bổ sung này ngoài các nhu cầu quản lý API hiện có của họ. Với Gloo AI Gateway, chúng tôi trao quyền cho các nhà phát triển ứng dụng tiến lên với các sáng kiến AI của họ, nhưng cung cấp các biện pháp bảo vệ để đảm bảo thành công lâu dài”.
Gloo AI Gateway tối ưu hóa hành trình AI của khách hàng Solo.io bằng cách cung cấp:
- Tốc độ triển khai: Loại bỏ sự cản trở trong quá trình phát triển, mã mẫu và các lỗi có thể tránh được trong các ứng dụng sử dụng API LLM.
- An ninh và kiểm soát: Bảo vệ các ứng dụng, mô hình và dữ liệu khỏi việc truy cập không phù hợp và đảm bảo sử dụng AI an toàn với các biện pháp kiểm soát quản trị, khả năng kiểm toán và khả năng hiển thị khi sử dụng.
- Khả năng mở rộng:Tận dụng các mẫu tích hợp AI tiên tiến để tăng cường dữ liệu và tích hợp với các khả năng của cổng kết nối đám mây để hỗ trợ kết nối AI khối lượng lớn, không có thời gian chết.
Các trường hợp sử dụng chính của Gloo AI Gateway bao gồm:
- Hỗ trợ nhiều nhà cung cấp LLM: Đơn giản hóa quyền truy cập LLM cho người tiêu dùng và tạo khả năng kiểm soát, khả năng hiển thị và quản trị tập trung trên khắp các nhà cung cấp LLM.
- Quản lý khóa API: Lưu trữ khóa API LLM một cách an toàn dưới dạng bí mật và cũng tạo khóa API để ánh xạ tới một hoặc nhiều bí mật của nhà cung cấp LLM.
- Kiểm soát và theo dõi mức tiêu thụ: Giám sát và theo dõi mức tiêu thụ LLM hiệu quả với các tính năng ghi nhật ký, phân tích và báo cáo giúp đảm bảo sử dụng tài nguyên tối ưu và hiệu quả về chi phí.
- Quản lý nhanh chóng: Hợp lý hóa tích hợp ứng dụng LLM với mẫu nhanh chóng và làm giàu nhanh chóng, sử dụng các biện pháp bảo vệ nhanh chóng và kiểm soát rò rỉ dữ liệu để từ chối các yêu cầu không phù hợp và khử trùng các phản hồi LLM nhằm đảm bảo quản trị và kiểm soát nhất quán.
- Tạo dữ liệu tăng cường (RAG): Đảm bảo phản hồi của LLM dựa trên thông tin chính xác và có liên quan, được lấy động từ các nguồn bên ngoài.
“Tại Solo.io, chúng tôi tập trung vào việc đáp ứng khách hàng tại điểm uốn luôn thay đổi của họ với nhu cầu vận hành CNTT và cung cấp cho họ các giải pháp họ cần để thành công”, Levine nói thêm. “Gloo AI Gateway là một ví dụ khác về cách chúng tôi thúc đẩy sự đổi mới cho các nhà phát triển và doanh nghiệp trên toàn thế giới khi AI trở thành trụ cột trong phát triển ứng dụng ngày nay”.
Đăng ký nhận tin tức insideAI miễn phí bản tin.
Tham gia cùng chúng tôi trên Twitter: https://twitter.com/InsideBigData1
Tham gia cùng chúng tôi trên LinkedIn: https://www.linkedin.com/company/insideainews/
Tham gia cùng chúng tôi trên Fb: https://www.facebook.com/insideAINEWSNOW
[ad_2]
Source link