Bộ nhớ trong AI: Lợi ích chính và những cân nhắc đầu tư | của Sandi Besen | Tháng 6 năm 2024

Bộ nhớ sẽ là thành phần quan trọng giúp cải thiện đáng kể hiệu suất của hệ thống AI – cả về độ chính xác và hiệu quả

Giống như con người phụ thuộc vào trí nhớ để đưa ra quyết định sáng suốt và đưa ra kết luận hợp lý, AI dựa vào khả năng truy xuất thông tin liên quan, hiểu bối cảnh và học hỏi từ kinh nghiệm trong quá khứ. Bài viết này đi sâu vào lý do tại sao trí nhớ lại đóng vai trò then chốt đối với AI, khám phá vai trò của nó trong việc thu hồi, lý luận và học tập liên tục.

Một số người tin rằng việc mở rộng cửa sổ ngữ cảnh sẽ nâng cao hiệu suất của mô hình vì nó cho phép mô hình nhập thêm thông tin. Mặc dù điều này đúng ở một mức độ nào đó, nhưng hiểu biết hiện tại của chúng ta về cách các mô hình ngôn ngữ ưu tiên ngữ cảnh vẫn đang phát triển. Trên thực tế, các nghiên cứu đã chỉ ra rằng “hiệu suất của mô hình đạt cao nhất khi thông tin liên quan xuất hiện ở đầu hoặc cuối bối cảnh đầu vào của nó”.(1) Cửa sổ ngữ cảnh càng lớn thì chúng ta càng có nhiều khả năng gặp phải vấn đề khét tiếng “bị mất ở giữa”, trong đó các sự kiện hoặc văn bản cụ thể không được mô hình nhớ lại do thông tin quan trọng bị chôn vùi ở giữa (2).

Để hiểu tác động của trí nhớ đến việc nhớ lại, hãy xem xét cách con người xử lý thông tin. Khi đi du lịch, chúng ta lắng nghe một cách thụ động nhiều thông báo, bao gồm quảng cáo của hãng hàng không, ưu đãi thẻ tín dụng, hướng dẫn an toàn, chi tiết thu thập hành lý, v.v. Chúng ta có thể không nhận ra lượng thông tin mình tiếp thu cho đến khi đến lúc phải nhớ lại những thông tin liên quan. Ví dụ: nếu một mô hình ngôn ngữ dựa vào việc truy xuất thông tin liên quan để trả lời một câu hỏi, thay vì kiến ​​thức vốn có của nó, được hỏi “Tôi nên làm gì trong trường hợp hạ cánh khẩn cấp?” nó có thể không nhớ được những chi tiết thích hợp cần thiết để trả lời câu hỏi quan trọng này vì có quá nhiều thông tin được lấy ra. Tuy nhiên, với trí nhớ dài hạn, mô hình có thể lưu trữ và gọi lại những thông tin quan trọng nhất, cho phép suy luận hiệu quả hơn với bối cảnh phù hợp.

Bộ nhớ cung cấp bối cảnh thiết yếu và cho phép các mô hình hiểu các phương pháp giải quyết vấn đề trong quá khứ, xác định những gì đã hiệu quả và những gì cần cải thiện. Nó không chỉ cung cấp bối cảnh quan trọng; nó cũng trang bị cho các mô hình khả năng nhớ lại các phương pháp được sử dụng trước đây để giải quyết vấn đề, nhận ra các chiến lược thành công và xác định chính xác các lĩnh vực cần cải thiện. Cải tiến này lần lượt có thể hỗ trợ khả năng của mô hình trong việc suy luận một cách hiệu quả về các nhiệm vụ phức tạp gồm nhiều bước. Nếu không có lý luận đầy đủ, các mô hình ngôn ngữ sẽ gặp khó khăn trong việc hiểu nhiệm vụ, suy nghĩ logic về mục tiêu, giải quyết các vấn đề nhiều bước hoặc sử dụng các công cụ thích hợp. Bạn có thể đọc thêm về tầm quan trọng của lý luận và các kỹ thuật lý luận nâng cao trong bài viết trước của tôi đây.

Hãy xem xét ví dụ về việc tìm kiếm dữ liệu liên quan theo cách thủ công trong kho dữ liệu của công ty. Có hàng nghìn bảng, nhưng vì bạn hiểu rõ dữ liệu nào cần thiết nên bạn có thể tập trung vào một tập hợp con. Sau nhiều giờ tìm kiếm, dữ liệu liên quan được tìm thấy trên năm bảng khác nhau. Ba tháng sau, khi dữ liệu cần cập nhật, quá trình tìm kiếm phải lặp lại nhưng bạn không thể nhớ được 5 bảng nguồn mà bạn đã sử dụng để tạo báo cáo mới này. Quá trình tìm kiếm thủ công lặp lại một lần nữa. Nếu không có trí nhớ dài hạn, mô hình ngôn ngữ có thể tiếp cận vấn đề theo cách tương tự – một cách mạnh mẽ – cho đến khi tìm thấy dữ liệu liên quan để hoàn thành nhiệm vụ. Tuy nhiên, một mô hình ngôn ngữ được trang bị trí nhớ dài hạn có thể lưu trữ kế hoạch tìm kiếm ban đầu, mô tả của từng bảng và kế hoạch sửa đổi dựa trên kết quả tìm kiếm từ mỗi bảng. Khi dữ liệu cần được làm mới, nó có thể bắt đầu từ cách tiếp cận thành công trước đó, nâng cao hiệu quả và hiệu suất.

Phương pháp này cho phép các hệ thống học hỏi theo thời gian, liên tục sửa đổi cách tiếp cận tốt nhất đối với các nhiệm vụ và tích lũy kiến ​​thức để tạo ra các hệ thống tự trị hiệu quả hơn, hiệu suất cao hơn.

Việc kết hợp bộ nhớ dài hạn vào các hệ thống AI có thể nâng cao đáng kể khả năng của chúng, nhưng việc xác định liệu khả năng này có xứng đáng với khoản đầu tư phát triển cần thiết hay không cần phải cân nhắc.

1. Hiểu bản chất của nhiệm vụ

• Độ phức tạp và thời lượng: Nếu nhiệm vụ của bạn liên quan đến các quy trình phức tạp, gồm nhiều bước hoặc yêu cầu lưu giữ thông tin trong thời gian dài thì trí nhớ dài hạn có thể cải thiện hiệu quả và độ chính xác. Ví dụ: các ứng dụng quản lý dự án, trong đó các nhiệm vụ kéo dài hàng tháng có thể được hưởng lợi từ khả năng ghi nhớ và thích ứng của AI từ bối cảnh và các lần lặp lại trước đó.
• Độ nhạy ngữ cảnh: Các nhiệm vụ phụ thuộc nhiều vào sự hiểu biết theo ngữ cảnh, chẳng hạn như tương tác dịch vụ khách hàng, cá nhân hóa trong tiếp thị hoặc chẩn đoán y tế, có thể tận dụng trí nhớ dài hạn để đưa ra những phản hồi được cá nhân hóa hơn. Ví dụ: trợ lý bộ phận trợ giúp CNTT sẽ được hưởng lợi từ việc ghi nhớ xem khách hàng có gặp phải sự cố này hay không và cách xử lý sự cố trong các lần tương tác trước đó.

2. Đánh giá khối lượng và tính biến đổi của dữ liệu

• Khối lượng dữ liệu cao: Nếu ứng dụng của bạn xử lý lượng lớn dữ liệu cần được tham chiếu thường xuyên, bộ nhớ dài hạn có thể ngăn chặn nhu cầu xử lý nhiều lần cùng một thông tin — tiết kiệm thời gian và tài nguyên tính toán.
• Biến đổi dữ liệu: Trong môi trường mà dữ liệu thay đổi thường xuyên, bộ nhớ dài hạn giúp AI luôn cập nhật thông tin mới nhất, đảm bảo kết quả đầu ra chính xác hơn mà không cần phải đào tạo lại.

3. Đánh giá tỷ lệ chi phí-lợi ích

• Cân bằng chi phí với lợi ích hiệu suất: Việc triển khai bộ nhớ dài hạn có thể tốn nhiều tài nguyên và sẽ tiếp tục mở rộng quy mô theo thời gian khi có nhiều bộ nhớ tích lũy hơn. Điều quan trọng là phải cân nhắc đầu tư tài chính vào việc lưu trữ dữ liệu với những cải tiến hiệu suất tiềm năng. Đối với các doanh nghiệp nhỏ hoặc ứng dụng có nguồn lực hạn chế, hiệu quả của Mô hình ngôn ngữ nhỏ (SLM) với bộ nhớ dài hạn có thể mang lại giải pháp cân bằng hơn.
• Lợi thế cạnh tranh: Bằng cách cải thiện hiệu suất và hiệu suất của các ứng dụng AI, bộ nhớ dài hạn có thể mang lại lợi thế cạnh tranh đáng kể, cho phép các doanh nghiệp cung cấp các dịch vụ vượt trội so với những doanh nghiệp sử dụng mô hình truyền thống không có khả năng bộ nhớ.

4. Giải quyết các mối lo ngại về bảo mật và tuân thủ

• Quyền riêng tư dữ liệu: Bộ nhớ dài hạn liên quan đến việc lưu trữ nhiều dữ liệu hơn, điều này có thể gây lo ngại về quyền riêng tư. Đảm bảo rằng hệ thống của bạn tuân thủ các quy định bảo vệ dữ liệu và thông tin nhạy cảm tuân theo biện pháp bảo mật tốt nhất.

Về bản chất…

Việc kết hợp bộ nhớ dài hạn vào các hệ thống AI mang đến cơ hội đáng kể để nâng cao khả năng của chúng bằng cách cung cấp những cải tiến về độ chính xác, hiệu quả và hiểu biết theo ngữ cảnh. Tuy nhiên, việc quyết định có nên đầu tư vào khả năng này hay không đòi hỏi phải cân nhắc và phân tích chi phí để mang lại lợi ích. Nếu được triển khai một cách chiến lược, việc đưa bộ nhớ dài hạn vào có thể mang lại lợi ích rõ ràng cho các giải pháp AI của bạn.