Sử dụng ChatGPT để trích xuất thông tin thông minh từ nhiều tài liệu khác nhau
Kết hợp sức mạnh của Azure Search với ChatGPT cho phép phân tích thông minh dữ liệu văn bản của bạn. Ví dụ: https://github.com/Drop-Database-Cascade/chatGPT-azurefuncs.git
Toàn bộ công lao đã được đóng góp bởi các cá nhân sau đây trong việc thiết kế và phát triển giải pháp này:
Background
Không muốn bị bỏ lại phía sau trong cuộc đua ChatGPT, một nhóm đồng nghiệp và tôi đã quyết định thiết kế và xây dựng một giải pháp tùy chỉnh vượt trội nhờ khai thác khả năng của ChatGPT.
Chúng tôi đã quyết định tạo ra một “Document Search Chatbot” có thể được sử dụng như một công cụ bổ sung để trả lời những câu hỏi phổ biến (FAQ) dựa trên nội dung của một số tài liệu.
Một đội ngũ dịch vụ tài chính mà tôi đã từng làm việc đã gặp vấn đề khi họ thường xuyên sản xuất các tài liệu thông tin cho công chúng (báo cáo, tờ thông tin, văn bản tuyên truyền) và sau đó nhận được một lượng lớn yêu cầu hỏi đáp. Có một quan điểm rộng rãi rằng 70-80% trong số những yêu cầu hỏi này có thể được trả lời bằng thông tin trong một tài liệu cụ thể. Tuy nhiên, đối với các thành viên của công chúng, không phải lúc nào cũng rõ ràng rằng tài liệu nào sẽ trả lời câu hỏi của họ và tìm kiếm ở đâu trong tài liệu đó. Lý thuyết, một chatbot thông minh đủ để liên kết các yêu cầu hỏi với tài liệu nguồn có thể cải thiện trải nghiệm đáng kể cho đội ngũ dịch vụ tài chính và thành viên của công chúng.
Ngoài việc khám phá một trường hợp sử dụng thú vị, tôi cũng đặc biệt quan tâm đến cách một mô hình ngôn ngữ như ChatGPT có thể tăng cường các nền tảng đám mây hiện có.
Cách thức hoạt động
Để tóm tắt, Chatbot Tìm kiếm Tài liệu sử dụng Azure Search để trích xuất và xếp hạng những điểm nổi bật chính từ một tập hợp tài liệu văn bản dựa trên một truy vấn người dùng. Truy vấn người dùng và kết quả Azure Search được truyền cho OpenAI để được giải thích và định dạng thành một phản hồi dựa trên trò chuyện.
Đây là các quy trình cấp cao được thực hiện để tạo ra một phản hồi từ Chatbot Tìm kiếm Tài liệu:
Giải pháp này giúp giải quyết những vấn đề sau đây:
Từ quan điểm của Azure Search – Azure Search chỉ có thể trả về văn bản chính xác như nó xuất hiện trong tài liệu của bạn, giải pháp của chúng tôi sử dụng ChatGPT để giải thích phản hồi từ Azure Search và tùy chỉnh phản hồi cho một câu hỏi của người dùng trong khi xem xét xem có câu trả lời phù hợp cho câu hỏi đó trong các tài liệu của bạn hay không.
Từ quan điểm của ChatGPT – giải pháp của chúng tôi cung cấp một cơ chế để sử dụng sức mạnh của ChatGPT trên một tập hợp lớn các tài liệu văn bản tùy chỉnh mà không bị giới hạn bởi các giới hạn token.
Các hạn chế của giải pháp này bao gồm:
Có thể cải thiện hiệu suất của Chatbot Tìm kiếm Tài liệu bằng các phương pháp sau:
Tổng thể
Tổng thể, ví dụ này cho thấy cách Mô hình Ngôn ngữ Lớn (LLMs) có thể được tích hợp với các dịch vụ đám mây quản lý để cung cấp khả năng nâng cao. Khi các tổ chức tiếp tục phát triển các nền tảng đám mây của mình, họ có thể tận dụng các quy trình ML Ops để tích hợp các mô hình đã được huấn luyện trước như ChatGPT và Azure Semantic Search. Theo ý kiến của tôi, các tổ chức làm điều này tốt sẽ thu được những lợi ích từ các giải pháp hiệu quả và tùy chỉnh cao. Ngay trước khi bài viết này được phát hành, Microsoft đã phát hành một quan điểm với các ví dụ mã nguồn để tích hợp Azure Search với ChatGPT, có thể đọc thêm ở đây. Hơn nữa, dịch vụ Azure OpenAI hiện cho phép bạn sử dụng ChatGPT (xem trước) một cách phù hợp cho các ứng dụng doanh nghiệp. Với mối quan hệ giữa Microsoft và OpenAI, tôi sẽ không ngạc nhiên nếu họ phát hành một giải pháp trực tiếp để dễ dàng tích hợp Search và OpenAI trong tương lai không xa.
Vui lòng tham khảo các liên kết sau để đọc thêm và hiểu rõ hơn về chủ đề:
Nguồn: Max Fifield, Medium
You need to login in order to like this post: click here
YOU MIGHT ALSO LIKE
