Chuyên gia AI: Phát triển chatGPT tiếng Việt chuyên biệt như Askonomy là hướng đi đột phá

Chatbot AI Askonomy hay còn gọi là "Trợ lý thông tin kinh tế" Askonomy do Tạp chí Kinh tế Việt Nam/VnEconomy phát triển sẽ ra mắt phiên bản mới tại Hội Báo toàn quốc 2024 do Hội Nhà báo Việt Nam chủ trì, phối hợp với Ủy ban nhân dân Thành phố Hồ Chí Minh tổ chức, sẽ diễn ra tại Thành phố Hồ Chí Minh từ ngày 15 đến ngày 17/3/2024.

Nhân dịp này, để hiểu rõ hơn về cơ chế hoạt động cũng như những điểm mới của "Trợ lý thông tin kinh tế" Askonomy phiên bản 2024, ông Trung Huỳnh, nhà sáng lập Actable AI, đơn vị phát triển Askonomy, đã có cuộc trao đổi với Tạp chí Kinh tế Việt Nam/VnEconomy.

Trước hết xin ông hãy giới thiệu đôi nét về bản thân cũng như “Trợ lý thông tin kinh tế” Askonomy, cơ duyên nào đã khiến ông phát triển Askonomy?

Tôi là nhà sáng lập của Actable AI, một công ty khởi nghiệp về AI được thành lập vào năm 2020 tại London. Trước khi gia nhập Actable AI, tôi đã làm việc cho một số công ty khác nhau trên thế giới, bao gồm Google. 

Askonomy là một cơ duyên để tôi được làm việc với VnEconomy. Với sự bùng nổ của ChatGPT, ngay từ tháng 3/2023, tôi và VnEconomy đã nảy sinh ý tưởng sử dụng một mô hình ngôn ngữ giống như ChatGPT để đào tạo và cho “nó” học những kiến thức từ các dữ liệu của VnEconomy, giúp bạn đọc có thể trả lời những câu hỏi liên quan đến kinh tế.

Quá trình phát triển cũng như test Askonomy diễn ra trong bao lâu? Team phát triển đã gặp những khó khăn, thách thức như thế nào, thưa ông?

Quá trình làm việc giữa đội ngũ phát triển và VnEconomy rất chặt chẽ. Chúng tôi phát triển công nghệ và được sự tư vấn, trợ giúp của VnEconomy để "test" chất lượng mô hình ngôn ngữ. 

Để đáp ứng nhu cầu của số đông người dùng, chúng tôi đã cùng làm việc với VnEconomy phát triển một mô hình chuyên cho tiếng Việt. Đó trước tiên là một thách thức, nhưng cũng là cơ hội thú vị. Dữ liệu của VnEconomy khá lớn, có thể đến hơn một triệu bài báo và các dữ liệu khác nhau. Đảm bảo độ chính xác và phục vụ những câu hỏi có độ phức tạp là một thử thách rất lớn.

Vâng, ông có thể chia sẻ kỹ hơn về cách thức hoạt động của Askonomy cũng như công nghệ đứng sau nền tảng này?

Askonomy hoạt động dựa vào hai cơ chế khá phổ biến. Thứ nhất là mô hình ngôn ngữ lớn, giống như ChatGPT để có thể tổng hợp thông tin thành câu trả lời. Cơ chế thứ hai là gọi là RAG (Retrieval Augmented Generation), nghĩa là dựa vào câu hỏi và tìm kiếm những thông tin liên quan đến câu hỏi. Sau đó gửi đến mô hình ngôn ngữ để mô hình ngôn ngữ tổng hợp câu trả lời. Kết hợp giữa hai cơ chế này sẽ đảm bảo độ chính xác cho câu trả lời tốt hơn.

Được biết, Askonomy là ứng dụng tập trung các thông tin về kinh tế, tài chính. Liệu có quá lời không khi khẳng định đây là chatbot đầu tiên tại Việt Nam trong lĩnh vực này và có rất nhiều ưu thế?

Theo tôi được biết, Askonomy là chatbot kinh tế đầu tiên, được phát triển khá sớm. Từ tháng 3/2023, bản demo đã ra mắt. Đó là chatbot kinh tế đầu tiên không phải chỉ ở Việt Nam mà có thể là trên thế giới.

Askonomy đang có những ưu điểm gì so với các phương pháp tìm kiếm thông tin kinh tế tài chính hiện nay? Ngoài tìm kiếm thông tin về kinh tế thì Askonomy còn có những tính năng nào khác?

Trước tiên, một điểm khác biệt của Askonomy đối với những mô hình ngôn ngữ khác cũng trong tiếng Việt là nó tối ưu cho việc hỏi đáp. Chúng tôi hiểu rằng một mô hình không quá lớn như ChatGPT hay Gemini thì mô hình ngôn ngữ đó phải được tối ưu cho một lĩnh vực cụ thể rất quan trọng để có thể sánh ngang với những mô hình kia trong một task riêng về lĩnh vực đó. Ngoài hỏi đáp, chức năng dịch và tóm tắt của Askonomy cũng rất tốt.

Nói về sức mạnh của Askonomy so với một bộ máy tìm kiếm, thứ nhất là Askonomy tổng hợp câu trả lời và người dùng có thể đọc được câu trả lời luôn, thay vì phải click vào các kết quả tìm kiếm truyền thống và tự đọc các nội dung, gây mất thời gian cũng như giới hạn giao tiếp, tốc độ xử lý thông tin sẽ bị chậm. Khi có thể giao tiếp trực tiếp với Askonomy, người dùng có thể đọc kết quả real time và đó là một động lực để tìm hiểu sâu hơn những thông tin cần thiết.

Kinh tế tài chính được xem là một trong những lĩnh vực rất thách thức, có nhiều lớp số liệu và số liệu cần cập nhật liên tục. Đội ngũ phát triển Askonomy đã khắc phục thách thức đấy ra sao? Theo ông đánh giá, mức độ chính xác của Askonomy tới thời điểm hiện tại đạt được khoảng bao nhiêu %?

Trước tiên, những người làm việc chuyên sâu lĩnh vực kinh tế, đặc biệt về thị trường Việt Nam, có thể tìm kiếm và tra khảo thông tin một cách nhanh chóng và hiệu quả. Tôi nghĩ đây là một lợi thế rất lớn cho người sử dụng khi họ có thể truy cập thông tin real time. 

Thông tin được cập nhật real time đòi hỏi mô hình ngôn ngữ của Askonomy phải tiếp thu các thông tin này cũng theo real time. Đội ngũ đã phát triển những công cụ để tìm kiếm các nguồn thông tin theo real time. Thứ hai, mô hình ngôn ngữ của Askonomy sẽ được cập nhật và tinh chỉnh dựa trên những thông tin này hàng tuần để có thể ghi nhớ tốt hơn. 

Về độ chính xác, hiện tại tôi nghĩ đã đạt từ 85%-90 %, và tương lai sẽ đạt từ 95 % trở lên.

Phát triển chatbot, đặc biệt là trong lĩnh vực kinh tế cũng là một trong những xu hướng rất lớn trên thế giới hiện nay, là một nhà sáng lập ra đời ở một trong những quốc gia rất phát triển là Anh, ông đánh giá như thế nào về độ trưởng thành của Askonomy so với các chatbot đang phát triển trên thế giới trong cùng lĩnh vực hiện nay? Sai lệch thông tin là một trong những thách thức lớn. Vậy đội ngũ phát triển Askonomy đã và đang tìm cách khắc phục như thế nào?

Là một startup nhỏ, nguồn lực tài chính của chúng tôi không thể sánh bằng những ông lớn như OpenAI hay Google. Tuy nhiên, chúng tôi biết cách tận dụng tối đa nguồn tài nguyên hạn chế này.

Nhóm nghiên cứu của chúng tôi luôn cập nhật những kiến thức mới nhất về mô hình ngôn ngữ lớn từ cộng đồng nghiên cứu tại các trường đại học và công ty. Chúng tôi tin rằng việc tiếp cận và áp dụng những kiến thức tiên tiến nhất là chìa khóa để thành công trong lĩnh vực AI.

Sai lệch thông tin là một trở ngại lớn. Trong thực tế, team Askonomy đã phát triển những kỹ thuật khá đặc thù và riêng biệt để giảm thiểu tỉ lệ sai lệch thông tin. Trong quá trình đào tạo mô hình ngôn ngữ lớn, chúng tôi có những kỹ thuật riêng và được đưa vào quá trình tinh chỉnh, giúp giảm độ sai lệch thông tin rất nhiều.

Vâng, ông có thể chia sẻ kỹ hơn về kế hoạch phát triển Askonomy trong năm 2024 và đội ngũ phát triển sẽ thêm các tính năng cũng như đào sâu các lớp dữ liệu cho Askonomy như thế nào trong năm nay?

Về chức năng, chúng tôi sẽ tiếp tục cải tiến độ chính xác của Askonomy để trở thành mô hình hỏi đáp tốt nhất có thể, không chỉ ở Việt Nam mà cả thế giới nữa. Đấy là mục tiêu quan trọng nhất của chúng tôi, bởi vì một mô hình AI hỏi đáp về kinh tế đòi hỏi độ chính xác rất cao. Khi mô hình này có khả năng trả lời, hỏi đáp chính xác, chúng tôi có thể nhân bản lên thành rất nhiều chatbot Askonomy cho những lĩnh vực khác.

Về dữ liệu, chúng tôi sẽ cố gắng cập nhật dữ liệu cho Askonomy nhanh chóng hơn nữa, rộng hơn và chính xác hơn nữa.