Bạn có bao giờ tự hỏi điều gì đang thực sự diễn ra đằng sau mỗi lần bạn tìm kiếm sản phẩm trên Shopee, mỗi gợi ý "đúng gu" xuất hiện trên trang chủ, hay mỗi câu trả lời nhanh chóng từ chatbot hỗ trợ? Câu trả lời nằm ở một thứ mà ít ai nhìn thấy: trí tuệ nhân tạo.
Nhưng không phải AI chung chung. Đó là một dòng AI được xây dựng riêng cho thương mại điện tử Đông Nam Á, hiểu được sắc thái ngôn ngữ, văn hóa và hành vi người dùng trong khu vực. Và mới đây, Shopee đã tiết lộ cách họ xây dựng nó với sự hỗ trợ của NVIDIA AI Factory – một cột mốc quan trọng trong hành trình AI của gã khổng lồ thương mại điện tử.
Hãy cùng tôi, SilverZ, với 20 năm chứng kiến công nghệ thay đổi thế giới, phân tích sự kiện này từ gốc rễ. Bởi vì đây không chỉ là câu chuyện về một mô hình AI. Đây là câu chuyện về cách một công ty Đông Nam Á tự xây dựng "bộ não" của riêng mình.
Khoảng trống mà AI đa năng không thể lấp đầy
Shopee phục vụ hàng trăm triệu người dùng hoạt động hàng tháng trên tám thị trường tại Đông Nam Á, Đài Loan và Brazil, với tổng giá trị hàng hóa giao dịch hàng năm vượt 136 tỷ đô la. Khi nền tảng này tích hợp AI vào tìm kiếm, gợi ý, phát hiện gian lận và dịch vụ khách hàng, một khoảng trống cấu trúc đã xuất hiện.
Các mô hình AI đa năng rất giỏi trong các tác vụ tiếng Anh, nhưng lại giảm sút nghiêm trọng khi xử lý công việc đa ngữ chuyên biệt – chính xác là những gì định hình thương mại điện tử trong khu vực. Các nhà nghiên cứu của Shopee gọi đây là "ranh giới lởm chởm" – cùng một mô hình đạt điểm cao trên các bài kiểm tra tiếng Anh lại vật lộn với truy vấn mua sắm bằng tiếng Indonesia, phân loại sản phẩm bằng tiếng Thái, và ý định khách hàng bằng tiếng Việt.
Để định lượng khoảng cách này, nhóm nghiên cứu của Shopee đã xây dựng EcomEval – bộ đánh giá đầu tiên dành riêng cho thương mại điện tử Đông Nam Á. Kết quả thật đáng lo ngại: ngay cả các mô hình hàng đầu cũng cho thấy sự suy giảm đáng kể trên các tác vụ đa ngữ, với một số mô hình mã nguồn mở giảm xuống dưới 52% ở những danh mục quan trọng.
Đối với một nền tảng xử lý hàng tỷ truy vấn mỗi tháng bằng sáu ngôn ngữ, khoảng cách đó đồng nghĩa với doanh thu bị mất, thời gian hỗ trợ kéo dài và các vụ gian lận bị bỏ sót. Nhu cầu về một mô hình chuyên biệt ngày càng trở nên cấp thiết.
Compass ra đời: "Bộ não" AI của riêng Shopee
Và đó là lúc Compass ra đời – một dòng mô hình ngôn ngữ lớn chuyên biệt, đa ngữ, được xây dựng với NVIDIA AI Factory.
Compass không phải là một mô hình đa năng được "tái sử dụng" từ các LLM toàn cầu. Nó được xây dựng từ đầu cho bối cảnh Đông Nam Á, hiểu được sắc thái ngôn ngữ, văn hóa và hành vi người dùng trong khu vực. Theo NVIDIA, Compass vượt trội so với các mô hình đa năng hàng đầu trong các tác vụ thương mại điện tử và đã mang lại tác động có thể đo lường được.
Những con số thực sự đáng kinh ngạc:
- Phát hiện gian lận nhanh gấp 50 lần so với kiểm tra thủ công.
- Chi phí xử lý giảm 90% so với sản xuất thông thường.
- Lượng token API hàng tháng tăng từ 3 tỷ lên 340 tỷ trong tám tháng – mức tăng 113 lần.
Compass hiện đang xử lý phần lớn lưu lượng AI của Shopee trên các lĩnh vực tìm kiếm, gợi ý, phát hiện gian lận, khôi phục bưu kiện và dịch vụ khách hàng. Đây không còn là thử nghiệm trong phòng thí nghiệm. Đây là sản xuất thực tế ở quy mô hàng trăm triệu người dùng.
Compass-v3: Kiến trúc đằng sau sức mạnh
Để hiểu tại sao Compass lại hiệu quả đến vậy, chúng ta cần nhìn vào kiến trúc kỹ thuật đằng sau nó.
Shopee đã tiền huấn luyện Compass-v3 – một mô hình mixture-of-experts (MoE) theo lĩnh vực dọc với 245 tỷ tham số tổng cộng và 71 tỷ tham số hoạt động trên mỗi token, được thiết kế chuyên biệt cho thương mại điện tử Đông Nam Á.
Mô hình được huấn luyện trên 12 nghìn tỷ token từ kho ngữ liệu đa ngữ được tuyển chọn kỹ lưỡng, bao gồm tiếng Indonesia, Thái, Philippines, Mã Lai, Tagalog và Bồ Đào Nha, cùng với các hướng dẫn thương mại điện tử tổng hợp quy mô lớn sử dụng chiến lược huấn luyện hỗn hợp.
Trên nền tảng đó, Shopee đã phát triển một quy trình huấn luyện năm giai đoạn, tiến triển từ tiền huấn luyện qua ủ nhiệt, tuân theo hướng dẫn, căn chỉnh sở thích và học tăng cường agentic. Quy trình này kết hợp dữ liệu độc quyền quy mô hàng tỷ mẫu được khai thác từ tiêu đề sản phẩm, đánh giá và xếp hạng, cùng với các phương pháp căn chỉnh mới lạ – bao gồm OTPO, tự động điều chỉnh trọng số token theo tầm quan trọng ngữ nghĩa, và SPEC-RL, tăng tốc học tăng cường on-policy lên 2-3 lần thông qua tái sử dụng rollout suy đoán.
Kiến trúc mixture-of-experts với Dự đoán Đa Token (Multi-Token Prediction) tiếp tục thúc đẩy hiệu suất thông lượng cao hơn nữa. Đây là một hệ thống được thiết kế không chỉ để thông minh mà còn để nhanh và hiệu quả về chi phí.
Compass đang thay đổi Shopee như thế nào?
Những con số ấn tượng chỉ có ý nghĩa khi chúng chuyển thành giá trị thực tế. Và Compass đang làm điều đó trên khắp các lĩnh vực hoạt động của Shopee.
Tìm kiếm và gợi ý: Tăng chuyển đổi và doanh thu quảng cáo
Khi người dùng tìm kiếm sản phẩm bằng tiếng Việt, tiếng Indonesia hay tiếng Thái, Compass hiểu ý định thực sự đằng sau truy vấn – không chỉ là từ khóa mà còn là ngữ cảnh, sắc thái và nhu cầu tiềm ẩn. Kết quả là các gợi ý sản phẩm chính xác hơn, trải nghiệm mua sắm mượt mà hơn, và tỷ lệ chuyển đổi cao hơn. Điều này không chỉ tốt cho người mua mà còn cho người bán và cho chính Shopee.
Phát hiện gian lận: Nhanh gấp 50 lần, chi phí giảm 90%
Trong thương mại điện tử, gian lận là một vấn đề nhức nhối. Compass đã thay đổi cuộc chơi bằng cách phát hiện gian lận nhanh gấp 50 lần so với kiểm tra thủ công, với chi phí xử lý giảm 90%. Điều này có nghĩa là Shopee có thể bảo vệ người dùng và người bán tốt hơn, đồng thời giảm chi phí vận hành đáng kể.
Khôi phục bưu kiện: Tiết kiệm hàng triệu đô la mỗi năm
Trong chuỗi cung ứng, Compass sử dụng thị giác máy tính để khôi phục bưu kiện – một quy trình phức tạp đòi hỏi sự chính xác cao. Hệ thống này đang tiết kiệm cho Shopee hàng triệu đô la mỗi năm, đồng thời cải thiện trải nghiệm giao hàng cho khách hàng.
Dịch vụ khách hàng: Từ chatbot cứng nhắc đến hội thoại thông minh
Thay vì những chatbot trả lời theo kịch bản cứng nhắc, Compass mang đến tương tác đa ngữ, nhận biết ngữ cảnh. Người dùng có thể đặt câu hỏi bằng ngôn ngữ tự nhiên và nhận được câu trả lời phù hợp, nhanh chóng. Đây là sự khác biệt giữa một cỗ máy và một trợ lý thực sự hiểu bạn.
EcomEval: Bộ đánh giá đầu tiên cho thương mại điện tử Đông Nam Á
Một trong những đóng góp quan trọng nhất của Shopee cho cộng đồng AI khu vực chính là EcomEval – bộ đánh giá đầu tiên dành riêng cho thương mại điện tử Đông Nam Á.
Trước EcomEval, không có tiêu chuẩn nào để đo lường hiệu suất của các mô hình AI trên các tác vụ đặc thù của thương mại điện tử đa ngữ trong khu vực. Các nhà phát triển phải dựa vào các bài kiểm tra tiếng Anh không phản ánh đúng thách thức thực tế. EcomEval thay đổi điều đó bằng cách cung cấp một thước đo chính xác và phù hợp cho bối cảnh Đông Nam Á.
Đây là một đóng góp quan trọng không chỉ cho Shopee mà cho toàn bộ hệ sinh thái AI khu vực. Khi các công ty khác muốn xây dựng AI cho thị trường Đông Nam Á, họ giờ đây có một tiêu chuẩn để tham chiếu.
Vì sao câu chuyện này quan trọng với bạn?
Bạn có thể đang nghĩ: "Tôi là người dùng Shopee, tôi đâu cần quan tâm đến hạ tầng AI của họ?"
Xin thưa, có liên quan rất nhiều.
Thứ nhất, trải nghiệm mua sắm của bạn đang được cải thiện mỗi ngày nhờ Compass. Khi bạn tìm kiếm một sản phẩm và nhận được kết quả chính xác, đó là Compass. Khi bạn nhận được gợi ý sản phẩm phù hợp với sở thích của mình, đó là Compass. Khi bạn được bảo vệ khỏi các giao dịch gian lận, đó cũng là Compass. AI này đang âm thầm làm cho trải nghiệm của bạn tốt hơn, nhanh hơn và an toàn hơn.
Thứ hai, đây là minh chứng cho thấy AI Đông Nam Á đang trưởng thành. Trong nhiều năm, các công ty trong khu vực phụ thuộc vào các mô hình AI toàn cầu được huấn luyện chủ yếu bằng tiếng Anh. Compass chứng minh rằng các công ty Đông Nam Á có thể tự xây dựng AI hiểu ngôn ngữ và văn hóa của chính mình. Đây là một bước tiến quan trọng cho chủ quyền số của khu vực.
Thứ ba, EcomEval mở ra cơ hội cho toàn bộ hệ sinh thái. Khi có một tiêu chuẩn để đo lường hiệu suất AI cho thương mại điện tử Đông Nam Á, các công ty khác – từ startup đến doanh nghiệp lớn – có thể sử dụng nó để phát triển sản phẩm tốt hơn. Đây là lợi ích lan tỏa cho toàn khu vực.
Khi Đông Nam Á tự xây dựng "bộ não" của mình
Tôi đã chứng kiến nhiều làn sóng công nghệ ập đến Đông Nam Á. Từ internet băng thông rộng, đến điện thoại thông minh, đến thương mại điện tử, đến thanh toán số. Mỗi làn sóng đều mang đến cơ hội và thách thức. Nhưng làn sóng AI này có một điểm khác biệt: nó cho phép các công ty trong khu vực tự xây dựng năng lực cốt lõi thay vì chỉ tiêu thụ công nghệ từ bên ngoài.
Compass là một ví dụ điển hình. Shopee không chỉ sử dụng API của OpenAI hay Google. Họ tự xây dựng mô hình của riêng mình, với dữ liệu của riêng mình, cho người dùng của riêng mình. Đó là sự khác biệt giữa người tiêu thụ và người sáng tạo.
Và trong một khu vực với hơn 600 triệu người dùng internet, sáu ngôn ngữ chính, và hàng nghìn nền văn hóa khác nhau, việc có một AI hiểu được sự đa dạng đó không chỉ là lợi thế cạnh tranh. Đó là điều kiện tiên quyết để phục vụ người dùng một cách thực sự.
Compass là một bước đi táo bạo. Và nó đặt ra câu hỏi cho tất cả các công ty khác trong khu vực: Bạn sẽ tự xây dựng "bộ não" của mình, hay tiếp tục đi vay?
Bạn nghĩ sao về việc một công ty Đông Nam Á như Shopee tự xây dựng mô hình AI của riêng mình thay vì phụ thuộc vào các giải pháp toàn cầu? Đó là một bước tiến chiến lược mở ra kỷ nguyên AI bản địa cho khu vực, hay là một canh bạc tốn kém khi mà các mô hình đa năng ngày càng trở nên mạnh mẽ và rẻ hơn? Nếu bạn là một doanh nghiệp Việt Nam đang tìm cách ứng dụng AI, bạn sẽ học hỏi gì từ chiến lược của Shopee – và bạn sẽ bắt đầu từ đâu? Hãy chia sẻ quan điểm của bạn bên dưới, bởi vì trong cuộc đua AI này, người không dám đặt cược sẽ mãi mãi chỉ là khán giả!
0 Comment
Add your comment to this article