Open-source AI infrastructure vs proprietary: Tính TCO 3 năm và rủi ro khóa nhà cung cấp cho SMB Việt Nam

Open-source AI infrastructure là cách doanh nghiệp vận hành agent, dữ liệu, bộ nhớ và model trên hạ tầng mình kiểm soát thay vì phụ thuộc vào một nền tảng đóng. Với SMB Việt Nam, quyết định đúng nằm ở tổng chi phí 3 năm, quyền đổi nhà cung cấp và rủi ro chủ quyền dữ liệu.

Tin thị trường mới nhất rất rõ: OpenAI mua uv/ruff, SpaceX thâu tóm Cursor, Anthropic thuê thêm data center, còn hệ sinh thái Hermes vừa đẩy mạnh Desktop, Remote Gateway, Profile Builder và tích hợp NVIDIA/OpenShell. Dịch chuyển này nói một điều: cuộc chơi AI đang chuyển từ công cụ đơn lẻ sang quyền kiểm soát hạ tầng.

1. Proprietary rẻ lúc bắt đầu, đắt khi workflow đã bám rễ

Nền tảng proprietary thường thắng ở ngày đầu tiên. Bạn đăng ký, nhập thẻ, bật tài khoản cho đội sales, marketing, vận hành, rồi có kết quả nhanh. Chi phí ban đầu nhìn gọn: vài chục đô mỗi người dùng mỗi tháng, không cần quản trị VPS, không cần nghĩ về Postgres, vector database, gateway hay backup.

Vấn đề xuất hiện ở tháng thứ sáu trở đi. Workflow bắt đầu sống trong nền tảng đó: prompt, dữ liệu khách hàng, automation, lịch sử hội thoại, phân quyền, báo cáo, dashboard và thói quen vận hành của nhân sự. Khi nhà cung cấp tăng giá, đổi giới hạn model, khóa API, hoặc thay chính sách dữ liệu, chi phí rời đi không còn là phí đăng ký. Nó là chi phí tái huấn luyện đội ngũ, di chuyển dữ liệu, viết lại workflow và chấp nhận downtime.

Với SMB Việt Nam, đây là rủi ro thực tế hơn rủi ro kỹ thuật thuần túy. Một công ty 10-50 người thường không có đội nền tảng riêng. Nếu toàn bộ quy trình bán hàng, chăm sóc khách hàng và vận hành phụ thuộc vào một giao diện đóng, công ty đã thuê ngoài một phần trí nhớ vận hành của mình. Giá tháng đầu thấp, nhưng quyền thương lượng dài hạn yếu.

2. Open-source không miễn phí, nhưng chi phí minh bạch hơn

Open-source AI infrastructure không có nghĩa là không tốn tiền. Doanh nghiệp vẫn phải trả VPS, lưu trữ, backup, bảo mật, nhân sự vận hành, model API và thời gian triển khai. Điểm khác biệt là chi phí được tách thành các lớp có thể kiểm soát: hạ tầng, dữ liệu, điều phối agent, model provider và giao diện người dùng.

Với Hermes Agent trên VPS Ubuntu, một SMB có thể đặt lớp điều phối agent, cron job, gateway, memory và workflow trong môi trường riêng. Gbrain RAG có thể dùng PostgreSQL và pgvector để giữ tri thức nội bộ. Model có thể đi qua OpenRouter, DeepSeek hoặc nhà cung cấp khác theo từng tác vụ. Khi một model tăng giá, công ty đổi route. Khi cần bảo mật hơn, công ty thu hẹp quyền truy cập. Khi cần xuất dữ liệu, dữ liệu vẫn nằm trong database của mình.

Chi phí open-source vì vậy không biến mất, nhưng nó dễ kiểm toán hơn. Thay vì hỏi “gói này bao nhiêu tiền một user?”, CEO nên hỏi: “ba năm nữa, nếu tôi muốn đổi model, đổi nhà cung cấp, xuất toàn bộ log và chạy trên server khác, chi phí là bao nhiêu?”.

3. Công thức TCO 3 năm cho SMB Việt Nam

TCO 3 năm nên được tính bằng năm nhóm chi phí, không chỉ bằng phí thuê bao.

Một: phí nền tảng. Với proprietary, đây là phí theo user, theo seat, theo usage hoặc theo workspace. Với open-source, đây là VPS, database, backup, monitoring và chi phí model API.

Hai: chi phí triển khai. Proprietary có onboarding nhanh hơn, nhưng vẫn cần cấu hình workflow, phân quyền, import dữ liệu và đào tạo nhân sự. Open-source cần setup ban đầu nặng hơn: server, bảo mật, domain, gateway, repository, backup và quy trình cập nhật.

Ba: chi phí vận hành. Proprietary giảm tải kỹ thuật nhưng tăng phụ thuộc support bên ngoài. Open-source cần người chịu trách nhiệm vận hành, dù có thể là founder kỹ thuật, fractional CTO hoặc đối tác triển khai.

Bốn: chi phí chuyển đổi. Đây là khoản hay bị bỏ qua. Nếu sau 18 tháng bạn muốn rời nền tảng đóng, chi phí export, làm sạch dữ liệu, viết lại automation và huấn luyện lại đội ngũ có thể lớn hơn toàn bộ phí thuê bao năm đầu.

Năm: chi phí rủi ro. Rủi ro gồm mất dữ liệu, rò rỉ log, thay đổi điều khoản, tăng giá, bị giới hạn API, hoặc không đáp ứng yêu cầu compliance khi Luật AI và yêu cầu quản trị dữ liệu chặt hơn.

Một bảng quyết định thực tế: nếu doanh nghiệp chỉ thử nghiệm AI cho vài tác vụ nhẹ trong 90 ngày, proprietary có thể hợp lý. Nếu doanh nghiệp muốn biến AI agent thành lớp vận hành lõi trong 3 năm, open-source self-hosted thường đáng để tính nghiêm túc từ đầu.

4. Điểm hòa vốn không chỉ là tiền, mà là quyền kiểm soát

Điểm hòa vốn tài chính thường xuất hiện khi số người dùng, số workflow và lượng dữ liệu đủ lớn để phí thuê bao proprietary vượt chi phí server, triển khai và vận hành open-source. Nhưng điểm hòa vốn chiến lược có thể đến sớm hơn: khi doanh nghiệp bắt đầu đưa dữ liệu khách hàng, pipeline bán hàng, SOP nội bộ và tri thức vận hành vào AI.

Từ thời điểm đó, AI không còn là “công cụ năng suất”. Nó là lớp trí nhớ của công ty. Nếu lớp trí nhớ này nằm trong một nền tảng mà bạn không kiểm soát, rủi ro không chỉ là hóa đơn. Rủi ro là mất khả năng tự quyết khi thị trường đổi.

Đó là lý do 5ac.vn gọi mã nguồn mở là lối thoát hiểm. Không phải vì mọi công ty phải tự code mọi thứ. Mà vì công ty cần quyền xuất, quyền sửa, quyền tự host, quyền đổi model và quyền giữ dữ liệu. Proprietary có thể là taxi nhanh. Open-source là sở hữu đường ray.

5. Góc ứng dụng cho SMB Việt Nam: tính TCO trong 30 ngày

SMB Việt Nam có thể tính TCO 3 năm bằng một quy trình ngắn, không cần đội tư vấn lớn. Tuần đầu, liệt kê 10 workflow AI có giá trị nhất: chăm sóc khách hàng, tạo báo giá, CRM, marketing, báo cáo vận hành, tuyển dụng, tài chính, pháp lý, dữ liệu và quản lý tri thức. Với mỗi workflow, ghi rõ dữ liệu đi vào, dữ liệu đi ra, ai được quyền xem và hậu quả nếu mất quyền truy cập.

Tuần hai, lấy báo giá proprietary theo số user thật trong 36 tháng, cộng thêm usage dự kiến khi workflow chạy hằng ngày. Tuần ba, ước tính phương án open-source: VPS, backup, database, model API, triển khai Hermes, vận hành định kỳ và một khoản dự phòng bảo mật. Tuần bốn, chấm điểm rủi ro: vendor lock-in, khả năng export, quyền đổi model, compliance, dữ liệu khách hàng và năng lực nội bộ.

Quyết định đúng là chọn phương án có TCO thấp hơn sau khi đã cộng rủi ro. Nếu proprietary rẻ hơn nhưng khóa dữ liệu lõi, đó chưa chắc là rẻ. Nếu open-source đắt hơn 20% nhưng giữ quyền kiểm soát pipeline doanh thu, đó có thể là bảo hiểm chiến lược.

6. Khi nào nên chọn proprietary, khi nào nên chọn Hermes open-source

Chọn proprietary nếu bạn đang ở giai đoạn thử nghiệm, dữ liệu ít nhạy cảm, workflow chưa lõi, đội ngũ không có năng lực vận hành kỹ thuật và mục tiêu là học nhanh trong 30-90 ngày. Trong giai đoạn này, tốc độ quan trọng hơn chủ quyền.

Chọn Hermes open-source nếu AI agent sẽ chạm vào dữ liệu khách hàng, lịch sử bán hàng, tài liệu nội bộ, quy trình phê duyệt, báo cáo tài chính hoặc các automation chạy định kỳ. Khi workflow đã là tài sản công ty, quyền kiểm soát hạ tầng trở thành một phần của chiến lược.

Cách thực dụng nhất là đi theo mô hình lai. Dùng proprietary cho thử nghiệm không lõi. Dùng Hermes self-hosted cho lớp điều phối, memory, dữ liệu và workflow quan trọng. Route model theo ROI: tác vụ đơn giản dùng model rẻ, tác vụ phức tạp dùng model mạnh, dữ liệu nhạy cảm được giới hạn trong hạ tầng riêng.

7. Kết luận: đừng mua AI bằng cảm giác rẻ

AI đang đi vào giai đoạn tập trung hạ tầng. Khi các công ty lớn mua toolchain, data center và giao diện agent, SMB không nên chỉ nhìn vào giá khuyến mãi. Câu hỏi CEO phải hỏi là: ba năm nữa, công ty còn quyền rời đi không? Dữ liệu có xuất được không? Workflow có chạy được trên hạ tầng khác không? Model có thay được không?

Nếu câu trả lời là không, chi phí thật cao hơn hóa đơn. Với SMB Việt Nam, Hermes open-source không phải lựa chọn lãng mạn. Nó là một phương án quản trị rủi ro: giữ quyền kiểm soát, giảm lock-in, và biến AI từ công cụ thuê ngoài thành hạ tầng vận hành thuộc về doanh nghiệp.

Liên quan: Hạ tầng AI mã nguồn mở với Hermes, Open-source AI infrastructure với Hermes cho SMB Việt Nam, IBM 5B và bài học open-source AI enterprise, Tự động hóa doanh nghiệp bằng Hermes Kanban, Desktop agents cho tự động hóa doanh nghiệp SMB.