0867.111.333

NVIDIA Vera CPU lên Oracle Cloud: 88 nhân, băng thông RAM 1,2 TB/s cho Agentic AI

Ngày đăng: Cập nhật: Lượt xem: 50

NVIDIA Vera CPU đang bước từ một bộ xử lý được thiết kế cho hệ thống Vera Rubin thành một nền tảng CPU độc lập trên cloud. Oracle Cloud Infrastructure đã đưa Vera vào khai thác thương mại với kế hoạch ban đầu khoảng 150.000 CPU, trong khi các OCI Supercluster sử dụng Vera Rubin NVL72 được mở rộng ở quy mô multi-gigawatt. Đáng chú ý hơn, thử nghiệm ban đầu cho thấy kiến trúc Vera có lợi thế rất lớn về băng thông bộ nhớ so với hệ thống Xeon 6 kép – một yếu tố ngày càng quan trọng khi AI chuyển sang agentic workload.

NVIDIA Vera CPU chính thức trở thành CPU độc lập trên Oracle Cloud

Điểm đáng chú ý nhất trong thông báo mới không phải việc Oracle hỗ trợ NVIDIA Vera Rubin – điều này đã nằm trong lộ trình AI infrastructure từ trước – mà là Vera CPU hiện có thể được sử dụng như một nền tảng compute độc lập trên OCI.

Oracle cho biết họ là hyperscaler đầu tiên đưa NVIDIA Vera CPU ra thị trường, với khoảng 150.000 CPU trong giai đoạn triển khai ban đầu. Vera không chỉ đóng vai trò host CPU bên cạnh Rubin GPU mà còn được cung cấp cho các workload riêng như agent orchestration, code execution, data processing, reinforcement learning và analytics.

Đây là thay đổi quan trọng về mặt chiến lược.

NVIDIA vốn nổi tiếng với GPU, còn thị trường CPU data center chủ yếu thuộc về Intel Xeon và AMD EPYC. Grace đã giúp NVIDIA bước chân vào thế giới CPU Arm, nhưng Vera đi xa hơn khi sử dụng core Olympus do NVIDIA tự thiết kế và nhắm trực tiếp vào những công việc phía CPU của hạ tầng AI.

NVIDIA Vera CPU lên Oracle Cloud: 88 nhân, băng thông RAM 1,2 TB/s cho Agentic AI

NVIDIA Vera CPU

Thông số chính của một NVIDIA Vera CPU:

Thành phầnNVIDIA Vera CPU
Kiến trúcArm-compatible, NVIDIA Olympus
CPU core88 core
Số luồng176 thread
Công nghệ multithreadingNVIDIA Spatial Multithreading
Bộ nhớLPDDR5X qua SOCAMM
Dung lượng bộ nhớTối đa 1,5TB
Băng thông bộ nhớTối đa 1,2TB/s
Băng thông SCF3,4TB/s
NVLink-C2CTới 1,8TB/s coherent bandwidth

Nếu chỉ nhìn số nhân, Vera không phải CPU có mật độ cao nhất. Các dòng CPU máy chủ AMD EPYC mới có thể cung cấp nhiều core hơn đáng kể trong một socket. NVIDIA lại tối ưu Vera theo hướng khác: ít tập trung vào số lượng core tối đa, thay vào đó ưu tiên single-thread performance, độ trễ, băng thông bộ nhớ và hiệu năng khi hệ thống chịu tải đồng thời cao.

Đó chính là những đặc điểm mà NVIDIA cho rằng Agentic AI cần nhiều hơn.

Vì sao Agentic AI lại cần một CPU khác với server truyền thống?

AI hiện nay không còn đơn giản là gửi prompt vào GPU rồi chờ model trả lời. Một AI agent có thể phải thực hiện cả chuỗi công việc:

  1. Nhận yêu cầu của người dùng
  2. Gọi LLM để lập kế hoạch
  3. Tìm kiếm dữ liệu
  4. Chạy Python hoặc code do model tạo ra
  5. Truy vấn database
  6. Gọi API hoặc công cụ bên ngoài
  7. Kiểm tra kết quả
  8. Yiếp tục reasoning rồi mới tạo câu trả lời cuối cùng.

GPU vẫn đảm nhiệm phần inference nặng, nhưng rất nhiều bước giữa các lần gọi model lại chạy trên CPU. Nếu CPU mất quá nhiều thời gian để thực thi code hoặc truy vấn dữ liệu, GPU phải chờ. Với một cụm có hàng nghìn GPU, chỉ một tỷ lệ nhỏ thời gian idle cũng có thể gây lãng phí hạ tầng rất lớn.

Đó là lý do NVIDIA mô tả Vera là “CPU for agents”.

Olympus core được tối ưu cho các workload nhiều branch và nhạy với độ trễ như Python, tool execution hay orchestration. Spatial Multithreading cho phép 88 core tạo thành 176 thread nhưng vẫn phân chia tài nguyên trong core nhằm giữ throughput ổn định khi tải tăng cao.

NVIDIA tự công bố Vera có thể hoàn thành agentic task nhanh hơn tới 80% so với các CPU x86 mà hãng dùng làm baseline. Trong các bài workload riêng, mức tăng được NVIDIA đưa ra khoảng 1,7 lần cho compilation và code analysis, cùng khoảng 1,9 lần với Python. Đây là benchmark của nhà sản xuất nên cần xem như chỉ dấu về hướng tối ưu, không phải kết luận rằng Vera nhanh hơn mọi Xeon hay EPYC trong mọi ứng dụng.

1,2 TB/s băng thông bộ nhớ mới là điểm đặc biệt của Vera

Nếu phải chọn một thông số giúp Vera khác biệt rõ ràng nhất so với CPU server truyền thống, đó có lẽ là memory bandwidth. Vera sử dụng LPDDR5X thay vì DDR5 RDIMM thông thường. Bộ nhớ được triển khai dưới dạng SOCAMM có thể tháo và thay thế, giúp NVIDIA kết hợp tính tiết kiệm điện của LPDDR với khả năng bảo trì phù hợp cho server.

Hệ thống này cung cấp tới:

  • 1,5TB dung lượng bộ nhớ trên mỗi Vera CPU
  • 1,2TB/s băng thông LPDDR5X
  • khoảng 3 lần băng thông trên mỗi core so với baseline x86 DDR5 mà NVIDIA sử dụng
  • NVIDIA tuyên bố khoảng 5 lần băng thông trên mỗi watt điện của memory subsystem

Điểm đáng chú ý là lợi thế băng thông không chỉ xuất hiện trên slide của NVIDIA.

Tom’s Hardware đã thử nghiệm một server Vera riêng bằng STREAM, một benchmark thường dùng để đo khả năng di chuyển dữ liệu của hệ thống. Với phép Triad, Vera cung cấp hơn gấp đôi băng thông bộ nhớ so với một máy dual-socket Intel Xeon 6980P sử dụng MRDIMM 8.800 MT/s.

Cần nhấn mạnh rằng đây không phải benchmark trên OCI. Tom’s Hardware thực hiện thử nghiệm trên một máy Vera khác và cho biết cấu hình đầy đủ sẽ được công bố trong bài review sau. Kết quả ban đầu vẫn khá đáng chú ý, bởi Xeon 6980P là CPU server cao cấp và hệ thống thử nghiệm còn sử dụng MRDIMM tốc độ cao.

Vì sao băng thông này quan trọng?

Một agent phải đọc tài liệu lớn, truy vấn database hoặc chạy nhiều sandbox đồng thời sẽ liên tục kéo dữ liệu từ RAM. Khi hàng chục hoặc hàng trăm thread cùng làm việc, memory bandwidth có thể trở thành nút thắt trước cả khả năng tính toán của core.

Vera còn sử dụng Scalable Coherency Fabric thế hệ hai, kết nối 88 core, cache, memory và I/O trên một compute die. Fabric này có băng thông bisectional 3,4TB/s và thiết kế cache phân tán dạng mesh, giúp giảm việc phải đi qua các kết nối giữa chiplet.

NVIDIA Vera CPU

NVIDIA Vera CPU

Vera không chỉ mạnh khi làm host cho Rubin GPU

Ban đầu, Vera thường được nhắc tới cùng Rubin GPU. Một rack Vera Rubin NVL72 gồm 72 Rubin GPU và 36 Vera CPU, liên kết thông qua NVLink 6 cùng các thành phần networking thế hệ mới.

Nếu muốn tìm hiểu sâu hơn về thiết kế rack này, có thể xem Hệ thống NVIDIA Vera Rubin: Đột phá hạ tầng AI tại Pegatron GTC 2026 để thấy cách Vera và Rubin được kết hợp trong một nền tảng AI rack-scale.

Trong hệ thống đó, Vera có thể trao đổi dữ liệu coherent với GPU thông qua NVLink-C2C với băng thông tới 1,8TB/s, giúp giảm nút thắt khi CPU và GPU cùng truy cập dataset lớn hoặc thực hiện KV-cache offload.

Nhưng quyết định của Oracle cung cấp Vera dưới dạng standalone instance mới là phần thú vị. Nếu Vera chỉ có ý nghĩa khi đi cùng GPU NVIDIA, nó sẽ giống một host processor chuyên dụng. Việc OCI đưa Vera ra như một lựa chọn CPU riêng cho thấy NVIDIA muốn chip này cạnh tranh ở nhiều workload data center hơn.

Các thử nghiệm ban đầu củng cố phần nào khả năng đó. Ngoài STREAM, Tom’s Hardware cho biết Vera thể hiện tốt trong Python, vốn rất quan trọng với các framework agentic như LangGraph hay CrewAI cũng như hệ sinh thái PyTorch và TensorFlow. Vera cũng cho kết quả đáng chú ý trong SQLite – một workload database khá phổ biến và không phải tác vụ AI chuyên biệt.

Điều này cho thấy ranh giới giữa “Agentic AI workload” và “server workload” thực tế không quá rõ. AI agent vẫn phải chạy code, truy vấn dữ liệu, đọc file và quản lý service. Đây đều là những việc server truyền thống đã thực hiện từ lâu, chỉ khác ở chỗ agent có thể tạo ra mức độ đồng thời rất cao.

> Vì vậy: Vera có khả năng cạnh tranh không chỉ ở AI orchestration mà cả một số workload data center nhạy với memory bandwidth và single-thread performance.

Oracle vẫn dùng Xeon 6: Vera chưa thay thế x86

Một chi tiết rất quan trọng là không nên diễn giải thông báo này thành “Oracle chuyển từ Xeon sang Vera”.

Thực tế, OCI đang mở rộng theo nhiều kiến trúc song song. OCI Superclusters sẽ triển khai Vera Rubin NVL72 ở quy mô multi-gigawatt, sử dụng Oracle Acceleron networking kết hợp NVIDIA Spectrum-X, Spectrum-6 switch và BlueField-4 DPU. Mỗi rack NVL72 liên kết 72 GPU thông qua NVLink scale-up network.

Nhưng Oracle đồng thời có kế hoạch cung cấp HGX Rubin NVL8, một cấu hình tám Rubin GPU nhỏ hơn dành cho khách hàng không cần nguyên rack NVL72. Điều thú vị là HGX Rubin NVL8 này sử dụng:

Thành phầnCấu hình dự kiến
GPU8 × NVIDIA Rubin
Host CPU2 × Intel Xeon 6, mỗi CPU 64 core
RAM4TB DDR5
Networking6,4Tbps RDMA

Nghĩa là trong cùng một hệ sinh thái OCI, khách hàng có thể gặp cả Vera CPU, Intel Xeon và Rubin GPU. Đây có lẽ là cách nhìn thực tế nhất về vị trí của Vera.

Vera chưa phải sản phẩm nhằm thay thế toàn bộ Xeon hay EPYC. NVIDIA cũng từng thừa nhận một SKU 88 core không thể phục vụ mọi loại workload server. AMD và Intel vẫn có danh mục CPU rộng hơn rất nhiều, từ server phổ thông đến hệ thống hàng trăm core. Lợi thế của NVIDIA nằm ở việc hãng đang tạo CPU cho một nhóm workload cụ thể đang tăng nhanh, sau đó kết nối CPU đó rất sâu với GPU, networking và software stack của chính mình.

NVIDIA Vera CPU có ý nghĩa gì với thị trường server AI?

Việc Oracle đưa Vera vào hoạt động thương mại cho thấy cuộc cạnh tranh hạ tầng AI đang mở rộng từ GPU sang CPU. Trước đây, CPU trong server AI thường được xem chủ yếu là host: khởi động hệ thống, chuẩn bị dữ liệu và điều phối GPU.

Agentic AI đang làm thay đổi cách nhìn đó. Khi một agent gọi model nhiều lần, chạy code nhiều lần và liên tục truy vấn dữ liệu giữa các bước reasoning, CPU bắt đầu ảnh hưởng trực tiếp tới tổng thời gian hoàn thành một tác vụ.

Điều này tạo ra ba hướng cạnh tranh mới:

Yếu tốVì sao quan trọng với Agentic AI?
Single-thread performanceTool call và code execution thường phụ thuộc latency
Memory bandwidthNhiều sandbox và database query cùng truy cập RAM
CPU–GPU interconnectGiảm thời gian di chuyển dữ liệu giữa hai loại processor

Vera được NVIDIA tối ưu gần như trực tiếp cho ba bài toán này.

Oracle cũng cho phép CPU và GPU resource được scale tương đối độc lập trong OCI Kubernetes Engine. Điều này phù hợp với agentic workload vì tỷ lệ CPU/GPU không phải lúc nào cũng cố định: một ứng dụng có thể gọi LLM ít nhưng chạy rất nhiều code, trong khi ứng dụng khác lại cần GPU inference liên tục.

OpenAI nằm trong nhóm khách hàng early-access và cho biết đang đưa Vera trên OCI vào production để phục vụ agentic sandbox workloads. Đây là tín hiệu đáng chú ý, dù vẫn cần thêm dữ liệu production và benchmark độc lập trước khi đánh giá hiệu quả kinh tế thực tế của Vera ở quy mô lớn.

NVIDIA Vera CPU

NVIDIA Vera CPU

NVIDIA Vera CPU có gì đáng chú ý?

NVIDIA Vera CPU đáng chú ý không phải vì nó có nhiều core nhất thị trường. Với 88 core và 176 thread, Vera thậm chí thấp hơn đáng kể về mật độ nhân so với những CPU EPYC cao cấp. Thứ NVIDIA đang đặt cược là một công thức khác: core mạnh khi chịu tải, memory bandwidth cực cao và khả năng kết nối trực tiếp với GPU.

Băng thông LPDDR5X lên tới 1,2TB/s cùng kiến trúc SCF dạng mesh đã cho thấy lợi thế rõ ràng trong thử nghiệm STREAM ban đầu. Khả năng xử lý Python và database cũng gợi ý Vera có thể hữu ích ngoài phạm vi host CPU cho Rubin.

Quan trọng hơn, Oracle đã đưa Vera ra dưới dạng CPU độc lập thay vì buộc nó phải gắn với GPU NVIDIA. Với khoảng 150.000 CPU trong đợt triển khai ban đầu, đây là một bước thử nghiệm quy mô đáng kể về khả năng NVIDIA chen chân sâu hơn vào thị trường CPU hyperscale.

Tuy vậy, Vera chưa phải lời tuyên chiến thay thế toàn bộ x86. Việc chính Oracle vẫn triển khai HGX Rubin NVL8 với dual Xeon 6 cho thấy mỗi kiến trúc đang được chọn theo workload phù hợp. Cuộc cạnh tranh mới vì thế có thể không còn đơn giản là “CPU nào có nhiều core nhất”, mà là CPU nào giúp toàn bộ AI factory hoàn thành nhiều công việc hữu ích hơn trên mỗi watt và mỗi USD đầu tư.

Theo dõi và cập nhật thông tin công nghệ mới nhất cùng Máy Chủ Việt.

Nguồn thông tin: NVIDIA, Oracle Cloud Infrastructure, Tom’s Hardware

Trần Quỳnh Hương

Xem thêm bài viết
Đề nghị báo giá ngay
Chat qua zalo
Chat qua Facebook
Gọi ngay: 0867111333