Tin Công Nghệ
Ra Mắt GPU NVIDIA L40S cho Data Center Visualization Launched
NVIDIA đã có một trong những bản cập nhật thú vị hơn trong tuần này tại SIGGRAPH 2023. NVIDIA L40S là GPU thẻ PCIe 350W với hiệu suất cao hơn NVIDIA L40.
Ra mắt GPU NVIDIA L40S để trực quan hóa trung tâm dữ liệu
NVIDIA L40S mới có nhiều thông số kỹ thuật tương tự như NVIDIA L40 trước đó. NVIDIA L40 được thiết kế để tích hợp vào các máy chủ PCIe nơi luồng không khí trong khung máy làm mát GPU. Chúng tôi đã xem xét nhiều trong số này trong nhiều năm với các thẻ như NVIDIA A100, nhưng các card như GPU NVIDIA A40 48GB cũng rất phổ biến. NVIDIA L40 và L40S là sự kế thừa của A40 về nhiều mặt.
Dưới đây là thông số kỹ thuật:
| Architecture | NVIDIA Ada Lovelace Architecture |
| Foundry | TSMC |
| Process Size | 4nm NVIDIA Custom Process |
| Transistors | 76.3 billion |
| Die Size | 608.44 mm |
| CUDA Parallel Processing Cores | 18,176 |
| NVIDIA Tensor Cores (4th Gen) | 568 |
| NVIDIA RT Cores (3rd Gen) | 142 |
| Peak FP32 TFLOPS (non-Tensor) | 91.6 |
| Peak FP16 Tensor TFLOPS with FP16 Accumulate | 366.5 | 733* |
| Peak FP8 Tensor TFLOPs with FP16 Accumulate | 733 | 1466* |
| Peak TF32 Tensor TFLOPS | 183 | 366* |
| Peak BF16 Tensor TFLOPS with FP32 Accumulate | 366.5 | 733* |
| Peak INT8 Tensor TOPS | 733 | 1466* |
| Peak INT4 Tensor TOPS | 733 | 1466* |
| RT Core Performance TFLOPS | 212 |
| GPU Memory | 48 GB GDDR6 with ECC |
| Memory Interface | 384-bit |
| Memory Bandwidth | 864 GB/s |
| Interconnect | x16 PCIe Gen4 (no NVLink) |
| Max Power Consumption | 350W |
| Graphics Bus | PCI Express 4.0 x16 |
| Display Connectors | DP 1.4a Supports NVIDIA Mosaic and Quadro Sync |
| Display Max Resolution / Quantity | Up to four 5K Monitors @ 60Hz per card or dual 8K displays @ 60Hz Each display port can support 4K @ 120hz with 30-bit color |
| Form Factor | 4.4” H x 10.5” L – Dual Slot |
Sự khác biệt lớn nhất dường như là công suất 350W, tăng từ 300W trên L40. Việc bổ sung thêm năng lượng sẽ làm tăng tốc độ xung nhịp trung bình mà GPU có thể chạy và do đó tăng hiệu suất.
Lời Kết
L40S rất thú vị vì cách đây không lâu, GPU 300W trong khe cắm thẻ PCIe được coi là giới hạn thực tế. Việc sử dụng GDDR6 thay vì HBM giúp giảm chi phí của thẻ và do đó có thể tạo ra những card hấp dẫn này để hiển thị từ xa hoặc thậm chí một số dạng tính toán GPU.
Vì chúng được thiết kế để chạy các ứng dụng như AI tổng quát dành cho các chuyên gia sáng tạo, nên việc tạo một vài màu tô cho nền của thẻ có vẻ hợp lý.
Xem thêm bài viết về AI :
CHIA SẺ BÀI VIẾT
