Giải Mã Công Nghệ Network Đỉnh Cao Tại AWS Networking Lab
Đằng sau hạ tầng cloud quy mô toàn cầu của Amazon Web Services là một hệ sinh thái networking được phát triển sâu đến cấp switch, optics, timing và cáp quang. AWS Networking Lab là nơi nhiều công nghệ đó được thiết kế, kiểm thử và chuẩn bị trước khi xuất hiện trong các data center vận hành hàng trăm nghìn server.
Điểm đáng chú ý là AWS không chỉ mua phần cứng mạng có sẵn trên thị trường. Hãng tự phát triển nhiều thành phần để giải quyết những bài toán đặc thù của hyperscale, từ switch 102.4Tbps, mã hóa line-rate, DWDM 64 bước sóng cho đến hollow-core fiber giảm độ trễ. Đây cũng là cách AWS Networking Lab cho thấy networking đang trở thành một phần trực tiếp quyết định khả năng mở rộng của cloud và AI.
Tổng quan về AWS Networking Lab
AWS Networking Lab là phòng nghiên cứu và kiểm thử nơi AWS phát triển nhiều công nghệ networking phục vụ hạ tầng cloud của hãng. Những hệ thống xuất hiện tại đây không chỉ gồm y Ethernet tốc độ cao mà còn có thiết bị timing, module quang, hệ thống quản trị, console server và các giải pháp kết nối cáp quang.
Điều đáng chú ý là AWS phát triển mạng theo hướng kiểm soát rất sâu từ phần cứng đến vận hành. Khi hạ tầng đạt quy mô hyperscale, một cải tiến nhỏ ở switch, optics hoặc connector có thể tạo ra khác biệt rất lớn khi được nhân lên trên hàng nghìn rack.
Những nhóm công nghệ nổi bật tại phòng lab gồm:
- Switch từ 3.2Tbps đến 102.4Tbps.
- Ethernet từ 100GbE đến 1.6TbE.
- Telemetry cho optical module.
- Mã hóa lưu lượng ở line rate.
- Hệ thống management network riêng.
- Mạng phân phối thời gian chuyên dụng.
- DWDM phục vụ kết nối đường dài.
- Hollow-core fiber giảm độ trễ.
- Connector mật độ cao cho hệ thống cáp quang.
- Environmental chamber kiểm thử độ bền phần cứng.
Qua đó, AWS Networking Lab không đơn giản là nơi thử nghiệm switch mới. Đây là nơi AWS tối ưu toàn bộ chuỗi kết nối từ cổng mạng bên trong data center cho đến tuyến quang dài hàng trăm hoặc hàng nghìn kilomet giữa các cơ sở.
AWS Networking Lab phát triển mạng hyperscale từ switch đến hạ tầng quang
Điểm đặc biệt của AWS Networking Lab nằm ở việc AWS không tối ưu từng thành phần mạng một cách riêng lẻ. Switch tốc độ cao, telemetry, mã hóa, management network, timing, DWDM, hollow-core fiber và connector quang đều được phát triển như những phần của cùng một hệ thống. Cách tiếp cận này giúp AWS vừa tăng băng thông, vừa kiểm soát độ trễ, độ tin cậy và tốc độ triển khai khi hạ tầng được mở rộng tới quy mô hyperscale.
AWS Networking Lab nâng switch từ 3.2Tbps lên 102.4Tbps
Một trong những khu vực nổi bật nhất trong phòng lab là dãy switch do AWS phát triển qua nhiều thế hệ. Sự thay đổi giữa các nền tảng cho thấy tốc độ mạng data center đã tăng rất nhanh, từ 100GbE trên mỗi cổng lên tới hướng 1.6TbE.
Các thế hệ chính gồm:
- Switch 3.2Tbps: 32 cổng 100GbE QSFP28.
- Switch 12.8Tbps: sử dụng cổng 400GbE QSFP-DD.
- Switch 51.2Tbps: sử dụng cổng OSFP 800GbE.
- Switch 102.4Tbps: hướng đến 1.6TbE trên mỗi cổng.
Ở thế hệ 3.2Tbps, switch sử dụng 32 cổng QSFP28 với tốc độ 100GbE. Sang 12.8Tbps, AWS chuyển sang 400GbE QSFP-DD đồng thời thay đổi phương thức signaling từ NRZ sang PAM4 để tăng lượng dữ liệu trên mỗi lane.
Thế hệ 51.2Tbps sử dụng OSFP và PAM4-112 SerDes, cho phép mỗi cổng đạt 800GbE. Bước tiếp theo tại AWS Networking Lab là switch 102.4Tbps sử dụng PAM4-224, hướng tới raw bandwidth khoảng 1.6Tbps trên mỗi cổng OSFP.
So với thế hệ 100GbE ban đầu, băng thông mỗi port đã tăng khoảng 16 lần. Tuy nhiên, tốc độ cao hơn cũng kéo theo yêu cầu mới về nhiệt và điện năng.
Heatsink của switch ASIC ngày càng lớn, optical module tốc độ cao cần cooling tốt hơn và hệ thống power delivery cũng phải nâng cấp tương ứng. Điều này cho thấy quá trình phát triển thiết bị mạng hyperscale không chỉ là tăng SerDes, mà toàn bộ switch architecture phải được thiết kế lại đồng bộ.
Telemetry và mã hóa giúp AWS Networking Lab tăng độ tin cậy của mạng
Khi số lượng optical module tăng lên hàng nghìn hoặc hàng chục nghìn, việc chờ linh kiện hỏng rồi mới xử lý không còn phù hợp. Vì vậy, AWS đưa telemetry sâu hơn vào các switch thế hệ mới.
Một board telemetry nhỏ giao tiếp với từng pluggable optical module thông qua I2C để thu thập thông tin hoạt động. Mục tiêu là phát hiện dấu hiệu bất thường trước khi module gây ảnh hưởng tới kết nối.
Các thành phần thường xuất hiện trong switch AWS gồm:
- Switch ASIC.
- Board telemetry I2C.
- Annapurna Labs management processor.
- SSD phục vụ logging.
- Hệ thống power distribution.
- Fan control.
Ở quy mô của AWS Networking Lab, telemetry trở thành một lớp hỗ trợ vận hành thay vì chỉ là chức năng giám sát bổ sung. Dữ liệu thu thập từ optics có thể giúp xác định những module đang suy giảm trước khi sự cố lan rộng.
AWS còn phát triển switch 12.8Tbps có khả năng mã hóa toàn bộ traffic ở line rate. Thiết kế sử dụng 16 FPGA để xử lý encryption trực tiếp trên đường truyền.
Việc bổ sung lượng silicon lớn khiến thiết bị có kích thước 2U và yêu cầu nguồn cũng như cooling cao hơn, nhưng đổi lại AWS có thể đưa mã hóa xuống ngay lớp phần cứng.
Các cổng còn hỗ trợ high-power 400ZR optics, cho phép cùng một switch xử lý traffic nội bộ và kết nối các tuyến metro hoặc long-haul. Cách tiếp cận này cho thấy AWS Networking Lab muốn tích hợp nhiều chức năng hơn trực tiếp vào hạ tầng mạng để giảm số lớp thiết bị trung gian.
AWS Networking Lab xây riêng management network và mạng timing
Tốc độ switch cao không đủ để vận hành một hạ tầng hyperscale nếu management plane thiếu ổn định. Do đó, AWS còn xây dựng một mạng quản trị riêng cho các thành phần trong data center.
AWS tự phát triển switch management 1GbE với những thành phần như:
- PHY.
- Transformer.
- Switch chip.
- Management processor.
- SSD server lưu log.
Băng thông 1GbE không phải điểm nổi bật của thiết bị này. Giá trị nằm ở việc AWS kiểm soát được lớp quản trị tách biệt với production network, qua đó duy trì khả năng truy cập và xử lý sự cố khi mạng chính gặp vấn đề. Hãng thậm chí tự thiết kế serial console server để phục vụ out-of-band management.
Bên cạnh mạng dữ liệu và mạng quản trị, AWS Networking Lab còn phát triển một mạng phân phối thời gian riêng. Hệ thống nhận tín hiệu tham chiếu từ vệ tinh và phân phối pulse-per-second tới các thiết bị trong data center.
Mạng timing được xây theo dạng cây:
- Bốn cổng hướng upstream.
- Các cổng còn lại phân phối thời gian downstream.
- Toàn bộ topology được lập bản đồ.
- Chiều dài và tốc độ từng link được tính vào quá trình hiệu chỉnh.
Thiết bị timing có hình thức gần giống switch 48 cổng SFP nhưng không truyền Ethernet. AWS sử dụng protocol riêng và nhiều antenna đầu vào để tăng khả năng dự phòng. Mục tiêu là duy trì độ chính xác thời gian trong khoảng 20 microsecond, thấp hơn đáng kể so với mức khoảng 500 microsecond được nhắc đến với NTP tiêu chuẩn.
Độ chính xác này đặc biệt quan trọng với database phân tán, transaction và logging. Trong một Hệ thống máy chủ trải rộng trên nhiều data center, timestamp không đồng nhất có thể làm phức tạp việc xác định thứ tự sự kiện và phân tích lỗi.
AWS Networking Lab mở rộng đường truyền quang bằng DWDM và hollow-core fiber
Khi traffic phải di chuyển giữa các data center, tốc độ switch chỉ giải quyết được phần bên trong từng cơ sở. Bài toán tiếp theo là đưa lượng dữ liệu lớn qua số lượng sợi quang hữu hạn. AWS tự phát triển giải pháp DWDM thay vì chỉ dựa vào hệ thống long-haul có sẵn trên thị trường.
DWDM cho phép nhiều bước sóng cùng truyền trên một sợi quang. Thế hệ được giới thiệu tại AWS Networking Lab có thể đưa tới 64 bước sóng lên một fiber strand, với mỗi bước sóng hoạt động ở tốc độ 800G.
Lợi ích chính gồm:
- Tăng dung lượng truyền trên mỗi sợi quang.
- Giảm nhu cầu bổ sung fiber mới.
- Tận dụng tốt hơn tuyến quang giữa các data center.
- Hỗ trợ kết nối tốc độ cao trên khoảng cách dài.
- Mở rộng capacity mà không tăng tương ứng số lượng sợi.
Ở phía client, module hoạt động gần với DR4 optics trong data center. Khi tín hiệu cần đi xa hàng trăm hoặc hàng nghìn kilomet, hệ thống chuyển sang coherent optics sử dụng 16-QAM.
Bên cạnh DWDM, AWS Networking Lab còn thử nghiệm và triển khai hollow-core fiber trên một số tuyến dài.
Khác với single-mode fiber thông thường, ánh sáng trong hollow-core fiber truyền chủ yếu qua lõi không khí thay vì kính. Mục tiêu chính không phải tăng băng thông mà giảm latency.
Ánh sáng truyền qua không khí nhanh hơn trong kính khoảng 33%, nhờ đó giảm thời gian truyền dữ liệu trên các tuyến dài. Với AWS, điều này có thể giúp mở rộng khoảng cách giữa các Availability Zone mà vẫn giữ latency trong giới hạn thiết kế.
Hollow-core fiber chưa thay thế hoàn toàn single-mode fiber. AWS vẫn sử dụng cáp quang truyền thống trong và gần data center, trong khi hollow-core được ưu tiên cho một số tuyến dài nơi độ trễ có ý nghĩa lớn hơn.
Connector 64 fiber và kiểm thử độ bền hoàn thiện hệ sinh thái AWS Networking Lab
Khi triển khai một AI cluster lớn, tốc độ lắp đặt cabling cũng có thể ảnh hưởng đến thời gian đưa hệ thống vào hoạt động. Một connector tiết kiệm vài phút tưởng như không đáng kể, nhưng khi nhân lên hàng nghìn kết nối lại tạo ra khác biệt lớn. AWS sử dụng MMC connector có thể gom bốn connector vào một housing, mang tổng cộng 64 fiber.
Trong giải pháp cũ, việc loopback để kiểm thử có thể cần nhiều đoạn fiber nhỏ, khiến quá trình chế tạo và thao tác trở nên phức tạp. Đội ngũ tại AWS Networking Lab phát triển một molded component mang tên Firefly để đơn giản hóa quá trình này.
Firefly có hai nhiệm vụ chính:
- Tạo loopback thông qua hệ thống lens.
- Bảo vệ connector trong quá trình vận chuyển.
Khi triển khai, kỹ thuật viên chỉ cần tháo Firefly rồi gắn connector vào patch panel. Theo phần trình diễn, 64 fiber có thể được kết nối trong khoảng một giây. Mật độ cabling nhờ đó cao hơn so với LC patch field truyền thống, trong khi từng MMC connector bên trong housing vẫn có thể tháo riêng để bảo trì.
Sau khi thiết kế phần cứng và cabling, AWS còn phải kiểm chứng độ bền trước khi đưa thiết bị vào production. Vì vậy, environmental chamber trở thành một phần quan trọng khác của AWS Networking Lab.
Các bài kiểm thử gồm:
- Nhiệt độ cao và thấp.
- Độ ẩm.
- Thermal cycling.
- Humidity cycling.
- Các điều kiện khắc nghiệt hơn môi trường vận hành thông thường.
AWS lấy linh kiện từ nhiều vendor và nhiều địa điểm sản xuất, kết nối chúng thành hệ thống hoàn chỉnh rồi kiểm thử dưới các điều kiện khác nhau. Mục tiêu là phát hiện những lỗi hiếm gặp trước khi triển khai quy mô lớn.
Ở hyperscale, tỷ lệ lỗi rất nhỏ cũng có thể trở thành hàng trăm hoặc hàng nghìn thiết bị gặp vấn đề. Vì vậy, từ switch, optics, connector đến khả năng chịu nhiệt đều phải được kiểm thử trước khi bước vào production. Đây cũng là cách AWS Networking Lab kết nối toàn bộ chuỗi công nghệ networking thành một hệ thống có khả năng mở rộng và vận hành ổn định ở quy mô rất lớn.
AWS Networking Lab cho thấy tương lai networking của cloud và AI
Những công nghệ bên trong phòng lab cho thấy networking tại hyperscale đang phát triển theo nhiều hướng cùng lúc. Tăng băng thông từ 100GbE lên 1.6TbE chỉ là một phần của quá trình này.
AWS Networking Lab còn phải giải quyết đồng thời các vấn đề về telemetry, encryption, timing, optics, latency đường dài, tốc độ triển khai cáp và độ bền của phần cứng.
Có thể thấy một số xu hướng rõ ràng:
- Switch tiến tới 102.4Tbps và port 1.6TbE.
- Optics ngày càng cần cooling chủ động hơn.
- Telemetry được đưa sâu xuống từng optical module.
- Encryption được xử lý trực tiếp ở line rate.
- Timing có hạ tầng riêng thay vì chỉ phụ thuộc NTP.
- DWDM tận dụng tối đa capacity của từng sợi quang.
- Hollow-core fiber được sử dụng để giảm latency.
- Connector mật độ cao giúp tăng tốc triển khai AI cluster.
Những thay đổi này đặc biệt quan trọng khi AI tiếp tục làm tăng east-west traffic trong data center. GPU cluster có thể cần trao đổi lượng dữ liệu khổng lồ giữa các node, trong khi storage và backend cũng phải theo kịp tốc độ compute.
Qua AWS Networking Lab, có thể thấy mạng không còn chỉ là lớp kết nối phía sau compute. Networking đang trở thành một thành phần quyết định quy mô, hiệu suất và khả năng vận hành của toàn bộ hạ tầng cloud.
Theo dõi và cập nhật thông tin công nghệ mới nhất cùng Máy Chủ Việt.
Nguồn: Serverthehome.









