# Di Luar Rak: Bagaimana Optik yang Dikemas Bersama (CPO) dan Penyimpanan Generasi Berikutnya Memecahkan Masalah Pergerakan Data AI
Di CIOE 2026 di Shenzhen, pergeseran percakapan yang menarik muncul di antara arsitek pusat data. Lima tahun lalu, diskusi berpusat pada TFLOPS GPU dan jumlah inti CPU. Hari ini? Obsesinya adalah PB/dtk (petabyte per detik) dan anggaran latensi nanodetik.
Mengapa? Karena di era model AI triliunan parameter dan inferensi waktu nyata, hambatan telah bergeser dari komputasi ke pergerakan data. GPU H200 modern dapat memproses 4,8 PFLOPS—tetapi kekurangan data. Melatih model kelas GPT-4 membutuhkan pengacakan 45 petabyte data pelatihan di ribuan GPU, miliaran kali.
Artikel ini mengeksplorasi dua teknologi konvergen yang dipamerkan di CIOE 2026 yang mendefinisikan ulang infrastruktur AI: 1. Optik yang Dikemas Bersama (CPO) dan Optik Dekat Paket (NPO) – menghilangkan hambatan listrik 2. Penyimpanan perusahaan generasi berikutnya – SSD dan sistem memori yang dibangun untuk selera AI yang tak terpuaskan
Modul optik tradisional terhubung ke sakelar melalui jejak listrik pada PCB. Saat kecepatan data naik melewati 1,6Tbps, jejak ini menjadi hambatan yang tak dapat diatasi:
- Kehilangan sinyal: 30-40 dB/m pada 112Gbps PAM4 (56GHz) - Konsumsi daya: Retimer dan DSP membakar 15-20W per modul - Latensi: SerDes listrik menambah latensi pulang-pergi 100-200ns - Kepadatan: Batas panel depan QSFP-DD hingga ~51Tbps per ASIC sakelar
Masuk Optik yang Dikemas Bersama: mengintegrasikan mesin optik di dalam paket yang sama dengan silikon sakelar.
Berjalan melalui pameran, CPO telah beralih dari makalah konferensi ke silikon yang dikirimkan:
#### 1. Mesin Optik NPO 6,4T (华工正源/Huagong Zhongyuan) - Konfigurasi: 8× 800G jalur menggunakan laser DWDM titik kuantum - Efisiensi daya: 3,5 pJ/bit (dibandingkan 8 pJ/bit untuk modul yang dapat dicolokkan) - Bentuk faktor: Terintegrasi ke dalam substrat paket sakelar - Status: Sampel ke hyperscaler Tier-1 pada Q4 2026
#### 2. Platform Fotoni Silikon (GlobalFoundries) Proses SiPh 45nm yang kompatibel dengan CMOS mereka memungkinkan: - Integrasi monolitik laser, modulator, dan fotodetektor - Pengujian skala wafer mengurangi biaya perakitan sebesar 60% - Sumber multi-panjang gelombang untuk aplikasi DWDM
#### 3. Terobosan Perangkat Keras Light联芯科 Startup Tiongkok meluncurkan sistem litografi terprogram tanpa masker ZW1000 untuk fotoni silikon: - Prototipe cepat: Minggu alih-alih bulan untuk desain baru - Produksi volume rendah: Ekonomis untuk <10K unitsyear - Fleksibilitas: Gelombang pandu yang dapat dikonfigurasi ulang untuk aplikasi khusus
Ini mengatasi tantangan terbesar CPO: siklus iterasi desain. Biaya masker foto tradisional ($200K+) membuat eksperimen menjadi sangat mahal.
Tidak semua aplikasi menuntut kompleksitas CPO. Berikut adalah kapan setiap teknologi masuk akal:
| Arsitektur | Paling Cocok Untuk | Bandwidth | Daya | Biaya | Ketersediaan | |--------------|----------|-----------|-------|------|--------------| | Dapat Dicolokkan (QSFP-DD) | Jaringan spine-leaf | 800G-1.6T | 15-20W | $ | Sekarang | | LPO (Linear Pluggable) | Rak-ke-rak <100m | 800G 8-12W $$ Now NPO (Dekat Paket) | Kluster pelatihan AI | 3.2-6.4T | 5-8W | $$$ | 2027 | | CPO (Dikemas Bersama) | Fabrik sakelar | 12.8T+ | 3-5W | $$$$ | 2028 |
Wawasan Utama dari CIOE: Untuk penerapan 2026-2027, arsitektur hibrida mendominasi: - CPO untuk sakelar spine (51.2Tbps+ per ASIC) - Modul 800G yang dapat dicolokkan untuk sakelar leaf - LPO untuk interkoneksi GPU fabrik komputasi
Bagi para insinyur yang mengevaluasi solusi CPO, memahami arsitektur sangat penting:
#### Jalur Modul Dapat Dicolokkan Tradisional: ``` GPU → PCIe → ASIC NIC → Jejak PCB (30cm) → Retimer → DSP Modul → Laser → Serat → Fotodioda → DSP → Retimer → Jejak PCB → ASIC Sakelar ``` Total latensi: ~800ns Daya: ~35W untuk 800G dua arah
#### Jalur CPO: ``` ASIC Sakelar → Gelombang pandu di paket (3mm) → Modulator → Serat → Fotodioda → Gelombang pandu → ASIC Sakelar ``` Total latensi: ~200ns Daya: ~8W untuk 800G dua arah
Pengurangan latensi ini transformatif untuk pelatihan paralel sinkron (misalnya, ZeRO-3, FSDP), di mana primitif komunikasi kolektif (all-reduce, all-gather) mendominasi waktu eksekusi.
Meskipun memiliki keunggulan teknis yang menarik, CPO menghadapi hambatan:
1. Ketidakmatangan rantai pasokan: Hanya 3-4 vendor berkualitas secara global 2. Desain ulang ASIC sakelar: Membutuhkan pengembangan bersama dengan Broadcom/Nvidia/Marvell 3. Manajemen termal: ASIC sakelar 400W+ + mesin optik = pendinginan yang kompleks 4. Ekonomi perbaikan: Mesin optik mati = membuang seluruh modul sakelar ($50K+)
Konsensus industri di CIOE: CPO akan menangkap 15-20% pasar sakelar 2028, terkonsentrasi di kluster AI hyperscale. Modul yang dapat dicolokkan tetap dominan untuk perusahaan dan telekomunikasi.
Sementara semua orang terpaku pada GPU, pameran penyimpanan perusahaan CIOE menceritakan kisah yang sama pentingnya: pipeline data AI hanya secepat komponen terlamanya.
Melatih model 1 triliun parameter pada 10TB data membutuhkan: - Pemuatan dataset: 10TB dibaca dari penyimpanan → memori GPU - Pencadangan: Bobot model 2TB ditulis setiap epoch (10-100× per jalankan pelatihan) - Operasi pengacakan: Pola akses acak di seluruh dataset - Sinkronisasi gradien: Penulisan terdistribusi selama backpropagation
HDD SAS tradisional? Sangat tidak memadai. Bahkan SSD SATA pun kesulitan. Di sinilah SSD NVMe PCIe 5.0 dan memori persisten DDR5 masuk.
#### 1. SSD Perusahaan PCIe 5.0: Standar Baru Pameran Topstar menyertakan drive Seri Micron 7500 dan Kingston DC1500M yang mendemonstrasikan: - Pembacaan sekuensial: 14.000 MB/dtk (dibandingkan 3.500 MB/dtk untuk PCIe 3.0) - IOPS baca acak: 2,5 juta (penting untuk pemuatan data pelatihan terdistribusi) - Daya tahan: 3 DWPD (Drive Writes Per Day) selama 5 tahun = total 82PB penulisan pada drive 15TB
Dampak dunia nyata: JBOF NVMe 16-drive dapat menjenuhkan tautan 100GbE ganda untuk streaming dataset—menghilangkan penyimpanan sebagai hambatan pelatihan.
#### 2. Memori Server DDR5-5600: Di Luar Kapasitas Beban kerja AI menuntut kapasitas (512GB-2TB per server) dan bandwidth (>400GB/dtk per soket). DDR5-5600 memberikan: - Bandwidth: 44,8 GB/dtk per DIMM (dibandingkan 32 GB/dtk untuk DDR4-3200) - Kapasitas: Modul RDIMM 128GB menjadi standar - Efisiensi daya: 1,1V vs. 1,2V untuk DDR4 (pengurangan 10%)
Di CIOE, kami melihat RDIMM DDR5-5600 512GB Samsung – memungkinkan 2TB per soket (16× DIMM) untuk server inferensi LLM. Ini memungkinkan seluruh model 70B parameter untuk tetap berada di DRAM, menghilangkan overhead penukaran model.
#### 3. Ekspansi Memori CXL: Pengubah Permainan Compute Express Link (CXL) 2.0 memungkinkan pengumpulan memori di seluruh server: - Kumpulan memori bersama: Beberapa CPU mengakses DRAM/memori persisten umum - Latensi: <200ns for remote memory access (vs. milliseconds NVMe) - Kasus penggunaan: Kluster inferensi LLM berbagi KV-cache di seluruh node
Meskipun masih berkembang (produksi terbatas pada tahun 2026), ekspansi memori CXL dapat mengurangi biaya kluster inferensi sebesar 30% dengan menghilangkan penyediaan memori berlebih per node.
Berdasarkan diskusi CIOE dengan arsitek pusat data, tumpukan penyimpanan AI yang optimal adalah:
#### Tingkat 1: Memori Bandwidth Tinggi (HBM) GPU - Kapasitas: 80-192GB per GPU (H200/B200) - Bandwidth: 4-5 TB/dtk - Tujuan: Batch pelatihan aktif, bobot model selama lintasan maju/mundur
#### Tingkat 2: DRAM Host (DDR5) - Kapasitas: 1-2TB per server - Bandwidth: 400-800 GB/dtk per soket - Tujuan: Prefetching dataset, akumulasi gradien, KV-cache inferensi
#### Penyimpanan SSD NVMe Tingkat 3 - Kapasitas: 60-240TB per server (4-16× drive 15TB) - Bandwidth: 50-200 GB/dtk (RAID 0 di seluruh drive) - Tujuan: Penyimpanan dataset lengkap, pencadangan, versioning model jangka panjang
Rasio kritis: Targetkan DRAM Host : NVMe = 1:50 (misalnya, 2TB DRAM, 100TB NVMe). Ini memastikan prefetching dataset tidak pernah menghentikan pelatihan GPU.
Pertimbangkan kluster pelatihan AI 1.000-GPU: - Biaya GPU: $30 juta (1.000× $30K per H100) - Daya tahunan: $5 juta ($150/GPU × 1.000 × 8.760 jam × $0,12/kWh) - Biaya peluang: $5.000/jam untuk kluster idle ($43 juta/tahun pada utilisasi 100%)
Sekarang bayangkan hambatan penyimpanan mengurangi utilisasi GPU efektif menjadi 85% (15% idle menunggu data): - Waktu GPU terbuang: $6,45 juta/tahun - Biaya untuk menghilangkan hambatan: $500K (NVMe premium + DDR5 + jaringan 100GbE)
ROI: 1.200% di tahun pertama. Inilah sebabnya mengapa hyperscaler tidak ragu untuk menerapkan SSD PCIe 5.0 seharga $2.000.
Sebagai peserta CIOE 2026 dan pemasok industri, Topstar Technology secara unik memposisikan pelanggan untuk kesuksesan infrastruktur AI:
#### Interkoneksi Optik - Modul QSFP-DD/OSFP 800G/1.6T - Solusi 400G/200G untuk arsitektur hibrida - Kabel AOC/DAC untuk konektivitas skala rak - Harness serat MPO/MTP
#### Penyimpanan Perusahaan - SSD: Micron, Kingston, Samsung enterprise NVMe (PCIe 4.0/5.0) - Memori Server: RDIMM dan LRDIMM DDR5-4800/5600 - Memori GPU: HBM2e/HBM3 untuk akselerator AI (sumber OEM)
#### Komponen Server AI - GPU NVIDIA H100/H200/B100 (distributor resmi) - NIC Mellanox ConnectX-7 (400GbE untuk RDMA) - Sakelar Broadcom dan SmartNIC
#### 1. Kesederhanaan Vendor Tunggal Berhenti mengelola 10 pemasok berbeda. Kami menyediakan solusi rak AI lengkap: - Optimalisasi Daftar Material (BOM) - Pra-validasi kompatibilitas - Pengiriman dan dukungan terkonsolidasi
#### 2. Opsi Sumber Fleksibel - Komponen kelas OEM untuk penerapan hyperscale - Modul merek asli (kompatibel Cisco/Arista/Mellanox) - Solusi white-box untuk proyek yang sensitif terhadap biaya
#### 3. Pengembangan Bersama Teknis Insinyur kami berkolaborasi pada: - Desain topologi jaringan (Clos, Fat-tree, Dragonfly) - Ukuran tingkat penyimpanan berdasarkan profil beban kerja - Anggaran daya dan pendinginan untuk penerapan tingkat rak
#### 4. Jadwal Penerapan Cepat Dalam industri dengan waktu tunggu 16-24 minggu, kami mempertahankan: - Inventaris komponen strategis (stok $5 juta+) - Pengiriman 4-8 minggu untuk konfigurasi standar - Opsi dipercepat untuk penerapan mendesak
Proyek pelanggan baru-baru ini menggambarkan kemampuan ujung ke ujung kami:
Persyaratan: - 500× GPU NVIDIA H100 - Penyimpanan dataset 100TB per node - <10μs latensi jaringan untuk operasi all-reduce
Solusi Topstar: - Jaringan: - 500× NIC Mellanox ConnectX-7 400GbE - Modul optik 800G QSFP-DD 64× untuk sakelar spine - Modul 400G QSFP-DD 1.024× untuk sakelar leaf - Penyimpanan: - 4.000× SSD NVMe Kingston DC1500M 15TB (8 per server) - Pengontrol RAID dengan cache 8GB per server - Memori: - 32.000× Samsung DDR5-5600 64GB RDIMM (64 per server, 4TB/node)
Jadwal Penerapan: - Minggu 1-2: Finalisasi BOM dan pengadaan - Minggu 3-6: Pengiriman dan integrasi komponen - Minggu 7-8: Instalasi rak dan komisioning jaringan - Minggu 9: Validasi beban kerja dan serah terima
Hasil: Kluster mencapai utilisasi GPU 94,2% selama jalankan pelatihan selama seminggu—salah satu yang tertinggi di industri.
Berdasarkan wawasan CIOE 2026 dan peta jalan industri, inilah yang akan datang:
- Modul optik 3,2T memasuki produksi massal - Sampel DDR6 dimulai (7.200 MT/dtk, 60GB/dtk per DIMM) - SSD PCIe 6.0 memberikan pembacaan sekuensial 28GB/dtk - CXL 3.0 memungkinkan pengumpulan memori di seluruh rak
- ASIC sakelar 12,8T dengan CPO terintegrasi - Sinyal 400G per jalur (dibandingkan maksimum 200G saat ini) - Pengalihan sirkuit optik untuk alokasi bandwidth dinamis - Akselerator AI fotonik komersial pertama (komputasi optik analog)
- Pengalihan optik tingkat rak menggantikan distribusi listrik - Fotoni silikon menjadi lebih murah daripada tembaga pada >100Gbps - Memori persisten (terlampir CXL) menggantikan NVMe untuk penyimpanan hangat - Tautan aman terjerat kuantum untuk sinkronisasi model AI antar-DC
Model AI yang menjadi berita utama—GPT-5, Gemini Ultra, Claude Opus—hanya sekuat infrastruktur di bawahnya. Di CIOE 2026, pesannya jelas: era AI sedang dibangun satu modul optik, satu SSD, dan satu DIMM memori pada satu waktu.
Bagi organisasi yang menerapkan infrastruktur AI, tiga keharusan muncul:
1. Jangan menunggu teknologi sempurna – 800G dan DDR5 siap produksi sekarang 2. Rancang untuk pergerakan data, bukan hanya komputasi – Penyimpanan dan jaringan setara dengan GPU 3. Bermitra dengan pemasok yang memahami tumpukan – Optik, penyimpanan, dan komputasi harus dirancang bersama
Topstar Technology berdiri di persimpangan ini—menyatukan komponen mutakhir, keahlian teknis mendalam, dan kelincahan rantai pasokan untuk memenuhi jadwal penerapan yang agresif. Baik Anda membangun kluster AI pertama Anda atau meningkatkan skala hingga 100.000 GPU, kami siap menjadi mitra infrastruktur Anda.
Masa depan kecerdasan sedang dibangun hari ini. Mari kita bangun bersama.
---
Topstar adalah pemasok terkemuka komponen infrastruktur AI, yang berspesialisasi dalam: - Modul Optik: Solusi 800G/1.6T QSFP-DD, 400G OSFP, CPO/NPO - Penyimpanan Perusahaan: SSD NVMe (PCIe 4.0/5.0), SATA Perusahaan, faktor bentuk U.2/U.3 - Memori Server: RDIMM/LRDIMM DDR5, HBM untuk akselerator AI - GPU & Jaringan: GPU AI NVIDIA, SmartNIC Mellanox, sakelar Broadcom
Dengan pengalaman 15+ tahun melayani pusat data hyperscale, operator telekomunikasi, dan pelanggan perusahaan, kami menggabungkan kualitas kelas OEM dengan ekonomi white-box.
📧 Pertanyaan Teknik: dsale@topsfp.com 🌐 Katalog Produk: www.opticalmodulemanufacturers.com | www.qsfp28module.com 📱 Hubungi: [Facebook](https://www.facebook.com/topstar.sfp/) | [LinkedIn](https://www.linkedin.com/company/13177171/)
---
Kata Kunci: Optik yang dikemas bersama, CPO, NPO, pusat data AI, SSD perusahaan, memori server DDR5, NVMe PCIe 5.0, fotoni silikon, interkoneksi optik, penyimpanan GPU, CIOE 2026, jaringan berkecepatan tinggi, infrastruktur AI
Tag SEO: #CoPackagedOptics #CPO #NPO #AIInfrastructure #EnterpriseSSD #DDR5Memory #DataCenter #CIOE2026 #SiliconPhotonics #GPUStorage #OpticalModules #NVMe
Kontak Person: Ms. Vicky Tian
Tel: +86 19860146913
Faks: 86-0755-82552969
Indonesian
