CPO-technologie (co-packaged opto-electronics) bestaat al enige tijd, maar is nog in een ontwikkelingsfase.Senior manager optische componenten en integratie bij Corning Optical Communications, legde uit hoe glas een sleutelrol speelt bij het zo dicht mogelijk plaatsen van op silicium gebaseerde elektro-optische omvormers bij siliciumprocessors.
Datacenternetwerken evolueren snel en dit momentum is versneld met de opkomst van AI en de grootschalige inzet van AI-clusters.Vooral met de inzet van NVIDIA's DGX SuperPOD-architectuur en Google's TPU-clustersDeze verschuiving wordt veroorzaakt door de vraag naar high-performance computing om AI-training en inferentie taken te ondersteunen.NVIDIA alleen zal naar verwachting binnen de komende vijf jaar miljoenen AI-geoptimaliseerde GPU-eenheden per jaar leveren., met een aanzienlijke omvang in 2028.
Het aantal transceiver-eenheden dat nodig is om deze netwerken te bouwen, zal jaarlijks tientallen miljoenen bereiken en deze apparaten zullen moeten werken met maximale snelheden van 1,6 Tbps en 3,2 Tbps.Industrieanalisten voorspellen dat in de toekomst elke versneller (GPU) zal worden uitgerust met meer dan 10 transceivers, wat betekent dat de vraag naar glasvezelverbindingen ongeveer 10 keer zal toenemen ten opzichte van de huidige inzetniveaus.
In een typisch datacenter verbruikt een standaard aansluitbare Ethernet-transceiver ongeveer 20 watt stroom.Op basis van lopende zendingen, wordt geschat dat in 2024 ongeveer 200 megawatt (MW) aan vermogen zal worden ingezet in de power transceivers.Op basis van de ontwikkeling van de transceiver en de verwachte tienvoudige toename van de vraag naar optische connectiviteitIn de VS zal de uitrol van transceiver-energie naar verwachting stijgen tot 2 gigawatts (GW) per jaar, wat overeenkomt met het vermogen dat wordt opgewekt door een grote kerncentrale.Dit omvat niet het vermogen dat nodig is om de elektronica aan de gastheerzijde en de elektrische retimers te voorzien die worden gebruikt om gegevens van de geïntegreerde schakelingen naar de transceivers aan de voorkant van het apparaat te verzenden.
Bijvoorbeeld voor een AI-datacenter dat is uitgerust met een miljoen GPU's, kan de invoering van CPO-technologie het datacenter ongeveer 150 megawatt aan energieopwekkingscapaciteit besparen.Naast de vermindering van de investeringen die nodig zijn voor de bouw van de bijbehorende elektriciteitsproductiefaciliteitenIn China kan de jaarlijkse elektriciteitsbesparing gemakkelijk hoger zijn dan 100 miljoen euro.De Commissie is van mening dat de Europese Unie een belangrijke rol moet spelen bij de bevordering van de informatietechnologie., de vraag naar grote bandbreedte,optische interconnecties met een laag vermogen neemt toe in supercomputingcentra (zoals de Wuxi Sunway TaihuLight) en intelligente computingcentra (zoals de AI-computingclusters in Beijing en Shenzhen). CPO-technologie zal naar verwachting de sleutel zijn tot het verminderen van het energieverbruik en het verhogen van de efficiëntie voor binnenlands geproduceerde GPU's.Innovatie is cruciaal.
Invoering van CPO-technologie
CPO is de technologie die deze knelpunt in het energieverbruik op korte termijn het meest waarschijnlijk zal overwinnen.Deze technologie verplaatst de elektro-optische conversie module van de transceiver op het frontpaneel naar het apparaat interieurDit minimaliseert het vermogen verlies in het koper kanaal, wat resulteert in een meer energiezuinige link.,Het energieverbruik kan met meer dan 50% en in sommige gevallen zelfs met 75% worden verminderd. This energy-saving advantage is achieved not only by reducing the use of high-loss copper channels but also by simplifying or even eliminating the digital signal processor (DSP) required to compensate for electrical signal transmission losses.
Kortom, CPO-technologie biedt optische connectiviteit met hoge snelheid, laag vermogen en lage latentie.
Een ander energiebesparend alternatief is de lineaire aansluitbare optische module (LPO).het vermindert het stroomverbruik en de latentie, terwijl het de vormfactor en het ecosysteem van een aansluitbare transceiver op het voorpaneel behoudtHoewel CPO een betere signaalintegriteit en lagere latentie biedt, is LPO kosteneffectiever, met name voor toepassingen op korte afstand.In combinatie met de snelle time to market, kan de wijdverspreide toepassing van CPO-technologie vertragen.
Aangezien de koppelingssnelheden echter stijgen tot 200G en verder, verbruikt LPO meer stroom dan CPO en wordt het aanzienlijk moeilijker te beheren om een hoge signaalkwaliteit te garanderen.Naarmate de technologie vooruitgaat, wordt verwacht dat CPO in de toekomst de voorkeursoplossing wordt.
Glas maakt CPO-technologie mogelijk
Glass zal naar verwachting een sleutelrol spelen in de volgende generatie CPO-technologie.Om elektro-optische omvormers (voornamelijk siliciumfotonica-chips) zo dicht mogelijk bij de werkelijke siliciumprocessors (CPU's en GPU's) te brengen, is een nieuwe verpakkingstechnologie vereist die niet alleen grotere substraatgroottes ondersteunt, maar ook optische verbinding met de siliciumfotonica-chips mogelijk maakt.
De verpakking van halfgeleiders is traditioneel voornamelijk gebaseerd op organische substraten.tot beperking van de maximale grootte van halfgeleiderpakkettenAangezien de industrie blijft aandringen op grotere verpakkingssubstraten op bestaande biologische technologieplatforms, reliability issues (such as solder joint integrity issues and increased risk of delamination) and manufacturing challenges (such as high-quality fine-pitch interconnect structures and high-density wiring) have become increasingly prominentHet is echter mogelijk door een geoptimaliseerd ontwerp een thermische uitbreidingscoëfficiënt te bereiken die nauwer overeenkomt met die van siliciumchips.overtreft traditionele organische substratenDit speciaal verwerkte glassubstraat vertoont uitzonderlijke thermische stabiliteit, waardoor mechanische spanningen en schade bij temperatuurschommelingen worden verminderd.De superieure mechanische sterkte en vlakheid vormen een solide basis voor de betrouwbaarheid van chipverpakkingenBovendien ondersteunen glassubstraten een hogere interconnectiedichtheid en fijnere toonhoogtes, waardoor de elektrische prestaties worden verbeterd en parasitaire effecten worden verminderd.Deze eigenschappen maken glas tot een zeer betrouwbare en precieze keuze voor geavanceerde halfgeleiderverpakkingenDaarom ontwikkelt de halfgeleiderverpakkingsindustrie actief geavanceerde glassubstraattechnologie als substraattechnologie van de volgende generatie.
Glasgolfgeleidersubstraten
Behalve de uitstekende thermische en mechanische eigenschappen kan glas ook als optische golfgeleider worden gebruikt.Waaggeleiders in glas worden doorgaans gemaakt door een proces dat ionenuitwisseling wordt genoemdDoor het licht te beperken tot gebieden met een hogere brekingsindex wordt het licht in het glas vervangen door andere ionen uit een zoutoplossing, waardoor de brekingsindex van het glas verandert.Deze gemodificeerde gebieden kunnen het licht leiden.Deze techniek maakt een nauwkeurige afstemming van de eigenschappen van de golfgeleider mogelijk, waardoor deze geschikt is voor een verscheidenheid aan optische toepassingen.licht kan zich verspreiden langs geïntegreerde glasgolfleiders en efficiënt worden gekoppeld aan optische vezels of siliciumfotonische chipsDit maakt glas een aantrekkelijke materiaalkeuze voor geavanceerde CPO-toepassingen.
Het integreren van elektrische en optische interconnecties op hetzelfde substraat helpt ook om de uitdagingen van de interconnectiedichtheid aan te pakken waarmee bedrijven worden geconfronteerd bij het bouwen van grote AI-clusters.het aantal optische kanalen wordt beperkt door de geometrie van de optische vezels de diameter van een typische glasvezelbekleding is 127 micronGlasgolfleiders maken echter een dichtere opstelling mogelijk, waardoor de in-/uitgangsdichtheid (I/O) aanzienlijk toeneemt in vergelijking met directe vezel-op-chipverbindingen.
De integratie van elektrische en optische interconnecties lost niet alleen problemen met dichtheid op, maar verbetert ook de algemene prestaties en schaalbaarheid van AI-clusters.De compacte aard van glasgolfleiders maakt het mogelijk om meer optische kanalen in dezelfde fysieke ruimte te plaatsen, waardoor de gegevensoverdrachtcapaciteit en -efficiëntie van het systeem worden verhoogd.Deze vooruitgang is cruciaal voor de ontwikkeling van de volgende generatie AI-infrastructuur in scenario's waarin AI-systemen enorme hoeveelheden gegevens moeten verwerken, is de sleutel tot een efficiënt beheer van high-density interconnect technologie.
Door glasgolfleiders te integreren kan op hetzelfde substraat een compleet optisch systeem worden gebouwd, waardoor fotonische geïntegreerde schakelingen rechtstreeks via optische golfleiders kunnen communiceren.Dit proces elimineert de noodzaak van optische vezelverbindingen en verbetert de bandbreedte en dekking van interchipcommunicatie aanzienlijkIn systemen met een hoge dichtheid met talrijke onderling verbonden componenten kan het gebruik van glazen golfleiders leiden tot een lager signaalverlies, een hogere bandbreedte-dichtheid,en een grotere duurzaamheid in vergelijking met discrete glasvezelsDeze voordelen maken glasgolfleiders tot een ideale keuze voor optische interconnectiesystemen met hoge prestaties.
De toepassing van CPO-technologie op datacenters van de volgende generatie en AI-supercomputernetwerken kan de bandbreedte van chip-evasion vergroten, waardoor nieuwe mogelijkheden voor hoge snelheid,met een diameter van niet meer dan 50 mm,Netwerkarchitecten hebben nu een unieke kans om netwerkarchitecturen opnieuw te bedenken en te ontwerpen.Ze zullen een superieure netwerkprestatie bereiken., waardoor de operationele efficiëntie wordt verbeterd en de processen worden geoptimaliseerd.
Conclusies
CPO-technologie heeft het potentieel om op meerdere niveaus een revolutie teweeg te brengen in de AI-interconnectarchitectuur.AI-systemen milieuvriendelijker en kosteneffectiever makenBovendien verbetert CPO de efficiëntie en schaalbaarheid van AI-systemen, waardoor ze gemakkelijker grotere en complexere taken kunnen verwerken.CPO kan de snelheid van gegevensoverdracht verhogenDit zal ook bijdragen tot het verminderen van knelpunten in toekomstige AI-systemen en zorgt voor een soepelere en efficiëntere werking van het systeem.
Er wordt verwacht dat toekomstige AI-interconnecties directe optische koppelingen introduceren, waardoor de noodzaak van computing-switches wordt weggenomen.Deze innovatie zal de bandbreedte voor AI-taken vergroten en de snelheid en efficiëntie van het verwerken van grote datasets verbeterenGlas, met zijn superieure gegevensoverdrachtsmogelijkheden en schaalbaarheid, is een ideaal materiaal om deze technologische vooruitgang mogelijk te maken.Glasgebaseerde optische verbindingen zullen een cruciale factor worden voor AI-systemen van de volgende generatie, die een onmisbare infrastructuur vormt voor high-performance computing en geavanceerde AI-toepassingen.
NEW LIGHT OPTICS TECHNOLOGY LIMITED zal ernaar streven om elke gelegenheid te grijpen en bij te dragen.
CPO-technologie (co-packaged opto-electronics) bestaat al enige tijd, maar is nog in een ontwikkelingsfase.Senior manager optische componenten en integratie bij Corning Optical Communications, legde uit hoe glas een sleutelrol speelt bij het zo dicht mogelijk plaatsen van op silicium gebaseerde elektro-optische omvormers bij siliciumprocessors.
Datacenternetwerken evolueren snel en dit momentum is versneld met de opkomst van AI en de grootschalige inzet van AI-clusters.Vooral met de inzet van NVIDIA's DGX SuperPOD-architectuur en Google's TPU-clustersDeze verschuiving wordt veroorzaakt door de vraag naar high-performance computing om AI-training en inferentie taken te ondersteunen.NVIDIA alleen zal naar verwachting binnen de komende vijf jaar miljoenen AI-geoptimaliseerde GPU-eenheden per jaar leveren., met een aanzienlijke omvang in 2028.
Het aantal transceiver-eenheden dat nodig is om deze netwerken te bouwen, zal jaarlijks tientallen miljoenen bereiken en deze apparaten zullen moeten werken met maximale snelheden van 1,6 Tbps en 3,2 Tbps.Industrieanalisten voorspellen dat in de toekomst elke versneller (GPU) zal worden uitgerust met meer dan 10 transceivers, wat betekent dat de vraag naar glasvezelverbindingen ongeveer 10 keer zal toenemen ten opzichte van de huidige inzetniveaus.
In een typisch datacenter verbruikt een standaard aansluitbare Ethernet-transceiver ongeveer 20 watt stroom.Op basis van lopende zendingen, wordt geschat dat in 2024 ongeveer 200 megawatt (MW) aan vermogen zal worden ingezet in de power transceivers.Op basis van de ontwikkeling van de transceiver en de verwachte tienvoudige toename van de vraag naar optische connectiviteitIn de VS zal de uitrol van transceiver-energie naar verwachting stijgen tot 2 gigawatts (GW) per jaar, wat overeenkomt met het vermogen dat wordt opgewekt door een grote kerncentrale.Dit omvat niet het vermogen dat nodig is om de elektronica aan de gastheerzijde en de elektrische retimers te voorzien die worden gebruikt om gegevens van de geïntegreerde schakelingen naar de transceivers aan de voorkant van het apparaat te verzenden.
Bijvoorbeeld voor een AI-datacenter dat is uitgerust met een miljoen GPU's, kan de invoering van CPO-technologie het datacenter ongeveer 150 megawatt aan energieopwekkingscapaciteit besparen.Naast de vermindering van de investeringen die nodig zijn voor de bouw van de bijbehorende elektriciteitsproductiefaciliteitenIn China kan de jaarlijkse elektriciteitsbesparing gemakkelijk hoger zijn dan 100 miljoen euro.De Commissie is van mening dat de Europese Unie een belangrijke rol moet spelen bij de bevordering van de informatietechnologie., de vraag naar grote bandbreedte,optische interconnecties met een laag vermogen neemt toe in supercomputingcentra (zoals de Wuxi Sunway TaihuLight) en intelligente computingcentra (zoals de AI-computingclusters in Beijing en Shenzhen). CPO-technologie zal naar verwachting de sleutel zijn tot het verminderen van het energieverbruik en het verhogen van de efficiëntie voor binnenlands geproduceerde GPU's.Innovatie is cruciaal.
Invoering van CPO-technologie
CPO is de technologie die deze knelpunt in het energieverbruik op korte termijn het meest waarschijnlijk zal overwinnen.Deze technologie verplaatst de elektro-optische conversie module van de transceiver op het frontpaneel naar het apparaat interieurDit minimaliseert het vermogen verlies in het koper kanaal, wat resulteert in een meer energiezuinige link.,Het energieverbruik kan met meer dan 50% en in sommige gevallen zelfs met 75% worden verminderd. This energy-saving advantage is achieved not only by reducing the use of high-loss copper channels but also by simplifying or even eliminating the digital signal processor (DSP) required to compensate for electrical signal transmission losses.
Kortom, CPO-technologie biedt optische connectiviteit met hoge snelheid, laag vermogen en lage latentie.
Een ander energiebesparend alternatief is de lineaire aansluitbare optische module (LPO).het vermindert het stroomverbruik en de latentie, terwijl het de vormfactor en het ecosysteem van een aansluitbare transceiver op het voorpaneel behoudtHoewel CPO een betere signaalintegriteit en lagere latentie biedt, is LPO kosteneffectiever, met name voor toepassingen op korte afstand.In combinatie met de snelle time to market, kan de wijdverspreide toepassing van CPO-technologie vertragen.
Aangezien de koppelingssnelheden echter stijgen tot 200G en verder, verbruikt LPO meer stroom dan CPO en wordt het aanzienlijk moeilijker te beheren om een hoge signaalkwaliteit te garanderen.Naarmate de technologie vooruitgaat, wordt verwacht dat CPO in de toekomst de voorkeursoplossing wordt.
Glas maakt CPO-technologie mogelijk
Glass zal naar verwachting een sleutelrol spelen in de volgende generatie CPO-technologie.Om elektro-optische omvormers (voornamelijk siliciumfotonica-chips) zo dicht mogelijk bij de werkelijke siliciumprocessors (CPU's en GPU's) te brengen, is een nieuwe verpakkingstechnologie vereist die niet alleen grotere substraatgroottes ondersteunt, maar ook optische verbinding met de siliciumfotonica-chips mogelijk maakt.
De verpakking van halfgeleiders is traditioneel voornamelijk gebaseerd op organische substraten.tot beperking van de maximale grootte van halfgeleiderpakkettenAangezien de industrie blijft aandringen op grotere verpakkingssubstraten op bestaande biologische technologieplatforms, reliability issues (such as solder joint integrity issues and increased risk of delamination) and manufacturing challenges (such as high-quality fine-pitch interconnect structures and high-density wiring) have become increasingly prominentHet is echter mogelijk door een geoptimaliseerd ontwerp een thermische uitbreidingscoëfficiënt te bereiken die nauwer overeenkomt met die van siliciumchips.overtreft traditionele organische substratenDit speciaal verwerkte glassubstraat vertoont uitzonderlijke thermische stabiliteit, waardoor mechanische spanningen en schade bij temperatuurschommelingen worden verminderd.De superieure mechanische sterkte en vlakheid vormen een solide basis voor de betrouwbaarheid van chipverpakkingenBovendien ondersteunen glassubstraten een hogere interconnectiedichtheid en fijnere toonhoogtes, waardoor de elektrische prestaties worden verbeterd en parasitaire effecten worden verminderd.Deze eigenschappen maken glas tot een zeer betrouwbare en precieze keuze voor geavanceerde halfgeleiderverpakkingenDaarom ontwikkelt de halfgeleiderverpakkingsindustrie actief geavanceerde glassubstraattechnologie als substraattechnologie van de volgende generatie.
Glasgolfgeleidersubstraten
Behalve de uitstekende thermische en mechanische eigenschappen kan glas ook als optische golfgeleider worden gebruikt.Waaggeleiders in glas worden doorgaans gemaakt door een proces dat ionenuitwisseling wordt genoemdDoor het licht te beperken tot gebieden met een hogere brekingsindex wordt het licht in het glas vervangen door andere ionen uit een zoutoplossing, waardoor de brekingsindex van het glas verandert.Deze gemodificeerde gebieden kunnen het licht leiden.Deze techniek maakt een nauwkeurige afstemming van de eigenschappen van de golfgeleider mogelijk, waardoor deze geschikt is voor een verscheidenheid aan optische toepassingen.licht kan zich verspreiden langs geïntegreerde glasgolfleiders en efficiënt worden gekoppeld aan optische vezels of siliciumfotonische chipsDit maakt glas een aantrekkelijke materiaalkeuze voor geavanceerde CPO-toepassingen.
Het integreren van elektrische en optische interconnecties op hetzelfde substraat helpt ook om de uitdagingen van de interconnectiedichtheid aan te pakken waarmee bedrijven worden geconfronteerd bij het bouwen van grote AI-clusters.het aantal optische kanalen wordt beperkt door de geometrie van de optische vezels de diameter van een typische glasvezelbekleding is 127 micronGlasgolfleiders maken echter een dichtere opstelling mogelijk, waardoor de in-/uitgangsdichtheid (I/O) aanzienlijk toeneemt in vergelijking met directe vezel-op-chipverbindingen.
De integratie van elektrische en optische interconnecties lost niet alleen problemen met dichtheid op, maar verbetert ook de algemene prestaties en schaalbaarheid van AI-clusters.De compacte aard van glasgolfleiders maakt het mogelijk om meer optische kanalen in dezelfde fysieke ruimte te plaatsen, waardoor de gegevensoverdrachtcapaciteit en -efficiëntie van het systeem worden verhoogd.Deze vooruitgang is cruciaal voor de ontwikkeling van de volgende generatie AI-infrastructuur in scenario's waarin AI-systemen enorme hoeveelheden gegevens moeten verwerken, is de sleutel tot een efficiënt beheer van high-density interconnect technologie.
Door glasgolfleiders te integreren kan op hetzelfde substraat een compleet optisch systeem worden gebouwd, waardoor fotonische geïntegreerde schakelingen rechtstreeks via optische golfleiders kunnen communiceren.Dit proces elimineert de noodzaak van optische vezelverbindingen en verbetert de bandbreedte en dekking van interchipcommunicatie aanzienlijkIn systemen met een hoge dichtheid met talrijke onderling verbonden componenten kan het gebruik van glazen golfleiders leiden tot een lager signaalverlies, een hogere bandbreedte-dichtheid,en een grotere duurzaamheid in vergelijking met discrete glasvezelsDeze voordelen maken glasgolfleiders tot een ideale keuze voor optische interconnectiesystemen met hoge prestaties.
De toepassing van CPO-technologie op datacenters van de volgende generatie en AI-supercomputernetwerken kan de bandbreedte van chip-evasion vergroten, waardoor nieuwe mogelijkheden voor hoge snelheid,met een diameter van niet meer dan 50 mm,Netwerkarchitecten hebben nu een unieke kans om netwerkarchitecturen opnieuw te bedenken en te ontwerpen.Ze zullen een superieure netwerkprestatie bereiken., waardoor de operationele efficiëntie wordt verbeterd en de processen worden geoptimaliseerd.
Conclusies
CPO-technologie heeft het potentieel om op meerdere niveaus een revolutie teweeg te brengen in de AI-interconnectarchitectuur.AI-systemen milieuvriendelijker en kosteneffectiever makenBovendien verbetert CPO de efficiëntie en schaalbaarheid van AI-systemen, waardoor ze gemakkelijker grotere en complexere taken kunnen verwerken.CPO kan de snelheid van gegevensoverdracht verhogenDit zal ook bijdragen tot het verminderen van knelpunten in toekomstige AI-systemen en zorgt voor een soepelere en efficiëntere werking van het systeem.
Er wordt verwacht dat toekomstige AI-interconnecties directe optische koppelingen introduceren, waardoor de noodzaak van computing-switches wordt weggenomen.Deze innovatie zal de bandbreedte voor AI-taken vergroten en de snelheid en efficiëntie van het verwerken van grote datasets verbeterenGlas, met zijn superieure gegevensoverdrachtsmogelijkheden en schaalbaarheid, is een ideaal materiaal om deze technologische vooruitgang mogelijk te maken.Glasgebaseerde optische verbindingen zullen een cruciale factor worden voor AI-systemen van de volgende generatie, die een onmisbare infrastructuur vormt voor high-performance computing en geavanceerde AI-toepassingen.
NEW LIGHT OPTICS TECHNOLOGY LIMITED zal ernaar streven om elke gelegenheid te grijpen en bij te dragen.