手机浏览器扫描二维码访问
2. AI推理:需要光模块“不卡顿”
AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。
比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。
而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。
3. AI集群:需要光模块“连得密”
本小章还未完,请点击下一页继续阅读后面精彩内容!
AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。
以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。
中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。
五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?
光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。
1. 传统可插拔光模块:灵活但有瓶颈
我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。
这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:
- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。
- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。
- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。
2. CPO技术:把光模块“焊”在芯片上,突破瓶颈
为了解决传统可插拔模块的瓶颈,行业里出现了“CPO技术”(共封装光学,Co-packaged Optics),简单说就是“把光模块和服务器/交换机的芯片直接封装在一起”,不用再做可插拔的接口。
【身娇体弱温柔贤惠的当家主母与一言不合搞你全家的暴躁皇帝互换了身体。】 孟弗作为宣平侯夫人,为他操持家务,孝敬双亲,还要为他管理后院争风吃醋的小妾们,她做到了一个侯夫人该做的一切,只是始终不得夫君的宠爱。 孟弗不爱宣平侯,也不伤心,她预感这一生都要如死水一般平静度过,直到她一觉醒来,有人在她耳边叫她陛下。 …… 宫人与百官们觉得他们的陛下变了,从前他一开口就能骂得他们脑袋疼,如今对他们却是如春风般和煦,还会关心他们饿不饿,渴不渴。 我可以!我还能为陛下再干一百年! 宣平侯觉得自己的夫人变了,从前她贤良淑德,温柔大度,现在她就像是一点就炸的爆竹,昨天她把自己最宠爱的小妾给骂哭,今天就把他给踹进湖里。 宅斗?老子把你宅子给拆了! …… 宣平侯同孟弗和离的时候,他断言这个女人迟早有一天会后悔,这京城中的高门大户,谁会要一个嫁过人的女人。 朕要。...
“‘鬼’驱鬼?这啥玩意儿?”驱鬼师释白遇上强行和自己绑定的“鬼”伊玄,他彻底慌了……鬼绑人听说过,鬼绑驱鬼师的还是头一次见……不,是头一次经历……但话说回来,银色长发,蓝色眼睛,腹肌少说也有六块,驱鬼碰见...
星际2012年,一场百万年难得一遇的陨石雨突袭星际联盟,两天后,动植物开始变异,一个星期后,人类世界沦为屠宰场。 星际2050年,在各国的通力合作下,觉醒药剂横空出世。 自此,人类拥有了抗击变异动植物的能力—— 天赋值超过20,就能免费领取到一瓶觉醒药剂,喝下觉醒药剂之后,就有可能觉醒成为驭兽师或制卡师。 扶城,一个生活在二十一世纪地球上的,刚从乾国第一大学畜牧学专业毕业,在导师的推荐下,顺利拿到一份超高薪offer,结果第二天就因为左脚踏进公司大门而魂穿星际联盟的普通人。 扶城:……我救过穿越大神? 然后他就拿到了他的资质检测报告。 【天赋值:19】 扶城:……我救了穿越大神之后,又把穿越大神的祖坟挖了:) 好在他所在的启明星有豪门扶贫,只要有老师担保,天赋值超过15的人也可以领到一瓶觉醒药剂。 扶城顺利觉醒成了制卡师。 …… 从觉醒药剂诞生的那一天起,星际联盟的制卡师就比驭兽师要低上一等,原因很简单,驭兽师能够从契约的变异动物身上借用力量,3S级驭兽师挥挥手就能覆灭一个星系,但制卡师即便是晋升到3S级也很难躲过子弹的偷袭。 直到扶城横空出世,这一格局开始发生翻天覆地的变化。 …… 一开始,扶城帮助牧家,是因为牧家就是那个年年扶贫启明星的豪门,作为地球人,一向讲究滴水之恩,以身相许(划掉)涌泉相报。 后来,扶城觉得,如果牧诏愿意的话,他也不是不能接受以身相许这一封建报恩方式。 牧诏:……你高兴就好!...
一生三万天情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的其他类型小说,一生三万天-夜跑-小说旗免费提供一生三万天最新清爽干净的文字章节在线阅读和TXT下载。...
男频小说,主人翁萧烬遭人陷害被迫自废修为后劫后余生,逆袭成为一代战神!屠仇敌,敢爱敢恨,快意恩仇!......
我若为神,可屠天下魔!我若为魔,神奈我何!敬我者,谓我为神!惧我者,称我为魔!天地沉沦,大道混杂,千万年来再无一人得道。穿越而来的孟恒却发现自己穿成了身染怪病,寿命无多,且无法修炼的痴傻之人。获得逆天机缘,一番逆天改命之下,他自弱小凡人一步步崛起,却不知已陷入巨大阴谋旋涡之中,更为正魔两大势力所不容,命运的齿轮缓缓......