前几天我那台用了三年的游戏本突然疯狂掉帧,摸了一下键盘烫得能煎鸡蛋,清完风扇灰也无济于事。这让我突然意识到,连家用电脑都扛不住高负载的发热,现在那些动辄塞满几十万张算力卡的数据中心,到底是怎么活下来的?其实答案就藏在最近科技圈快被炒烂的两个词里:CPO和液冷服务器。
说白了,英伟达那些高端GPU算力确实猛,但它们更像是个电老虎兼火炉。单张顶级AI芯片功耗动辄七八百瓦甚至上千瓦,要是再把它们密密麻麻插在一个机柜里,传统的风冷根本就是杯水车薪。你拿几把暴力扇对着机柜吹,不仅噪音像波音飞机起飞,电费账单更是能让老板直接崩溃。更致命的是,芯片只要温度稍微一高就会自动降频,花大价钱买的算力,全因为怕热而“偷懒”了。
很多人一看到CPO(共封装光学)就头大,其实你把它理解成“把光模块直接焊死在交换芯片旁边”就行了。
以前服务器之间的数据传输,是靠交换芯片出来一段距离,再插上光模块。这中间有一截短短的铜线。在传输速度没那么快的时候没问题,但现在AI训练动不动就是几百G、1.6T的速率,这段铜线就成了瓶颈,信号衰减严重,而且特别费电。CPO干脆把光学器件和交换芯片封装在同一个“插槽”里,距离缩短到毫米级。
这就好比两个人传话,以前隔着走廊喊,喊完还得别人跑腿递纸条;现在直接脸贴脸用气声说,不仅效率高,还不费嗓子。
如果CPO解决的是数据传输的“堵”,那液冷解决的就是物理层面的“热”。别误会,液冷不是直接把主板泡进水缸里(虽然早期真有这种脑洞大开的矿物油浸泡法),现在主流的是冷板式液冷。
它的原理更像是给服务器贴大面积的退热贴。内部有精细的微通道,冷却液(通常是去离子水加防冻液)在里面快速循环,把芯片上的热量直接带走。比起拿风扇吹空气,液体的比热容和导热率高了太多倍。原本一个机柜风冷只能塞十几台机器,上了液冷后功率密度能翻好几倍,塞四五十台都不是事儿。
这其实是个非常现实的工程逻辑。高密度算力集群里,你用了CPO把带宽拉满,交换芯片的功耗随之飙升,风冷根本压不住这个热量;反过来,你既然上了液冷,如果不把数据通道升级到CPO,那液冷带来的高密度优势又白白浪费在信号衰减上。
所以,这俩根本就是AI大模型时代的一对“苦命鸳鸯”。没有谁先谁后,只有搭伙过日子,才能把大模型的训练成本真正打下来。下次再看到这俩词,别觉得有多玄乎,它们不过是工程师为了让机器跑得快又不烧坏,硬生生被逼出来的妥协方案罢了。
参与讨论
CPO这玩意儿真的能大规模铺开吗?感觉成本得高得离谱
原来液冷不是直接泡在油里啊,之前还以为是那样
这比喻绝了,脸贴脸气声说hhh
现在的芯片功耗确实离谱,我那电脑夏天真能煎蛋
冷板式液冷漏液了怎么办?这才是最担心的
感觉还行,简单易懂
之前搞过液冷装机,确实比风冷安静多了,就是安装太折腾
1.6T速率也太恐怖了,铜线确实跑不动
这不就是为了让英伟达多卖钱吗,纯纯的商业闭环
看不懂,但我大受震撼