聊聊服务器里的“核武器”：B卡服务器到底怎么设置？
说实话，第一次听到“B卡”这个词，我也有点懵，在IT圈混久了，知道A卡（AMD）、N卡（NVIDIA），这突然冒出来的B卡是什么鬼？难道是某宝上那种山寨显卡？后来才发现，这其实是大家对服务器计算卡，尤其是那些不带视频输出接口、专门用来干“苦力活”（比如AI训练、科学计算、视频编解码）的GPU的一种通俗称呼，有人叫它“B卡”，可能是因为它更像是一块“运算板卡”（Board），而不是你家里电脑上用来打游戏、接显示器的“显卡”。
那既然叫“B卡服务器”，它的设置（Setup）肯定跟咱们普通PC或者渲染农场不太一样，我就用大白话，结合我折腾过几次的经历，跟你聊聊B卡服务器到底该怎么设置，里面有哪些坑，又有哪些绝活。
在动手设置之前，你得先明白，B卡服务器不是一台普通的电脑，它的核心，是为了最大化算力输出，可以牺牲图形界面和花哨功能的机器。
你想想，普通显卡，哪怕RTX 4090，它也要负责把画面渲染出来推送到你的显示器上，这本身就占用了一部分芯片资源和显存带宽，而B卡，比如NVIDIA的Tesla系列、A系列，或者一些专业级的加速卡，它们根本没有视频输出接口，核心任务就是“算”，它就像一头训练有素的拉磨驴，你给它玉米（数据），它就给你磨出面粉（结果），别的啥也不管。
B卡服务器的灵魂在于：稳定、高效、远程、无头。
无头（Headless）： 没有显示器、没有键盘鼠标，全部靠网络访问。
高效： 针对特定计算任务（单精度、双精度、张量计算）进行过专项优化。
高功耗高散热： 功耗动辄几百瓦，服务器里专门有散热通道。
明白了这个“魂”，你后续的设置才能有的放矢，很多小白一上来就想给它装个Windows装个Steam，这就好比给拉磨的驴配个鞍要它去赛跑，方向就错了。
第一步，你得有台能装B卡的主板，普通的家用主板？大概率不行，因为B卡很多是被动散热（靠服务器风道吹），而且接口规范可能是SXM、OCP 这种奇葩的，或者是双宽、三宽的庞大尺寸，你需要的是服务器主板或者工作站主板。
亲自踩过的坑： 我第一次鼓捣，图便宜买了个二手服务器主板，结果发现它自带的BIOS是“阉割版”的，很多关于PCIe（PCI Express，一种高速扩展总线标准）通道分配、4G解码（Above 4G Decoding）的选项全都锁死了，最后没办法，只能刷第三方固件，提心吊胆搞了两天。
搭设这一步，最省心的方案是：
1、选对机箱： 必须是那种自带强力风扇墙（比如2U、4U的机架式机箱），能把风从B卡表面“刮”过去的，绝对不要用普通塔式机箱，B卡会热到直接“罢工”关机。
2、上工作站主板： 像华硕、技嘉、超微的W系列工作站主板，接口丰富，而且BIOS设置权限给得很足。
3、供电： 千万别小看这个，一张B卡功耗300W，三张就是900W，你需要一颗金牌甚至钛金牌的1600W电源，而且要有专用的GPU供电模块，不然开机瞬间的电流浪涌就能把电源干烧了。
物理搭好的标准是：所有B卡插槽发光（如果有灯），散热风扇用你听到飞机起飞的噪音，机器自检能通过。
硬件装好了，但如果不进BIOS做几个关键动作，它就是个“砖头”，这几个设置是B卡服务器的入场券。
1、开启Above 4G Decoding（4G以上地址解码）： 这个选项必须在BIOS里Enabled，为什么？因为普通系统最多只能给PCIe设备分配4GB的地址空间，但你插了N张B卡，每张卡显存都是24GB、48GB甚至80GB（比如A100），如果不开启这个，系统根本认不全这么多显存，会卡在自检或者只能识别一张卡，意思就是告诉系统：“喂，内存地址别吝啬，给显卡们多分点，让它们痛快干活。”
2、Resizable BAR（可调整大小的基地址寄存器）： 这其实是Above 4G Decoding的进阶版，开启后，CPU可以直接访问GPU的完整显存，而不是只能一小块一小块地取数据，对于AI推理和渲染，性能提升非常明显，我试过跑一个大模型推理，开启后吞吐量提升了将近15%。
3、PCIe Link Speed（PCIe链路速度）： 设置成Gen4或Gen5（根据你的B卡和主板支持情况），很多主板默认是“Auto”，这可能导致在某些情况下因为信号衰减自动降级到Gen3，白白浪费带宽，直接锁死在最高支持的版本上，更稳定，也更快。
这四个BIOS设置在B卡服务器上，一个都不能少，很多新手装完系统发现“黑屏”、“识别不到卡”、“跑分掉一半”，八成就是这两项没开。
操作系统怎么选？我见过有人非要在上面装Windows 11打游戏，结果驱动死都打不上，因为B卡的官方驱动（比如NVIDIA的Data Center Driver）根本不支持DirectX的游戏渲染，B卡服务器的主流系统是Linux，尤其是Ubuntu Server 或者Red Hat Enterprise Linux。
安装系统时，注意几个点：
Server版本，不带桌面： 别装那个Desktop版，图形界面对服务器来说是累赘，还吃内存，安装时只选“标准系统工具”和“OpenSSH Server”就行。
文件系统： 建议用ZFS或XFS，尤其是做储存和模型训练时，对大型文件的读写性能比ext4好。
网络配置： 强烈建议配静态IP，你总不能以后每次重启都去找IP吧？还要配好DNS，因为你需要从资料库下载依赖包，如果有多网口，建议配成802.3ad（链路聚合），增加内网传输速度。
系统装好了，接下来就是驱动和CUDA环境，这是最容易让人崩溃的一步，跟装普通N卡不一样，B卡服务器禁止使用GeForce Experience和Game Ready驱动，你得去NVIDIA官方的企业版下载中心，选择Data Center Driver。
踩坑指南： 曾经有朋友图省事，用apt或yum自动装了一个N卡驱动，结果装上去的是普通显卡的驱动，跑了一个晚上，发现模型收敛速度巨慢无比，后来发现是驱动调用了错误的计算库，B卡对你的工具链有比较高的要求，建议用RUNFILE（runfile，一种可执行脚本文件格式）方式手动安装，把CUDA Toolkit、cuDNN和TensorRT都装上。
安装完成后，输入nvidia-smi，如果能出现你那张B卡的信息，并且显示No display attached（没有显示器连接，这其实是正常现象，说明它没在干杂活），并且风扇呼呼转，你的泪水就要下来了——恭喜，设置基本完成了。
软件跑通了，但B卡服务器算不算设置成功，不能只看驱动，你可以用它跑一个具体的任务来测试。
- 跑一个huggingface的AI模型（如Llama 2-7B）做推理。
- 跑一个Blender的渲染测试（只调用计算单元）。
- 跑一个科学计算的模拟程序。
打开终端，敲下命令后，耳朵听着服务器风扇的怒吼，眼睛盯着CPU和GPU占用率，你会发现内存被有条理地利用起来，GPU的占用率稳定在95%以上，短时间内任务就完成了，那一刻，你会觉得这机器配置过程中的每一分钟痛苦都是值得的。
B卡服务器设置，不是像配自己用的游戏机那样轻松愉快，它更像是在建一座核电站——需要严谨的物理环境，精细的系统配置，和干净的应用环境，它的核心就是去掉所有不必要的部分，把所有算力全部投入到它该去的地方。
对于小团队或者个人玩家，我的建议是：做好持久战的准备，前面提到的BIOS里那几项、驱动版本、系统选择，每个环节少一点耐心，都可能让你卡上好几天，但如果搞定了，B卡服务器带给你的性能提升和稳定性，是家用的电脑很难达到的，希望这份接地气的指南，能帮你或多或少起到点作用。
文章摘自：https://idc.huochengrm.cn/js/27039.html
评论