构建一个高速、稳定、安全、易于管理的内部网络,供服务器之间以及服务器与内部管理终端通信。
在动手前,必须先回答以下几个问题:
1、需求分析:
规模 当前和未来3-5年需要多少台服务器(物理机、虚拟机)?
流量类型 主要是内部数据传输(如数据库同步、备份)、存储流量(如NAS/SAN)、还是对外提供服务流量?这决定带宽需求。
性能要求 需要多低的延迟?多大的带宽?HPC(高性能计算)和普通Web应用集群的要求天差地别。
安全与隔离 不同业务(如Web层、应用层、数据库层)是否需要网络隔离?管理网段是否需要独立?
可靠性 能接受多长的网络中断时间?是否需要冗余?
2、IP地址规划:
* 使用私有地址段(如10.0.0.0/8,172.16.0.0/12,192.168.0.0/16)。
划分子网/VLAN 这是良好设计的基础。
管理VLAN 用于带外管理(iDRAC/iLO/IPMI)、交换机管理、SSH登录。必须严格隔离。
业务VLAN 根据业务层级划分,Web VLAN、App VLAN、DB VLAN。
存储VLAN 如果使用iSCSI、NAS等IP存储,建议使用独立的VLAN甚至独立的物理网络。
预留扩展VLAN 为未来发展留出空间。
* 规划好每个子网的网关、地址范围、DNS服务器。
3、网络拓扑设计:
核心-接入层(最常用)
核心交换机 作为整个内网的网关和核心转发节点,要求高性能、高可靠性(可堆叠或冗余),执行VLAN间路由。
接入交换机 连接服务器,根据服务器端口密度和速率(1G/10G/25G)选择,通过多条链路(链路聚合)上联到核心交换机。
优点 结构清晰,易于管理和扩展。
Spine-Leaf架构(用于大型、高密度、低延迟数据中心)
Spine交换机 纯核心转发。
Leaf交换机 连接服务器,每个Leaf都连接到所有Spine。
优点 无阻塞、延迟可预测、易于水平扩展。
1、交换机:
管理型交换机 必须支持VLAN、链路聚合(LACP)、STP/RSTP等基本功能。
层数选择
二层交换机 仅做接入,所有路由由核心处理。
三层交换机 可作为接入或核心,能在本地处理VLAN间路由,减轻核心压力。
端口速率与数量 根据服务器网卡(1G, 10G, 25G)和数量选择,考虑未来扩展,留出20%-30%余量。
冗余 核心交换机尽量考虑双机热备,交换机电源、风扇是否冗余。
品牌 华为、H3C、思科、Juniper、Arista等,或国产锐捷、迈普等。
2、服务器网卡:
* 至少配备双口网卡,用于链路聚合或分接不同网络(如业务网和管理网分离)。
* 根据需求选择万兆(10G)或更高速率网卡,考虑光纤(SFP+)或电口(RJ45)。
3、网线与光模块:
* 短距离(机柜内)用Cat6A/7类网线支持万兆电口。
* 长距离或高速率(≥10G)推荐使用光纤(多模OM3/OM4用于百米内,单模用于长距离)。
* 光模块类型(SFP, SFP+, QSFP+)需与交换机端口和网卡匹配。
4、机柜与配线架:
* 使用标准机柜。
* 使用配线架(Patch Panel)整理网线,贴上清晰的标签(标签系统至关重要!),便于维护。
1、机柜布局: 将核心交换机置于机柜中部或顶部,接入交换机靠近服务器。
2、布线:
* 服务器网卡1 -> 接入交换机端口(业务VLAN)。
* 服务器管理口(iDRAC/iLO)->管理交换机 或接入交换机的管理VLAN端口(最佳实践是物理独立的管理交换机)。
* 接入交换机通过多条上行链路(使用LACP聚合)连接到核心交换机。
所有线缆绑扎整齐,两端粘贴标签(如Server01-Eth0 -> SW-A01-Port24)。
3、供电与散热: 为交换机和服务器安排独立的PDU(电源分配单元),确保散热风道通畅。
第四步:逻辑配置(以命令行为例,实际请参考设备手册)
1、配置交换机:
创建VLAN
vlan 10
name Management
vlan 20
name Web-Servers
vlan 30
name Database配置端口
接入端口(连接服务器) 设置为Access模式,并分配相应VLAN。
interface GigabitEthernet 0/1
switchport mode access
switchport access vlan 20中继端口(交换机互连) 设置为Trunk模式,允许所有必要VLAN通过。
interface TenGigabitEthernet 0/49
switchport mode trunk
switchport trunk allowed vlan all # 或指定VLAN列表,如 10,20,30配置链路聚合(LACP)
interface Port-channel 1
switchport mode trunk
switchport trunk allowed vlan all
!
interface TenGigabitEthernet 0/49
channel-group 1 mode active
interface TenGigabitEthernet 0/50
channel-group 1 mode active配置三层接口(如果使用三层交换机做网关)
interface Vlan 20
ip address 10.0.20.1 255.255.255.0配置管理地址 为交换机的管理VLAN接口配置IP,并设置登录密码、SSH等。
2、配置服务器网络:
Linux(使用NetworkManager或netplan)
# /etc/netplan/01-netcfg.yaml
network:
version: 2
ethernets:
eth0:
addresses: [10.0.20.10/24]
gateway4: 10.0.20.1
nameservers:
addresses: [8.8.8.8, 114.114.114.114]
# 如果需要绑定
bonds:
bond0:
interfaces: [eth0, eth1]
parameters:
mode: 802.3adWindows 在“网络和共享中心”中配置IP、网关、DNS,或使用PowerShell。
1、连通性测试:
* 从一台服务器ping它的网关(如10.0.20.1)。
* ping同VLAN的另一台服务器。
* ping不同VLAN的服务器(测试路由是否正常)。
* ping管理地址。
2、带宽与负载测试: 使用iperf3 工具测试服务器间实际带宽。
* 在一台服务器上运行iperf3 -s
* 在另一台上运行iperf3 -c <服务器IP>
3、冗余测试: 拔掉一条聚合链路或一台核心交换机的电源,观察网络是否快速切换(秒级以内),业务是否中断。
1、绘制最终网络拓扑图(使用Draw.io, Visio等工具)。
2、记录IP地址分配表(服务器名、IP、MAC、VLAN、用途)。
3、保存交换机配置文件。
4、建立监控: 使用Zabbix, Nagios, PRTG等工具监控网络设备状态(CPU、内存、端口流量、错误包)。
如果只有几台服务器:
1、 购买一台支持VLAN的千兆/万兆管理型交换机。
2、 划分2-3个VLAN(管理、业务)。
3、 服务器配置双IP或使用单臂路由。
4、 虽然简单,但依然要遵循“规划-配置-测试-文档”的流程。
组建内网,“三分技术,七分规划”,前期的规划设计决定了网络的稳定性、安全性和可扩展性,物理部署的规范性直接影响后期运维的难度,务必做好标签和文档!
文章摘自:https://idc.huochengrm.cn/fwq/21349.html
评论