客户背景
该客户是一所教育部直属的全国重点综合性研究型大学,位列国家"双一流"A类建设高校。学校拥有30多个国家级重点实验室和工程研究中心,包括基因组学与生物信息学国家重点实验室、蛋白质组学国家重点实验室、天文与空间科学国家重点实验室、气候变化与碳中和前沿科学中心、高能物理国际合作中心、材料基因工程研究中心等。
这些实验室每年产出海量科研数据:基因组学实验室单台Illumina NovaSeq测序仪一次运行即可产生6TB原始数据(FASTQ格式),年数据量约500TB;天文观测数据中心存储了来自多个国际合作项目的观测数据,包括SDSS光谱巡天、FAST射电望远镜、Gaia天体测量等,总数据量约800TB且持续增长;蛋白质组学实验室每年通过冷冻电镜(Cryo-EM)和X射线晶体学产生的三维结构数据约200TB;气候模拟中心运行的高分辨率地球系统模型单次模拟输出数据可达100TB以上。全校科研数据总量约3.5PB,年净增长约600TB。
业务挑战
- 数据保存周期极长:科研数据具有不可再现性——基因组测序的原始FASTQ文件是实验的直接产物,如果丢失则无法重新生成(样本已消耗)。天文观测数据更是"擦除即永失"。学校网络信息中心和校学术委员会联合制定了《科研数据保存管理办法》,要求核心科研数据最低保存50年,部分不可替代数据(如全球独有的古DNA样本数据)为永久保存。
- 科研经费约束下的存储预算紧张:30多个重点实验室的科研经费主要来自国家自然科学基金、科技部重点研发计划等,经费中"设备和材料"科目占比有限。如将3.5PB+的数据全部存放在高端磁盘阵列上,估算5年TCO将超过2500万元,大部分实验室的年度存储预算远不能覆盖此费用。
- 数据共享与FAIR原则要求:国家科技部和国家自然科学基金委要求受资助项目产出的科研数据遵循FAIR原则(可发现Findable、可访问Accessible、可互操作Interoperable、可重用Reusable),建立统一的科研数据共享平台,支持校内外科研人员按权限检索和获取数据。
- 多学科异构数据格式:不同学科的科研数据格式差异极大——基因组学使用FASTQ/BAM/VCF格式、天文学使用FITS格式、结构生物学使用PDB/mmCIF格式、气候模拟使用NetCDF/HDF5格式。存储系统必须能高效处理各种异构数据格式,并且建立统一的元数据标准。
解决方案
经过校网络信息中心联合各重点实验室的多次技术论证,最终设计了以HPE StoreEver MSL3040磁带库和LTO9磁带为主存储层、以科研数据共享平台为门户的分级归档与长期保存体系,实现"热数据高性能、温数据近线访问、冷数据低成本归档"的三层存储架构。
核心硬件与软件配置
- 磁带库:HPE StoreEver MSL3040企业级磁带库,配置6个LTO9全高磁带驱动器,初始配置1200个磁带槽位,最大可扩展至5200个槽位。采用HPE Command View for TL管理软件,提供Web界面远程管理和SNMP监控。
- 数据磁带:HPE LTO9数据磁带800盘(首批部署)。LTO9原生容量18TB/盘、压缩容量45TB/盘,总逻辑存储容量可达36PB,可覆盖全校当前3.5PB数据保有量并为未来5年预留约18PB净增长空间。
- 文件系统:采用LTFS(Linear Tape File System),将每盘LTO9磁带格式化为独立的文件系统卷(LTFS卷),以标准的POSIX文件操作方式进行读写。LTFS的关键优势是磁带自描述性——每盘LTFS磁带的第一个分区存储了完整的目录结构和元数据索引,因此磁带可以脱离管理软件独立读取,完美支撑50年甚至更长时间的数据可访问性要求。
- 科研数据共享平台:校网络信息中心与计算机学院联合开发的科研数据管理与共享平台(RDMS),集成LTFS API,提供数据提交、元数据编目、DOI注册、权限管理、数据检索和在线预览等功能。平台已对接中国科技云(CSTCloud)和国家科学数据中心体系。
三级存储架构设计
- 第一级 — 热存储(NVMe SSD + 高性能SAS HDD,约400TB有效容量):存储各实验室最近6个月内产出的活跃科研数据和所有数据的元数据索引(MongoDB集群)。科研人员通过RDMS平台在3秒内获取活跃项目数据,支持在线分析和可视化。
- 第二级 — 温存储(LTO9磁带近线,HPE MSL3040):存储6个月至3年的项目数据。科研人员通过RDMS检索到历史项目数据后,系统自动从磁带库调取原始数据文件,平均等待时间约30-60秒(含磁带装载+定位+LTFS索引解析+数据传输)。对于BAM/CRAM等基因组比对文件,平台支持在磁带库端进行区间查询(通过htslib的远程访问接口),无需传输完整文件。
- 第三级 — 冷存储(LTO9磁带离线归档):将3年以上的历史数据和已结题项目的全套数据打包写入LTO9磁带进行离线归档。离线磁带存放于学校档案馆的恒温恒湿磁介质库房(温度18±2°C,相对湿度40±10%),每5年进行一次介质状态检测和数据完整性校验。
实施过程
- 第一阶段(4周)— 科研数据普查与分类分级:校网络信息中心联合图书馆、科技处和各重点实验室,对全校30+重点实验室进行科研数据普查。编制《全校科研数据资产目录》,梳理出数据总量约3.5PB、数据集约12万组。制定《科研数据分类分级标准》——将数据分为"原创不可替代数据"(如基因组原始测序数据、天文原始观测数据)、"可经实验再生成数据"(如部分化学合成数据)、"衍生分析数据"(如BAM比对文件、分析报告)三类,分别定义保存优先级和保存周期。
- 第二阶段(2周)— 设备部署与系统集成:HPE StoreEver MSL3040磁带库到货安装,6个LTO9驱动器部署(4个用于写入,2个用于读取),FC SAN网络搭建(与校园网核心交换机上行连接),LTFS文件系统在数据管理服务器上的部署和配置。RDMS平台与LTFS API的集成开发,实现自动化归档策略——数据提交满6个月自动触发向LTO9磁带的迁移流程。
- 第三阶段(6周)— 历史数据迁移与元数据编目:将分散在各实验室自建服务器和NAS上的约2.8PB历史科研数据批量迁移至统一的磁带归档体系。采用16通道并行迁移方案,平均迁移速率约每小时3TB(6个LTO9驱动器+10个万兆网络通道并行工作)。迁移期间各实验室科研工作不受影响。同时由图书馆学科馆员团队和各实验室数据管理员共同完成约12万组数据集的元数据编目——包括数据集名称、学科分类、关键词、时间范围、空间范围、仪器设备、采集方法、数据格式、使用许可等字段。
- 第四阶段(3周)— 数据共享与FAIR合规适配:为每个编目数据集注册DOI(数字对象唯一标识符),实现在学术论文中通过DOI引用数据集。配置基于角色的访问控制(RBAC)——校内人员通过统一身份认证自动授权相应级别的数据访问权限,校外合作者通过申请审批流程获取访问权限。平台通过DataCite Schema和Schema.org元数据标准实现了向中国科技云的元数据收割接口。
- 第五阶段(2周)— 试运行与培训:邀请各实验室PI(首席研究员)、博士后和研究生代表参加为期一周的试运行,收集使用反馈,优化检索界面和数据调取流程。为各实验室指定1-2名"数据管理联络员",进行RDMS平台操作培训和科研数据管理最佳实践培训。
实施效果
- 存储成本大幅节省,科研经费有效利用:HPE StoreEver + LTO9磁带方案的年均TCO仅为同等容量全磁盘方案的约30%。3.5PB数据量的磁带存储年均TCO约75万元(含设备折旧、磁带介质、电力、运维),而全磁盘方案年均TCO高达250万元以上。每年节省的约175万元存储预算被释放用于支持新的科研项目和研究生培养。多位PI在反馈中表示:"以前每个项目结题时最头疼的就是'数据往哪里放',现在磁带方案让我们用最少的钱解决了最长远的存储问题。"
- 50年数据保存能力得到验证:校网络信息中心与HPE和LTO技术联盟(LTO Program)进行了深入的技术确认,明确了LTFS格式的开放性保障——LTFS规范是开源标准,任何一代LTO驱动器都可以读取在此之前至少两代LTO磁带上的LTFS数据。这意味着即使50年后硬件技术完全更新换代,只要LTFS规范仍然公开可获取,数据就可以被提取。学校还在磁带归档中额外写入了一份纯文本格式的"数据自述文件"(manifest),记录数据格式、编码方式和解码工具,确保即使元数据系统丢失也可独立恢复数据。
- 科研数据共享与影响力提升:系统上线一年后,RDMS平台累计注册数据集超过8万组,共分配DOI超过6万个。通过平台共享的数据已被引用超过1500次(记录于DataCite),多个实验室反馈有国际科研团队通过平台发现并申请使用其科研数据。学校在国家科学数据中心体系建设评估中,因"数据管理体系完善、共享机制健全"获得优秀评级。
- 极大降低了数据丢失风险:上线之前,各实验室的科研数据分散在数百台独立服务器、工作站和移动硬盘中,约15%的历史数据处于不可访问状态(硬盘故障、服务器退役等原因)。通过统一磁带归档,所有数据被集中保护并建立了3:2:1备份机制(3份副本、2种介质、1份异地)。上线后未发生任何数据永久丢失事件。
- 绿色节能贡献突出:LTO9磁带在离线状态下的功耗为零,近线磁带库的待机功耗仅约400W(6驱动器待机模式)。对比同等容量磁盘阵列约35kW的持续功耗,每年减少电力消耗约30万kWh,减少碳排放约170吨,为学校碳中和目标的实现做出了积极贡献。
客户评价
返回案例首页"作为一所研究型大学,我们的科研数据比黄金还珍贵——丢失了就是永远丢失了,多少钱都买不回来。HPE StoreEver配合LTO9磁带和LTFS的方案让我们终于有了一套既经济又可靠的长期保存体系。我最赞赏的是LTFS的开放性和磁带的自描述性——50年后,不管我们还在不在用HPE的设备,数据都一定能被后人读取。这对科研的长远传承来说,意义远不止是省了多少钱。"
—— 校网络信息中心主任、教授