中国存储网消息,三星SDS于3月23日宣布,已通过其云平台三星云平台,基于英伟达最新图形处理单元B300 Blackwell Ultra推出GPU即服务(GPUaaS),这标志着韩国首个此类服务。

SCP B300 GPUaaS的发布旨在满足企业从人工智能模型开发进入推理阶段、在实际应用中部署的高性能计算需求。
B300 GPU 配备了 12 层 HBM3E(第五代高带宽存储器),每块 GPU 提供 288 GB 内存容量,带宽为每秒 8 TB。在需要复杂计算的AI推理工作负载中,它提供比H100高3.6倍的内存容量和2.4倍更高的带宽。
因此,数据瓶颈问题——即由于内存传输速度落后于GPU处理速度而导致整体性能下降——在大型语言模型执行过程中得到了显著缓解。
三星SDS一直引领GPUaaS生态系统的发展,2021年提供基于A100的服务,2023年提供基于H100的服务,使GPU能够作为跨云环境的核心AI基础设施,包括基础设施部署、运营和客户服务。
采用SCP B300 GPUaaS的客户可以通过高容量内存高效处理大型AI模型,最大限度地减少需要高性能的AI服务的延迟,如AI代理以及图像、视频和分析的生成和分析。
三星SDS云服务业务执行副总裁兼负责人李浩俊表示,公司将积极支持向人工智能转型的转型,向韩国首个B300 GPU服务,面向企业、中型企业和公共机构整合人工智能,利用其GPU优化能力,如资源效率和节能。