AI 见闻
精选· 重要性 4/5

数据中心未来可便携?Runware推出模块化推理吊舱

TechCrunch — AI··Dominic-Madori Davis·约 4 分钟阅读
中文导读

AI基础设施公司Runware推出模块化数据中心Sonic Inference Pod,以可运输的单元形式提供灵活、低成本的推理算力,旨在应对数据中心建设速度跟不上推理需求增长的挑战。

周二,AI基础设施公司Runware宣布推出其模块化数据中心Sonic Inference Pod。该Pod设计为单一可运输单元,代表了一种更灵活的计算形式,可与超大规模数据中心项目并行。

Runware表示,与其他无服务器推理平台和GPU云相比,Pod能以更低成本提供更高质量的推理。模块化设计意味着可以通过创建新Pod轻松快速增加容量,而无需扩建固定数据中心。

Runware联合创始人兼CEO Flaviu Radulescu告诉TechCrunch,从某种程度上说,这就是未来。他表示:“我们相信,分布式计算——更靠近最终用户以实现更快推理——将是长期赢家。

”他以自家公司为例。除了价格更低,Radulescu指出,Runware系统能快速扩展和增加容量,可部署在任何有电力的地方,并能快速适应新硬件发布。Runware Pod也不用水,而是采用闭环冷却系统,几天内即可建成,而传统数据中心需要数月甚至数年。

Radulescu说:“推理需求的增长速度超过了设施建设速度。我们想要的是为全球智能提供动力,成为所有AI模型运行的支柱,其容量能跟上需求,而不是限制需求。”Runware目前在美国部署了10个Pod。

Radulescu表示,这些Pod分布在美国、欧洲和亚太地区。公司已为包括Higgsfield AI和Wix在内的几家公司提供推理服务,目前有160个站点可为Pod供电。Runware于12月宣布完成5000万美元A轮融资,用于提供公司生成图像所需的基础设施。

他们将Pod扩展视为公司核心使命的一部分:为各公司提供推理服务,而非单一产品。OpenAI和SpaceX等AI实验室仍在竞相在美国各地建设数据中心。例如,据报道,OpenAI即将达成一项5000亿美元的交易,将在俄亥俄州建数据中心。

但Radulescu并不认为这些项目对Sonic Inference Pod构成威胁,他将Pod的灵活性视为关键差异化因素。他说:“每个Pod都作为单一网络的一部分运行,因此请求会发送到任何有容量的地方,更靠近用户;

如果一个Pod离线,流量会转移到另一个。”他补充说,系统故障意味着一个Pod宕机,而非整个固定设施。“需要专用硬件的客户可以独享整个Pod。”他也不太担心其他公司自行构建类似技术,他简单表示,硬件开发速度慢,且能构建和修复这项技术的人才库很小。

他说:“电路板设计中的一个错误,从重新设计、模拟、制造、测试到交付,会浪费数月时间。”

“每一次这样的调用都需要有人确切了解每个组件的作用,以及如果缺失会发生什么故障。”然而,构建AI数据中心是一个有争议的话题,尤其是因为它消耗大量资源。数据中心所在社区已报告公用事业成本上升。

Runware设想有一天能依靠可再生能源运行,不占用社区所需资源,但这一天未必是今天。Radulescu表示,AI电力使用无论如何都会增加,“这是由推理需求驱动的,而非由谁供应。”他说,Runware目前关注的是如何满足这一需求。

“没有输电损耗,冷却不用水,我们使用现有电力,而不是要求新建电网容量。以这种方式构建更多推理能力,意味着在相同算力下,减少新电网和水的消耗。”

原文出处
Is the future of data centers portable? Runware builds a pod to find out

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。

相关阅读