近日,Databricks人工智能部门负责人Naveen Rao宣布离职,计划创立一家聚焦AI计算成本优化的新型计算机公司。Databricks官方证实,Rao将转任公司顾问,并获得Databricks的战略投资,具体金额尚未披露。据知情人士透露,Rao已同步启动早期融资洽谈,其新公司目标明确——通过硬件架构创新,解决当前AI产业面临的算力成本飙升难题。这一消息不仅引发科技界对AI基础设施创新的关注,也将“降低AI计算成本”这一核心议题推向风口。

2. 从Nervana到MosaicML:Rao的连续创业履历

Naveen Rao并非首次投身创业。作为硅谷知名的连续创业者,他的过往经历为新公司奠定了高起点。2016年,Rao联合创立的深度学习初创公司Nervana Systems被英特尔以未公开金额收购,其技术成为英特尔AI产品线的核心基础,主打“为深度学习模型提供远超GPU的性能”。2023年,他再次创业的MosaicML以13亿美元被Databricks收购,该公司通过软件平台帮助企业用自有数据训练生成式AI模型,核心价值正是“降低AI模型的训练与部署成本”。

表:Naveen Rao主要创业项目概览

公司名称 创立/收购时间 核心方向 投资方/收购方 交易金额
Nervana Systems 2016年被收购 深度学习硬件与平台 英特尔 未公开
MosaicML 2023年被收购 AI模型训练与部署成本优化 Databricks 13亿美元

3. AI算力成本困局

AI算力成本已成为制约行业发展的“天花板”。当前,单次大规模模型训练(如GPT-4级别)的成本可达数百万甚至数千万美元,涉及数千颗高端GPU(如NVIDIA H100)的数月运行。更值得注意的是,推理成本(即模型投入使用后为用户提供服务的持续开销)往往占总成本的60%以上,且随用户规模增长呈线性上升。

其中,硬件成本占比最高(约50%-60%),包括芯片采购、服务器部署;能耗成本随算力规模激增,部分数据中心的电力支出甚至超过硬件购置费用;维护成本则涵盖冷却系统、专业运维人才及模型迭代所需的重复训练开支。

Tips:为何推理成本更值得关注?
训练成本是“一次性投入”,而推理成本是“持续性支出”。以某主流AI服务为例,若日活用户达千万级,单日推理成本可突破百万美元,年支出超3亿美元,远超单次训练成本。

4. 破局之路

面对算力成本困局,技术创新成为关键。Rao的新公司瞄准“下一代计算机”,核心方向是硬件架构创新。当前行业探索的路径主要包括:

4.1 专用芯片替代通用GPU

通用GPU(如NVIDIA GPU)虽占据AI计算主流,但能效比仍有提升空间。专用AI芯片(ASICs)和类脑芯片(Neuromorphic Chips)通过优化计算逻辑,可针对性提升AI任务效率。例如,Groq的LPU(Language Processing Unit)专注语言模型推理,能效比较同级别GPU提升3倍以上;Tenstorrent的AI芯片则通过分布式计算架构降低大规模部署成本。

4.2 软件与算法协同优化

硬件创新需与软件层配合。模型压缩、量化(如将32位精度降至4位)、剪枝(去除冗余神经元)等技术可减少计算量;混合专家模型(MoE)通过动态激活部分参数,将算力集中于关键任务,进一步降低资源消耗。

4.3 前沿探索:光学计算与新型材料

光学计算利用光信号传输与处理数据,理论上速度比电信号快10倍以上,能耗降低90%。多家初创公司已推出原型机,虽距商用仍有距离,但被视为“下一代算力革命”的潜在方向。

5. Databricks的战略投资与行业信号

Databricks对Rao新公司的投资,不仅是对其个人能力的认可,更暗含战略布局。作为估值超1000亿美元的数据+AI平台巨头,Databricks近期完成10亿美元融资,资金重点投向AI创新。其核心逻辑在于:降低算力成本能让更多企业负担得起大规模AI应用,从而扩大自身平台的用户基数

例如,若Rao的硬件创新实现30%成本优化,企业在Databricks平台上训练模型的门槛将显著降低,进而推动数据湖、机器学习平台等核心业务增长。这种“生态协同”思维,体现了AI巨头对基础设施创新的重视。

6. AI高管创业潮

Rao的离职并非孤立事件。近年来,AI领域高管纷纷下场创业,尤其聚焦基础设施层。

表:近期AI高管创业代表案例

创业者 前职务 新公司名称 核心方向 最新估值
Mira Murati OpenAI前首席技术官 Thinking Machine Labs 新型AI模型与底层系统 未披露(融资阶段)
Bret Taylor Salesforce前联席CEO Sierra 企业级AI代理(复杂任务执行) 10亿美元
Naveen Rao Databricks AI负责人 未命名新公司 AI计算硬件成本优化 未披露(筹备阶段)

这一趋势背后,是资本对AI基础设施的押注。据行业报告,2024年全球AI硬件初创公司融资额突破200亿美元,同比增长85%,投资者普遍认为“算力成本优化将决定AI产业的下一增长曲线”。

7. 下一代计算的想象空间与行业影响

Rao的新公司能否复制Nervana、MosaicML的成功?业内普遍看好。其优势在于:技术积累(深耕AI硬件与软件协同)、行业资源(Databricks生态支持)、时机契合(算力成本痛点迫切)。若能实现30%以上的硬件成本优化,将直接推动AI模型从“少数巨头玩得起”向“中小企业普及”转变。

长期来看,AI硬件创新将重塑行业格局:一方面,降低的成本可能催生更多垂直领域应用(如医疗影像分析、工业质检);另一方面,算力供给的多元化也将减少对单一芯片厂商的依赖,推动生态健康发展。

参考链接