产品 +

iEnter|智慧企业 +

企业资源计划管理系统

智钉

iManu|智能制造 +

制造执行系统

物流执行系统

高级计划及排程

iSupply|智慧供应链 +

运输管理系统

仓储管理系统

供应商关系管理系统

710公海EP|智慧生态营销 +

经销商管理系统

全面营销管理系统

客户关系管理系统

Connect|智能网联 +

寰宇智能网联云平台

新能源汽车监控平台

商用车企业监控平台

电检系统

行驶记录仪

车载T-BOX

710公海寰宇汽车故障诊断仪

国六OBD产品

后装GPS产品

DataValue|数据价值赋能 +

智慧质量

线索运营

智慧广告

Platform|云原生PaaS平台 +

云原生PaaS平台

容器引擎(QKP)

AI智能服务平台

API网关平台

低代码平台-QLCP

元宇宙技术探索平台

数据中台

智能运维平台

服务 +

咨询 +

车路协同解决方案

IT咨询

云原生技术架构规划与咨询服务

评测 +

网络安全等级保护测评

实施 +

电子电气检测服务

网联产品组装制造

运维 +

桌面及外围设备运维服务

云服务(IDC)

销贷服务

乘用车车联网运营服务

商用车车联网运营服务

客户联络中心运营服务

数据价值运营服务

K8s运维

关于710公海寰宇 +

企业简介 +

企业简介

企业价值 +

企业荣誉

行业地位

资质认证

社会责任 +
企业文化 +
投资者关系 +
麾下企业 +
加入710公海寰宇 +

业务发展规划

福利待遇

人才招聘

信息公开 +

企业基本信息 +

企业概况

经营范围

市场主体登记基本信息

组织机构

成员单位

资质荣誉

企业重大事项 +

股权信息

产权信息

研发成果

企业经营管理 +

财务与经营状况

品牌与产品

安全环保 +

安全信息

招标招募 +

招标信息

人力资源 +

招聘信息

社会责任 +
企业公告 +

上市公司

公告信息

投资者关系

加入710公海寰宇

客户留言

中国·710公海寰宇-PPIO创始人姚欣:闲置率高达八成的国产GPU,如何盘活成“真算力”?
2026-04-15 12:14:59

  

PPIO创始人姚欣:闲置率高达八成的国产GPU,如何盘活成“真算力”?|智算想象力十人谈

作者 | 赵之齐

编纂 | 包永刚

2018年,边沿算力与CDN(内容分发收集)市场已经白热化,价格卷到极致。就于这一年,PPIO建立了。他们毅然切入边沿云范畴,直面红海的竞争。

其时,开创人姚欣给天使投资人——百川智能开创人王小川、前微软Azure中国总裁申元庆——讲的创业逻辑是:

“昔时PPTV就是整合闲置的算力及资源,建起来的一套漫衍式平台。咱们二十年前就于做C真个算力整合,此刻要去做B端,你想,是整合B端难还有是C端难?”

于2005年便创建了PPTV、并于2014年将其出售给苏宁的姚欣,与其时PPTV的首席架构师王闻宇转战B端算力范畴,显然是值患上被信托的。在是,这个故事被投资者们接管了。

然而,这一起的起步其实不如想象中轻易。开初,PPIO于“先找供应”还有是“先找需求”间久久倘佯,贸易难以闭环,直到疫情致使线上流量激增,才逐渐跑通了这一增加曲线。

2023年,当疫情带来的线上流量盈余逐渐减退,GPU市场也最先利润暴涨,H100的高点价格甚至一度到达400万元。GPU商业赛道火热之时,姚欣却拒绝了这门“稳赚不赔”的买卖,于阿谁基础年夜模子练习正盛的年月,提出了要“聚焦推理”。

PPIO创始人姚欣:闲置率高达八成的国产GPU,如何盘活成“真算力”?|智算想象力十人谈

PPIO结合开创人兼CEO 姚欣

如今,短短几年时间,PPIO的营收已经经实现指数级增加,2024年营收已经达5.58亿。而于本年7月的WAIC(世界人工智能年夜会),PPIO又成为了海内首个推出兼容E2B的Agent沙箱的公司——

Agent沙箱作为专为AI Agent场景设计的基础举措措施,能为AI Agent提供断绝运行情况,让Agent于安全、受限的前提下履行代码。由此,避免Agent拜候或者窜改体系以外的资源,防止对于体系造成侵害。

于整个研发历程中,姚欣感触,最难的即是“为看不见的需求做技能”。

而这,也是PPIO这两年一直于做的事——比行业走快一步。

如今,PPIO正于冲刺港股IPO。从边沿云到GPU推理平台,再到Agent沙箱,PPIO成了具有全栈技能能力的AI云办事商,这些跨度暗地里是怎样考量?于海内云年夜厂夹击下,作为创业公司的他们怎样突围?

如下,是雷峰网与姚欣的对于话。

为看不见的需求做技能

雷峰网:你们从2018年创建做云办事,开初的算力做到此刻的沙箱,跨度很年夜,这条路是怎么走下来的?

姚欣:咱们2022年最先进入GPU范畴,其时AI年夜语言模子还有没最先,最最先做的是云游戏及云衬着的GPU,此日生就是一个漫衍式架构。

2023年年夜语言模子起来后,整个市场最先起来。其时海内某头部模子厂商发布了本身的开源模子,但缺乏推理平台,咱们就帮着他们于2023年搭建了第一代推理平台办事,这是咱们的第一个推理的Infra客户。

2024年,PPIO就最先于重点聚焦出海,集成为了年夜量开源的模子,把模子API推出一整套MaaS平台。

本年年头,PPIO再往上走一层,Agent实在就近似在PaaS层,相称在咱们从底层技能栈一层层长上来。

雷峰网:于这之中,挑战重要是甚么?

姚欣:最年夜的挑战就是,咱们是为看不见的需求于做技能。

做AI Infra或者技能平台此刻看起来已经经普和了,但于2024年做MaaS、或者者此刻做AI PaaS Agent,用黄仁勋的话讲,就是“Zero/Billion dollar company market”,一个零/亿市场,此刻是0,或许之后就是10亿、20亿、百亿。要为一个今天还有是0的市场,提早做技能贮备、研发、投入;但若看到Manus起来后再最先做沙箱,实在就已经经晚了。

雷峰网:于2022年决议切入做算力云的时辰,内部是怎么去会商这个市场的?

姚欣:其时还有没看到GPT,咱们更可能是从公司要打造第二增加曲线的角度。

于此以前咱们第一增加曲线是基在CPU做的边沿云,那会儿重要是捉住了疫情时期于线流量激增带来的营业需求。咱们其时为许多头部互联网公司提供音视频处置惩罚、边沿计较及传输办事,都是基在传统CPU及云架构。2022年疫情逐渐竣事了,流量逐步回落,咱们就意想到要最先找第二增加曲线了。

雷峰网:但怎样锚定此刻这个标的目的的呢?

姚欣:咱们作为云办事商,实在年夜的思绪就是计较、存储、传输。半年后,ChatGPT最先风靡,海内掀起年夜模子创业热潮,看到年夜模子类企业快速融资、扩张的态势,咱们就明确将第二增加曲线定位为AI赛道做AI Infra,从GPU层慢慢向上构建到今天的PaaS。

雷峰网:其时许多人都想做算力商业买卖,你们是怎么决议要去做漫衍式算力的线路?

姚欣:咱们选择避过热门,没有介入任何倒算力囤卡,这跟整个公司的价值不雅都有瓜葛——咱们价值不雅第一条叫“价值创造”,必然要做有技能附加值的工具。

咱们于GPU范畴的贸易模式是整合会聚年夜量闲置的漫衍式算力,再把它酿成某种云办事。咱们技能附加值的表现,重要就是把闲置算力token化。

雷峰网:你们是怎么找到这些闲散资源的呢?这些资源的持有方会是谁?

姚欣:2022年看到的都是游戏显卡,用4090、3090做衬着,甚至最最先Stable Diffusion就于4090上面跑的。厥后看到上一代练习的GPU年夜量闲置,例如2024年各人都最先拿H100做练习,A100被替代,咱们就拿闲置的A100来跑推理。

再日后又看到许多国产GPU用不起来,有的国产GPU智算中央使用率只有10%-20%,咱们就又最先做国产GPU及模子推理加快框架的适配。本年咱们平台上就有许多头部厂商的国产GPU。

雷峰网:以是你们一方面是用那些已经经被时代选择裁减了的算力,另外一方面是国产算力,并且对于标推理市场,没有去碰算力练习这一块。

姚欣:对于,由于练习及推理的使命指标纷歧样。一个模子比他人先推出是很主要的,以是练习永远用开始进的芯片;但推理纷歧样,推理要求极致的成天性价比,联合咱们怪异的漫衍式闲置资源整合的能力,降低创业者利用算力门坎。

不绑定+开源:AI开发者的“反锁定”需求

雷峰网:PPIO于WAIC上发布了沙箱,好像是海内首发的Agent沙箱。为何会于这个时间点上去推呢?

姚欣:要加一个增补,这是咱们“于中国”首发E2B兼容的Agent沙箱,于海外已经经提早发布了。

咱们于2023年选择出海,于海外优先寻觅一些战略客户或者初期的新技能,及他们一路快速打磨及迭代,鞭策底层AI Infra开发技能栈的立异。

雷峰网:此刻沙箱进展怎样?

姚欣:今朝咱们于海外落地比海内快一些,PPIO推沙箱对于标海外E2B,他们于硅谷本年一年用量年夜概涨了400多倍,从4万多到1600多万。海内已往的模子互助伙伴像是千问、Kimi、智谱等等,这几家模子能力基本可以追平年头的Anthropic,以是我判定将来几个月中国版的Manus或者Cursor可能会更快速增加。

雷峰网:于你们推出沙箱后,年夜厂也于跟进了,会担忧及年夜厂之间的竞争吗?你们及年夜厂的差异性于哪里?

姚欣:从我开办第一天,投资人就最先问咱们这个问题,但此刻到了Agent或者PaaS这一层,话题就最先有趣起来了。

以前做云计较,于IaaS层,说白了就是拼资源、拼范围,是一个Heavy Capex(本钱性支出)的游戏。到PaaS层,虽然巨头影响力还有是巨年夜的,由于他们本来的客户堆集及生态依然是最强的,但到了Agent Infra这一层,云年夜厂的影响力及PC以和挪动时代比拟,是年夜幅减弱的。

雷峰网:为何有这个不雅察?

姚欣:详细因此下这几个缘故原由。

第一,GPU的Infra架构是于已往三年时间里忽然冒出来的,不像CPU有快要20年成长,以是年夜厂很难有很较着的先发上风或者很强技能堆集,今天年夜厂真正做沙箱这件事,跟PPIO可能也于差未几一个别量。

第二,这波AI成本过高,以是各家公司包括开发者,第一天设计本身的架构时就是跨云、多云或者者可以矫捷挪用的架构,寻求一整套尺度化的接口,不会跟某家厂商尤其绑定。咱们就把API能力做好,作为一个组件;与此同时,也拥抱开源。

这代AI开发者不像上个时代的挪动互联网开发者,选择某个云后就于上面越存越多,逐步配套一堆私有化的组件挪用、或者者专有组件挪用,紧紧被它绑住了。咱们于海内及差未几四五十款主流的开源框架有对于接互助,并且也没有想把GPU及CPU绑于一路发卖,就是想基在开源及可迁徙性去利便开发者。

雷峰网:以是此刻的沙箱重要方针市场就都是开发者吗?

姚欣:实在不光是沙箱,包括提供的API、许多GPU的Serverless等等,咱们已往两年重要都是为了AI Startup及开发者两小我私家群提供办事。

雷峰网:这个群体的市场充足年夜吗?

姚欣:这些开发者及新运用,于用量侧实在比许多传统互联网巨头高许多。前段时间Sam Altman也说了,Open AI的Top20耗损里,70%以上都是AI新运用,咱们想争夺这类全新增量用户。

并且已往几年有个特色,新的AI创业公司及运用公司出来,他们做一件事的token耗损,可能比上个运用直接晋升10倍甚至100倍。好比Manus履行一个使命,挪用的token多是几十万次.

本年7月,Manus还有发布了个Wide Research,一个使命同时开100个Agent于跑,这100个Agent同时患上出一个成果、末了返回一个最好解,这个耗损量就相称在再增加100倍。

AI赌的是下一代

雷峰网(公家号:雷峰网):你认为漫衍式算力厂商的上风于哪里?

姚欣:第一是节点数目要充足多、使命需求也要多。咱们的上风于在技能栈及传统云公司彻底纷歧样:咱们从第一天就是于分离、碎片、异构的基础举措措施上成立起来的云办事,以是叫“漫衍式云”,但传统年夜云厂的技能栈,是成立于集中式、年夜范围尺度的数据中央上做的虚拟化加技能栈。

许多企业级算力也是用这类方式整合起来。有些互联网企业,好比做电商的,旺季于双11、618,但上半年使用率实在很低,周一到周五还有会比周末低,他们就很需要于闲置时把这些资源用起来。

雷峰网:今朝PPIO有4000多个节点,这些节点是怎样漫衍的?

姚欣:这些节点许多是零售型IDC,他们随时可以把呆板于闲置期内托管到咱们平台上供挪用,相称在有这么多“滴滴司机”随时待命,但不代表他们24小时都于办事。

真正要挪用时,就要看客户场景,有的运用场景寻求低延时,会就近挪用;有些比力成本敏感,就能够好比给北京的用户调新疆的资源——新疆电费是北京的1/3,甚至全世界规模内,东半球的白日是西半球的凌晨,可以跨更年夜的区域调理。

雷峰网:最最先漫衍式算力云的客户也是这些开发者相干吗?

姚欣:不是,漫衍式CPU云是头部的互联网阿谁公司。但到了GPU云时代,重要因此AI创业者及开发者为主。

雷峰网:为何有这套计谋的改变?

姚欣:咱们此刻更想及客户一路结合打磨将来新产物,以是选择开发者及AI创业公司, AI时代纷歧样,AI是赌下一代,下一个字节、下一个抖音于哪里?此刻还有没有出来。

雷峰网:那将来对于漫衍式算力的挑战会于哪里?

姚欣:还有是于需求侧,技能侧及供应侧不担忧,就看需求侧何时能有年夜范围发作,特别是器重时延敏感的需求。

创业结果是认知的变现

雷峰网:听起来是2020年疫情需求起来后,边沿CPU才真正使用起来。但你们于2018年就已经经最先做这个营业,最最先碰到了甚么挑战?

姚欣:最早的挑战就是“鸡生蛋”还有是“蛋生鸡”的问题,或者者说,所有平台买卖的第一点都是:先抓供应还有是先抓需求。

抓需求吧,各人说你技能不可熟、收集笼罩广度不敷、没有天下节点;可是处处找天下节点,各人就会问你需求呢?

昔时这个平台能冷启动,很年夜缘故原由是2020年疫情发作,需求凌驾预期,咱们才能有技能打磨、锁定更多供给商。到今天GPU这张收集也是近似的,已往一年咱们平台token耗损增加了一百倍以上,推理时代这类极为陡峭的高增加曲线才能把GPU收集拉起来,以是咱们此刻也于找下一个更高增加发作的新需求。

雷峰网:那其时PPIO建立,于CDN红海里做边沿云,是怎么说服王小川、申元庆等人投资的?究竟他们都是很懂云的人。

姚欣:2018年,第一波AI计较机视觉很热,有年夜量算力需求、也有许多算力被闲置,特别许多数字新基建IDC,建完没用起来。我跟他们讲的故事很简朴:咱们二十年前就于做C真个算力整合(指PPTV),此刻要去做B真个算力整合,你们想一想是整合B端难还有是C端难?

技能上必定是C端更难更繁杂,贸易模式上B端也可能更成熟一些,厥后这个故事各人就听到了,感觉咱们团队是做PPTV漫衍式计较、漫衍式收集身世,调理能力充足强。

雷峰网:此刻转头看,于PPIO创业的历程中,您感觉本身做患上很对于的一个判定是甚么?

姚欣:2023年咱们就提出聚焦推理、聚焦开源、海外优先,这个认知其时比偕行要早许多,其时开源模子还有没几个。此刻能捉住这波DeepSeek时机、以和海外这么多知名开发者,及三年前这个判定很是要害。咱们于整个战略趋向及标的目的的判定上,还有是比昔时做PPTV强太多。

雷峰网:转头看,您觉得创业主要的能力是甚么样的?

姚欣:我感觉最主要的就是认知能力,怎样不停进修、快速顺应,其实不断晋升认知能力的上限。咱们公司是动漫文化,我是海贼王路飞,海贼王里有恶魔果实,假如选一个果实,我最想吃的是进修果实,由于对于在一个开创人来说,最主要的就是认知能力,包括我做投资人的三四年里来看,末了的结果都是认知变现。

这二十年间,技能的成长也履历过量个周期,我很清晰下一个周期要发生甚么,加之我老是处处飞,去看开始进的模子及技能生态、跟全世界最新锐的创业者于一路,咱们对于技能及贸易的联合、对于全栈的理解可能会比业内其他竞争敌手更快更强。

雷峰网:那此刻会有甚么新的判定吗?

姚欣:Agent Infra会是下一代的AIOS。

作者持久存眷半导体、算力上下流等标的目的,接待添加作者微信 Ericazhao23 交流。

雷峰网原创文章,未经授权禁止转载。详情见转载须知。

-中国·710公海寰宇


地址:长春净月高新技术产业开发区百合街1009号

版权所有:710公海寰宇信息技术股份有限公司

电话:0431-85861717/ 4001182299