双飞 姐妹花 对话UCloud:AI期间,云计较为什么需要一个中立厂商
图片由UCloud提供
©产业象限原创
对话丨山茶
裁剪|钱江
瑞士,位于欧洲中南部,地处阿尔卑斯山脉本地。
1815年,在为拿破仑干戈打理残局的维也纳会议上,瑞士为我方建造了一个新的身份——永恒中立国,这是天下上第一个永恒中立国。
凭借这个身份,从一战到二战,固然天下霸主的王座在战火硝烟中几经千里浮,但身处漩涡中心的瑞士却都得以独善其身。
以至于,收成于这个身份,瑞士的银行业不错诱导全球客户,让天下钞票采集于此。在海外政事上,瑞士也取得海外奥委会、世贸组织、天下卫生组织等迢遥海外组织的醉心,将总部素养于此。
中立,成为一种生涯玄学,让瑞士不错在强国林立,阵势杂乱的期间,从一个内陆小国,缓缓改换成一个在海外金融、政事领域都领有紧迫影响力的国度。
而在中国云计较的买卖款式上,也有这样一家这样一家企业,着重强调我方“中立”的标签。
2018年,面对国内云厂商的混战,UCloud初度建议了中立的见地。而后的几年里,跟着UCloud的不停强化,中立运行成为其紧迫的标签。
2023年以来,AI大模子为云计较带来一场新的机遇,但同期也催化了国内云厂商的新一轮混战。直到本年,无论是阿里云降价开启的云厂商价钱战,照旧火山引擎煽动的大模子价钱战,都让这个阛阓再次硝烟弥散。
但在这样的布景下,UCloud既莫得被价钱战裹带,也莫得堕入到大模子的络续内卷之中。天然,UCloud也莫得错过大模子带来的机遇。
事实上,如今UCloud如故和包括智谱AI、昆仑万维、MiniMax、爱诗AI等一众国内最初的大模子企业收局势作。
7月中旬,在上海举办的AIGC买卖利用峰会上,我们与UCloud智算惩办决策总监李腾进行了一次深远交流。
▲李腾在AIGC买卖利用峰会上 图源:UCloud
通过此次对话,我们试图了解在AI大模期间,云厂商所谓“中立”的意旨。同期,我们也试图洽商,在这个巨头林立的期间,中小云厂商具备哪些私有上风,他们又如安在这个期间锚定我方的位置,为客户创造价值。
以下是访谈实录,部天职容,为便捷阅读由裁剪修改:
云计较,为何需要中立厂商?
有界UnKnown:我们在行为现场看到许多作念AI利用的公司,都是我们的潜在客户,看起来AI大模子给云计较带来了许多契机,您如何看待这件事情?
UCloud 李腾:不仅仅云计较,AI给许多行业都带来了契机,但不同企业的遴选契机是不一样的。比如大厂商有成本的上风,不错作念更多尝试。但中小厂商的试错契机就少许多,就更磨真金不怕火中小厂的阛阓判断和战术决策。
有界UnKnown:一样面对机遇,UCloud是如何给我方定位的?
UCloud 李腾:动作中型云厂商,我们固然不成像大厂一样作念许多尝试,但我们不错离用户更近,离场景更近,我们不错收拢中枢用户的中枢诉求,然后去深耕这些场景。
如今技能和阛阓需求都还在快速变化,快速诊治情景,然后反馈最终客户的需求,这是我们的上风。
有界UnKnown:快速诊治情景,反馈最终客户的需求,有例子不错聊聊吗?
UCloud 李腾:比如客岁大模子以测验场景为主,我们上半年用了不到两个月的时分就推出了自研大模子测验的技能。
大模子测验场景并不是堆开辟,它是一整套包括软件、采集、存储的合座互助。我们能在不到两个月的时分里把这个事情落地,然后顺利拜托给智谱AI、MiniMax这样的行业头部公司,充剖判释我们在濒临契机的时候,是约略捏到中枢,约略快速落地的。
本年行业利用更多的场景变成了推理,我们也如故建成了万卡的推理集群,面前上头也落地了许多的技俩,基本都是满载的情景。
有界UnKnown:UCloud一直强调我方“中立云”的标签,刻下的阛阓环境下,如何富厚“中立”的意旨?
UCloud 李腾:我们说鸡蛋不要放在一个篮子里,其实企业找供应商也一样,都不念念将系数业务都押注在一个供应商上。因此全球遴选一家主供应商的同期,也会再选一家动作平衡。这种情况下,中立就更有上风。
“中立”也触及到生态的问题,我们会发现大厂也有文生图、也有视频生成的居品,这种情况下,全球的利用产生了交集,如若算力有限的话,你如何保证他会优先将算力供给给你?
是以你看像字节、头条这些业务,他们有我方的云计较,但他们一样会用我们,但他们却很难用腾讯和阿里。
▲UCloud转变科技展示中心 图源:Cloud
与大厂,如何错位竞争?有界UnKnown:与大厂比拟,UCloud的上风是什么?UCloud 李腾:我们用本年最火的推理场景例如,这个场景其实很分手,它有许多细分场景,比如文本生成、图片生成、视频生成是一个场景;智能体、数据处理、游戏利用又是另外的场景。每个场景又对底层表率有不一样的条目。
动作大厂,它的惩办决策可能是把系数建立都拉到最高,一定能称心你的需求。但动作小厂商,我们更倾向于让客户的每一分钱都能惩办实质问题。是以我们会针对不同场景,去细分到每一个算力,包括配套的存储如何建立,最终变成一个更默契的惩办决策。
这是大厂很难作念到的,因为作念这些细分场景,需要我们跟客户天天在一都,坐在客户驾驭,成人网有哪些去看他的业务过程之后,才能知说念他果真缺什么,要什么,需要我们帮他惩办什么问题。
有界UnKnown:我不错富厚成,我们实质上是在把柄客户的需求在作念定制化吗?
UCloud 李腾:应该说是针对一些细分场景作念定制化,因为我们并不是为一个客户作念惩办决策,而是为这一类的客户作念惩办决策。这些定制化一定也都是经过筛选的,不错在一段时分之后,变成尺度化的居品。
有界UnKnown:这些千里淀下来的惩办决策,竞争力主要体面前哪些方面?
兼职学生UCloud 李腾:和阛阓上的决策比拟,我们的决策更贴合买卖场景。
拿文本生成场景例如,文本模子都很大,表面上需要更大显存的卡,或者A800这种芯片来加速推理速率。但实质利用场景中,它还需要抽象用户的体验后果。
不时一般东说念主阅读输入的速率是每秒钟十几个字,多了之后东说念主跟不上这个速率,只可等文本生成完之后再渐渐看。是以企业也不会遴选无截止加速推理速率,而是遴选让文本生成的速率和东说念主能继承的速率保持一致,保证用户体验。
这种情况下企业其实用不上A800这样的显卡,4090基本就能称心。面前A800的阛阓价大要在5万块钱傍边,4090才几千块钱。这些死别,都是最终到了买卖端才能感受到的。
我确信任何一个厂商看到这样的案例,拿更低的开销达到了交流的后果,他都会去作念这个事儿。
有界UnKnown:成本如实异常紧迫,恰巧价钱战亦然本年上半年行业里最紧迫的事情,您如何看待价钱战的影响?
UCloud 李腾:价钱战蓝本是参战公司之间的事情,但我认为最终伤害的会是用户。价钱战本人并不是一个良性竞争,毕竟市面上蓝本不错有许多提供处事的公司,但PK完之后可能只剩1~2家,用户到临了可能会莫得什么遴选。
我们这种体量也不会参与到价钱战之中,我们更祈望跟客户的场景和痛点绑定,为他们惩办问题,为客户创造价值,然后客户为价值付费。
有界UnKnown:一直以来,价钱都是中小云厂商的紧迫上风,面前大厂打起价钱战,中小云厂商会不会比较无言?
UCloud 李腾:影响笃定会有,但像AIGC这样的场景,我们一样拿到了一些头部客户,以至在一些技俩大厂都不一定能拿到。
面前来看,AIGC不像电商这些尺度场景,它是一个透顶新的东西,还在不停变化,我们独一能作念的,等于跟上这个变化,然后去称心这些变化中产生的需求。
有界UnKnown:面前头部的云厂商都有我方的大模子,他们通过廉价以至免费提供大模子才智来销售云居品,动作中小云厂商,在这方面会感受到压力吗?
UCloud 李腾:如若回到非大模子期间,如实是这样的,因为生态带来的护城河如实很难冲破。
但大模子是以数据驱动的,我们看到系数的大模子,它最毕生成的都是一种“权重文献”,这是一个非加密文献,既你如若面前给我一个这样的文献,我赶快就能作念一个一模一样的大模子推理处事。
是以根蒂的问题在于,大模子固然干与了异常多的资金和时分,但最终取得东西其实莫得壁垒。而越是在这种情况下,数据安全才紧迫,因为数据才是大模子公司的生命线,没少见据就什么都莫得了。
面前固然说许多企业还会有一些干与,但我认为最终基础大模子公司除了云厂商,不会提升两三家,剩下的都会转向行业模子,以及围绕AIGC去作念利用的公司。
是以我认为这对我们来说反而是一个新的契机,围绕着行业模子和利用作念出更迫临客户业务场景的惩办决策。
有界UnKnown:本年大模子行业的趋势较着从技能转向了利用,在加速大模子利用落所在面,UCloud作念了哪些准备?
UCloud 李腾:源流是在算力层面,面前无论是作念行业模子,照旧作念AI利用,临了都会径直或曲折地变成对算力的需求,是以我们在算力层面的干与异常多。
比如我们在上海青浦和乌兰察布两个自建机房有大都的推理和测验的集群,同期我们也引入了一些国产芯片,因为刻下国产替代还吊问常紧迫的主题。固然比较穷困,但我们照旧干与了许多时分把国产算力动作一个紧迫的战术守旧。
其次我们约略果真推出千卡领域的测验任务,这是比较难的。因为测验光有卡没用,还要讲集群、讲软件、还要有合座适配,这个过程异常需要客户和我们互助共同去作念一些事情。
有界UnKnown:你会认为异日千卡领域的推理、测验,阛阓需求量会更大吗?
UCloud 李腾:如实是的,我们看到需要大领域算力的大模子公司其实异常有限,比如MiniMax、智谱AI、月暗,也包括几个大厂。
但这内部大厂自力新生,不会在阛阓上采购算力,是以有需求的就那么几家,剩下都是行业模子 ,而行业模子对算力的条目就比较小了,十几台、几台处事器都不错。比如作念视频生成的企业,关于算力使用就异常平常,高到A800,低到4090都不错使用。
是以我认为这个阛阓契机照旧很大的。
有界UnKnown:2023年大模子风起以来,聚光灯一直打在巨头身上,似乎在刻下的阛阓语境下,竞争是巨头的,契机和增长亦然巨头的,但今天交流下来,嗅觉在巨头以外,我们的阛阓契机照旧很大的。
* 文中配图着手于采集
- END -
如若你念念加入读者群,和更多东说念主一都
↓ 迎接添加小布告 ↓
微信号:codesideAI123
有界UnKnown
记载期间发展双飞 姐妹花,讲好产业故事。
瑞士云厂商模子算力李腾发布于:北京市声明:该文不雅点仅代表作家本东说念主,搜狐号系信息发布平台,搜狐仅提供信息存储空间处事。