wjm47196 发表于 2025-2-6 18:07

T.JOHN 发表于 2025-2-6 16:55
他不管事了,只管盖茨基金会,离婚后有很多事务被她前妻分走了。

微软在失去移动市场的操作系统以后,在 ...

directml真不行,现在llama.cpp都用vulkan,a卡推理快的飞起

archxm 发表于 2025-2-6 18:14

wjm47196 发表于 2025-2-6 18:07
directml真不行,现在llama.cpp都用vulkan,a卡推理快的飞起

你是吴舅妈还是王婆。
真的是很自信

T.JOHN 发表于 2025-2-6 18:15

本帖最后由 T.JOHN 于 2025-2-6 18:18 编辑

wjm47196 发表于 2025-2-6 18:07
directml真不行,现在llama.cpp都用vulkan,a卡推理快的飞起

a卡是这样子的(没生态),舅妈如果说llm的后端,以下后端引擎都是最近两年常用的:
•        ⁠vLLM
•        ⁠Aphrodite-Engine
•        ⁠triton-inference-server
•        ⁠Hugging Face TGI
•        ⁠SGLang
•        ⁠DeepSpeed-fastgen
•        ⁠LMDeploy
•        ⁠cortex
•        ⁠Xorbits Inference / Xinference
•        ⁠mistral.rs
•        ⁠PowerInfer
•        ⁠inferflow
其中最快的是国人开发的lmdeploy,效能堪比黄氏triton+trt,只不过推广没有vllm强罢了。这个行业江山代有才人出,变化很快的。但是稀疏算力还是很有用的,因为深度学习中存在大量0的线性相乘。
至于vulkan用的多,是因为这个领域能用开源的不用闭源的,真干活都是在linux上做的

声色茶马 发表于 2025-2-6 18:23

xyk456as 发表于 2025-2-6 16:47
盖子还是先说说清自个人到底在哪猫着吧

感觉微软有望耗死谷歌,磨碎facebook,送走intel,看着X楼塌……,着实稳得一批。感觉厨子带着的水果也想往这个方向走。

rwindz 发表于 2025-2-6 18:31

是基本没有人了吧,现在微软也好不到哪里去[傻笑]

curdfu 发表于 2025-2-6 18:33

ssl0008 发表于 2025-2-6 17:45
微软在移动、windows和游戏领域寄中寄,刚好这是与大众关系最紧密的业务,像什么云计算是啥,ai是啥,听都 ...

恰恰相反,个人业务才是最不值钱的……
而且除了移动端死的不能再死了,巨硬在其它领域远远到不了寄中寄这种评价

ryu83219 发表于 2025-2-6 18:53

ssl0008 发表于 2025-2-6 17:45
微软在移动、windows和游戏领域寄中寄,刚好这是与大众关系最紧密的业务,像什么云计算是啥,ai是啥,听都 ...

微软这两年稳如老狗是因为azure和AI, teams和office365也成了企业化服务的一环
个人业务在内部垫底的存在

wjm47196 发表于 2025-2-6 18:57

T.JOHN 发表于 2025-2-6 18:15
a卡是这样子的(没生态),舅妈如果说llm的后端,以下后端引擎都是最近两年常用的:
•        ⁠vLLM
•        ⁠Aphr ...

所以说directml没有未来啊,闭源就没人用了

踢鸡鸡 发表于 2025-2-6 19:04

活该,谁让他重用阿三啊。

sak2024 发表于 2025-2-6 20:02

人心坏了很难带起来,不破不立。

阿不xyz 发表于 2025-2-6 20:19

对这个楼里的回复感到震惊,这么大把人觉得微软不行了?全球市值跟苹果轮流坐庄的公司,不行了?手持784亿刀现金不知道怎么花的公司,不行了?
确实幽默

wangchenbin7 发表于 2025-2-6 20:55

2ndWeapon 发表于 2025-2-6 21:26

盖茨的评价算是比较中肯。

龍龖龘 发表于 2025-2-6 21:45

为什么楼里有这么多人竟然觉得微软不行了?

微软稳如老狗,股票一路飘红,风口基本全踩中,上古活化石WINDOWS和OFFICE至今仍旧是全球霸主没有之一,能和微软匹敌目前只有苹果,而显然苹果现在的颓相比微软大得多

微软只是盖兹退休了,不是说没了盖兹就不行了

panzerlied 发表于 2025-2-6 21:47

阿不xyz 发表于 2025-2-6 20:19
对这个楼里的回复感到震惊,这么大把人觉得微软不行了?全球市值跟苹果轮流坐庄的公司,不行了?手持784亿 ...

内存哥精神不太正常,别在意

tim6252 发表于 2025-2-6 22:05

龍龖龘 发表于 2025-2-6 21:45
为什么楼里有这么多人竟然觉得微软不行了?

微软稳如老狗,股票一路飘红,风口基本全踩中,上古活化石WIND ...

信息茧房越来越强了   很多人就看到一个时不时刷一下的新闻 WIN10 BUG(WIN7主流时)WIN11BUG(WIN10主流时) 就觉得不行了呗

ykdo 发表于 2025-2-6 22:21

某些哥们只适合给人推销内存,稍微拐弯就自己掉沟里
页: 1 [2]
查看完整版本: 比尔·盖茨:Intel基本迷失了方向 想复兴很难