他不管事了,只管盖茨基金会,离婚后有很多事务被她前妻分走了。
微软在失去移动市场的操作系统以后,在 ...
directml真不行,现在llama.cpp都用vulkan,a卡推理快的飞起 wjm47196 发表于 2025-2-6 18:07
directml真不行,现在llama.cpp都用vulkan,a卡推理快的飞起
你是吴舅妈还是王婆。
真的是很自信 本帖最后由 T.JOHN 于 2025-2-6 18:18 编辑
wjm47196 发表于 2025-2-6 18:07
directml真不行,现在llama.cpp都用vulkan,a卡推理快的飞起
a卡是这样子的(没生态),舅妈如果说llm的后端,以下后端引擎都是最近两年常用的:
• vLLM
• Aphrodite-Engine
• triton-inference-server
• Hugging Face TGI
• SGLang
• DeepSpeed-fastgen
• LMDeploy
• cortex
• Xorbits Inference / Xinference
• mistral.rs
• PowerInfer
• inferflow
其中最快的是国人开发的lmdeploy,效能堪比黄氏triton+trt,只不过推广没有vllm强罢了。这个行业江山代有才人出,变化很快的。但是稀疏算力还是很有用的,因为深度学习中存在大量0的线性相乘。
至于vulkan用的多,是因为这个领域能用开源的不用闭源的,真干活都是在linux上做的 xyk456as 发表于 2025-2-6 16:47
盖子还是先说说清自个人到底在哪猫着吧
感觉微软有望耗死谷歌,磨碎facebook,送走intel,看着X楼塌……,着实稳得一批。感觉厨子带着的水果也想往这个方向走。 是基本没有人了吧,现在微软也好不到哪里去[傻笑] ssl0008 发表于 2025-2-6 17:45
微软在移动、windows和游戏领域寄中寄,刚好这是与大众关系最紧密的业务,像什么云计算是啥,ai是啥,听都 ...
恰恰相反,个人业务才是最不值钱的……
而且除了移动端死的不能再死了,巨硬在其它领域远远到不了寄中寄这种评价 ssl0008 发表于 2025-2-6 17:45
微软在移动、windows和游戏领域寄中寄,刚好这是与大众关系最紧密的业务,像什么云计算是啥,ai是啥,听都 ...
微软这两年稳如老狗是因为azure和AI, teams和office365也成了企业化服务的一环
个人业务在内部垫底的存在 T.JOHN 发表于 2025-2-6 18:15
a卡是这样子的(没生态),舅妈如果说llm的后端,以下后端引擎都是最近两年常用的:
• vLLM
• Aphr ...
所以说directml没有未来啊,闭源就没人用了 活该,谁让他重用阿三啊。 人心坏了很难带起来,不破不立。 对这个楼里的回复感到震惊,这么大把人觉得微软不行了?全球市值跟苹果轮流坐庄的公司,不行了?手持784亿刀现金不知道怎么花的公司,不行了?
确实幽默 盖茨的评价算是比较中肯。 为什么楼里有这么多人竟然觉得微软不行了?
微软稳如老狗,股票一路飘红,风口基本全踩中,上古活化石WINDOWS和OFFICE至今仍旧是全球霸主没有之一,能和微软匹敌目前只有苹果,而显然苹果现在的颓相比微软大得多
微软只是盖兹退休了,不是说没了盖兹就不行了 阿不xyz 发表于 2025-2-6 20:19
对这个楼里的回复感到震惊,这么大把人觉得微软不行了?全球市值跟苹果轮流坐庄的公司,不行了?手持784亿 ...
内存哥精神不太正常,别在意 龍龖龘 发表于 2025-2-6 21:45
为什么楼里有这么多人竟然觉得微软不行了?
微软稳如老狗,股票一路飘红,风口基本全踩中,上古活化石WIND ...
信息茧房越来越强了 很多人就看到一个时不时刷一下的新闻 WIN10 BUG(WIN7主流时)WIN11BUG(WIN10主流时) 就觉得不行了呗 某些哥们只适合给人推销内存,稍微拐弯就自己掉沟里
页:
1
[2]