从WWDC2024看今年下半年的Apple产品线更新

cyberms

WWDC2024已经明确了支持AI的最低硬件是A17 Pro和M1。

目前没有更新的产品线包括iPadmini/iPad数字版和Apple TV以及HomePod。

因为Netflix等已经开始使用AV1，所以支持AV1也是底线。

所以今年更新的设备要么用A17 PRO要么M3/4。

先说iPadmini/iPad数字版

毫无悬念的A17Pro（阉割），因为M3是不可能的。Air才是M2。

Apple Tv也毫无悬念的上A17 Pro（阉割），22款已经是A15

不可能不支持AV1硬解。

HomePod就不好猜测了，因为不需要AV1，AI也就是Siri要用，可能是定制芯片。

ekiuc

苹果那个最低A17Pro/M1就离谱，M1的iGPU算力很低的，NPU算力跟A14差不多，然后M1能跑，A14-16全寄？


还是内存得8G起步？那按理说A15，16换个封装也行吧

wispier

若Apple TV更新到A17 Pro就入一个

cyberms

ekiuc 发表于 2024-6-11 14:24
苹果那个最低A17Pro/M1就离谱，M1的iGPU算力很低的，NPU算力跟A14差不多，然后M1能跑，A14-16全寄？

不支持av1硬解。再去倒回去搞老芯片意义不大。

直接用a17 Pro就行，反正可以阉几个核。

gladiator

难不成这个A17 pro的pro是在这等着呢反手一刀出个A17么

aibo

看上去ai的要求就是内存8g起步
但如果16数字版就8g了，那pro不要12g了，厨子不要肉疼死。
所以，保不齐今年16数字版依然是不支持ai，让pro独享2年8g再说

Leciel

ekiuc 发表于 2024-6-11 14:24
苹果那个最低A17Pro/M1就离谱，M1的iGPU算力很低的，NPU算力跟A14差不多，然后M1能跑，A14-16全寄？

硬件冗余设计是很奢侈的，很贵的。
M1能跑，是说满足最低要求，考验一下用户的耐心。
A17 Pro能跑我就觉得很奇怪。跑大模型这种任务就不应该出现在移动通讯芯片上。

wimming

apple intelligence目前只适用英语场景，国内实用性高？

cyberms

wimming 发表于 2024-6-11 15:55
apple intelligence目前只适用英语场景，国内实用性高？

国内合作：李彦宏

cyberms

Leciel 发表于 2024-6-11 15:45
硬件冗余设计是很奢侈的，很贵的。
M1能跑，是说满足最低要求，考验一下用户的耐心。
A17 Pro能跑我就觉 ...

要不怎么忽然pro了

PolyMorph

ai能用标准
200tops
16g内存

ekiuc

Leciel 发表于 2024-6-11 15:45
硬件冗余设计是很奢侈的，很贵的。
M1能跑，是说满足最低要求，考验一下用户的耐心。
A17 Pro能跑我就觉 ...

A17P的NPU算力高啊，apple gpu family目前没有带类tensor core的，推理全靠NPU，如果苹果觉得A17P的38T int8算力是入门的话，M1-M3应该都不够才对

如果限制因素是内存容量（8G起步），对于llm这个环境来说算是合理的，不过这玩意就跟冗余没啥关系了

ekiuc

cyberms 发表于 2024-6-11 14:39
不支持av1硬解。再去倒回去搞老芯片意义不大。

直接用a17 Pro就行，反正可以阉几个核。 ...

不负责猜测，我感觉今年出A18不带Pro，作为未来aPPLE iNTELLIGENCE入门标准的，以及给atv等低端设备用的可能性大一点

CPU维持2+4，GPU砍一点，NPU正常升级，ISP和SLC砍一点，然后用良率更高的N3E做

netjunegg

这东西完全没必要本地跑，在线服务体验足够好，本地那点性能一个是帮忙不大，另一个是耗电

caileipk

一群 “高技术精英”出现了啊，各种解析各种牛逼。

wimming

cyberms 发表于 2024-6-11 16:02
国内合作：李彦宏

Apple Intelligence 测试版将于今年秋季作为 iOS18、iPadOS 18 和 macOS Sequoia 的内置功能推出，仅支持 iPhone 15 Pro、iPhone 15 Pro Max、配备 M1 或后续芯片的 iPad 和 Mac，且 Siri 和设备语言都需设置为英语（美国）。

Leciel

ekiuc 发表于 2024-6-11 19:12
A17P的NPU算力高啊，apple gpu family目前没有带类tensor core的，推理全靠NPU，如果苹果觉得A17P的38T i ...

我说的冗余的意思是：
为了解决顶尖制程造成的芯片积热问题，人为降低芯片的运行频率，到低功耗甜点频率上。
频率下来了，效能不能低，那就只能增加并行运算的数量，巨量的晶体管，大量的冗余设计，高度集成（比如说相机的PHY模块，其他公司只能用soc集成的，要提升就得自己搞个外挂模块，苹果就自己做到A芯片里去）。
这种事情实在太奢侈。华为虽然有自己的芯片，和苹果的比还是有很大差距。
在这些前提下，再做一个可以本地跑的tensor core，再堆料保持芯片凉快，我只能说这么做太任性了。

jcd_chh

我更相信是内存限制，算力这东西只要不是数量级差距，无非是快慢问题
内存不够是真不行
移动端侧大模型友商不早就试过了

当然，我也不相信apple的良心

ekiuc

Leciel 发表于 2024-6-12 14:48
我说的冗余的意思是：
为了解决顶尖制程造成的芯片积热问题，人为降低芯片的运行频率，到低功耗甜点频率 ...

你前面说的那个“人为降低芯片的运行频率，到低功耗甜点频率上”和现在的apple压根没啥关系，M2就开始拉频率了，到M4的boost策略已经和桌面很相似了，也根本不是甜点频率，只不过没有达到intel那种走火入魔的地步。用intel做标准看谁都是低功耗甜点频率……

而且正常情况下设计的时候就会有预定的运行频率，高频的和低频用的是不同的库。除了阉割出来的低端货，我没听说过预设的设计频率是5G，但是不管三七二十一全部降频到3.5G用的，真出现这种一般是设计/工艺等等翻车了。Arm这边的高IPC低频和x86这边的低IPC高频就是完全是两种设计思路。兄弟，你能说这玩意我感觉压根就是完全不懂啊

拿ISP作为佐证集成度其实挺扯的，高通的ISP也是集成的，并且几乎所有的场景下，他的性能和/IO也是和定位配套的，有些手机厂商想整点噱头+给自己的芯片团队练手才整出了独立ISP这种烂货……

不过苹果一个基带/UWB/wifi+bt用仨芯片解决的好意思跟人家拼集成度？高通那边基带进SoC，UWB+wifi/bt用一个芯片搞定，单个还带射频部分，intel在LNL也是wifi/bt进先进工艺io die，苹果真对集成那么上心，现在应该是基带/uwb/wifi全在SoC里面，这样他那个双层主板还能改单层，散热也能大幅度改善。至于相机，真要是相机规模上来了，像Vision Pro那种，苹果来了也得外挂R1，大家都没差多少的，高通的XR好像能连接7个摄像头，M系列应该是没这个本事的，。


至于在不在GPU里面放类tensor core，放多少，边缘推理的主力到底是靠GPU还是NPU，这玩意是历史遗留和发展方向的问题，移动SoC出身的和桌面xPU出身的看这个问题的视角差异很大。我提这个只是想表达，A17P在苹果体系下的推理性能是要远好于M1这个事情，模型能不能在设备上跑不就基本是算力，带宽这俩因素么，你看看有哪个是M1和A17Pro都满足了，A16不行的？这不摆明了苹果要宰老用户一刀么，跟当年台前调度只有M1以后的支持一样，被骂了就光速滑跪

Leciel

ekiuc 发表于 2024-6-13 13:02
你前面说的那个“人为降低芯片的运行频率，到低功耗甜点频率上”和现在的apple压根没啥关系，M2就开始拉 ...

看上去都很有道理。
说的都是公开的资料。有可能的话还是和苹果，华为的芯片设计，芯片测试的工程师聊聊。这两家真是不惜血本。
高通的手机soc工程师我没聊过，知道的只是车载芯片ai相关的，国内大部分厂商都在用。苹果这么强的设计能力，不在车载系统发力也是很奇怪。