换机思考：未来PC的AI模块是否不可或缺？

liangwh

自用的X220一直琢磨着换机，以前是要换回ThinkPad的，但最近看到新品层出不穷，心目中ThinkPad的首选地位好像已经动摇，不一定是首选了，例如联想自家的ThinkBooK 2024就很能打，性价比很高。
ThinkPad和ThinkBook 2024的CPU都有不同的选项，有用酷睿HX标压处理器，也有用内置NPU的酷睿Ultra。
按照AI的发展速度，未来PC甚至手机都会内置轻量级的LLM，无需远程联网就可以独立工作，且对个人隐私的保护更好。
所以，如果考虑到换机后会用比较长的时间，例如五年，那么，是否选择内置NPU的型号更能符合未来的趋势呢？或者说，未来PC的AI模块是否像现在的显卡一样不可或缺呢？

thankdad

不可或缺？是的。
但，那可不是14代酷睿那种玩具NPU能做的事，所以，至少今年还无需考虑这个。

jackyao

不如看你日常堆本地部署大模型的需求，目前看来感觉这种需求并不多。。真要是涉及到商务的隐私保护的大模型，为啥不自己搭个服务器呢。。

至于显卡，刨掉玩游戏和部分特定需要的场景，现在也没有台台商务本/全能本必备吧。。用不可或缺形容还是过誉了。

至于下一台还是是不是tp，我的评价是不如整台高性能主力机当可移动的台式+一台便携二奶本。
这样的搭配可以用的很舒服了：
主力机上至TP的P系列，下至平民游戏本都可以，主要就是高配置+高性能释放。
二奶机选择也可以很多，追求稳定性可以上大厂轻薄本/全能本（t14/tb14之流），追求低价也可以上二线小厂的高性价比全能本，追求可玩性甚至折腾还可以收二手tp(t480s,甚至是坛子里的X2100，T700之流)。

而且说实话，现在AI这种需求还是卖的概念，我是不相信真能有多少本地自己搭模型用的，除非厂商能做出像日常应用程序一样的简单接口，用户开箱即用，那本地AI还有点参考价值。。

liangwh

QUOTE:

thankdad 发表于 2024-4-15 19:52
不可或缺？是的。
但，那可不是14代酷睿那种玩具NPU能做的事，所以，至少今年还无需考虑这个。 ...

感觉NPU发展很快，这第一代的很快就会落伍了。今年内确实不足以考虑这个阶段的NPU模块。

liangwh

QUOTE:

jackyao 发表于 2024-4-15 19:56
不如看你日常堆本地部署大模型的需求，目前看来感觉这种需求并不多。。真要是涉及到商务的隐私保护的大模型 ...

目前在个人PC中，要么集显要么独显，确实找不到不带显卡的PC了。说不可或缺也不为过。
目前个人对LLM的需求的确不多，都是玩玩试水而已。
不过我对AI的个人应用发展倒是持乐观态度，在本地进行的一些AI应用，例如智能抠图、因文生图或生视频、即时翻译、撰写报告等等，虽然都可以用一些在线的大模型做，但可以用本地运行模型来做的会越来越多，看过一些测试似乎本地轻量级的LLM做得都还可以。
不过目前的个人PC配置对于AI应用而言确实也鸡肋，暂时不用考虑也是对的。
看看18号发布的ThinkBook 16P 是什么价位，14代酷睿标压，听说整机释放可以到200W。。。

chenxinyi

模型不需要在个人电脑搭建，训练好的模型可以分发到个人电脑使用即可。。。
训练好的模型可以脱离显卡束缚，主要考验CPU的算力。

ivanzzz

以后移动设备只能是个前端产品，不需要高性能。大计算都留给云端或者家用个人服务器了

COCAIN

更像个消费热点吧，主旨是想从AMD手里抢回点份额(AMD也在应战)吧；等生态进一步到位吧（win12+APP），可以导入自创的规则/习惯/模板/素材库等等，免得重装之后从零开始；
融入真正生产力软件还早，或许就不可能，都是些未经论证/检验的；
会不会有人用它写论文，然后查重率99%...

制程赶不上对手，intel 丢车保帅的玩法让人一愣一楞的；先是12代大小核早早抛弃了AVX512，我感觉NPU倒是适合用它，毕竟AI的多媒体数据加工占大头；
到15代快实锤割掉超线程了（对于能跑满睿频的大小核平台，超线程的功耗占比也就10%左右了，功耗不会降多少；但散热有限-跑不满睿频的平台，割了超线程对多核性能几乎无影响-该热还是热，单核性能是否影响要等实测了），超线程可是奔腾4年代就沿用至今的，可谓正房，相当成熟(至少不用win去调度)，如今被二房小核挤出去了；
（13/14代i9默频不稳的问题基本没什么剧情曲折，出厂即灰烬(超频) 已经快成笑话了，等各大板块厂加推一版限制PL2的bios就算坐实了；不多说）

有朝一日，制程赶上来了，市场方向全由Intel左右，AVX512/超线程 会不会卷土重来？ 不好说，intel一直在左右摇摆，第一代大小核就是没有超线程的：Lakefield平台i3-L13G4、i5-L16G7；12-14th加回来超线程，15th再砍掉...
现在集成的AI/NPU更像雏形，以后怎么发展/变化不知道，不值得大手笔专为它花钱，顺手玩玩倒行，毕竟Ultra第一代的NPU全是同规格的1.4GHz，买CPU送NPU；

作为消费者，有自己的判断和选择就好，能战3年就行了

ostwind

我同意上面的一句话，很多人，尤其是有出差需要的，平时一台说得过去的二奶本足以。大规模运算的任务交给虚拟机，用的时候远程登陆一下即可。

yx2web

不明觉厉

无所不至

QUOTE:

liangwh 发表于 2024-4-15 18:32
自用的X220一直琢磨着换机，以前是要换回ThinkPad的，但最近看到新品层出不穷，心目中ThinkPad的首选地位好 ...

十年前的机器你还在用可见你的使用要求、审美等等要求并不高啊，来我再详细的告诉你-你知道的但是不愿面对的:X220\230\240\250\260\270\280\390\X13gen1\X13gen2\X13gen3\X13gen4，整整12代了兄弟！从X390开始随便一台都能秒杀你的X220数倍啊，酷睿HX标压处理器、NPU的酷睿Ultra之类的和你没有关系，好好用你的X220吧，这机器还能再战20年，要真想换还是X280390吧，这机器我用过挺适合你的。

zhbns

AI的算力分训练和推理，大规模的训练交给数据中心就可以了，普通人推理都用的很少，虽然小的推理模块比游戏的GPU功耗小很多，但人人配置推理模块，也没有太大的必要。。。

starwutian

需要搞清楚AIPC的使用场景
1. 自然语言对话也叫大语言模型LLM
2. 生成式AI，例如Stable Diffusion
3. 多模态融合，音频，视频，文字，图像等。
其中大语言模型是未来发展的重点，
哪些领域的知识壁垒高，那么这个领域的LLM模型就必然吃香，
举个例子，医学类的，百度卖假药的时代要过去了。
还有律师这一类，门槛高的。
当前笔电的NPU算力还不高，跟NV没得比，但是NV的功耗和价格是他的劣势，
相信Intel和AMD的 NPU算力会翻倍增长，有竞争，终端用户才能享受实惠。
未来中国老龄化问题会日益突出，多模态的AI，主打一个陪伴，这个市场会很大。

huoniao666

看大家都在讨论npu应用在模型运算上，我觉得在相当一个时间内（四到五年）都不太现实，集成npu算力相较nv差太多了，做这一行的时间比金钱重要得多，不太会用CPU集成的npu运算，目前就是一个卖点，就和苹果A芯片集成npu出来时一样，但是笔记本的人脸识别、语音识别或者智能应用用起来就很合适，目前使用起来确实不如手机，还不如把心思放这上面，提升笔记本交互能力，和手机一样打造智能移动终端

johnlogic

你用AI做什么？推测下个月交多少电费？预判老婆是否会出轨？还是要搞投资预判？

liangwh

QUOTE:

COCAIN 发表于 2024-4-16 02:29
更像个消费热点吧，主旨是想从AMD手里抢回点份额(AMD也在应战)吧；等生态进一步到位吧（win12+APP），可以 ...

嗯，现在确实是热点，宣传成分较大。雷声大雨点小。

liangwh

QUOTE:

无所不至 发表于 2024-4-16 08:28
十年前的机器你还在用可见你的使用要求、审美等等要求并不高啊，来我再详细的告诉你-你知道的但是不愿面对 ...

单位有配高性能主流电脑，但不是ThinkPad，这台十几年前自己买的X220也就偶尔上网，也算是一种情怀，所以一直没舍得换，看那天心血来潮就换了，所以才有这些考虑。

liangwh

QUOTE:

huoniao666 发表于 2024-4-16 09:41
看大家都在讨论npu应用在模型运算上，我觉得在相当一个时间内（四到五年）都不太现实，集成npu算力相较nv差 ...

是的，同意。