liangwh 发表于 2024-4-15 18:32

换机思考:未来PC的AI模块是否不可或缺?

自用的X220一直琢磨着换机,以前是要换回ThinkPad的,但最近看到新品层出不穷,心目中ThinkPad的首选地位好像已经动摇,不一定是首选了,例如联想自家的ThinkBooK 2024就很能打,性价比很高。
ThinkPad和ThinkBook 2024的CPU都有不同的选项,有用酷睿HX标压处理器,也有用内置NPU的酷睿Ultra。
按照AI的发展速度,未来PC甚至手机都会内置轻量级的LLM,无需远程联网就可以独立工作,且对个人隐私的保护更好。
所以,如果考虑到换机后会用比较长的时间,例如五年,那么,是否选择内置NPU的型号更能符合未来的趋势呢?或者说,未来PC的AI模块是否像现在的显卡一样不可或缺呢?

thankdad 发表于 2024-4-15 19:52

不可或缺?是的。
但,那可不是14代酷睿那种玩具NPU能做的事,所以,至少今年还无需考虑这个。

jackyao 发表于 2024-4-15 19:56

不如看你日常堆本地部署大模型的需求,目前看来感觉这种需求并不多。。真要是涉及到商务的隐私保护的大模型,为啥不自己搭个服务器呢。。

至于显卡,刨掉玩游戏和部分特定需要的场景,现在也没有台台商务本/全能本必备吧。。用不可或缺形容还是过誉了。

至于下一台还是是不是tp,我的评价是不如整台高性能主力机当可移动的台式+一台便携二奶本。
这样的搭配可以用的很舒服了:
主力机上至TP的P系列,下至平民游戏本都可以,主要就是高配置+高性能释放。
二奶机选择也可以很多,追求稳定性可以上大厂轻薄本/全能本(t14/tb14之流),追求低价也可以上二线小厂的高性价比全能本,追求可玩性甚至折腾还可以收二手tp(t480s,甚至是坛子里的X2100,T700之流)。

而且说实话,现在AI这种需求还是卖的概念,我是不相信真能有多少本地自己搭模型用的,除非厂商能做出像日常应用程序一样的简单接口,用户开箱即用,那本地AI还有点参考价值。。

liangwh 发表于 2024-4-15 21:41

thankdad 发表于 2024-4-15 19:52
不可或缺?是的。
但,那可不是14代酷睿那种玩具NPU能做的事,所以,至少今年还无需考虑这个。 ...

感觉NPU发展很快,这第一代的很快就会落伍了。今年内确实不足以考虑这个阶段的NPU模块。

liangwh 发表于 2024-4-15 21:54

jackyao 发表于 2024-4-15 19:56
不如看你日常堆本地部署大模型的需求,目前看来感觉这种需求并不多。。真要是涉及到商务的隐私保护的大模型 ...

目前在个人PC中,要么集显要么独显,确实找不到不带显卡的PC了。说不可或缺也不为过。
目前个人对LLM的需求的确不多,都是玩玩试水而已。
不过我对AI的个人应用发展倒是持乐观态度,在本地进行的一些AI应用,例如智能抠图、因文生图或生视频、即时翻译、撰写报告等等,虽然都可以用一些在线的大模型做,但可以用本地运行模型来做的会越来越多,看过一些测试似乎本地轻量级的LLM做得都还可以。
不过目前的个人PC配置对于AI应用而言确实也鸡肋,暂时不用考虑也是对的。
看看18号发布的ThinkBook 16P 是什么价位,14代酷睿标压,听说整机释放可以到200W。。。

chenxinyi 发表于 2024-4-15 22:04

本帖最后由 chenxinyi 于 2024-4-15 22:09 编辑

模型不需要在个人电脑搭建,训练好的模型可以分发到个人电脑使用即可。。。
训练好的模型可以脱离显卡束缚,主要考验CPU的算力。

ivanzzz 发表于 2024-4-15 22:09

以后移动设备只能是个前端产品,不需要高性能。大计算都留给云端或者家用个人服务器了

COCAIN 发表于 2024-4-16 02:29

本帖最后由 COCAIN 于 2024-4-16 02:32 编辑

更像个消费热点吧,主旨是想从AMD手里抢回点份额(AMD也在应战)吧;等生态进一步到位吧(win12+APP),可以导入自创的规则/习惯/模板/素材库等等,免得重装之后从零开始;
融入真正生产力软件还早,或许就不可能,都是些未经论证/检验的;
会不会有人用它写论文,然后查重率99%... {:1_240:}

制程赶不上对手,intel 丢车保帅的玩法让人一愣一楞的;先是12代大小核早早抛弃了AVX512,我感觉NPU倒是适合用它,毕竟AI的多媒体数据加工占大头;
到15代快实锤割掉超线程了(对于能跑满睿频的大小核平台,超线程的功耗占比也就10%左右了,功耗不会降多少;但散热有限-跑不满睿频的平台,割了超线程对多核性能几乎无影响-该热还是热,单核性能是否影响要等实测了),超线程可是奔腾4年代就沿用至今的,可谓正房,相当成熟(至少不用win去调度),如今被二房小核挤出去了;
(13/14代i9默频不稳的问题基本没什么剧情曲折,出厂即灰烬(超频) 已经快成笑话了,等各大板块厂加推一版限制PL2的bios就算坐实了;不多说)

有朝一日,制程赶上来了,市场方向全由Intel左右,AVX512/超线程 会不会卷土重来? 不好说,intel一直在左右摇摆,第一代大小核就是没有超线程的:Lakefield平台i3-L13G4、i5-L16G7;12-14th加回来超线程,15th再砍掉...
现在集成的AI/NPU更像雏形,以后怎么发展/变化不知道,不值得大手笔专为它花钱,顺手玩玩倒行,毕竟Ultra第一代的NPU全是同规格的1.4GHz,买CPU送NPU;

作为消费者,有自己的判断和选择就好,能战3年就行了


ostwind 发表于 2024-4-16 05:12

我同意上面的一句话,很多人,尤其是有出差需要的,平时一台说得过去的二奶本足以。大规模运算的任务交给虚拟机,用的时候远程登陆一下即可。

yx2web 发表于 2024-4-16 07:32

不明觉厉

无所不至 发表于 2024-4-16 08:28

本帖最后由 无所不至 于 2024-4-16 08:31 编辑

liangwh 发表于 2024-4-15 18:32
自用的X220一直琢磨着换机,以前是要换回ThinkPad的,但最近看到新品层出不穷,心目中ThinkPad的首选地位好 ...
十年前的机器你还在用可见你的使用要求、审美等等要求并不高啊,来我再详细的告诉你-你知道的但是不愿面对的:X220\230\240\250\260\270\280\390\X13gen1\X13gen2\X13gen3\X13gen4,整整12代了兄弟!从X390开始随便一台都能秒杀你的X220数倍啊,酷睿HX标压处理器、NPU的酷睿Ultra之类的和你没有关系,好好用你的X220吧,这机器还能再战20年,要真想换还是X280390吧,这机器我用过挺适合你的。

zhbns 发表于 2024-4-16 09:11

AI的算力分训练和推理,大规模的训练交给数据中心就可以了,普通人推理都用的很少,虽然小的推理模块比游戏的GPU功耗小很多,但人人配置推理模块,也没有太大的必要。。。

starwutian 发表于 2024-4-16 09:17

需要搞清楚AIPC的使用场景
1. 自然语言对话也叫大语言模型LLM
2. 生成式AI,例如Stable Diffusion
3. 多模态融合,音频,视频,文字,图像等。
其中大语言模型是未来发展的重点,
哪些领域的知识壁垒高,那么这个领域的LLM模型就必然吃香,
举个例子,医学类的,百度卖假药的时代要过去了。
还有律师这一类,门槛高的。
当前笔电的NPU算力还不高,跟NV没得比,但是NV的功耗和价格是他的劣势,
相信Intel和AMD的 NPU算力会翻倍增长,有竞争,终端用户才能享受实惠。
未来中国老龄化问题会日益突出,多模态的AI,主打一个陪伴,这个市场会很大。

huoniao666 发表于 2024-4-16 09:41

看大家都在讨论npu应用在模型运算上,我觉得在相当一个时间内(四到五年)都不太现实,集成npu算力相较nv差太多了,做这一行的时间比金钱重要得多,不太会用CPU集成的npu运算,目前就是一个卖点,就和苹果A芯片集成npu出来时一样,但是笔记本的人脸识别、语音识别或者智能应用用起来就很合适,目前使用起来确实不如手机,还不如把心思放这上面,提升笔记本交互能力,和手机一样打造智能移动终端

johnlogic 发表于 2024-4-16 10:21

你用AI做什么?推测下个月交多少电费?预判老婆是否会出轨?还是要搞投资预判?

liangwh 发表于 2024-4-16 11:23

COCAIN 发表于 2024-4-16 02:29
更像个消费热点吧,主旨是想从AMD手里抢回点份额(AMD也在应战)吧;等生态进一步到位吧(win12+APP),可以 ...

嗯,现在确实是热点,宣传成分较大。雷声大雨点小。

liangwh 发表于 2024-4-16 11:27

无所不至 发表于 2024-4-16 08:28
十年前的机器你还在用可见你的使用要求、审美等等要求并不高啊,来我再详细的告诉你-你知道的但是不愿面对 ...

单位有配高性能主流电脑,但不是ThinkPad,这台十几年前自己买的X220也就偶尔上网,也算是一种情怀,所以一直没舍得换,看那天心血来潮就换了,所以才有这些考虑。

liangwh 发表于 2024-4-16 11:31

huoniao666 发表于 2024-4-16 09:41
看大家都在讨论npu应用在模型运算上,我觉得在相当一个时间内(四到五年)都不太现实,集成npu算力相较nv差 ...

是的,同意。
页: [1]
查看完整版本: 换机思考:未来PC的AI模块是否不可或缺?