12月7日,在首届AI PC产业创新论坛上,英特尔中国区技术总经理高宇在主题分享中表示,AI PC需要CPU、GPU和NPU提供的混合算力来支持。目前,经过英特尔与联想的共同优化,CPU的通用算力已经可以流畅地运行本地大模型。
高宇在现场演示了在联想小新Pro超轻薄笔记本上离线运行7B(70亿参数)AI本地大模型的效果。这台笔记本配备了英特尔13代酷睿13900H CPU。在只使用CPU通用算力的情况下,这台联想小新Pro笔记本半秒钟左右就可以获得首个token输出,流畅的速度完全满足人眼阅读需求。
据高宇介绍,将于12月15日发布的14代酷睿Ultra新平台上,这个7B参数的AI本地大模型将运行在iGPU上,性能和使用体验会更上一个台阶。
高宇表示,联想作为行业领导企业,也是英特尔多年最核心的战略合作伙伴,在很多战略决策上双方都坚定地走到了一起。在即将到来的AI PC时代,英特尔也将与联想共同携手,推动AI PC的普及和发展。
Latest posts by mingzhi (see all)
- 尹力书记殷勇市长接见:他山石团队出席中关村论坛 – 2024年4月29日
- 这家企业在长三角、珠三角、成渝等地区相继落地创新应用,“区块链+司法”大有可为 – 2024年4月29日
- 京东方ADS Pro专场技术策源地论坛举办 聚焦行业领先技术 – 2024年4月29日