英特尔高宇：联想小新Pro超轻薄笔记本可离线流畅运行AI本地大模型

2023年12月8日人工智能 mingzhi

12月7日，在首届AI PC产业创新论坛上，英特尔中国区技术总经理高宇在主题分享中表示，AI PC需要CPU、GPU和NPU提供的混合算力来支持。目前，经过英特尔与联想的共同优化，CPU的通用算力已经可以流畅地运行本地大模型。

高宇在现场演示了在联想小新Pro超轻薄笔记本上离线运行7B（70亿参数）AI本地大模型的效果。这台笔记本配备了英特尔13代酷睿13900H CPU。在只使用CPU通用算力的情况下，这台联想小新Pro笔记本半秒钟左右就可以获得首个token输出，流畅的速度完全满足人眼阅读需求。

据高宇介绍，将于12月15日发布的14代酷睿Ultra新平台上，这个7B参数的AI本地大模型将运行在iGPU上，性能和使用体验会更上一个台阶。

高宇表示，联想作为行业领导企业，也是英特尔多年最核心的战略合作伙伴，在很多战略决策上双方都坚定地走到了一起。在即将到来的AI PC时代，英特尔也将与联想共同携手，推动AI PC的普及和发展。