其中一些功能相当戳中人心,比如你忘记了具体文件名,输入一些偏模糊的描述,如 打开昨天没看完的研究案例文件 ,AI 工具能准确找到对应文件;再比如操作 Excel 表格,不用记住复杂的各种函数和指令,只要文字描述你的要求,AI 助手就会告诉你怎么完成相应的操作。
国内 AI 绘画社区爱好者开发的一款免费 AI 绘画启动软件绘事启动器,已支持用酷睿 Ultra 核显进行 AI 绘画创作,打开开源 Stable Diffusion WebUI 项目本地运行 ControlNet,过程很流畅。
可以看到,在芯片企业与 ISV 厂商、模型厂商、系统厂商的合力下,AI PC 生态正逐渐变得丰富起来。
英特尔客户端事业部副总裁、细分市场部总经理冯大为宣布,全球有近 100 款商用笔记本产品会陆续上市,包括 90 多款基于酷睿 Ultra 处理器的 vPro 平台商用 PC 以及 10 多款工作站设计,其中有超过 30 款同时满足 vPro 和 Evo 的要求。
英特尔酷睿 Ultra 处理器还把 AI 计算能力带进了掌机游戏,为掌机跑大语言模型打好算力基础,并与腾讯合作在英特尔平台上做了编解码优化,以提供极低延迟的串流体验。通过局域网或公网,玩家就能将游戏电脑或游戏主机中的 3A 游戏无缝串流到掌机。
会后,英特尔客户端事业部副总裁兼细分市场部总经理冯大为、英特尔中国区技术部总经理高宇、智谱 AI 首席运营官张帆、星环科技副总裁杨一帆、当虹科技 CTO 黄进接受芯东西等媒体的采访,进一步分享 AI PC 的商用进展和未来构想,解答把大模型塞进 PC 所面临的技术挑战。
在中国,英特尔联手生态伙伴面向 AI PC 领域打造创新解决方案,率先锚定了六大关键应用——AI Chatbot、AI PC 助理、AI Office 助手、AI 本地知识库、AI 多媒体处理、AI PC 管理,这些应用均能在离线环境下本地运行。
1、AI PC 助理:简化 PC 操作,智能管理 PC 上的数据和个人文档,可根据用户指令自动操作电脑,能做到一次性接受复杂的多指令并执行。
国内 AI 大模型独角兽智谱 AI 的首席运营官张帆进行现场演示:发语音要求智谱 AI PC 智能助手 把电脑静音 + 切换至最佳性能模式 + 打开昨天没看完的研究案例文件 ,智能助手随即一气呵成地完成这一连串任务。整个操作过程自然流畅。
注意前面并没有指明文件名,智能助手能根据关键词描述,准确找到对应的文件。这个搜索功能如果能做好,对快速查找文件非常有帮助,因为很多人都会碰到一时想不起来文件名的情景。
打开文件后,你还可以进一步要求它做文档内容提炼、生成观点等任务。文件批量重命名、自动写邮件并发送等更是不在话下。智能助手能针对用户的习惯进行优化,就像给用户配备了一个随时听指示而且很懂你的个性化需求的贴身助理。
2、AI Office 助手:以 AI 插件形式提高日常办公中处理文档、表格、幻灯片的工作效率。
欧菲思(Extend Office)开发了基于本地 AI 的 Office 扩展工具,除了自动回复邮件、在 Word 生成指定文案等相对常见的功能外,一个很有用的工具是针对 Excel 表格设计的,用户只用提要求,比如 把 XXX 类别的金额都从美元转换民币 、 把 XXX 范围内的单元格加密 ,AI 工具就能理解并执行复杂的指令,自动调用相应功能,甚至学习用户的工作习惯。
比如中科创达开发了经过大量专业法律案例训练的法务智能助手,不仅能解答各种法律基础问题,而且能对法律案例快速地进行分析、做出判断并生成结论,而且跑在离线端非常安全,不会出现文件泄密的情况。
在展区,中科创达还演示了基于 13B 基础大语言模型开发的魔方智能编程助手。现场讲解人员告诉芯东西,PC 版本的编程助手跟在线版本使用的是相同模型,通过量化技术塞进 PC,并已针对英特尔芯片进行性能优化,能以离线服务方式提供代码补全、代码生成、技术问答等功能,支持 C++、Java、Python 等主流编程语言。
4、AI 本地知识库:可将本地文件和资料转化成一个运行在 AI PC 上的知识库,进行快速文档处理和知识检索。
星环科技在现场展示了 RAG 产品无涯 · 问知,这是一个在 AI PC 本地运行的多模态向量数据库,能够针对不同格式,不限长度地将知识和文档入库,并提供准确的数据分析。
比如你可以上传一个几十页的文档,然后向它提问。通过 RAG 技术对文档进行切分、存储、本地化检索,它能给出非常精准的答案,还能生成配套的图谱。无涯 · 问知支持文本检索、图像查询、视频总结和摘要等功能。星环科技副总裁杨一帆预告这款产品将在 4 月份上线。
例如,当虹科技推出了一个在 AI PC 上本地运行的视频慢动作解决方案,任何机位、任何片段,上传后均可通过用 AIGC 插入更多视频帧的方式生成流畅、高质量的慢动作,满足专业级后期制作需求。
对于普通人来说,这个工具也能用到很多有趣的场景,比如用来生成变魔术的慢动作,逐帧分解查找魔术师的手法漏洞。
有了英特尔 AI PC 的配合,原来我们只在专业服务器和大型工作站才具备的能力,现在可以普惠给普通的 UGC、PGC 用户,可以使得更多 2C 的用户可以享受到相应的技术。 当虹科技 CTO 黄进分享说。
很多软件商正在发力这个赛道,比如火绒安全用 AI 做威胁检测,降低 CPU 利用率,避免系统卡顿;贝锐向日葵将酷睿 Ultra 的 NPU 与 OCR 技术结合,远程控制图像识别与分析,生成远程控制工作的回溯报告;VMware 集成端侧 AI 算法来做安全漏洞管理。
英特尔 AI PC 解锁 AI 应用的初衷是打通行业落地 最后一英里 ,其创新应用方案主要覆盖了 6 个垂直行业,包括教育、医疗、康复养老、政务、零售(2D数字人)、制造。
以2D 数字人为例,以前做数字人需要用到专业设备,现在用一台 AI PC,只需上传一段简单的视频、读一段话,在大模型和 RAG 的加持下,就能创造个人专属分身。
再比如在教育领域,用 AI 大幅提升教师备课效率,自动生成教学大纲,基于视频生成知识图谱和解答问题,针对编程教育提供代码纠错等辅助功能,实现优质教育资源共享。
在医疗领域,英矽智能将 AI 药物研发平台 PandaOmics 适配到 AI PC 上,结合 AI PC 本地算力和平台自身的科研数据库、AI 算法、大语言模型及多层次安全机制的保护,为用户构造一个既能保护用户又能平稳运行的一体化方案。
面向康复养老,腾宇智远和英特尔开展深度合作,打造在 AI PC 上运行的跌倒风险评估与康复产品,可通过智能运动分析技术实时评估老人健康,并进行康复指导。该产品支持平衡能力评估、中医健身功八段锦的智能指导,现处于小范围用户测试阶段,将于下半年推向市场。
面向政务领域,实在智能把大模型引入 AI PC,让它代替人去思考和推理,自动生成代码,调用 RPA(机器人流程自动化)的能力去自动拆解并完成任务,同时通过本地化兼顾到隐私问题。
面向制造领域,科东软件研发了工业 AI 机器人,用大模型将用户的指令转换成机器人的运动命令,能同时处理复杂的 AI 任务和高要求的实时运动控制任务,并保障了在严苛工业环境下的系统稳定性和可靠性。
从概念诞生至今,AI PC 的发展只有短短数月,还处于早期发展阶段。英特尔与多家 ISV 代表企业的高管围绕 AI PC 的定义、算力需求、芯片分工、硬件配置、合作方式、商用盈利、落地挑战、发展方向等问题与芯东西等媒体进行交流。
英特尔中国区技术部高宇总结说,将要推出的商用 AI PC 有三大特点:1)生产力性能大幅提升;2)可管理性增强;3)内置强大的 GPU 而 NPU,AI 性能跨越式提升。
在联想集团副总裁、中国区首席市场官王传东看来,AI PC 应具备强大的混合算力、安全和存储能力。戴尔科技集团全球副总裁、大中华区商用市场部总经理石峰认为,要让 AI PC 真正帮助客户提高工作效率,首先应该运行在一个可靠、安全、先进的技术平台上。
英特尔客户端事业部副总裁、细分市场部总经理冯大为回顾道,过去一年与全球 ISV 开发者沟通时,很多人对 英特尔未来 PC 客户端的 AI 算力到底会有多少 的问题非常感兴趣。
我们就反问他们,你们需要多少?他们说你有多少我就能用多少,因为我们有很多的模型,我会把模型更多部署在工地,降低用户成本,提高用户体验,并且帮助用户保护数据的隐私和安全。 冯大为说。
智谱 AI 首席运营官张帆和星环科技副总裁杨一帆都强调 算力需求永无上限 ,硬件能力是客观条件,应回归到如何尽可能将端侧算力发挥到极致,来为用户提供更好的体验,然后与云侧做无缝结合,让用户在保障高可用、稳定性的同时享受更高性能、更便捷安全的环境。
冯大为补充了功耗管理的重要性,不能因为狂堆算力把电池续航从 15 个小时缩短到 1.5 小时,这需要一个平衡的平台设计。
冯大为坚信 AI 要完成对计算的重构,仅有 CPU、GPU 是不完整的,CPU 通用性强、GPU 吞吐能力强,这两个计算单元完成任务的功耗都很高,而 NPU 的特性是节能。
他还拿游戏举例,很多用户边玩游戏边听直播,NPU 本身对游戏性能的提升没有直接贡献,但它通过把一部分功能卸载,让 GPU 和 CPU 释放出来,间接让游戏性能提升 30%。
高宇补充说,NPU 特别适合做计算机视觉类应用,比如捕捉骨骼点,另外一些持续性的、后台性的、对功耗敏感的任务跑在 NPU 上收益最多;但大语言模型更适合跑在 GPU 上,因为吞吐量高,处理速度快。
高宇提到几个基本要素:1)CPU 整体散热能力增强,因为在 AI 峰值运算时,GPU 功耗冲得高;2)内存速度要快,因为大语言模型的下一个 token 生成速度与内存带宽成正相关,内存速度越快,吐字速度速度越快;3)未来可能出现容量更大的内存配置;4)SSD 容量越大,吞吐约稿,跑大模型的用户体验就会越好。
以智谱 AI 与芯片企业英特尔的合作为例,张帆解释说,双方会针对芯片把模型优化到极致,让其发挥出最大算力价值。智谱 AI 展示的 AI PC 智能助手是一个最佳实践,不是一个完整的终端产品,也不会由智谱对外推出。
高宇说,当前 AI PC 处于早期阶段,产业演化不到半年,未来商业模式有待全行业探索。OEM PC 预装会是一种模式,也应该是早期一种较快的方式,但不会是唯一路径,未来一定会出现客户在应用商店或网站里通过个人付费自主下载 AI PC 应用软件的情景。他预估两三年后,自主下载的方式会越来越多。
当虹科技 CTO 黄进认为 AIGC 最大的瓶颈是成本,ChatGPT 每天在云上烧钱近百万,对很多中小企业来说是沉重负担。AI PC 带来一种可能赚钱的商业模式,把基础功能放到 AI PC 上运行,把高价值的应用放到云上运行,这样就能通过高价值用户去覆盖云上的运营成本,刺激很多 AI 公司做应用创新,也使得更多用户先在 AI PC 上试用,再到云上使用更高级的功能。
张帆坚信商业价值的前提是用户价值,过去 6 个月,智谱的付费 API 每日消耗涨了 30 多倍,在成百上千个应用中用大模型产生价。