他刚刚完成了“启问Spark Query”最新版本的调试。
这个由他独立开发的AI工具,正在以惊人的效率帮助用户梳理模糊需求,生成精准的提示词。
在这一切的背后,一台看似不起眼的AMD锐龙AI Max+ 395 AI迷你机,正默默扮演着“幕后英雄”的角色。
一、创业灵感:从痛点中发现机遇
佘洪宇曾在华为等大厂工作,最近的这次创业故事,要从一次跟爸妈的交流说起。
作为一名有着多年AI行业经验的资深从业者,他经常需要与各种AI模型打交道。
然而,当他教父母使用AI时,发现一个普遍存在的问题:
父母在与AI交互时,往往会因为无法清晰、准确地表达自己的需求,导致效率低下,甚至产生令人失望的结果。
这个痛点让佘洪宇陷入了思考。他意识到,随着AI技术的普及,越来越多的人需要与AI进行高效沟通,但缺乏专业的提示词工程知识成为了一大障碍。
为什么不开发一个工具,能够引导用户梳理思路,将模糊的想法转化为精准的指令呢?
说干就干,佘洪宇受父母工作经验中的“表单”启发,开发了“启问Spark Query”的雏形,结果在创作者和文字工作者群体中获得极佳的反响,他们认为这极大地提升了工作效率。
二、技术选型:为何选择AMD锐龙AI Max+ 395?
随着“启问Spark Query”的用户数量不断增加,一个强烈的“刚需”浮现出来:部分用户的提示词可能涉及商业机密或个人隐私,他们迫切需要一个能够在本地运行、保护数据安全的版本。
有了创业想法,接下来就是技术实现。佘洪宇需要一台能够在本地运行大模型的硬件设备,以满足用户对数据安全和隐私保护的需求。
然而,要让“启问Spark Query”在本地有效运行,并保持良好的效果,至少需要一个30B参数规模的Q8量化模型。这对普通用户的本地硬件(尤其是显存)提出了非常高的要求。
正是这个挑战,促使佘洪宇开始寻找市面上最具性价比、能承载大模型运行的AI硬件解决方案。
“我的客户主要使用Windows,因此我的开发环境也必须是Windows。”佘洪宇说,“作为个人开发者,预算必须控制在2万元以内。”
这就要求平台必须具备Windows系统、30GB以上的超大显存、强大的GPU性能和高带宽。
在当前市场上能同时满足所有这些严苛条件的消费级平台,只有搭载AMD锐龙AI Max 300系列处理器的PC。
AMD锐龙AI Max+ 395处理器拥有多达16个超大“Zen 5”架构CPU核心、多达40个AMD RDNA 3.5图形核心Radeon 8060S和一个高达50 TOPS AI算力的AMD XDNA2架构的NPU,这使得它能够在本地高效运行大型AI模型。
“最让我惊喜的是它颠覆性的模型测试效率,凭借其超大的统一内存,我可以同时在内存中加载2至3个30B规模的量化大模型。这意味着我可以实现模型间的无缝切换和即时对比,无需任何等待。仅此一项,就将我的开发效率提升了至少20-30%。”佘洪宇感叹道。
此外,AMD 锐龙 AI Max+ 395 AI迷你机的低功耗和小体积也是吸引佘洪宇的重要因素。“它避免了传统双显卡方案带来的昂贵、高功耗和高噪音等弊端,非常适合在桌面或家庭环境中进行安静高效的开发。”
三、开发过程:AMD锐龙AI Max+ 395迷你机如何赋能“启问Spark Query”?
有了强大的硬件支持,佘洪宇的开发工作进展得非常顺利。
“启问Spark Query”的核心功能,是通过一系列提问式交互,引导用户梳理思路,将模糊的想法转化为精准的指令。
在开发过程中,佘洪宇需要频繁地测试和优化模型。
“以前使用其他设备(如RTX 4090)时,加载和卸载模型的过程非常耗时,严重拖慢了开发进度。”他说,“但AMD锐龙AI Max+ 395的表现让我非常满意。它能够快速加载和运行多个模型,大大提高了我的开发效率。”
特别是在处理超长上下文时,AMD锐龙AI Max+ 395的优势更加明显。“当我需要处理如播客转录、长篇文档分析等需要超长上下文的任务时,AMD锐龙AI Max平台能够轻松满足这种需求,这在目前的消费级硬件中几乎是独一无二的能力。”佘洪宇说道。
四、实际应用:从旅游规划到电脑配置,精准需求一气呵成
“启问Spark Query”正式上线后,很快就展现出极高的效率,向AI提问从未如此简单。
让我们来看两个实际应用案例,看看AMD锐龙AI Max+ 395是如何赋能“启问Spark Query”,帮助用户解决实际问题的。
启问Spark Query也有一个在线版本,以供无锐龙AI Max+ 395本地部署的用户在线体验使用,这里演示使用的就是在线版本。
启问Sparkquery在线体验地址:https://yujianaier.xyz/
案例一:丹麦旅游行程规划
一位用户想为两位从上海出发的老人规划十一假期丹麦7天旅游行程,但很多需求并未明确。
通过“启问Spark Query”,用户被引导输入出发城市、住宿偏好、餐饮标准、景点偏好和交通偏好等信息。
用户经过引导填入关键词需求,包括重点考虑自然风光景点,主要使用火车交通,住宿选择普通酒店,餐饮预算为每餐人均100元人民币等等。
点击“生成提示词”后,在AMD锐龙AI Max+ 395处理器的支持下,“启问Spark Query”快速处理了这些信息,并生成了详细的行程规划提示词,包括国际航班建议、丹麦境内火车路线、住宿推荐、景点安排、餐饮建议和费用估算。
整个过程高效流畅,生成的行程方案详细且符合用户需求,特别是考虑到了老年人的特殊需求,如节奏舒缓、交通衔接顺畅等。
还能一键复制并跳转到DeepSeek等平台。
经过优化后的提示词,DeepSeek可以更准确地理解需求。给出的方案也更具可行性,大家感受下:
案例二:4000元办公电脑配置清单
另一位用户需要配置一台预算约为4000元的电脑,想让AI列一下配置清单。
通过“启问Spark Query”的引导,用户输入了主要用途、外设需求、品牌偏好和预算限制等信息。比如主要用于日常办公,需要一台27英寸显示器,处理器要求使用AMD。
借助AMD锐龙AI Max+ 395处理器的强大算力,本地版的“启问Spark Query”也能迅速生成一份详细的配件清单的提示词,包括处理器、显示器,以及用途需求,总价控制在4000元左右,并且所有配件确保兼容。
输入DeepSeek后迅速获得了一份清单。
该回答既满足了性能需求,又符合预算限制,能够有效提升企业采购计算机时的效率。
作为对比,如果没有“启问Spark Query”及时提醒“显示器”需求时,传统方案会默认将预算全部投入主机,导致最终装机成本突破4000元,或被迫压缩主机配置至性能不足。
五、未来展望:AMD AI PC推动AI本地化部署浪潮
佘洪宇的创业故事,只是AMD锐龙AI Max+ 395在AI本地化部署领域应用的一个缩影。
随着AI技术的不断发展,越来越多的企业和个人开发者意识到,本地部署AI模型不仅能够提高效率,还能更好地保护数据安全和隐私。
“目前1.5万元的价位对于个人开发者和小型团队来说还是有一定门槛。如果价格能进一步降低,无疑将极大地推动高性能AI PC在更广泛的开发者和用户群体中普及,加速整个生态的成熟。“佘洪宇说。
AMD正通过不断的技术创新,为开发者和企业提供更强大、更高效、更经济的AI解决方案,助力更多像“启问Spark Query”这样的创新应用诞生,推动AI技术更好地服务于人类社会。
或许,下一个改变世界的AI应用,就诞生在一台AMD AI PC之上。
微软资讯推荐
win10系统推荐