AMD X3D搞AI居然比打游戏还猛!8核暴打16核 领先达88%
据GiggleHD实际测试,比打AMD X3D处理器在RAG(检索增强生成)AI基准测试中展现出远超预期的游戏性能表现,最高领先非X3D芯片达88%。还猛核暴
RAG AI通过外部向量数据库检索信息来增强大模型的打核达回答质量,与纯LLM推理不同,领先向量搜索的比打大量计算负载落在CPU而非GPU上。
随着Agentic AI工作负载的游戏推进,搜索驱动的还猛核暴任务流越来越多,CPU的打核达延迟瓶颈问题日益突出。
HNSW(分层可导航小世界)搜索算法就是领先典型例子,在GPU执行LLM推理的比打同时,CPU负责图检索,游戏更大的还猛核暴缓存意味着更短的检索时间。
GiggleHD使用开源的打核达X3D RAG基准测试,针对个人PC和小团队单节点场景(约100K-200K向量),领先对AMD锐龙9000X3D系列及多款非X3D芯片进行了实测。


结果显示,在100K向量批量搜索中,X3D CPU最高比非X3D芯片快88%;在200K向量测试中,同为8核的锐龙7 9850X3D比锐龙7 9700X快50%以上,且8核X3D芯片的速度超过了16核的锐龙9 9950X。


索引构建方面,100K向量测试时间缩短50%,200K向量缩短39%,并发RAG吞吐量同样由X3D芯片领跑。


差距较小的项目是TTFT(首Token时间)吞吐量,因为该任务主要依赖GPU而非CPU。

(责任编辑:休闲)
推荐文章
-
导读: 30万重疾险性价比高,重疾险保30万好还是50万好?相信这个问题并不难,当然是根据实力出发,肯定保额越高越好,所以小编想给大家推荐
...[详细]
-
俄朝签署《全面战略伙伴关系条约》,日本“食人菌”感染病例破千
本期主持:南方周末记者毛淑杰南方周末实习生王雨谷点评嘉宾:吉林大学东北亚研究中心副教授王箫轲辽宁大学国际经济政治学院副教授李家成上海政法学院东北亚中心助理研究员牛晓萍热点俄朝强化“战略伙伴关系”当地时
...[详细]
-
作为重要的经营规模指标,期末个险营销员数量首度在险企偿付能力报告中集中出现。《每日经济新闻》记者以下简称每经记者)梳理统计发现,目前截至5月11日)已有70家人身险公司发布一季度偿付能力报告,其中67
...[详细]
-
玻璃是我们日常生活中经常接触和使用的物品,从玻璃杯这类生活用品到玻璃幕墙一类的建筑装饰材料,玻璃为世界文明的发展做出了较大的贡献。例如我们常常听说的厕所玻璃墙,常用于制造厕所玻璃墙,性能出众。接下来我
...[详细]
-
7.3折!近5年折扣力度最大的一届天猫618,5月21日正式开卖
5月21日,天猫618正式开卖。88VIP消费券和平台加补券折扣力度创5年新高,官方立减叠券7.3折起,家电数码32个品类叠加国补低至5折。这是近5年折扣力度最大的一届618。天猫延续了简单的立减玩法
...[详细]
-
时隔五年之后,夏季达沃斯论坛将与大连第八次“牵手”。世界经济论坛第15届新领军者年会又称“2024年夏季达沃斯论坛”)将于2024年6月25日在大连开幕迎客。本届年会召开前夕,世界经济论坛发布了202
...[详细]
-
现如今,玻璃越来越受到消费者的青睐,不但有磨砂玻璃、热熔玻璃、彩绘玻璃等装饰效果较强的艺术玻璃,还有各种功能型玻璃,例如隔音降噪的夹胶玻璃、中空玻璃和隔热阻燃的防火玻璃等。本篇文章将介绍镀膜玻璃有什么
...[详细]
-
“转人工客服!转人工客服!”当你因一笔扣款异常、一趟航班延误或一笔贷款逾期,心急如焚地拨通客服热线时,电话那头的智能语音却像一台复读机,永远只有“请问有什么可以帮您
...[详细]
-
滁州网讯全媒体记者汤 珏)记者近日从市发改委获悉,今年6月份,我市居民消费价格指数CPI)同比上涨1.0%,涨幅比上月回落0.4个百分点;环比下降0.4%,降幅比上月扩大0.1个百分点。1月至6月,全
...[详细]
-
(资料图片)马年小目标坚持定时起身活动,先养成习惯,再逐步调整工作和生活环境,尝试多样活动方式,让身体远离久坐疲惫。新的一年培养定时起身好习惯1打破惯性从设置定时提醒开始,每隔30~40分钟提醒一次,
...[详细]
热点阅读

华夏重疾险细则,华夏重疾险有哪些
什么是真空玻璃 真空玻璃与中空玻璃的价格差异,行业资讯
清远儿童保险,2023清远儿童保险在哪里买
台湾25年来最大地震,“宛如9·21梦魇重现”
