仅利用4片英伟达 GPU，搭配特制的SSD及软件，就能够用2至10万$的成原来实现原本200万$的AI模子微调运算能力。这可能吗？

犹记患上，于去年3月CFMSMemoryS上，群联电子履行长潘健成向业界先容aiDAPTIV+时，市道上AI年夜模子一体机还有没有像如今这般盛行。那时，千亿级参数模子的单次练习成本动则数万万人平易近币，巨额的练习成本已经经深切人心。其时，各人其实不信赖低成本方案能满意模子练习的需求，故而这种方案也未获得太多的市场回声。

群联电子履行长潘健成

使人不测的是，2025年头DeepSeek-R1模子爆火，社会各界最先存眷起其暗地里的公司。DeepSeek公司经由过程DualPipe(一种立异双向流水线并行算法)、分层压缩引擎等 算法改造 及 硬件协同优化 ，将模子练习的算力需求降低了 46%-82% ，模子推理算力耗损削减了 97% ，并鞭策单元算力效率晋升 3倍以上。以是，于此基础上低成本方案就变患上切实可行，纵然是预算有限的中小企业也能够够患上着AI模子练习的门坎。

于本年的CFMSMemoryS上，潘健成再次先容了aiDAPTIV+。这是群联电子经由过程将闪存、SSD与GPU联合，开发出的一种成本效益高的AI模子练习解决方案。它利用了4片英伟达GPU，搭配特制的SSD(也即aiDAPTIVCache)及软件，就能够用2至10万$的成原来实现原本200万$的AI模子微调运算能力，该方案被潘健成称为 布衣的AI练习方案 。

aiDAPTIV+：把闪存看成内存利用

艾媒咨询(iiMediaResearch)《2024-2025年中国AI年夜模子市场近况和成长趋向研究陈诉》显示，2024年中国AI年夜模子市场范围约为294.16亿元，估计2026年将冲破700亿元。因而可知，中国AI年夜模子行业正处在快速增加期。

自本年Q1最先，于各类行业峰会、钻研会上， AI年夜模子推理一体机 成了厂商力推的重磅产物。针对于医疗、金融等垂直范畴，已经经有厂商将 DeepSeek-V3等多模态年夜模子 与 推理优化引擎集成在AI推理一体机，让企业无需自建算力集群便可部署AI运用。

图1：aiDAPTIV+撑持更高的参数目图片来历：群联电子

而aiDAPTIV+的推出，要比本年雨后春笋般冒出的AI一体机更早，并且群联的aiDAPTIV+方案是同时撑持AI模子微调练习与推理的 推训一体机 ，对于在地端边沿AI的订制化导入又更佳的便捷，更主要的是成本为一般的中小企业都可承担。潘健成于去年Q1就已经经于公然演讲中分享该方案。按照他的先容，aiDAPTIV+是面向AI练习的解决方案 ，该方案可于一台4卡事情站平台中完成Llama70b模子的微调练习，容纳显存总量7倍以上的数据。

图2：群联电子aiDAPTIV+AI练习架构与传统AI练习架构对于比图片来历：群联电子

同时，aiDAPTIV+包罗的中间件软件库(Middleware)可将GPU显存中不活跃的AI模子层切片分散，于aiDAPTIVCache缓存固态硬盘(SSD)上暂放待处置惩罚的这些切片，并将GPU上已经完成的部门与待处置惩罚的切片互换。此历程无需对于AI运用自己举行修改。用通俗的话来注释，也便是 aiDAPTIV+是让GPU可以用NAND作为内存利用 。

于传统的AI练习架构中，模子权重(手印型中每一个神经元毗连的参数)需全数加载至HBM，以撑持高频次计较 ，但跟着AI模子的参数目愈来愈年夜，也就需要更多的HBM来满意需求，这也象征着更多的练习成本。aiDAPTIV+可让GPU+HBM+DRAM+NANDFlash来做GPUAI运算的电脑架构。该技能素质是经由过程多级存储的动态调理，将NANDFlash纳入AI计较的数据链路，并与HBM、DRAM形成互补，从而冲破传统架构的内存限定 。

跟着AI运用迅速向边沿端成长。DeepSeek的呈现降低了年夜模子成本，继而鞭策了这一趋向。然而，未经微调的DeepSeek模子可能会给出禁绝确的回覆，对于模子举行微调是须要的。小我私家及企业手中的数据量很是年夜，且这些数据不会容易上传到收集，需要把AI办事器放于当地并举行定制化处置惩罚。潘健成暗示，这促使了群联电子将AI练习器件做患上更自制，以期让每个平凡人与 产官学 单元(指由企业、当局及年夜学/科研机构构成的互助单元)都能拥有本身专属的AI装备与AI助理办事。

详细来看，办事器方案的成本进一步降低，使患上用户可以采办较为可承担的GPU盘来运行群联电子的AI方案。这不仅转变了用户的利用习气，还有增长了对于NAND(aiDAPTIVCache与企业级SSD)的需求。跟着AI于企业真个运用增长，NAND需求也将连续增加，消化这些需求则要很永劫间。 边沿端AI的成长将给企业级SSD带来巨年夜的存储需求，假如海内100万家企业各部署1-2台AI一体机，其可以或许带来的SSD(aiDAPTIVCache)需求也相称重大。别的，跟着数据的快速堆集，SSD的存储需求也会连续增长， 潘健成指出。

售价仅需2.5万元的AITPC

已往一年多，群联电子致力在将NAND与AI联合，以降低AI运用成本。虽然此前各人认为NAND与AI的直接联系关系不年夜，但公司已经找到一种将两者联合的要领，并于此基础上实现成本平价化 让AI办事器或者AI事情站可于家安装，同时具有练习及推理能力。

图3：群联电子的AITPC(人工智能练习电脑)

为了尽快鞭策aiDAPTIV+落地，以和帮忙学生去进修 怎样练习AI模子 而非只是 利用AI推理 ，群联电子推出了AITPC(人工智能练习电脑;AITrainingPC)。AITPC售价2.5万元人平易近币起，它基在传统台式机及显卡布局，无需改换硬件，只需简朴集成，便可实现AI模子微调练习功效。其最年夜利益是 无需转变现有生态链，主板、显卡等硬件无需改换，只需于传统台式机上增长特定布局。用户只需于现有装备长进行简朴操作就可完成进级。

进级后的装备可以用在AI练习及推理。于教诲范畴，AITPC为学生提供了实践一人一机的AI模子练习现实操作练习训练的时机，使他们可以或许更好地进修及理解AI的运用，更主要的是，学生可以学会怎样于边沿地端微调练习AI模子，为特定的AI运用场景打造更适合的AI办事。此外，该装备也有助在鞭策AI技能的普和，让更多人可以或许接触及利用AI技能，促成相干技术的晋升及立异。

针对于近来各类AI一体机爆火的近况，潘健成评价道，边沿端AI一体机的事情标的目的很是准确，群联电子的aiDAPTIV+颠末近1年9个月的开发，已经从最初只提供硬件及中间软件，成长到如今涵盖更广泛的软件办事及功效。只管于早期该方案的市场反映淡漠，绝年夜大都是由于企业真个AI专业人材不足，不知从何入门，但跟着DeepSeek的爆火，市场最先承认低成本AI方案的可行性。如今，一些中国年夜陆企业于纷纷跟进。

据先容，群联电子已经经着手与海内的互助伙伴配合开发AI一体机。今朝，铨兴科技结合海潮云，发表预置DeepSeek-R1及DeepSeek-V3模子的海若一体机，率先实现671B满血版DeepSeek年夜模子单机办事，为政企客户提供年夜模子智能运用落地的一体化解决方案。铨兴科技的AI一体机恰是基在群联电子的aiDAPTIV+技能的配合开发方案。

AI驱动效率改造与财产互助

除了此以外，群联电子也基在本身的AI一体机方案开发了PhisonCodePilot，帮忙公司研发工程师员工晋升事情效率。好比，于为美光开发汽车SSD主控项目中，群联电子的工程师需编写技能文件，此中触及到16,000行步伐码，若用传统方式需20人持续事情17周，而利用AI，于一样人力的环境下仅需两周；又如，于主控设计开发中，群联电子经由过程引入AI技能，减轻人力资源承担，并光鲜明显提高效率，于第一阶段已经节省10%人力，将来将继承开发第2、第三阶段。

经由过程以上实践，群联电子展示了AI技能于提高效率、降低成本及鞭策立异方面的巨年夜潜力，为行业的成长提供了名贵的经验及启迪。于此基础上，潘健成呼吁更多志同志合的人插手互助，配合创造夸姣的边沿端AI运用。他夸大说，AI财产广漠，需要软件公司、体系集成公司、硬件公司及经销商等配合努力，配合实践AI普和梦。

责编：Clover.li 本文为国际电子商情原创文章，未经授权禁止转载。请尊敬常识产权，背者本司保留究查责任的权力。 国际电子商情助理财产阐发师，专注汽车电子、人工智能、消费电子等范畴的市场和供给链趋向。电子财产时代印记：我的职业生活生计与行业变迁之旅

于庆祝创刊40周年之际，咱们约请了多位电子行业的资深人士，他们分享了本身的职业生活生计及亲历的电子行业变迁。这些资深人士经由过程回首全世界电子行业的成长轨迹，缭绕一些要害的迁移转变点及代表性事务，切磋了行业的主要厘革和其深远影响，并向年青一代从业者教授了名贵的经验。安芯电子IPO“带病闯关”，遭上交所规律处分

按照上海证券生意业务所披露的规律处分决议书，安徽安芯电子科技株式会社于申请科创板上市历程中，存于多项背规举动，被上交所处以一年内不接管其刊行上市申请文件的规律处分，当时任董事长和财政总监也被公然训斥。​汇顶科技新总裁柳玉平上任！工程师配景

临危受命？闻泰科技拟退生产品集成营业，立讯周详再脱手“接盘”

巨头再接办5000亿美元！英伟达向美国制造芯片“下年夜单”

黄仁勋回应AI芯片需乞降供给链。阔型屏，竖折叠，起售7499元！华为Pura X“天下人平易近买患上起”

余承东所言“天下人平易近买患上起、意想不到的产物”长如许！软银65亿美元收购Ampere，加码AI算力结构

3月20日，日本软银集团公布以65亿美元全现金收购美国芯片设计公司Ampere Computing，进一步深化其于人工智能（AI）基础举措措施范畴的战略结构。小米发布“史上最强年报”

小米集团日前发布2024年第四序度和整年财报。2024 年小米实现整年总收入3659亿元，创汗青新高，同比增加35.0%。‌特斯拉涨价！焕新Model Y长续航版售价上调1万元

近日特斯拉中国官网显示，焕新Model Y长续航全轮驱动版价格上调了1万元。雅创电子拟不跨越2亿元采办上海类比部门股权

又一家分销商加码自研IC营业！英集芯取缔并购辉芒微

国际电子商情讯，3月17日晚间，深圳英集芯科技株式会社发布通知布告称，公司决议终止采办辉芒微电子（深圳）株式会社节制权，公司芯股票自2025年3月18日开市起复牌。2024年全世界IC设计公司营收TOP10揭晓

全世界前十年夜IC设计公司整年营收合计达2498亿美元，同比激增49%。此中，英伟达以1243亿美元营收连任榜首，盘踞前十总份额的50%，与其他厂商形成断层式差距。 2025年LED市场产值有望增加至130.03亿美元

Micro/Mini LED、车用LED、农业照明及UV / IR LED市场等范畴仍连结增加。

英伟达、AMD官宣技能蓝图，将来AI芯片是谁家全国？

本地时间3月18日，被称为“AI界春晚”的英伟达“GTC 2025”正式开场。

深圳市当局事情陈诉全文发布，集成电路被屡次说起

近日，2025年深圳市当局事情陈诉全文发布，此中集成电路被屡次说起。

3月手机面板行情：淡季供需分解，价格持稳

春节假期后，手机面板市场正式步入传统淡季。只管“国补”政策动员终端热度延续，但因渠道库存仍于高位，第一季度

英飞凌估计2025财年AI营业营收将冲破6亿欧元，将来两年内有望超10

美通社动静，3月14日，“2025英飞凌消费、计较与通信立异年夜会”（ICIC2025）于深圳进行。本届年夜会会聚600多位业界精

湖南宣布电子信息制造业重点项目，涉13个MLED、显示类项目

近日，湖南省工信厅发布了《2025年湖南电子信息制造业重点项目名单》，涵盖进步前辈计较、音视频、新一代半导体、人

总投资7.6亿，惠科东莞平板显示项目二期动工

3月15日，质鼎集团公家号动静，惠科东莞平板显示集群电子商务项目二期正式动工。

台湾20家电子企业2024年第四序度及整年财报汇总，富士康、台积

富士康、台积电、广达、华硕、联发科、友达光电等台湾20家电子企业2024年第四序度及整年财报汇总。

全世界LED显示屏市场机缘与挑战阐发

最近几年来，LED显示屏市场连续演进。回首2024年，行业出现出哪些成长态势？瞻望2025年和将来，市场又将面对哪些机缘与

索尼发布全新RGBLED违光技能

近日，索尼正式发布新一代RGBLED违光技能体系，可实现4000尼特峰值亮度。索尼规划该体系将在2025年最先量产，并将

AI发作，本土进步前辈封装怎样冲破？

AI芯片是半导体最年夜的增加点，进步前辈封装则是制造AI芯片的要害技能。此前英伟达H100成本约3000美元，而用进步前辈封装

泰西车用固态电池验证加快，估计最快2026年慢慢实现量产

截止2024年末，17家泰西固态电池企业融资总额已经冲破42亿美元。

安森美携新款智能图象感知方案表态Vision China(上海)2025

驱开工业主动化智能化进级，打造多场景视觉感知交融运用

Microgate的自顺应光学技能于深空摸索中年夜显身手

高功率密度模块使年夜型千里镜可以或许追溯宇宙汗青。

SiC自我实现轮回与AOS公司的结构

David Sheridan博士于接管《电子工程专辑》的采访中提到，SiC技能的成熟与电动汽车的普和险些是同步举行的。

TE Connectivity持续11年入选“全世界最具贸易品德企业”榜单

TE对于在品德、合规及管理项目的承诺连续得到品德村协会的承认

德州仪器推出全世界超小型MCU，助力微型运用立异

德州仪器近日推出了全世界超小型 MCU，进一步扩大了品类齐备的 Arm® Cortex®-M0+ MSPM0 MCU 产物组合。

芯向将来，2025英飞凌消费、计较与通信立异年夜会乐成举办

立异是企业连续成长最年夜的价值。

闪迪自力上市后首秀“肌肉”: UFS 4.1新品、企业级SSD满意云到端

“闪迪(Sandisk)又回来了！”于3月12日的存储年度嘉会CFMS MemoryS 2025上，闪迪公司全世界产物副总裁Eric Spa

摩尔斯微电子推出MM8102 Wi-Fi HaLow芯片，鞭策物联网新海潮

摩尔斯微电子推出合规的Wi-Fi HaLow片上体系（Soc），开启欧洲毗连技能新纪元。超低功耗、远间隔毗连功效现已经为

存储年夜佬们都说了啥？MemoryS 2025 财产年夜咖演讲内容合集

CFMS | MemoryS 2025已经圆满落幕，时期包括三星电子、长江存储、铠侠、美光、闪迪、高通、Arm、慧荣科技、S

安森美推出头具名向工业运用的进步前辈深度传感器

Hyperlux™ ID iToF 系列金年会体育将深度丈量间隔晋升至最远 30 米，提高工业情况中的出产效率及安全性

西部数据推出年夜容量存储方案，赋能NAS用户、创意专业人士与内容创

26TB年夜容量CMR HDD助力WD Red Pro与G-DRIVE/G-RAID系列专业级产物矩阵，赋能数据存储拓展与出产力跃升

恩智浦发布全新一代S32K5微节制器系列，推进SDV区域节制架构成长，扩

全新一代MCU可以满意各类区域节制架谈判电气化体系需求，助力汽车制造商向软件界说汽车（SDV）过渡。将精彩的高

-金年会体育