记忆体生产商Sandisk(闪迪)(SNDK.US) 今年以来股价累升约5.7倍，自去年5月以来的一年内累升逾35倍。Sandisk首席技术官(CTO)兼执行副总裁Alper Ilkbahar接及《日经亚洲》访问时称，全球AI竞赛正变得越来越「以记忆体为中心」而非算力，这趋势或加剧全球史无前例的记忆体晶片供应紧张局面。
他表示，单靠图形处理器(GPU)、中央处理器(CPU)及原始运算能力，不足以应付日益复杂的AI工作负载。
相关内容《大行》大摩：华为「韬定律」支撑AI光收发器产业指数级增长
Ilkbahar表示，有几个趋势正在令记忆体变得更为关键。首先，随着大型语言模型变得更大、更智能，它们需要更多记忆体才能有效运作。其次，OpenAI的ChatGPT、Google的Gemini及Anthropic的Claude等系统越来越依赖所谓的KV(key-value)快取。
简单而言，KV快取就像AI的短期记忆，让它能够记住之前的用户输入及对话早期部分，而不必从头开始重复计算每项内容。这种方法显着提升了速度与效率，但随着AI对话及上下文窗口变长，KV快取需要越来越庞大的记忆体容量。
其次是混合专家模型，减少运算但增加记忆体，这就是为何他们将AI竞赛称为以记忆体为中心。
相关内容《大行》高盛升澜起科技(06809.HK)目标价至582元 评级「买入」
Ilkbahar表示，现在客户正主动作出预先承诺，并签订长期采购协议以确保未来供应。他表示，相信下一件大事将是高频宽快闪记忆体(HBF)，目前正在设计晶片，HBF记忆体晶粒将於今年底提供样品，配备控制器的完整产品预计明年推出。
Sandisk表示，随着AI推论工作负载需要更大记忆体容量，HBF可发挥更大作用。该公司称，HBF能提供远高於高频宽记忆体(HBM)的容量与记忆体密度，同时保持相近的频宽，更适合未来的AI推论需求。Sandisk已与SK海力士合作，共同制定HBF技术标准。(da/u)(美股为即时串流报价； OTC市场股票除外，资料延迟最少15分钟。)
AASTOCKS新闻