此前台积电与三星达成协议，共同开发HBM4，这将是双方首次在人工智能（AI）芯片领域展开合作。三星为了在HBM领域取得进展，正在与各个代工厂合作，准备了20多种定制解决方案，很大程度上也是为了追赶SK海力士。

据TrendForce报道，三星已经开始开发定制HBM4，客户包括了微软和Meta，目标是2025年末进入大规模生产阶段。有消息人士透露，三星正在建立一条HBM4专用生产线，目前正处于“试生产”阶段，以便在量产之前进行试制。

微软和Meta都有自己的AI芯片，前者是Maia 100，后者是Artemis。随着大型科技公司扩大AI数据中心方面取得进展，削减与芯片购买相关的成本的需求越来越强烈，为此一边设计和使用自己的AI加速器，同时还从英伟达和AMD购买AI芯片。得益于三星同时拥有存储器和逻辑芯片的设计部门及生产线，也成为了主要科技公司的理想合作伙伴。

按照今年初三星公布的HBM4计划，数据传输速度将达到了2TB/s，相比HBM3E提高了66%，将提高16层堆叠的模块，容量从36GB提升至48GB，增大了33%。截至HBM3，高带宽内存的重点都放在热管理和提高速度上，到了HBM4，重点将转向集成AI计算能力和特定数据处理功能，以满足不断变化的需求。

最近有报道称，三星再次将注意力转向PIM技术，使内存芯片本身可以执行CPU、GPU、ASIC或FPGA的操作。这种做法可以将处理操作转移到HBM本身，从而减轻了内存与一般处理器之间转移数据的负担。