AI時代下的HBM與CXL發展
摘要
由於人工智慧(AI)及高效能運算(HPC)發展,伴隨著更為仰賴機器學習(Machine Learning)及推論(Inference)的需求,建構出的模型複雜度隨著需求的精細程度有所增加,因此在計算時須處理的資料亦隨之增大。在這樣的情境下,龐大的資料處理量受硬體效能侷限,導致使用者在設備的建置面臨了效能、容量、延遲度及成本間的取捨問題,從而刺激HBM及CXL的出現,試圖解決日益加劇的難題。
由於人工智慧(AI)及高效能運算(HPC)發展,伴隨著更為仰賴機器學習(Machine Learning)及推論(Inference)的需求,建構出的模型複雜度隨著需求的精細程度有所增加,因此在計算時須處理的資料亦隨之增大。在這樣的情境下,龐大的資料處理量受硬體效能侷限,導致使用者在設備的建置面臨了效能、容量、延遲度及成本間的取捨問題,從而刺激HBM及CXL的出現,試圖解決日益加劇的難題。
© 2024 拓墣科技 及/或 集邦科技 版權所有