尽管部署大量GPU是扩展算力的最直接途径，但与此同时传统的互联方案还是创造了巨大的I/O瓶颈，严重影响了GPU的性能利用率，导致更多的时间花在了等待数据而不是处理数据上。
观察2024年走向，随着市场库存转为健康，且预期通胀压力渐趋稳定，2024年全球笔电出货量有望落底反转。然而，全球消费环境依旧承压，需求即便缓步回升，市场尚未观察到高度乐观讯号，TrendForce集邦咨询预期2024全年成长幅度约2~5%，出货量将略高于疫情前水平。
人工智能应用通常需要大规模的高性能计算资源，包括GPU和TPU等加速器。因此，数据中心需要具备足够的计算能力来支持这些应用的训练和推理。这意味着数据中心需要更多的服务器和更强大的网络基础设施，以确保高性能计算任务能够顺畅执行。
据悉，微软或将在下个月中旬举行的Microsoft Ignite(微软年度技术大会)上发布其自研的人工智能芯片，该消息使英伟达股价在盘前交易中下跌。
分析机构CCS Insight今日做出预测，认为生成式AI领域明年可能会面临一次现实检验，其认为，随着“围绕AI技术本身的炒作逐渐减弱”、“运行AI的成本不断上升”以及“对AI进行监管”的呼声增加，未来AI行业可能遇冷，技术发展逐渐出现放缓迹象。
全球企业和消费者主要是采用封闭源代码的生成式AI，还是主要采用开源生成式AI，或者两种类型的平衡，将是问题的关键。这个结果至关重要，不仅是从确保AI以有益于人类的方式发展的角度出发，还体现在它将塑造商业和社会中最具变革性的AI应用案例，以及决定谁将收获生成式AI的回报。
