众所周知,在人工智能领域,尤其是在模型训练和推理阶段,显卡的性能至关重要。随着模型的规模越来越大,对算力的需求也会倍增。因此,如何选择合适的显卡,鱼(性能)和性价比(熊掌)是否可以兼得,是许多模型开发者非常关注的话题。
日前,广东省通信管理局等九部门印发了《广东省算力基础设施高质量发展行动暨“粤算”行动计划(2024-2025年)》(以下简称《行动计划》),明确了计算力、运载力、存储力、示范应用、国产算力占比等建设目标,提出了6大类22项重点任务。
到2025年,上海市智能算力规模超过30EFlops,占比达到总算力的50%以上。算力网络节点间单向网络时延控制在1毫秒以内。智算中心内先进存储容量占比达到50%以上。
近期,在中共中央、国务院印发的“数据二十条”的基础上,北京、上海、广州等地陆续出台地方版“数据二十条”,加快完善数据基础制度,积极推进数据流通交易。
通用CPU和GPU服务平台在功耗和散热受限的终端上的运用,其差异性需求难以应对AI用例严苛且多样化的计算要求。
数字经济时代,算力就是新质生产力。信息化向数字化转型过程尚未完成,叠加了智能化的大潮,这既是挑战,更是机遇。