随着新一代计算机设备的不断提升，数据中心面临了增加每机柜功率密度的需求。虚拟计算、内存系统、多核CPU、CPU速度和GPGPU等技术的快速发展，极大地提高了计算能力，但同时也带来了更高的能耗和散热问题。
容器使用操作系统的CPU。虚拟机使用模拟的CPU。如果你需要运行的软件不是在你机器上的CPU上编译的，那么你必须运行虚拟CPU。
研究人员发现主流处理器都在努力实现功耗需求和高执行速率的散热限制的平衡。这会导致指向特定指令或操作的不同的行为模式。而这些行为模式可以通过软件利用内部传感器度量来实现。
从AI大模型涉及的层面来看，主要可以分为应用层、模型层、框架层和芯片层等四个层次，而目前市面上大部分公司都还在模型层，深一点的涉及到框架层和芯片层的研究，前端应用目前业内还没有。作为业内首个公测的大模型应用产品，通义听悟的示范作用极为明显。
近年来，人工智能的兴起主要依赖于大数据的发展、理论算法的完善和硬件计算能力的提升。其中硬件的发展则归功于GPU的出现。
算力基础设施成了目前行业亟需布局的资源，除了CPU/GPU等算力硬件需求强劲，网络端也催生了更大带宽需求，以匹配日益增长的流量。
