过去数据中心都是实体存在的，企业除需投资软硬件外，也不可避免地需投资在土地及维护成本（如人力资源、后备电力、冷气环境）上，占据大量的成本之余，各种资源调配也缺乏灵活性。
直到云计算技术的出现，数据中心的技术及应用才出现划时代的改变，企业可以将实体的数据中心迁移到混合云计算架构的网络上，通过虚拟化技术来运行，随时增减所需资源，配合成熟的软件及相应服务，云架构数据中心可以同时实现高性能及稳定运营。
企业将数据中心迁往云端，除可享有与实体数据中心同等的服务外，同时也带来可观的经济效益，节省了许多以往必须持续支付的IT成本，例如安置数据中心的租金、24小时的电力供应，以及投放技术人员等。
从理论上来说，更好的服务器资源使用应当能够实现更高的能源效率和更低的能源成本，但在云计算供应商的环境中事实并非如此简单。简单封装多个虚拟机至更少的物理硬件设备并不足以实现电费降低。事实上，如果整合措施实施不当的话，数据中心的能耗甚至还会增加。
在云计算中减少能源使用和能源成本并不与减少整体能源负载成正比。其原因在于：整合两个原本是独立的物理服务器成一个虚拟平台的容量需求实际上可能导致吞吐量下降以及其他的性能问题。而当性能下降时，成功完成任务所需的能源会有所增加。在云计算数据中心之间转移工作负载所需的能源因素也变得更加具有不确定性了。
在“数据计算”方面，单位成本计算力不再是唯一衡量因素，衡量表现的指标从单位成本计算力扩展为每瓦计算力、每平米计算能力等，数据中心的运营者们正在计算能力、存储密度、能源效率等因素之间寻求新的平衡；在“数据存储”领域，数据中心由纵向扩展慢慢迁移为横向扩展；而在“数据交换”方面，数据带宽不再依赖于硬件和网络架构的限制。
无疑，云计算趋势为数据中心建设带来了新思路。在新IT趋势的推动下，数据中心承载着数以百万的连接，不断增长的数据和不断变化的工作负载，使得数据中心的管理与设计需要利用新的技术去改变传统方式，在追求能耗与成本的平衡当中，提升运营效率。
