模块化指的是解决一个复杂问题时，自顶向下逐层把系统划分成若干模块的过程。为了应对云计算、虚拟化、集中化、高密化等服务器发展的趋势，数据中心也引入了模块化设计理念，最大程度地降低基础设施对数据中心环境耦合。模块化的数据中心集成了供配电、制冷、机柜、气流遏制、综合布线、动力环境监控等系统，从而提高数据中心整体运营效率，实现快速部署、弹性扩展和绿色节能。模块化应该是一个很广泛的概念，可以是每一组机房做一个模块，也可以是一间机房做一个模块，甚至一座建筑，只要数据中心的供配电和空调系统能够标准化、快速部署，能在最短时间内产生效益，就可以归类为模块化。
数据中心引入模块化设计，目的也一样，要实现数据中心业务快速部署、应用灵活，提供标准化接口，主要有三类应用。一类是集装箱数据中心，这个模块化数据中心是将所有的风、火、水、电、布线全在一个标准货柜内部完成，形成一个可以移动的数据中心，本来集装箱数据中心主要用于临时搭建的环境，但正好符合模块化设计理念，被数据中心引入进来，在一些大型数据中心里有部署。当然，这些虽是集装箱数据中心，但却很少移动它。这类数据中心是一个整体，拆卸起来非常麻烦，甚至无法搬移到数据中心机房里去，所以另一类的机房型微模块数据中心更为普及。它是以若干IT机柜、电源单元、空调末端单元等功能机柜为基本单位，包含了网络、布线、监控、消防等功能在内的独立运行单元。所有模块组件都可在工厂预制，实现了与机房环境解耦，将组件拉到机房后，在现场灵活拆卸组装，能够迅速投入使用，微模块数据中心组装起来其实就是一个集装箱数据中心，只不过便于组装和拆卸，便于在数据中心机房里实施。最后一类就是数据中心舱，数据中心舱是按照通信机房条件和业务需求定制的、由模块化基础设施组成的封闭冷(热)通道IT设备舱，数据中心舱内部包括通信网络机柜、支架、末端空调、电源、综合布线、消防/安防、封闭组件及监控管理单元等，俨然就是一个小型数据中心，数据中心舱可提供一个相对独立、有安全保障的通信设备运行环境，内部有自己的空调和供电系统，有冷热通风通道。数据中心舱也可在工厂预制，并能在现有机房内进行快速部署，由一个或多个数据中心舱组成的通信机房称为模块化数据中心机房。数据中心舱为框架结构，通过架体结构组件、底座与舱内电源、空调、网络机柜等构件组成封闭空间。
模块化促成了建筑设施工业标准化，它不再仅限于运输容器集装箱的规格大小，可以满足客户所要求的任何规格尺寸，只要这些模块化产品可以被顺利地运送到数据中心现场。在某些情况下，包括诸如交换机、服务器和存储设备等终端用户设备可以在模块化工厂提前安装，以便最终能够直接将完整的、经过了充分测试的模块发送交付给数据中心。当模块抵达后，这些模块将被固定到位，连接到电源，网络和额外的冷却设备，快速运转起来。这种类似于乐高积木的方法是模块化构建数据中心的关键效果，这种设计在数据中心建设过程中非常有益。很多数据中心的建设都要分为多期建设，采用模块化的设计使得每期工程之间没有耦合，省去再次设计规划的时间，只要参考前期设计实施即可。而且，数据中心每个部门都可以先在工厂预制调试完成，一旦设备进场，只需要简单组装，就可以完成部署，快速上线。在数据中心建设的过程中，同步其它基础设施建设，数据中心建设时间大为缩短。另外，模块化设计相当于将数据中心分成了若干个独立的小型数据中心，这样的架构是弹性的，不同的小型数据中心可以有自己的特点，功率设计也可以不同，进行精细化管理，精细匹配不同IT业务需求。可以充分利用资源，避免制冷量和供电单元不匹配，从而导致能耗的浪费。模块化的设计这样可以有效提高空调的制冷效率，从而降低PUE，大大降低运营成本。
当然，模块化数据中心虽然有这么多好处，但这条路并不好走。对于数据中心内部的组件并没有明确标准，尤其尺寸和功能各有千秋，这往往使得不同厂家的设备无法在一个模块化设计中共存。如此导致模块化数据中心的内部设计，都是清一色地采用一家的设备。俗话说术业有专攻，让做存储的厂家去做网络设备，未必做得好，还没有哪个厂家的产品可以将数据中心里的所有组件都覆盖，这样就自家的所有数据中心产品都放入模块化数据中心中，产品好差均有，影响了整体运行水平。也有一些厂家寻求合作的方式，模块化设计里面部分是自己的产品，部分是采购合作厂家的产品，组装成一个模块化的数据中心；同样，若均采用模块化数据中心，则清一色都是一家的产品，这是数据中心不愿意看到的，一般大型的数据中心都喜欢引入至少两家厂商的设备，即便是同类型号的设备也是如此，就是担心一家设备出问题，数据中心没有其它选择余地，还有就是都采用一家的设备，议价上往往无法掌握到自己手里，这是数据中心所不愿意看到的；数据中心被分割成多个独立的模块化单元，相互之间没有耦合，每个都有自己的内部特点，在管理上也存在难度，每检查一个模块单元，都需要开关一次舱门，也不算是一件好事儿。所以，数据中心走模块化的路，前景是美好的，但过程一定是曲折的。
