对于中小企业而言，绿色IT意味着“用更少、更合理的IT投入完成更多的工作，创造更多的价值”。量化管理和优化IT设备与应用，是实现绿色IT，控制总体拥有成本的重要一环。随着国家电力资源日益紧张，电价节节攀升，IT能耗带来的电费支出也越来越引起中小企业的关注。
提高企业IT应用软件和服务的使用率，是中小企业绿色IT的另一个重要环节。那么如何建立起绿色IT呢？
第一步，先要建立一个好的监控体制
建立有能效的审计，要知道什么部件消耗多少电力。在整个数据中心（Data Center）当中，要知道能效的目标，比如说它们到底要消耗多少能源才是我们的目标——美国目前用的最多的指标也正渐渐地进入亚洲市场。这个指标是由绿色网格所开发出来的，是在美国建立的，还有EPA.但是要清楚的明白，到底是有多少能源是由这个数据中心（Data Center）消耗的？到底有多少是由IT设备消耗的？这样就能够计算出电量的使用情况。在美国的数据中心（Data Center）的效率，大概是在1.2—1.3左右，但在亚太地区大部分的组织都是在3—4的效率性。
第二步，转变我们的思维
为人所熟悉的“摩尔定律”说到：“芯片的晶体管数量约没两年就翻一番。”处理器芯片是翻一番，可是对于能耗的处理水平是否能够跟上芯片的翻番水平呢？能耗的处理水平虽然是改善了，但它的改善速度跟处理器晶体管的增长速度却没有保持同样的水平，中间有一个段差距。导致这样的原因，是因为人们更多关注的是性能。我们总是谈到性能，但现在所看到更多的是怎么把性能和工作联合在一起，即工作效率的问题。工作性能提高了，工作效率也应该增加，这是我们的思维要转变的一个观点，也是我们改变对数据中心（Data Center）的认识。在采购IT数据中心（Data Center）的IT设备的时候，不能单单只关注到它的性能，同时还要关注到它的能耗。
第三步就是设计和部署，这主要是关系到冷却的体系
数据中心（Data Center）的效能大部分是跟冷却相关——比如说温度，温度——并且还与空间气流优化有关系。要确保数据中心（Data Center）机房空间中设备的部署格局清晰，要确保通风口不被堵塞，同时还能完成空气的回流。要保证数据中心（Data Center）机房中的IT设备有足够的冷却空间，而使得设备能够非常有效率的运作。在数据中心（Data Center）的设计方面有很多基础的东西能够改善，这样就能降低冷却方面的能耗。比如说，需要更先进的技术和设备来探测到究竟是空间中的哪台设备最热，它的气流方式是怎样的。通过掌握最基本的数据变化，就能够对整个数据中心（Data Center）的能效变化有所掌控。
第四步就是考虑将来有什么样的创新方式改变数据中心（Data Center）
能够使用一些新的技术——比如服务器存储虚拟化，还能够借助整合对整个系统进行更新。采用虚拟化的前后，空间和服务器的数量有一个很大的变化，数据中心（Data Center）电能消耗的也有明显变化。这就意味着虚拟化的采用，能够有助于碳管理。在碳消耗方面所获得的利润，能够理解为对环境的改变。但在选择采用虚拟化的时候，应该考虑到对物理环境和虚拟环境的同时管理的问题。
第五步，就是组织的整合
任何一种新的技术在被采用的时候，对整个系统会带来很多新的变化。这些变化不仅是技术的本身，还包括整个流程以及整个流程如何进行最大化的收益等方面的内容。
最后要做好绿色IT就不要进入以下一些误区：
误区一：“绿色软件”是免安装，不会“污染”操作系统的软件。
过去一谈到“绿色软件”，就会想到那种免安装，不会“。如今，软件再次和”绿色“走到了一起，并且意义也更加深远。当前全世界能源日趋紧张、电子污染加剧，又遇到金融风暴。”绿色环保“逐渐成为了企业的一种责任。IT是否绿色，已经成为企业构建IT环境中很重要的一个节，在追求IT架构性能的同时，也要注意减少能耗，减少企业的IT投入成本等。
误区二：绿色IT是只发生在后端服务器上的事
很多人都认为绿色IT是只发生在后端服务器上的事，离自己很远。其实绿色IT就在你的身边。比如，合理利用操作系统的休眠或待机功能，这样电脑在不需要工作时，能够自动将电能节省下来。如果企业里每个员工都习惯利用系统的这个设置，积少成多也能够帮企业在绿色IT方面迈进一步。
误区三：不要以局部的眼光认为机房做了绿色就是全局做好了绿色
当你把绿色IT的注意力集中在机房时，你可曾想过企业的文档管理，特别是打印等正在破坏着你的努力。所以利用文档办公软件，尽量使用电子文档进行无纸化办公，节省能源和纸张是实现企业IT绿色不可忽视的一部分。
在产品的生命周期里，不同的阶段针对“绿色”目标都有各自不同的要求。比如，在产品设计阶段，这个产品的设计是否已经真的符合环保的要求。因此，绿色IT肯定不是我们终极的目标，它只是我们目前能够颠起脚才能看到的楼尖尖。