Grande parte das empresas na primeira década do ano 2000, tinham espaços físicos (salas) reservados com servidores rodando seus sistemas 24/7. E aí tinham gastos com equipe de infraestrutura, manutenção, segurança, políticas de backups, redundância de energia elétrica e internet (quando tinham) e por aí vai. Sem contar eventuais custos extras que poderiam surgir por conta de mudanças de espaço fisico, reformas, etc.
No entanto nessa década o conceito de nuvem já se tornava realidade, e a Amazon lançava em 2006, a AWS - Amazon Web Services. Que num primeiro momento, o cliente "alugava" um espaço de uma máquina (na nuvem) e só pagava pelo uso desse recurso. Hoje há uma infinidade de produtos computacionais oferecidos em nuvem, não só pela Amazon, mas também por outros provedores desse serviço, como a Google, a Oracle, a Microsoft.
Hoje em dia o uso da tecnologia em nuvem tem sido cada vez mais comum tanto pelas pequenas empresas ou grandes corporações, quanto pelas pessoas "comuns". Praticamente qualquer dispositivo móvel hoje permite que você salve suas fotos, vídeos e backups na nuvem. E muitas vezes esse recurso está sendo usado sem que você saiba exatamente o que é, mas é nuvem. Provavelmente você já deve ter ouvido falar em Dropbox, iCloud, Google Drive. Todos esses produtos usam da tecnologia em nuvem.
No entanto, mesmo com o avanço da tecnologia em nuvem, há empresas que ainda mantem uma infraestrutura de servidores "on primisse", muitas vezes devido a fatores legais, ou dificuldade para migrar a estrutura para a nuvem. Outras já mantem uma estrutura híbrida - nuvem e "on primisse" trabalhando juntas.
É interessante porém ressaltar que o uso da Cloud Computing será cada vez mais comum e que possivelmente você ou a sua empresa em algum momento passarão a utilizar desse recurso com mais frequência, e o melhor, a um custo muito menor.