As boas práticas da programação web definem que uma medida segura para armazenar o usuário e senha de conexão com banco de dados seria nas variáveis de ambiente, ou environment variables, pois caso seu servidor web for comprometido, e seus arquivos fonte servidos como texto puro, o atacante não teria acesso a senha de conexão.
No ubuntu server uma forma prática e rápida de setar estas configurações para todos os usuários é inseri-las dentro do arquivo /etc/apache/envvars, no formato:

export nome_da_variavel=Conteudo_da_variável

Após alterar o arquivo realize um restart no apache, com o comando /etc/inid.d/apache2 restart

E se você utiliza PHP, e necessita recuperar o valor desta variável de ambiente, utiliza o comando

getenv(‘nome_da_variavel’);

Espero que este post rápido seja útil.