A primeira forma é a correta. A palavra é autoestima. Não existe baixa estima (ou baixa-estima). Baixo se opõe a alto (com “l”), por isso a confusão com “auto” (com “u”), já que a pronúncia é a mesma. O prefixo “auto-” tem o sentido de “ele/si próprio” (ex.: ajuda e autoajuda). Ele se une com hífen a palavras iniciadas por vogais e pelas consoantes “h”, “r” e “s”. (post atualizado conforme a nova ortografia: de auto-estima para autoestima)
Respostas para as dúvidas mais cotidianas.