Tamanho-família ou tamanho família?

A segunda forma é a correta. O hífen que marca a formação de uma palavra com sentido diferente das duas que ele une não se justifica nesse caso. Não há um sentido novo. O substantivo “família” está na função de adjetivo. É um adjetivo como “grande” e “pequeno”: tamanho grande, tamanho pequeno, tamanho família.