Meu monitor dá tela roxa quando coloco 120hz mas quando coloco em 100hz fica normal, por quê?

Provavelmente sua placa de vídeo não está aguentando.

Se a placa for Nvidia, olha configuração de RGB, muda de limited para full.