Depende da forma. Em vez de elogiar as unhas, elogie a dona delas. Exemplo:
Você ficou linda com esse penteado. - versus -
Esse penteado é maravilhoso, vi a Maysa usando na revista Capricho. Já quero fazer no meu cabelo. Qual salão vc foi?
Olha! Deixa eu beijar essas mãos delicadas pintadas com esses esmaltes combinando com o batom. - versus-
Que unhas lindas? É acrigel?
Não é estranho, é um diferencial, provavelmente terá mais sucesso falando sobre assuntos em que as mulheres entendem e gostam de conversar sobre.
Diria que seja uma ótima porta de entrada.
Já usei maquiagens como assunto em conversas com mulheres, dizendo tenho talento em fazer delineado e ficaram surpreendidas (positivamente).
Não vejo nada de gay nisso, eu geralmente reparo nas unhas, mas na maioria das vezes que acho bonitas eu não elogio, a mulher pode interpretar da forma errada.
Ter feito um elogio não quer dizer que eu estou flertando.