Ficaria um tanto quanto estranho viaGar. Seria melhor questionar "Porque viaGem com 'G' e não com 'J' (viajem)?"
Na verdade existe as duas palavras "viaGem" e "viaJem."
No primeiro caso, trata - se de um substantivo, como na frase
Ela tem uma viaGem planejada para as férias.
Já viaJem é utilizada quando for indicar a 3ª pessoa do plural no subjuntivo e imperativo, ou seja, quando for flexão do verbo viajar.
Por exemplo:
Viajem vocês, irei amanhã.
Espero que viajem em paz.