Países Baixos é o nome do país, Holanda é o nome da província. Há várias províncias dentro dos Paises Baixos. É como dizer que o sudeste do Brasil representa o Brasil inteiro, mas também há outras regiões como norte e o sul brasileiro.
Como Amsterdã faz parte da província da Holanda(lembrando que existem Holanda do sul e Holanda do norte), essa sendo mais rica, populosa e influente dos países baixos, acabamos associando os países baixos a Holanda, mas está errado definir a Holanda como um país.