Normalmente distritos federais são definidos no entorno de capitais, na maioria das vezes são unidades separadas dos estados/províncias (como no exemplo do distrito do capitólio de Washington D.C, que foi feito pra não dar treta entre os estados de Massachussets e outro que esqueci o nome), no caso são unidades federativas separadas com administração própria... Já no caso da Rússia: vodka camarada!
Como o nome já diz, é uma coisa de federações. Nas federações, os estados (ou províncias) têm (ou deveriam ter) uma certa autonomia. Então, pra evitar injustiças, o território do distrito federal é da própria federação, e não de um do estado onde ele estaria se não houvesse o distrito. O estado federativo possuir uma capital, em alguns casos, dá algumas vantagens a esse estado ou, em outros casos, desvantagens, dependendo do contexto político do país. Manter a capital neutra evita esse problema.
Países não federativos não têm esse problema também, porque as províncias não têm essa independência.