Não sei o contexto disso. Talvez execução por hardware seja uma execução direto em código de maquina ou de baixo nível. Executa diretamente sobre as instalações do microprocessador/ processador.
E na execução por software é gerado em código de alto nível, é compilado/interpretado e depois é transformado em código de maquina ou código intermediário.
Mas não sei o contexto disso. Eu teria que ler os PDF pra entender.
No final das contas tudo é executado pelo hardware.