Formatar seria reinstalar a ROM/ o sistema operacional no seu celular. Pode ser uma ROM

customizada, por exemplo.

Um exemplo, você baixa o Android 9.0 da internet e instala ele no seu aparelho, seja pelo PC ou pela própria BIOS do celular. Este é um processo mais arriscado e demanda conhecimento.

Restaurar/Resetar é quando você apenas exclui todas as configurações e programas que foram adicionados posteriormente, fazendo com que o sistema volte a ser "limpo" como era quando ele foi instalado pela fábrica, resolvendo assim praticamente todos os problemas do seu smartphone.

Uma vez meu celular pirou e nem resentando voltava ao normal, tive que entrar no site da fabricante, baixar a ROM novamente, e reinstalar o SO via PC, foi bem tenso porque era a minha primeira vez.

Tem muita gente que usa o termo "formatar" como se fosse resetar, mas está errado, não são a mesma coisa.