以下を ~/.vimrc に記述

set backspace=2