Подробная статья о том, как весь этот процесс обустраивается: http://ilab.me/howto/bash-tar-vps-backup/

Я обычно делал гораздо проще (бекап по списку, который берётся из файла), без инкрементальных заморочек: http://baadoo.livejournal.com/25398.html.

Но только потому, что архивы были невелики и усложнять себе жизнь не было мотивов.