Urodził się w angielskim Salisbury, nad którym góruje słynna średniowieczna katedra. Studiował w Cambridge i kalifornijskim Stanford. Próbował pisać, pracując jednocześnie w branży wydawniczej. W końcu, w 1983 r., porzucił pracę, żeby osiąść w domu rodzinnym i poświęcić się pisaniu „Sarum”, powieści historycznej obejmującej okres dziesięciu tysięcy lat, rozgrywającej się w okolicy Stonehenge. Gdy książka ukazała się cztery lata później, od razu trafiła na listy światowych bestsellerów. Od tego czasu Rutherfurd napisał sześć poczytnych powieści, w tym „Russka”, „London” i „Paryż”.