Дмитриев родился в Ленинграде и в 18 лет дебютировал в основном составе "Зенита", в составе которого в 1984 году стал самым молодым чемпионом СССР. Через год Сергей впервые сыграл в национальной сборной страны и был кандидатом на поездку на чемпионат мира в Мексике, но игроку помешала нелепая травма. Тем не менее, в 1988-м Сергей Дмитриев стал вице-чемпионом Европы.
После "Зенита" футболист выступал за московское "Динамо" и ЦСКА, с которым стал чемпионом и обладателем Кубка страны, играл в испанской "Хересе", швейцарском "Сент-Галлене" и израильском "Хапоэле".
Вернувшись в Россию, снова играл за "Зенит", питерское "Динамо" и московский "Спартак", в составе которого в 1997 году в третий раз стал чемпионом страны. После завершения игровой карьеры Дмитриев работал тренером.
