Шаров дебютировал как поэт в журнале "Новый мир" в 1979 году. А первый роман "След в след: Хроника одного рода в мыслях, комментариях и основных датах" был опубликован много позже в журнале "Урал" в 1991 году.
Из-за публикации еще одного романа Шарова - "До и во время" в журнале "Новый мир" - разразился скандал. Отмечается, что члены редколлегии журнала не согласились с философией и поэтикой прозы Шарова, после чего он начал преимущественно печатался в журнале "Знамя".
В своих книгах писатель размышлял над концепцией "подпольной" русской религиозности в годы существования Советского Союза. Он сравнивал большевизм с православием, что принесло ему репутацию "мастера интеллектуальной провокации".