В 1931 году Булгаков вновь начал работать над романом. В нем уже появились Маргарита и ее возлюбленный. Вторая редакция романа была закончена в 1936 году, имела подзаголовок «Фантастический роман». А из названий – снова множество вариантов: «Великий канцлер», «Сатана», «Вот и я», «Шляпа с пером», «Черный богослов», «Он появился», «Подкова иностранца», «Он явился», «Пришествие», «Черный маг» и «Копыто консультанта».
Судьба заглавного героя автобиографична: как и Булгаков, мастер сжигает свой роман о Понтии Пилате; возраст его («человек примерно лет тридцати восьми») совпадает с возрастом Михаила Афанасьевича в 1929 году, когда началась работа над романом; критику, обрушившуюся на мастера из-за романа о Пилате, Булгакову пришлось пережить в 20-ых годах, когда его произведения перестали печатать, пьесы снимались с репертуаров, а в советской прессе шли резкие и грубые отзывы на его творчество. По собственным подсчетам писателя, за 10 лет появилось 298 ругательных рецензий и 3 благожелательных.