В гнездовое время встречается по всей Европейской России, кроме тундровой зоны и безлесных территорий сухих степей и полупустынь к северу от Кавказа. Селится преимущественно в смешанных и лиственных лесах, чаще в поймах рек и приручьевых лощинах. Зимой из северной тайги откочевывает, встречается начиная с подзоны средней тайги. Часть птиц, обитающих южнее, также кочуют во внегнездовой период, другие ведут оседлый образ жизни. Зимой малые дятлы не отдают отчетливого предпочтения определенным лесным биотопам, хотя в сосняках и ельниках встречаются несколько реже, чем в смешанных и лиственных лесах. Иногда присоединяются к синичьим стаям и перемещаются вместе с ними. Кормятся круглый год беспозвоночными; в отличие от других, более крупных дятлов обследуют и долбят кору не только на стволах больших деревьев, но и на тонких ветвях деревьев и кустарников. Могут расклевывать также сухие стебли бурьяна и влаголюбивого высокотравья, доставая зимующих внутри личинок.
Численность малых пестрых дятлов нигде не достигает высоких значений. В лесах плотность их населения увеличивается к югу и западу. Так, в среднем за весь период наблюдений в подзоне средней тайги на 1 кв. км приходилось около 0,2 особи, столько же в южной тайге Урала, на южно-таежной территории Восточно-Европейской равнины — 0,5–0,6. В сосновых и лиственных лесах южной части Урала плотность населения составляла в среднем 0,3–0,4 особи на 1 кв. км, в зоне хвойно-широколиственных лесов на Восточно-Европейской равнине — 0,7–0,8. Самые высокие показатели обилия в среднем по годам отмечены в зоне широколиственных лесов и лесостепи — 1-3 особи на 1 кв. км. Показатели плотности для отдельных лет и местообитаний бывали и больше — до 8-10 особей на 1 кв. км, однако статистическая достоверность таких значений может вызывать сомнения.
Тренд динамики численности в лесах Европейской части России в целом отрицательный. Снижение показателей обилия отмечено на 2/3 территорий многолетних учетов, расположенных преимущественно в центральных и восточных секторах мониторинга. На западе уровень в основном оставался стабильным. Можно отметить, что численность малых дятлов уменьшалась и до начала массового мониторинга. На нескольких территориях, по которым есть данные: в Подмосковье, Костромской области, Центрально-лесном заповеднике, окрестностях г. Казань самое заметное уменьшение обилия произошло между 1970-ми и концом 1980-х годов. Рост численности после 2000 года отмечен на отдельных участках в Подмосковье, где из-за поражения короедом-типографом в массе усыхали ельники.
В зимнее время малые пестрые дятлы часто держатся не только в лесах, но и в различных нелесных местообитаниях. В лугах и полях с перелесками, лесополосами и участками кустарниковых зарослей в зонах тайги и подтаежных лесов плотность их населения в среднем была такой же, как в лесных биотопах. В зонах широколиственных лесов, лесостепи и степи, где открытые пространства занимают основную часть территории, на 1 кв. км приходилось в среднем примерно вдвое меньше дятлов, чем в лесах. Нередко малые дятлы держатся и в населенных пунктах. В одноэтажных деревнях и поселках с обильной древесно-кустарниковой растительностью средние многолетние показатели плотности обычно в 1,5–2 раза меньше, чем в лесах, хотя местами уровень численности не уступал лесному. Вид отмечали и в больших городах — как в парках, так и среди зеленых насаждений на застроенных территориях.
Из-за недостатка данных учетов рассчитать тренды динамики численности для открытых пространств и населенных пунктов в целом по европейской части России не удается. Сравнивая показатели, усредненные по 10–12-летним отрезкам, можно заключить, что характер изменений для отдельных модельных территорий различен. В последние два десятилетия прекращено использование больших площадей сельскохозяйственных полей и лугов в лесной зоне; они зарастают кустарниками, бурьянной растительность и мелколесьем. Для малого пестрого дятла это улучшило условия обитания, тем не менее, увеличения его численности не произошло. Так, из семи территорий, для которых есть многолетние данные учетов на лугах и полях, на трех количество дятлов уменьшилось, на трех отмечен возможный рост численности и в одном случае показатели обилия не изменились. В сельских населенных пунктах и небольших городах количество малых пестрых дятлов в среднем не изменилось. В Москве в 1970–1990-х годах они регулярно отмечались в учетах в жилых кварталах, а после 2000 года практически исчезли.
По данным, собранным при подготовке «Атласа гнездящихся птиц Европейской России», в 2010–2018 годах на всей территории ЕР гнездилось около 530 тыс. пар, из них в лесной зоне — около 380 тыс. Примерно такая же численность — в среднем около 800 тыс. особей — получена для лесной зоны по данным 30-40 летней давности (Е.С. Равкин, Ю.С. Равкин, 2005). По результатам экстраполяции на основе данных зимних учетов, в лесах ЕР (без Кавказа) насчитывалось в 1987–2000 годах в среднем около 380 тыс. особей, в 2001–2011 г. около 330 тыс. и в 2012–2023 г. около 250 тыс. Учитывая, что малый пестрый дятел зимой держится не только в лесах, его зимнюю численность на территории мониторинга можно приблизительно оценить в 500–800 тыс. особей.
