Природное место обитания сизых голубей — скалы, и в диких условиях они устраивают гнездо в труднодоступных для хищников каменистых расщелинах либо пещерах. Синантропные популяции, приспособившиеся для жизни в населённых пунктах, выбирают для постройки гнезда места, напоминающие им естественные ландшафты — карнизы и пустоты под крышами, непосещаемые чердаки, балки под мостами и другие похожие строения. Предпочтение отдаётся закрытым пространствам. Несмотря на то, что гнездятся эти птицы рядом с людьми, обнаружить это гнездо бывает часто нелегко. Само гнездо достаточно примитивное и представляет собой небольшую кучу из тонких веточек и травинок с небольшим углублением. Во время строительства обязанности родителей строго распределены — самец занимается добычей материала, в то время как голубка укладывает его на место. Часто одно и то же гнездо используется несколько раз подряд, с каждым разом увеличиваясь в размерах.

В течение года бывает до 7—8-и кладок, каждая из которых обычно состоит из 2-х (реже одного) яиц, откладываемых с интервалом в двое суток. Яйца белые, с гладкой и слегка блестящей скорлупой, размером от 35 × 25 до 43 × 32 мм. Насиживают оба родителя по очереди, однако большую часть времени проводит в гнезде самка. Самец, как правило, сидит в середине дня, ожидая возращения с водопоя самку. Если голубка долго не возращается, отец нетерпеливо воркует, подзывая её.Слепые, с редким желтоватым пухом птенцы появляются асинхронно через 16-19 дней. Первые дни оба родителя кормят птенцов отрыжкой из зоба так называемым «голубиным молочком» — питательной смесью, вырабатываемой в зобе птиц (особенность, характерная для всех видов голубей) . Смесь имеет высокий процент жирности и богата белками, однако имеет малое количество углеводов. По мере роста в пищу добавляются семена растений — вначале как добавка к молоку, а затем и в твёрдом виде. Иногда, ещё в период кормления птенцов, самка приступает к насиживанию последующей кладки, в то время как самец продолжает ухаживать за потомством. Птенцы начинают летать примерно через 35-37 дней, и уже в этом возрасте похожи на своих родителей. Половая зрелость наступает через 5-7 месяцев жизни, причём самки приступают к размножению несколько раньше самцов.
