Antalya’nın Elmalı ilçesinde doğdu. Babası Nûman Efendi Şer’iyye Mahkemesinin başkâtibi, annesi Fatma Hanım Sarlarlı Mehmed Efendinin kızıdır. İlk ve orta öğreniminin yanı sıra hâfızlığını Elmalı’da tamamlayan Muhammed Hamdi, tahsiline devam etmek için İstanbul’a gitti ve Küçük Ayasofya Medresesine yerleşti. Bayezid Camiindeki derslere devam ettiği Kayserili Mahmud Hamdi Efendiden icâzet aldı. Bundan sonra hocası Büyük Hamdi, kendisi de Küçük Hamdi diye anılmaya başlandı; yazılarında da bu imzayı kullandı. Soyadı kanunu çıkınca babasının köyünün ismini (Yazır) soyadı olarak aldıysa da daha çok doğum yerine nisbetle Elmalılı ünvanıyla meşhur oldu.
Duada ki Yakarışı
İlâhî, hamdini sözüme sertaç ettim, zikrini kalbime miraç ettim. Kitabını kendime kılavuz edindim. Şaşırtma beni, doğruyu söylet, neşeni duyur, hakikati öğret. Sen duyurmazsan, ben duyamam. Sen söyletmezsen, ben söyleyemem. Sen sevdirmezsen, ben sevdiremem. Sevdir bize hep sevdiklerini, yerdir bize hep yerdiklerini, Yâr et bize erdirdiklerini. Salat ve selâmlar, tahiyyat ve ikramlar, her türlü saygılar, asfîyanın başı, son Peygambere, O’nun mübarek nesline, dostlarına ve O’na tâbi olanlara olsun Ya Rab!