Shaikh Mahmud dilahirkan di sebuah kampung bernama Injir Faghna yang sekarang ini dinamakan dengan Fergena, iaitu satu daerah di Uzbeskistan yang berhampiran dengan Bukhara. Beliau adalah seorang pengganti selepas kewafatan gurunya Shaikh 'Arif untuk meneruskan dakwah membimbing masyarakat ke jalan Allah.
Beliau merupakan tokoh yang mendapat natijah untuk berdhikir secara jahar (secara lantang), yang pada kebiasaannya amalan dhikir itu dilakukan secara sirr (secara diam) pada zaman gurunya. Perbuatannya itu telah diakui gurunya. Dilaporkan amalan berdhikir secara jahar itu berterusan sehingga ke zaman Shaikh Amir Kulal.
Dilaporkan juga seorang lelaki yang pernah bertemu dengan Khidir a.s. bertanya kepadanya siapakah pada zaman itu yang paling istiqamah dalam menghayati syariat Allah SWT, Khidir menjawab dia ialah Shaikh Mahmud al-Injir Faghnawi. Hal tersebut menjadi Shaikh 'Ali al-Ramitani berguru dengan beliau kemudiannya. Pada suatu hari Shaikh Mahmud telah menziarahi seorang Khalifah akrab Shaikh Awliay' al-Khabir (iaitu Khalifah akrab Shaikh 'Abdul Khaliq Ghujdawani), bernama Shaikh Dahqan, yang sedang sakit tenat.
Setelah kepulangan beliau daripada ziarah tersebut, Shaikh Dahqan berdoa memohon daripada Allah mengurniakannya seorang wali berdoa untuknya ketika nazak. Tiba-tiba sahaja didapati Shaikh Mahmud sekali lagi datang menziarahinya dan menemaninya sehingga beliau wafat. Shaikh Mahmud wafat pada tahun 685H.