Tam adı, Fehametli Şerif Muhiddîn Bin Ali Haydar olan Şerif Muhiddîn Targan, 21 Ocak 1892 tatihinde İstanbul’da dünyâya geldi. Adının da gösterdiği gibi, soyağacı Hz. Muhammed’e kadar uzanmaktadır. Annesi Sabiha Hanım (?- 1961), babası Ali Haydar Paşa’dır (1865 – 1945).
3 – 4 yaşlarında müziğe ilgi duydu ve ilgisini, görgüsünü evlerinde düzenlenen toplantılara katılan Hacı Ârif Bey, Ali Rifat Çağatay (ud) ve Ahmet Irsoy‘dan (makam/usul) edindi. 13 yaşındayken, çok iyi ud çalmasıyla tanındı. Daha sonra viyolonsel ve armoni dersleri de aldı. 1908 – 1909 yıllarında girdiği Hukuk ve Edebiyat Fakültelerini bitirdi.
1. Dünyâ Savaşı çıkınca, babasının görevi nedeniyle Mekke’ye gitti. Savaş sonunda Osmanlı devleti dağılınca, Amerika’ya gitti. Burada kaldığı 8 yıl boyunca, çeşitli topluluklarda çaldı, konserler verdi ve beğeni topladı. Bu çalışmaları ve ses getiren konserleri yaparken rahatsızlandı.
1932 yılında Thyroid ameliyatı geçirdi. Doktorları kendisine, uzunca bir müddet için konser ve çalışmayı yasakladılar. Targan, bunun üzerine İstanbul’a dönmek zorunda kaldı. Yurda döndükten sonra İstanbul Belediye Konservatuvarı Bilim Kurulu Başkanlığına getirildi.
Safiye Ayla ile burada tanıştı ve aralarında 27 yaş olmasına rağmen, 1955 yılında evlendiler ve 17 yıl evli kaldılar. Şerif Muhiddîn Targan, 13 Eylül 1967 tarihinde İstanbul’da vefat etmiştir.