1882 yılında İstanbul – Vefa’da dünyâya gelen Şemseddîn Ziya Bey, Mahmud Celaleddin Paşa‘nın oğludur. Babasını ısrarı ile keman çalarak mûsiki çalışmalarına başladı. Bir süre uğraşmasına rağmen başarı elde edemedi.
Fatma İsmet Hanım’la evlendikten sonra, bu eşinin teşviki ile Tanburi Cemil Bey‘den tanbur ve kemençe dersleri aldı ve bestekârlık denemeleri yaptı. Eserlerini notaya, müzisyen olan ikinci eşi Fatma İsmet Hanım alırdı.
Sanatkâr kişiliğinin gelişmesinde, babasının bir akademi niteliğindeki konağına devam eden sanat ve edebiyat adamlarının büyük etkisi olmuştur. Babasının ölümünden sonra mûsiki çalışmalarını yoğunlaştırıldı.
Yakışıklı, kültürlü, terbiyeli, sanatkâr ruhlu ve biraz içe dönük yaratılışlı bir kimse olan sanatkâr, aynı zamanda şairdi. Eserlerinin çoğunun sözlerini de kendisi yazmıştır. Az yaşadı, az eser verdi. “Bir bestekâr olarak Rahmi Bey, Lemi Atlı‘yı andıran, hatırlatan taraflarıyla; ağır, hafif, güzel ve içli şarkılar besteledi.
Eserleri, ölümünden sonra zevcesi İsmet Hanım tarafından bir araya getirilerek bastırılmıştır. En olgun döneminde, Türk müziğinin tüm sazlarını çalacak düzeye erişmiş olmakla birlikte, saz ustalığından çok besteciliğiyle ünlenmiştir. Şemseddîn Ziya Bey’in eserlerine neşeden çok hüzün egemendir.