रम्ज़ का असल नाम रज़ा अली ख़ाँ था। पटना सिटी के मुहल्ला सोनार टोली में पैदा हुए। घर पर ही आरम्भिक शिक्षा हुई, विधिवत शिक्षा जारी रखने का मौक़ा नहीं मिला। बहुत छोटी उम्र में ही आर्थिक समस्याओं में फंस गये।
रम्ज़ की गिनती अज़ीमाबाद के प्रमुख शायरों में होती है। रम्ज़ ने एक बहुत दबी कुचली और शोषित ज़िंदगी गुज़ारी, उन्होंने मज़दूरी की, रिक्शा चलाया और जीने के लिए हर तरह का काम किया। आख़िर में पी.डब्लू.डी में एक साधारण सी नौकरी की। रम्ज़ की शायरी जीने की उन रूपों में हासिल होने वाले अनुभवों व एहसासात का एक दुखदायी वर्णन है। उन्होंने अपनी ग़ज़लों और नज़्मों में समाज में हर तरफ़ फैले हुए शोषण के विभिन्न रूपों को बे-नक़ाब किया है। रम्ज़ को मज़दूर शायर भी कहा जाता है।
रम्ज़ ने 1949 के आस पास शायरी शुरू की। उनका पहला संग्रह ‘नग़मा-ए-संग’ 1988 में प्रकाशित हुआ। दूसरा संग्रह ‘शाख़-ए-ज़ैतून’, 1998 में। रम्ज़ की ग़ज़लों के साथ उनकी नज़्में बहुत महत्वपूर्ण हैं। रम्ज़ का देहांत 15 जनवरी 1998 को हुआ।