ولد الشاعر محمد مهدي الجواهري في النجف في السادس والعشرين من تموز عام 1899م "تختلف الروايات في ذلك" ، والنجف مركز ديني وأدبي ، وللشعر فيها أسواق تتمثل في مجالسها ومحافلها ، وكان أبوه عبد الحسين عالماً من علماء النجف ، أراد لابنه الذي بدت عليه ميزات الذكاء والمقدرة على الحفظ أن يكون عالماً، لذلك ألبسه عباءة العلماء وعمامتهم وهو في سن العاشرة.
تحدّر من أسرة نجفية محافظة عريقة في العلم والأدب والشعر تُعرف بآل الجواهر ، نسبة إلى أحد أجداد الأسرة والذي يدعى الشيخ محمد حسن صاحب الجواهر ، والذي ألّف كتاباً في الفقه واسم الكتاب "جواهر الكلام في شرح شرائع الإسلام " . وكان لهذه الأسرة ، كما لباقي الأسر الكبيرة في النجف مجلس عامر بالأدب والأدباء يرتاده كبار الشخصيات الأدبية والعلمية .