بعد الاعتزال فى 1985 عمل بالتدريب وشغل  منصب مدير الكرة والمدرب العام للفريق الأول بناديه الزمالك في فترات متعددة.

وعمل ضمن الجهاز الفني لمحمود الجوهري، ليستمر داخل النادي لثمانى سنوات حتى عام 1999 حقق فيها دوري أبطال إفريقيا كمدرب.

عمل عبد الرحيم محمد مدربا في الزمالك رفقة هنري ميشيل في 2009، وأحمد حسام “ميدو” في 2014.

استقال  من منصبه في تدريب الزمالك، لكن الأمر لم يعجب مرتضى منصور رئيس النادي، فشن هجوما لازعا عليه.

فحاول مرتضى التأثير على الأندية التي يعمل بها لإقالته. يروي عبد الرحيم “مرتضى منصور يتصل بكل ناد أقوده ليهددهم ويطلب إقالتي من منصبي”.

حين كنت مدربا لنادي المنصورة، اتصل بمحمد صابر رئيس النادي المؤقت وهددهم بأنه لن يدفع مبلغ 150 ألف جنيه باقي مستحقاتهم عن صفقة انضمام أحمد توفيق للزمالك إلا إذا أقالوني، وأنه في المقابل سيتكفل بجلب مدرب جديد لهم يساهم في راتبه”.

الرجل رفض هذا الكلام بكل تأكيد وقال له أنه لا يريد باقي مستحقات النادي عن توفيق إن كان هذا هو شرطه”.

حين كنت مدربا لنادي الترسانة اتصل أيضا بأحمد جبر رئيس النادي وطلب إقالتي، لكنهم تمسكوا بي وكنت متصدرا للدوري في هذا التوقيت”.

والآن قبل التعاقد مع نادي المريخ البورسعيدي أخبرتهم بما سيحدث مسبقا وأكدوا أنهم لن يسمحوا لأحد بالتدخل في شئونهم

أنت لست ربنا يا مرتضى كي تتدخل في أرزاق الناس، أنت تهين نادي الزمالك والجميع حاليا يستهزئون بنا”.

عمل عبد الرحيم محمد مدربا في قطاع ناشئين الزمالك لفترات طويلة. أخرج ميدو وجمال حمزة للفريق الأول، لكنه لم يستكبر على خدمة النادي يوما، حتى لو كان ذلك كمدرب عام في جهاز يقوده ميدو الذي كان لاعبا تحت يديه في قطاع الناشئين.

يقول ميدو بعد وفاة عبد الرحيم محمد “الكابتن عبد الرحيم محمد كان رمزا للإخلاص والرجولة، عمل في جهاز كابتن الجوهري في أول التسعينيات. فاز ببطولة إفريقيا والسوبر الإفريقي وكان محبا مخلصا للزمالك يعمل بدون مقابل في النادي، عبد الرحيم محمد واحد من المخلصين الذين لن يعوضوا أبدا

“في بداية حياتي التدريبية ورغم أنه كان مدربي وأنا عمري ١٣ عاما طلبت منه أن يكون مساعدي، فوافق على الفور وقال لي سأفعل كل شيء لأساعدك كي تكون مدربا من أجل الزمالك رغم أنه يكبرني بأكثر من ٣٠ عاما إلا أنه لم يبخل علي من خبرته وعلمه حبا في وفِي الزمالك”

بعد الإخلاص لزوجته التي اعتزل لأجلها، وللزمالك الذي خاض المعارك من أجله وقبل العمل في كافة مناصبه، كان عبد الرحيم محمد مخلصا لمصر أيضا لأنها فطرته.

توفى عبد الرحيم محمد مساء الـ25 من يونيو لعام 2018. لم يتحمل الرجل مرارة الهدف الثاني للسعودية في مرمى مصر بالوقت القاتل والخروج من نهائيات كأس العالم خاليين الوفاض، فتعرض لأزمة قلبية عقب الهدف الثاني وأثناء استعداده لتحليل اللقاء عبر إذاعة الشباب والرياضة، لينتقل إلى المستشفى وقد فارق الحياة.