এম. শামসুল আরেফিন ১৯৯৪ সালে ইস্টার্ন ব্যাংকে প্রবেশনারী অফিসার হিসেবে ব্যাংকিং ক্যারিয়ার এর সূচনা করেন। পরবর্তীতে তিনি ওয়ান ব্যাংক, শাহ্জালাল ইসলামী ব্যাংক, যমুনা ব্যাংক এবং প্রিমিয়ার ব্যাংক এ কাজ করেছেন। সুদীর্ঘ দুই দশকের অধিক সময় ব্যাংকিং পেশায় তিনি প্রিন্সিপাল শাখাসহ বিভিন্ন শাখার ব্যবস্থাপক এবং প্রধান কার্যালয়ের বিভিন্ন বিভাগীয় প্রধানের দায়িত্ব পালন করেন।
তিনি ভারতের আলীগড় মুসলিম বিশ্ববিদ্যালয় থেকে বাণিজ্য বিভাগে ১ম শ্রেণীসহ স্নাতক (সম্মান) এবং ঢাকা বিশ্ববিদ্যালয় থেকে ১ম শ্রেণীসহ মাস্টার্স (ফিন্যান্স) ডিগ্রী অর্জন করেন। পরবর্তীতে তিনি নর্থ সাউথ বিশ্ববিদ্যালয় থেকে এমবিএ (ফিন্যান্স) ডিগ্রী অর্জন করেন।