১৯৭১ সালে সফিউল্লাহ ছিলেন জয়দেবপুরে দ্বিতীয় ইস্টবেঙ্গল রেজিমেন্টের দ্বিতীয় প্রধান। তার নেতৃত্বেই ওই রেজিমেন্টের বাঙালি সৈন্যরা বিদ্রোহ করে।
মুক্তিযুদ্ধের শুরুতে সফিউল্লাহ ছিলেন ৩ নম্বর সেক্টরের কমান্ডার। পরে তিনটি নিয়মিত আর্মি ব্রিগেড (ফোর্স নামে পরিচিত) গঠিত হলে ‘এস’ ফোর্সের নেতৃত্বে আসেন সফিউল্লাহ। মুক্তিযুদ্ধে বিশেষ অবদানের জন্য তিনি ‘বীর উত্তম’ খেতাব পান।

১৯৩৪ সালের ২ সেপ্টেম্বর নারায়ণগঞ্জের রূপগঞ্জে জন্ম নেওয়া কে এম সফিউল্লাহ দেশ স্বাধীন হওয়ার পর ১৯৭২ থেকে ১৯৭৫ সাল পর্যন্ত সেনাপ্রধানের দায়িত্ব পালন করেন। পরে মালয়েশিয়া, কানাডা, সুইডেন, ইংল্যান্ডসহ বিভিন্ন দেশে রাষ্ট্রদূত হিসেবে দায়িত্ব পালন করেন।
১৯৯১ সালে দেশে ফিরে এলে তাকে এক বছর ওএসডি করে রাখা হয়। পরের বছর তিনি স্বেচ্ছায় অবসরে যান।

১৯৯৫ সালে তিনি আওয়ামী লীগে যোগ দেন এবং ১৯৯৬ সালে নৌকা প্রতীকে নির্বাচন করে নারায়ণগঞ্জ-১ আসন থেকে সংসদ সদস্য নির্বাচিত হন।
একাত্তরের যুদ্ধাপরাধীদের বিচারের দাবিতে আন্দোলনকে বেগবান করতে মুক্তিযুদ্ধের জীবিত সেক্টর কমান্ডাদের নিয়ে ২০০৭ সালে সেক্টর কমান্ডার্স ফোরাম গঠিত হলে সফিউল্লাহ ছিলেন সংগঠনের সভাপতিমণ্ডলীর সদস্য। পরে তিনি এ সংগঠনের চেয়ারম্যানও হয়েছিলেন।

১৯৭৫ সালে একদল সেনাসদস্য যখন তৎকালীন রাষ্ট্রপতি শেখ মুজিবুর রহমান এবং তার পরিবারের অধিকাংশ সদস্যকে হত্যা করে, সফিউল্লাহ তখন সেনাপ্রধানের দায়িত্বে।
বঙ্গবন্ধুকে হত্যার পর খন্দকার মোশতাক আহমেদের নেতৃত্বে গঠিত সরকারের প্রতি তিনি আনুগত্যও প্রকাশ করেছিলেন। তবে কয়েক দিনের মধ্যে তাকে সেনাপ্রধানের পদ হারাতে হয়।
সফিউল্লাহ অবশ্য পরে বলছিলেন, তিনিসহ ওই সময়কার বিমানবাহিনী প্রধান ও নৌবাহিনী প্রধানকে ‘বাধ্য হয়ে’ মোশতাক সরকারের প্রতি সমর্থন দিতে হয়েছিল।
বঙ্গবন্ধু হত্যাকাণ্ড ঠেকাতে ব্যর্থতার জন্যও তখনকার সেনাপ্রধান সফিউল্লাহকে দায়ী করেন আওয়ামী লীগ নেতাদের অনেকে। এ বিষয়ে সফিউল্লাহ পরে এক সাক্ষাৎকারে বলেছিলেন, “এ রকম অবস্থায় সেনাপ্রধান কী করতে পারেন?