১৯০৩ সালে তিনি লাহোরে (বর্তমান পাকিস্তান) এক সঙ্গীতপ্রধান পরিবারে জন্মগ্রহণ করেন। তাঁর পিতা উস্তাদ আলি বখশ ছিলেন একজন বিশিষ্ট গায়ক এবং পাতিয়ালা ঘরানার ধারক। চার সন্তানের মধ্যে বড়ে গোলাম আলি ছিলেন জ্যেষ্ঠ। শৈশব থেকেই তিনি সংগীতময় পরিবেশে বেড়ে ওঠেন, যা তাঁর শিল্পীজীবনের ভিত্তি নির্মাণ করে। পিতার উৎসাহ ও অনুপ্রেরণা তাঁর সংগীতচর্চাকে গভীরভাবে প্রভাবিত করে।
প্রথম জীবনে তিনি সারেঙ্গী বাদক হিসেবে সংগীতচর্চা শুরু করেন। এই অভিজ্ঞতা তাঁর কণ্ঠসংগীতে বিশেষ প্রভাব ফেলে—বিশেষ করে মীড়, গমক এবং স্বরের সূক্ষ্ম বাঁক নেওয়ার ক্ষেত্রে। পরবর্তীতে তিনি কণ্ঠসংগীতে সম্পূর্ণভাবে মনোনিবেশ করেন এবং গুরু-শিষ্য পরম্পরায় কঠোর সাধনার মাধ্যমে নিজেকে গড়ে তোলেন। তিনি তাঁর পিতা আলি বখশ এবং চাচা (পিতার সহোদর) উস্তাদ কালে খাঁর কাছে তালিম গ্রহণ করেন, যিনি পাতিয়ালা ঘরানার অন্যতম প্রবর্তক। এছাড়াও তিনি অন্যান্য বিশিষ্ট গুরুর কাছ থেকেও শিক্ষা গ্রহণ করে নিজের গায়কি সমৃদ্ধ করেন।
বড়ে গোলাম আলি খাঁ বিশেষভাবে খেয়াল গায়নে পারদর্শী ছিলেন, তবে ঠুমরিতেও তিনি অসামান্য সাফল্য অর্জন করেন। তাঁর ঠুমরি গায়কিকে অনেকেই আদর্শ হিসেবে বিবেচনা করেন। তাঁর গানের একটি প্রধান বৈশিষ্ট্য ছিল সুরের মাধুর্য (melodic sweetness) এবং কণ্ঠের স্বাভাবিক প্রবাহ। তিনি তিনটি সপ্তক জুড়ে অত্যন্ত সাবলীলভাবে স্বর বিস্তার করতে পারতেন, যা তাঁর অসাধারণ কণ্ঠনিয়ন্ত্রণের প্রমাণ।
তাঁর তানের ধরন ছিল দ্রুত, নিখুঁত এবং বৈচিত্র্যময়—বিশেষ করে সপাট তান, কুট তান, ছুট তান এবং বোলতানের ব্যবহার তাঁকে অনন্য করে তোলে। দ্রুত লয়ে তানের এমন স্বচ্ছতা ও নিয়ন্ত্রণ খুব কম শিল্পীর মধ্যেই দেখা যায়। একই সঙ্গে তাঁর গানে ছিল গভীর আবেগ, যা শ্রোতাকে সহজেই আকৃষ্ট করত।
১৯৪০-এর দশক থেকে তিনি বিভিন্ন সংগীত সম্মেলন, অল ইন্ডিয়া রেডিও এবং গ্রামোফোন রেকর্ডের মাধ্যমে ব্যাপক পরিচিতি লাভ করেন। তাঁর গানের রেকর্ড দ্রুত জনপ্রিয় হয়ে ওঠে এবং তিনি সর্বভারতীয় খ্যাতি অর্জন করেন। দেশভাগের পর তিনি ভারতে চলে আসেন এবং এখানেই তাঁর সংগীতজীবনের পরবর্তী অধ্যায় গড়ে ওঠে।
তাঁর গানের একটি বিশেষ দিক ছিল—শাস্ত্রীয় কাঠামোর মধ্যে থেকেও সহজবোধ্যতা বজায় রাখা। ফলে তাঁর সংগীত একদিকে যেমন পণ্ডিতদের কাছে গ্রহণযোগ্য ছিল, তেমনি সাধারণ শ্রোতার কাছেও অত্যন্ত জনপ্রিয় হয়ে ওঠে। তিনি বহু সম্মান ও উপাধিতে ভূষিত হন এবং বিভিন্ন সংগীতমঞ্চে তাঁর পরিবেশনা শ্রোতাদের মুগ্ধ করে।
তাঁর পুত্র উস্তাদ মুনাব্বর আলি খাঁও একজন খ্যাতিমান গায়ক হিসেবে পরিচিত, যিনি পিতার সংগীতধারাকে এগিয়ে নিয়ে যান। এছাড়াও তাঁর গায়কি পরবর্তী প্রজন্মের বহু শিল্পীকে প্রভাবিত করেছে।
১৯৬৮ সালের ২৩ এপ্রিল এই মহান শিল্পীর জীবনাবসান ঘটে। কিন্তু তাঁর রেখে যাওয়া সংগীত আজও জীবন্ত। তাঁর রেকর্ডিং, গায়নশৈলী এবং নান্দনিকতা আজও সংগীতশিক্ষা ও চর্চার ক্ষেত্রে এক গুরুত্বপূর্ণ মানদণ্ড হিসেবে বিবেচিত হয়।
সব মিলিয়ে, ওস্তাদ বড়ে গোলাম আলি খাঁ ছিলেন এমন একজন শিল্পী, যিনি পাতিয়ালা ঘরানার গায়নশৈলীকে সর্বোচ্চ শিখরে পৌঁছে দিয়েছিলেন এবং হিন্দুস্থানি শাস্ত্রীয় সংগীতকে এক নতুন মাত্রা প্রদান করেছিলেন। তাঁর সংগীত আজও শ্রোতার মনে একইভাবে অনুরণিত হয়—মাধুর্য, শক্তি এবং নিখুঁত কারিগরির এক অপূর্ব সমন্বয় হিসেবে।