ईस्ट इंडिया कम्पनी के लिए सिविल सेवकों का नामांकन कम्पनी के निर्देशकों द्वारा किया जाता था और इसके पश्चात उन्हें लन्दन के हेलीबरी कॉलेज में प्रशिक्षित कर भारत भेजा जाता था । भारत मे, योग्यता आधारित आधुनिक सिविल सेवा की अवधारणा 1854 में ब्रिटिश संसद को प्रवर समिति की लॉर्ड मैकाले की रिपोर्ट के उपरांत साकार हुई । रिपोर्ट में यह संस्तुति की गई थी कि ईस्ट इंडिया कम्पनी की संरक्षण आधारित प्रणाली के स्थान पर प्रतियोगी परीक्षा के द्वारा प्रवेश के साथ योग्यता आधारित स्थायी सिविल सेवा प्रणाली लागू की जानी चाहिए । इसी उद्देश्य से, 1854 में लंदन में सिविल सेवा आयोग की स्थापना की गयी तथा प्रतिस्पर्धात्मक परीक्षाएं 1855 में शुरू की गई । प्रारम्भ में भारतीय सिविल सेवा के लिए परीक्षाओं का आयोजन सिर्फ लंदन में किया जाता था । जिसके लिए अधिकतम आयु 23 बर्ष तथा न्यूनतम आयु 18 बर्ष थी । पाठ्यक्रम का निर्धारण इस प्रकार किया जाता था कि उसमे सर्वाधिक अंक यूरोपियन कलासिकी के थे जिससे भारतीय उम्मीदवारों के लिए ये परीक्षाएं कठिन हो गई । तथापि, श्री रब्रिक्वदनाथ टैयोर के भाई श्री सत्येन्द्रनाथ टैगोर पहले भारतीय थे, जिन्होंने 1864 मे, सिविल सेवा परीक्षा में सफलता प्राप्त की । तीन बर्ष पश्चात 4 अन्य भारतीयों ने भी सफलता हासिल की। अगले 50 वषों तक, भारतीयों ने भारत में भी साथ-साथ परीक्षाएं आयोजित करने हेतु निवेदन किया परंतु उन्हें सफलता नहीं मिलीं क्योंकि ब्रिटिश सरकार नहीं चाहती थी कि ज्यादा भारतीय इन परीक्षाओं में सफलता हासिल करें तथा भारतीय सिविल सेवा में प्रवेश करें। केवल प्रथन विश्व युद्ध तथा मांटेग्यू चैम्सफोर्ड सुधारों के पश्चात ही इस पर सहमति बन सकी। 1922 से भारतीय सिविल सेवा परीक्षा का आयोजन भारत में भी होने लगा, सबसे पहले इलाहाबाद में तथा बाद में फेडरल लोक सेवा आयोग की 'स्थापना के साथ ही दिल्ली में भी इन परीक्षाओं का आयोजन आरम्भ हुआ। लंदन में हो रही परीक्षा का आयोजन सिविल सेवा आयोग ही कर रही था।

इसी तरह, स्वतंत्रतापूर्व भारतीय (शाही) पुलिस के उच्च पुलिस अधिकारिओं की नियुक्ति सेक्रेटरी ऑफ़ स्टेट द्वारा प्रतियोगिता-परीक्षा के माध्यम से की जाती थी । सेवा के लिए प्रथम खुलीं प्रतियोगिता का आयोजन जून 1893, में इंग्लैंड में हुआ तथा 10 श्रेष्ठतम उम्मीदवारों को परीवीक्षाधीन सहायक पुलिस प्रशिक्षक नियुक्त किया गया। शाही पुलिस में भारतीयों का प्रवेश 1920 के बाद ही आरम्भ हुआ तथा बाद के वषों में सेवा हेतु परीक्षाओं का आयोजन इंग्लैंड तथा भारत दोनों ही जगह होने लगा । इस्लिंगटन आयोग तथा ली आयोग की घोषणा तथा सिफारिशों के बावजूद पुलिस सेवा के भारतीयकरण की गति बहुत धीमी थी । 1931 तक, पुलिस अधीक्षकों के कुल पदों के 20%, पर ही भारतीय नियुक्त थे। तथापि, सुयोग्य यूरोपियन उम्मीदवारों की अनुपलब्धता के कारण 1939 के बाद से और अधिक भारतीयों को भारतीय पुलिस में नियुक्त किया गया । वन सेवा के सम्बन्ध मे, भारतीय ब्रिटिश सरकार ने 1864 में शाही वन विभाग की शुरुआत की तथा शाही वन विभाग के मामलों के सुयोजन हेतु, 1867 में शाही वन सेवा का गठन किया गया । 1867 से 1885 तक, शाही वन सेवा के लिए नियुक्त अधिकारियो को फ्रांस तथा जर्मनी में प्रशिक्षित किया गया । 1905 तक, उन्हें लदन के कूपर्स हिल में प्रशिक्षित किया गया । 1920 मे, यह निश्चय किया गया कि शाही वन सेवा के लिए आगामी भरती इंग्लैंड तथा भारत में सीधी भरती तथा भारत में प्रांतीय सेवा से पदोन्नति द्वारा की जाएगी । स्वतंत्रता के पश्चात, अखिल भारतीय सेवा अधिनियम 1951 के तहत 1966 में भारतीय वन सेवा की 'स्थापना की गयी ।

केन्द्रीय सिविल सेवाओं के सम्बन्ध मे, ब्रिटिश भारत में सिविल सेवाओं को कार्य की प्रकृति, वेतनमान तथा नियुक्ति प्राधिकारी के आधार पर अनुबंधित तथा अप्रतिश्रुत के रूप में वर्गीकृत किया गया था। 1887 मे, एटचिन्सन आयोग ने नए पैटन पर सेवाओं के पुनर्गठन की सिफारिश की तथा सेवाओं को शाही, प्रांतीय तथा अधीनस्थ- तीन वर्गो में बांटा। शाही सेवाओं के भरती तथा नियंत्रण प्राधिकारी 'सेक्रेटरी ऑफ़ स्टेट' थे। प्रारम्भ मे, दून सेवाओं हेतु ज्यादातर ब्रिटिश उम्मीदवार ही भरती किए जाते थे । प्रांतीय सेवाओँ के लिए नियुक्ति तथा नियंत्रण प्राधिकारी संबंधित प्रांतीय सरकार थी, जिसने भारत सरकार के अनुमोदन से इन सेवाओं के लिए नियम बनाये।

भारत के अधिनियम 1919, पारित होने के साथ ही भारत के सेक्रेटरी ऑफ़ स्टेट की अध्यक्षता में संचालित शाही सेवाएं दो भागो- अखिल भारतीय सेवाएं तथा केन्द्रीय सेवाएं में बंट गई। केन्द्रीय सेवाओं का सम्बन्ध केन्द्र सरकार के सीधे नियंत्रण वाले मामलों से था। केन्द्रीय सचिवालय के अतिरिक्त अन्य महत्वपूर्ण सेवाएं थीं- रेलवे सेवाएं, भारतीय डाक तथा तार सेवा तथा शाही सीमाशुल्क सेवा । इनमे से कुछ के लिए, सेक्रेटरी ऑफ़ स्टेट ही नियुक्तियां करते थे, परंतु ज्यादातर मामलों में इनके सदस्य भारत सरकार दवारा नियुक्त तथा नियंत्रित किए गए ।

भारत में लोक सेवा आयोग का उद्गम भारतीय संवैधानिक सुधारों पर भारत सरकार के 5 मार्च, 1919 की प्रथम विज्ञप्ति में पाया जाता है जिसमे एक ऐसे स्थाई कार्यालय की करने करने की आवश्यकता का उल्लेख किया गया था जिसे सेवा मामलों के विनियमन का कार्यभार सौंपा जा सके। मुख्यत: सेवा मामलों के विनियमन से प्रभारित निकाय की इस संकल्पना को, कुछ और अधिक व्यावहारिक रूप भारत सरकार अधिनियम, 1919 में मिला। अधिनियम की धारा 96(सी) में भारत में लोक सेवा आयोम की स्थापना की व्यवस्था है जो "भारत में लोक सेवाओं के लिए भरती तथा नियंत्रण संबंधी ऐसे प्रकार्यों को वहन करेगा जो उसे परिषद में सेक्रेटरी ऑफ़ स्टेट द्वारा निर्दिष्ट नियमावली के अंतर्गत सौंपे जायेंगे ।"

भारत सरकार अधिनियम, 1919 के पारित होने के बाद, 'स्थापित होने वाले निकाय के कार्यों तथा तन्त्र को लेकर विभिन्न स्तरों पर लम्बे समय तक पत्राचार होने के वावजूद निकाय की स्थापना को लेकर कोई निर्णय नहीं हुआ । बाद में यह बिषय क्षारत में उच्च सिविल सेवाओं पर बने रॉयल आयोग (जिसे ली आयोग भी कहते हैं) को भेज दिया गया । ली आयोम ने, 1924 में अपनी रिपोर्ट में यह सिफारिश की कि भारत सरकार अधिनियम, 1919 के अंतर्गत विचार किए गये सांविधिक लोक सेवा आयोग की स्थापना बिना किसी देरी से की जाए ।

भारत सरकार अधिनियम, 1919 की धारा 96(सी) के प्रावधानों तथा लोक सेवा आयोग की जल्द स्थापना को लेकर ली आयोग द्वारा 1924 में की गई जोरदार सिफारिशों के बाद भी भारत में पहली बार लोक सेवा आयोग की स्थापना 1 अकतूबंर, 1926 को की गई । इसमें अध्यक्ष के अतिरिक्त 4 सदस्य भी थे । यूनाइटेड किंगडम के गृह सिविल सेवा के एक सदस्य, सर रॉस बार्कर आयोग के प्रथम अध्यक्ष बने ।

भारत सरकार अधिनियम, 1919 में लोक सेवा आयोग के कार्यों का उल्लेख नही था, परंतु इसके कार्य भारत सरकार अधिनियम, 1919 की धारा 96(सी) की उपधारा (2) के अंतर्गत बनाई गई लोक सेवा आयोग (प्रकार्य) नियमावली, 1926 द्वारा विनियमित थे । इसके अतिरिक्त भारत सरकार अधिनियम, 1935 में फेडरेशन के लिए लोक सेवा आयोग तथा प्रत्येक प्रांत अधवा प्रांतों के समूहों के लिए प्रांतीय लोक सेवा आयोग पर विचार किया गया। अत:, भारत सरकार अधिनियम, 1935 के प्रावधानों के अनुसार 1 अप्रैल, 1937 से प्रभावी होने के साथ ही लोक सेवा आयोग, फेडरल लोक सेवा आयोग बन गया ।

26 जनवरी, 1950 को भारत के संविधान के प्रारंभन के साथ ही संविधान के अनुच्छेद 378 के खंड( 1) के आधार पर फेडरल लोक सेवा आयोग, संघ लोक सेवा आयोग के रूप में पहचाना जाने लगा तथा फेडरल लोक सेवा आयोग के अध्यक्ष तथा सदस्य संघ लोक सेवा आयोग के अध्यक्ष तथा सदस्य बन गये।