Ortaçağ Avrupası'nda, feodal düzenin ortak özelliklerinin değişmesinden sonra gittikçe güçlenen merkezi idareler, geniş halk kitlelerine hükmetmeye başladı. Mahalli idarecilerin ve kilisenin hükümranlık yetkileri kısıldı. Devlet idaresine tamamen merkeziyetçilik hakim olup, güçlü bir devlet otoritesi ortaya çıktı. Bunun yanında halkın mahalli problemlerinin tespiti için, bölge temsilci meclisleri veya bölge temsilcileri teşkil edildi.

Osmanlı Devleti'nde de sancak beylerine, valilere ve kadılara geniş yetkiler verildi. Kadılar, ilmiye sistemine göre tayinle gelen mahalli idarecilerdi. Kadıların veya yardımcı personelin, yöre halkı tarafından seçilmesi veya denetlenmesi söz konusu değildi. Ancak ekonomik işlerde, kolluk görevinin yerine getirilmesinde, mali işlemlerin yürütülmesinde kadılar, halkın ve esnafın temsilcisi sayılan kimselere başvurduğu takdirde, bunlar, kendilerine yardımcı olurlardı. Tanzimat devrine kadar, geniş manâda adem-i merkeziyet prensibine uyulmamakla beraber, mahalli idarecilere geniş yetkiler verilmesi, Osmanlı Devletinde tamamen merkeziyetçi bir idarenin söz konusu olmadığını ortaya koymaktadır.

Tanzimat döneminde her sahada olduğu gibi, devletin idari yapısında da bazı değişiklikler yapılmasına ihtiyaç duyuldu. Tanzimat Fermanı'yla, gayrimüslim vatandaşlara Müslümanlardan daha geniş haklar verildi. Osmanlı Devletinin parçalanmasını ve yıkılmasını isteyen Avrupa devletlerinin destek ve teşvikiyle, gayrimüslim vatandaşlar, mahalli idarelerde söz sahibi olmak istediler. Onların istekleri doğrultusunda, bazı mahalli muhassıllık meclisleri kuruldu. Fakat kısa bir müddet içinde, bu uygulamadan vazgeçildi. Batılı devletler, Tanzimat ve Islahat fermanlarında gayrimüslimler için vaad edilen reformların uygulanması ve merkeziyetçi sistemin terk edilmesi konusunda, Babıali’ye yani Osmanlı hükümetine baskılarını arttırdılar. Batılı devletlerin baskılarıyla hazırlanan 9 Haziran 1861 tarihli Lübnan Nizamnamesi, adem-i merkeziyetçiliğe doğru gidişin ilk müşahhas örneği oldu. Dini ve etnik çatışmaların hüküm sürdüğü Lübnan’da, cemaatlerin, yönetime eşit ağırlıkta katılmaları sağlandı.

Bu doğrultuda, bütün Osmanlı İmparatorluğunu içine alacak idari yapının yeniden düzenlenmesi hususunda, iki farklı görüş ortaya çıktı. Bir kısmı, sınırları genişletilmiş vilayet ve livalara mali ve idari yetkiler verilmesini savunurken, bir kısmı, adem-i merkeziyet prensibini Osmanlı tebaasının bölünmüş olması dolayısıyla mahzurlu buldular. Bu tartışmalar sonunda hazırlanan 1864 tarihli Vilayet Nizamnamesi, Fransız department sistemini andıran bir hüviyete sahipti. Merkeziyetçiliği ve adem-i merkeziyetçiliği bir denge içinde uygulamayı hedef alan 1864 nizamnamesi, 22 Ocak 1871 tarihli İdare-i Umumiye-i Vilayat Nizamnamesi'nde, merkeziyetçiliğin ağır basması yönünde değiştirildi. Nizamname hükümlerine göre, vilayet sancaklara, sancaklar kazalara, kazalar da karyelere (köylere) ayrılıyordu. Vilayet merkezinde valinin başkanlığında toplanan bir vilayet idare meclisi, kazalarda da kaza idare meclisi vardı. Hakim, mektupçu, defterdar, hariciye memuru, müftü ve gayrimüslim ruhani reis, meclislerin tabii üyeleriydi. Ayrıca meclislerde halkın seçtiği iki Müslüman, iki gayrimüslim, dört üye daha vardı.

Bazı vilayetlerde Avrupa devletlerinin destek ve müdahalesiyle, yarı bağımsız bir statü uygulandı. Umumi vilayet sisteminin dışında kalan Yemen, Hicaz ve Mısır gibi yerler, mahalli hanedanlar tarafından idare edildi. Osmanlı merkezi idaresi, burada sadece asayişi temin etmekle meşgul oldu.

Avrupa devletlerinin, Osmanlı Devletini parçalamak ve yıkmak emeline dayanan, gayrimüslim unsurları tahrik ve teşvik ederek ve Osmanlı hükümetine baskı yaparak kurdukları adem-i merkeziyetçi idareler, kısa zamanda merkezi devlet otoritesini zayıflattı. Bu sebeple, merkeziyetçi idareye yönelik bazı reformcu uygulamalara gidildi. Birinci Meşrutiyet'ten sonra, Osmanlı ülkesinin parçalanmasını önlemek isteyen Sultan İkinci Abdülhamid Han, daha çok, merkeziyetçi bir idare tarzını uygulamaya çalıştı. Onun, devlet ve milletin faydasına olarak aldığı kararlara karşı çıkan bazı kimseler, Avrupa’ya kaçarak, adem-i merkeziyetçi bir idare tarzını hararetle savundular. Avrupa devletlerinden destek gören bu kimseler, çıkardıkları gazeteler ve dergilerle Osmanlı Devletinin aleyhinde bulundular. Bunlardan birisi de, Damad Mahmud Celaleddin Paşanın oğlu Prens Sabahattin’dir. Fransız yazarı Edmond Domolins’in fikirlerinden etkilenen Prens Sabahattin, Jön Türkler hareketinin önde gelenlerinden oldu. 1902 Paris Kongresinde, Jön Türkler ikiye ayrıldılar. Bir kısmı Ahmed Rıza’nın, bir kısmı ise Prens Sabahattin’in etrafında toplandılar. Teşebbüs-i Şahsi ve Adem-i Merkeziyet Cemiyeti adıyla bir cemiyet kurdular. Avrupa devletlerinin teşvik ve destekleriyle, Doğu Anadolu’da bağımsız bir Ermenistan Devletiyle, yine o devirde Osmanlı Devletinin hakimiyeti altında bulunan İşkodra, Yanya ve Kosova gibi vilayetlerden meydana gelen müstakil bir Arnavutluk Devletinin kurulmasını ve çeşitli unsurlara muhtariyet ve bağımsızlık verilmesini savundular. 23 Temmuz 1908’de Meşrutiyet'in ilanından sonra yurda dönen Prens Sabahattin ve arkadaşları, çeşitli gazetelerde, adem-i merkeziyet ve teşebbüs-i şahsi fikirlerini neşrettiler ve kendilerine taraftar topladılar. Prens Sabahattin’in adem-i merkeziyetçi görüşlerini benimseyen gençler, Nesl-i Cedid Kulübünü kurdular. Daha sonra İttihat ve Terakki Fırkasına muhalif olarak kurulan çeşitli unsurları bünyesinde toplayan Hürriyet ve İtilaf Fırkası da, Prens Sabahattin’in adem-i merkeziyet ve teşebbüs-i şahsi fikirlerini savundu.

Prens Sabahattin’in savunduğu adem-i merkeziyet prensibine göre; “Her şeyi devletten bekleyen Osmanlı toplumunun gelişebilmesi için, ferdiyetçi bir yapıya geçmesi gereklidir. Adem-i merkeziyetçilik, ferdiyetçi yapıya geçilirken, devlet düzeninin yenilenmesinde temel ilke olacaktır. Yeni yetişecek burjuva sınıfının teşebbüsçülüğünü engellemeyecek bir idare biçimi, ancak İngiliz ve Amerikan örneğine uygun bir adem-i merkeziyet modeli olabilir. Buna göre yapılacak ıslahatla, bütün tebaayı içine alan bir adem-i merkeziyet uygulanmalıdır. Seçimle gelecek belediye meclisi üyeleri, mahalli idarede söz sahibi olmalıdır. Vilayet meclislerinde, azınlıklar, nüfusları oranında temsil edilmeli, Osmanlı tebaası arasında imtiyazlı hiçbir grup bulunmamalıdır. Jandarma teşkilatında her azınlık, nüfusu oranında yer almalıdır. Yalnız vali, mutasarrıf, defterdar ve mahkeme reisleri, merkezi idare tarafından tayin edilmelidir.”

Prens Sabahattin’e göre; “Bir toplumun, bir devletin temelini fertler teşkil eder. Toplumu kuran, ona varlık bütünlüğü ve yaşama gücü kazandıran fert olduğu için, sosyolojinin, işe, fertleri ele alarak başlaması gerekir. Fert, toplum için değil; toplum, fert içindir.

Devletin idare biçiminin değiştirilmesiyle, yenileşme ve reform olmaz. Reform, ancak fert hayatının gelişimini durduran, özel teşebbüsü önleyen kurumların değiştirilmesi, yenilerinin kurulmasıyla olur. Türkiye’de yapılması gereken en önemli yenilik, eğitim ve öğretim düzeninde olmalıdır.”

Osmanlı Devletindeki geleneksel teşkilatlanmayı, çağdaş gelişmeye ayak uyduramamanın sebebi olarak gören ve eskiye ait değerleri inkâra yönelen Prens Sabahattin’in ilk bakışta parlak görünen adem-i merkeziyetçi fikirlerinin bazılarının uygulanması bile, Osmanlı Devletinin parçalanmasına ve yıkılmasına sebep olmuştur.

Cumhuriyet döneminde, 1921 Anayasasının 11-14. maddeleri, vilayetlere muhtariyet ve manevi şahsiyet (tüzel kişilik) bağışladı. Vilayet şuralarına da, mahalli konularda yetkiler verdi. Vali, TBMM’nin temsilcisi olarak, devletin işlerini görecekti. 1924 Anayasasında bu hükümlere ve benzerlerine yer verilmedi. Mahalli idarelerle ilgili düzenlemeler ise, büyük ölçüde, iktidara gelen siyasi partilerin tutumuna bağlı kaldı.