秦始皇三十三年（前214年）在境內(nèi)置榆中縣，屬隴西郡。西漢始元元年（公元前86年）在今蘭州始置金城縣，屬天水郡。始元六年（公元前81年）置金城郡。金城，取“金城湯池”之意；一說，因初次在這里筑城時挖出金子，故取名金城。東漢建武十二年（公元36年）并金城郡于隴西郡。永初四年（110年），金城郡治由允吾遷至襄武（今隴西縣），十二年后遷回允吾。東漢末年，分金城郡新置西平郡，金城郡治由允吾遷至榆中（今榆中縣城西）。

前涼永安元年（314年），分金城郡所屬的枝陽、令居二縣，與新立的永登縣（在今蘭州市紅古區(qū)窯街附近）三縣合置廣武郡，同年金城郡治由榆中遷至金城，從此金城郡治與縣治同駐一城。隋開皇三年（583年）改金城郡為蘭州，置總管府。因城南有皋蘭山，故名蘭州。大業(yè)三年（607年）改子城縣為金城縣，復(fù)改蘭州為金城郡，領(lǐng)金城、狄道二縣，郡治金城。

唐武德二年（619年）復(fù)置蘭州。八年置都督府。顯慶元年（656年）又改為州。天寶元年（742年）復(fù)改為金城郡。乾元二年（759年）改為蘭州，州治五泉，管轄五泉，廣武二縣。寶應(yīng)元年（762年）蘭州被吐蕃所占，大中二年（848年）蘭州又歸唐屬。不久就被黨項族占據(jù)。

清初依明建制，蘭州隸屬臨洮府，衛(wèi)屬陜西都指揮使司。順治十三年（1656年）裁衛(wèi)歸州?？滴醵辏?663年）復(fù)設(shè)蘭州衛(wèi)?？滴跷迥辏?666年）陜甘分治，設(shè)甘肅行省，省會由鞏昌（今隴西）遷至蘭州。乾隆三年（1738年），臨洮府治由狄道移至蘭州，改稱蘭州府，又改州為皋蘭縣。當(dāng)時蘭州府轄管狄道、河州二州；皋蘭、金縣、渭源、靖遠(yuǎn)四縣。乾隆二十九年（1764年）陜甘總督衙門自西安移駐蘭州，裁減甘肅巡撫。

1913年，廢府（州）設(shè)道，并蘭山、鞏昌二府為蘭山道（1927年改為蘭山區(qū)），轄管皋蘭、紅水、榆中、狄道、導(dǎo)河、寧定、洮沙、靖遠(yuǎn)、渭源、定西、臨潭、隴西、岷縣、會寧、漳縣等十五縣，道尹駐省會皋蘭縣。1936年，劃甘肅省為七個行政督察專員公署，皋蘭、榆中屬第一行政督察區(qū)（專署駐岷縣）。

1941年7月1日，將皋蘭縣城及近郊劃出設(shè)立蘭州市，與皋蘭縣同治今蘭州城關(guān)區(qū)。市區(qū)面積16平方千米，人口17.2萬余人。1944年市區(qū)擴(kuò)大，東至陽洼山，西至土門墩（不含馬灘），南到石咀子、八里窯、皋蘭山頂，北至鹽場堡、十里店，面積達(dá)146平方千米。

1949年8月26日解放。轄皋蘭縣。1950至1970年轄區(qū)范圍多次調(diào)整。1985年又將白銀區(qū)及皋蘭縣之3個鄉(xiāng)劃歸白銀市后成今市區(qū)轄境。全市現(xiàn)轄城關(guān)、七里河、安寧、西固、紅古五個區(qū)和榆中、皋蘭、永登三個縣。

2000年第五次人口普查，蘭州市常住總?cè)丝?142523人，其中，城關(guān)區(qū)936888人、七里河區(qū)478457人、西固區(qū)336029人、安寧區(qū)195704人、紅古區(qū)140681人、永登縣478039人、皋蘭縣161212人、榆中縣415513人。

2005年11月28日，蘭州市民政局《關(guān)于全市行政區(qū)劃設(shè)置及管轄區(qū)域的通報》：近三年來，蘭州市鄉(xiāng)（鎮(zhèn)、街）行政管轄范圍進(jìn)行了較大幅度的調(diào)整、合并。目前，全市法定的鄉(xiāng)鎮(zhèn)由原來的91個精減為61個（因天祝縣的東坪、賽拉龍鄉(xiāng)尚未正式移交永登縣，故未包括在內(nèi)）。街道辦事處由原來的40個調(diào)整為51個，現(xiàn)將全市各區(qū)縣行政區(qū)劃設(shè)置及管轄區(qū)域予以通報。（詳見本站蘭州市各區(qū)縣相應(yīng)頁面。全市共有51個街道、34個鎮(zhèn)、27個鄉(xiāng)，336個社區(qū)、803個村委會，4503個村民小組。在該通報中，均家灘、南面灘、駱駝灘3個社區(qū)居委會由高新區(qū)管理，單列）（蘭州連海經(jīng)濟(jì)開發(fā)區(qū)：管理永登縣連城鎮(zhèn)、河橋鎮(zhèn)和紅古區(qū)窯街街道、下窯街道、礦區(qū)街道、海石灣鎮(zhèn)）

2010年第六次人口普查，蘭州市常住總?cè)丝?616163人，其中，城關(guān)區(qū)1278745人，七里河區(qū)561020人，西固區(qū)364050人，安寧區(qū)288510人，紅古區(qū)136101人，永登縣418789人，皋蘭縣131785人，榆中縣437163人。

2012年12月，將榆中縣的定遠(yuǎn)鎮(zhèn)、連搭鄉(xiāng)委托蘭州高新區(qū)代管。2014年，省民政廳（甘民復(fù)〔2014〕99號）批復(fù)同意：皋蘭縣撤銷水阜鄉(xiāng)，設(shè)立水阜鎮(zhèn)。同年，省民政廳（甘民復(fù)〔2014〕155號）批復(fù)同意：皋蘭縣撤銷黑石川鄉(xiāng)，設(shè)立黑石鎮(zhèn)。2015年，紅古區(qū)紅古鄉(xiāng)、西固區(qū)河口鄉(xiāng)、永登縣柳樹鄉(xiāng)3個鄉(xiāng)撤鄉(xiāng)改鎮(zhèn)獲批。

2015年末，蘭州市共有53個街道、40個鎮(zhèn)、21個鄉(xiāng)，405個社區(qū)、730個行政村。