行政學院從1940年4月開始籌建，于當年7月1日開學。學院直屬陜甘寧邊區(qū)政府，林伯渠兼任院長。學院分設(shè)政治處、教育處、總務(wù)處等。學院教學上分為普科與專修科，學制各為一年。專修科下分行政、財政經(jīng)濟、法律3系。系主任由邊區(qū)政府有關(guān)廳的負責同志擔任。普科開設(shè)的課程有政治、理論政策、專業(yè)政策和文化等。學員報考時，要經(jīng)過政治常識、時事問題的測驗和嚴格的體檢。
學院的宗旨是為邊區(qū)培養(yǎng)政治堅定、廉潔奉公、新民主主義的行政工作干部。
1941年6月24日，行政學院第一期畢業(yè)生200多人舉行畢業(yè)典禮。林伯渠院長在講話中勉勵畢業(yè)學員為邊區(qū)的政治經(jīng)濟建設(shè)服務(wù)。
1943年7月，行政學院開始大規(guī)模培訓干部。到年底，已有學員和訓練班干部2000多人。秋季，學員們自己動手，建造校舍，并建成大禮堂1座。
1944年5月，行政學院被合并到延安大學，改為延大行政學院。延大校部搬至行政學院院址辦公。
行政學院在單獨辦學的4年當中，共培養(yǎng)和訓練干部2200多名，為邊區(qū)的經(jīng)濟、政治和文化建設(shè)發(fā)揮了重要的作用。
行政學院舊址，位于延安南關(guān)半山腰，即今延安制藥廠一帶。保留數(shù)百孔土窯洞，多為群眾居住。該院禮堂現(xiàn)僅南面墻壁尚存。