По Конституции 1871 г. исполнительная власть империи реально осуществлялась канцлером. Его контрасигнатура на исполнительные указы монарха считалась обязательным условием их действительности, и канцлер тем самым принимал на себя ответственность за деятельность правительства. Правительственный аппарат поначалу исчерпывался канцелярией, которой канцлер располагал как прусский министр-президент.

Прусские административные учреждения (военные комитеты, Счетная палата, почтовые, таможенные и другие управления) первоначально выполняли функции общегерманских административных ведомств. Только с конца 1870-х гг. стала формироваться, в том числе за счет преобразования прусских ведомств, имперская правительственная администрация.

Основополагающим актом в формировании имперского правительства стал закон 17 марта 1878 г., согласно которому канцлер во всех правительственных делах мог иметь заместителей, которым бы вручал управление определенной областью (оставаясь при этом единственно ответственным за деятельность правительства в целом перед монархом). Заместители получили звание статс-секретарей – по внутренним делам, иностранным, финансам, юстиции и др. По этому же закону появилась должность вице-канцлера, которым считался имперский секретарь по внутренним делам.

К началу XX в. сформировались 9 общеимперских правительственных ведомств. Центральным была Имперская канцелярия (1878), которая была координирующим органом для всех министерств и ведомств и одновременно непосредственно правительственным учреждением власти канцлера. Существование такого органа было существенной особенностью германской правительственной администрации. В ведении Имперского   ведомства внутренних дел (1867-1879) были статистика, здравоохранение, почта, вопросы гражданства и натурализации, а также надзор за органами городского и земского самоуправления. Имперское ведомство внешних дел (1870), помимо внешнеполитических обычных задач, занималось отношениями с автономиями. Имперское морское ведомство (1889), кроме организационных, выполняло задачи по командованию военным флотом; его глава одновременно был генерал-адмиралом. Роль военного министерства выполнял Генеральный штаб, или Верховное военное командование. Кроме этих важнейших, были Почтовое ведомство (1880), Ведомство юстиции (1876), выделившееся из Имперской канцелярии и занимавшееся в том числе подготовкой законов. Ведомство железных дорог (1870), Ведомство финансов (1879). В начале XX в. из Ведомства иностранных дел выделилось особое Ведомство колоний (1907). В годы Первой мировой войны в связи с ростом экономически регулирующей роли государства возникли центральные: Ведомство продовольствия (1916), Ведомство по делам хозяйства (1917), Ведомство труда (1918).

Основой центральных правительственных полномочий была общеимперская конституция. Но в первые годы империи канцлер Бисмарк постарался серией законов и особых мероприятий еще более укрепить централизацию империи. В 1873 г. была установлена единая валюта с золотым эквивалентом (райхсмарка). В 1875 г. был создан Имперский банк. С 1877 г. были приняты новые законы о гражданском и уголовном судопроизводстве, по делам о несостоятельности и др., которые также увеличили пространство общеимперской правительственной деятельности.

 Усилению влияния центральной администрации империи на вопросы образования, культуры, даже регулирования гражданских прав послужила длительная борьба правительства Бисмарка с оппозиционной политикой католической церкви, получившая название культуркампфа. Создание империи и откровенно светская секуляризационная политика правительства Бисмарка возбудили сильные оппозиционные настроения в католических кругах. Эта оппозиция была подкреплена нарастанием антипрусских настроений в южных государствах (которые в большинстве были католическими странами). После непростой борьбы в райхстаге, где католические партии располагали значимым числом депутатов, правительство провело серию законов 1872-1875 гг. Государство взяло под свой контроль подготовку и назначение духовных лиц, включая епископов (что до того было в руках римской курии). Церковная юрисдикция была ограничена чисто церковно-религиозными вопросами, особенно после принятия в 1875 г. закона о гражданском браке. Дисциплинарные наказания внутри церкви могли налагать только германские подданные (что также было направлено против Рима). Предельно упрощен был процесс перехода в другое вероисповедание – всего лишь через отказ перед местным судьей. Запрещена была деятельность Ордена иезуитов. Правда, после активизации католических кругов и римской курии законами 1882-1887 гг. были несколько изменены постановления предыдущих, в частности возвращено совместное влияние на назначение священнослужителей. Но в целом культуркампф был одним из наиболее значимых поворотных явлений во взаимоотношениях церкви и нового государства.