金建国之初，推行勃极烈制度。勃极烈是女真语，意思是“治理众人”，据满洲人说，即清代之“贝勒”二字异译，也就是官。金太祖以都(总)勃极烈即皇帝位，太宗以谙版(尊贵)勃极烈居守。其次则有国论(贵)勃极烈(相当于宰相)及左右国论勃极烈(相当于左右相)等，都是政府最重要的官员。所属各部长官叫孛堇，统领数部的叫忽鲁。以后随着辖区的开拓，金朝官制也不断变化。金熙宗即位后，废除勃极烈制，全面采用辽、宋官制。设三师(太师、太傅、太保)、三公(太尉、司徒、司空)、三省、六部、御史台、都元帅府、大宗正府、翰林院、太常寺等。值得注意的是，三省并不是各自分立，门下、中书二省地位低于尚书省，长官也由尚书省官员兼任。实际上是尚书省执政，中书省和门下省隶属于尚书省。到海陵王正隆元年(公元1156年)改革官制，金朝官制才大致固定。设置如下：
中央机构重要的特征是不设三省，以尚书一省为最高行政机构。尚书省设尚书令，是最高行政长官；左右丞相、平章政事(一度废除)，相当于宰相；左右丞、参知政事，相当于副宰相。不过尚书令地位过高，逐渐演化为荣誉职衔，真正统领尚书省的是左丞相。尚书省下又分左、右司，各有郎中、员外郎、都事，分管左、右司事务，并分察吏、户、礼三部和兵、刑、工三部。六部长官为尚书，下设侍郎、郎中、员外郎。地方如有重大变故，尚书省则向地方派出机构，称行台尚书省，也简称行省。天德二年(公元1150年)曾一度罢置，但不久恢复。行台尚书省设官与尚书省相同，惟不置令，级别也低尚书省一级。
中央其他机构大体可分为五类。
第一类是与军事相关的机构。枢密院是最高军事机构，长官是枢密使，下设副使、签书枢密院事、同签枢密院事。枢密院与尚书省下的兵部有相互制约的作用，枢密院是军队的统率机构，兵部则是军政事务的管理机构。总的来说，枢密院是受尚书省节制的。武卫军都指使司，负责守卫京城，长官是都指挥使。殿前都点检司，负责侍卫宫廷，长官是殿前都点检。军器监，主管修治兵器，长官为军器监。
第二类是与监察、谏议、司法相关的机构。御史台是最高监察机构，长官是御史大夫、副贰是御史中丞。下设侍御史、治书侍御史、殿中侍御史、监察御史。登闻检院，初隶御史台，负责向皇帝报告尚书省、御史台处理不当的事情。登闻鼓院，初时亦隶御史台，负责向皇帝报告御史台及登闻检院处理不当的事情。两院各设知院、同知院事。章宗明昌二年(公元1191年)，登闻检院、登闻鼓院从御史台分出，自成独立机构。谏院是负责向皇帝进谏的机构，有左右谏议大夫、左右司谏、左右拾遗、左右补阙。审官院负责奏驳任命官员中的失误，设知院、同知院事。大理寺，负责司法刑狱，与宋制相同。
第三类是与经济财政相关的机构。金章宗时候，户部从尚书省中独立出来，改称三司，成为最高财经机构，长官是三司使，宣宗初年罢。劝农使司是主管农业的机构，长官是劝农使，宣宗时改为司农司。太府监是主管国家财用钱谷的机构。少府监是主管手工业生产的机构。都水监是主管水利工程等事务的机构。各监设监、少监等官。
第四类是与礼仪、教化、文翰等事务相关的机构。有主管礼乐、祭祀的太常寺，主管朝会、筵席、殿庭礼仪和监制御膳的宣徽院，主管纂修国史的国史院，主管学校的国子监，主管经籍图书的秘书监，主管校译经史的弘文院。这些机构设官大多与辽、宋相同。
第五类是为皇帝家族服务的机构。大宗正府是主管完颜氏皇族事务的机构，设判大宗正府事等官，金章宗时改为大睦亲府。卫尉司是主管皇后中宫事务的机构，设中卫尉、副尉、左右常侍等。宫师府是为皇太子专设的官署，有太子三太三少，下设詹事院，由詹事、少詹事总领东宫庶务。
金朝地方分路、府、州、县四级。有十九路，分以京为名的路和一般的路。金置五京：中都(今北京)、南京(今河南开封)、北京(今内蒙宁城县)、东京(今辽宁辽阳)、西京(今山西大同)。以这些京为名的路置留守司，主管一路政务，设留守、同知留守、副留守等官。又置按察司，主管一路司法监察，设使、副使。兵马都总管府，主管一路兵马，设都总管、副都总管等官。一般的路只设都总管府，主管一路军政。路的治所称府，府设府尹、同知、少尹等官。金的地方官制较为复杂，以诸京留守司留守带本府府尹兼本路兵马都总管为第一级，诸府府尹兼都总管为第二级，诸府府尹不兼都总管为第sān_jí。州分节镇州、防御州、刺史州，分设节度使、防御史、刺史为长官，总领一州军政。县一级设令、丞、主簿、尉等。与县相仿的镇、城、堡、塞，各设知镇、知城、知堡、知塞，都是从七品小官。关津路口则设巡检，负责稽查奸伪盗贼。
与州县并行的还有猛安谋克制度。猛安谋克是女真内部军政合一的一种组织。金国建国前，猛安是作为部落和部落长的称谓，谋克是作为氏族和氏族长的称谓。各部落