克格勃历史上最有影响力的领导人是安德罗波夫和贝利亚，安德罗波夫最后担任了苏联的最高领导人，而贝利亚在权力斗争中失败，被赫鲁晓夫以叛国的罪名处死。
费利克斯·埃德蒙多维奇·捷尔任斯基(Feliks Edmundovich Dzerzhinski)1917-1926
维亚切斯拉夫·鲁道福维奇·缅因斯基/明仁斯基1926-1934年
亨利希·格利戈里耶维奇·亚戈达(又译作亨里希·格里戈里耶维奇·雅果达、雅戈达，英语：Genrikh Grigoryevich Yagoda)1934-1936年
尼古拉·伊万诺维奇·叶若夫1936-1938年
拉夫连季·帕夫洛维奇·贝利亚1938-1941年
弗谢沃洛德·尼古拉耶维奇·梅尔库洛夫1941年(2-7月)
拉夫连季·帕夫洛维奇·贝利亚1941-1943年
弗谢沃洛德·尼古拉耶维奇·梅尔库罗夫 1943-1946年
维克托·谢苗诺维奇·阿巴库莫夫1946-1951年
谢尔盖·伊万诺维奇·奥戈利佐夫 1951年(8-12月)
谢苗·杰尼索维奇·伊格纳季耶夫1951-1953年
拉夫连季·帕夫洛维奇·贝利亚1953年(3-6月)
谢尔盖·尼基福罗维奇·科鲁格洛夫1953-1954年
伊万·亚历山德罗维奇·谢罗夫1954-1958年
亚历山大·尼古拉耶维奇·谢列平1958-1961年
弗拉基米尔·叶菲莫维奇·谢米恰斯内1961—1967年
尤里·佛拉基米罗维奇·安德罗波夫 1967-1982年
维塔利·瓦西里耶维奇·费多尔丘克1982年(5-12月)
维克托·米哈伊洛维奇·切布里科夫1982-1988年
弗拉基米尔·亚历山德罗维奇·克留奇科夫1988-1991年
瓦季姆·维克托罗维奇·巴卡京1991年8月-11月
克格勃第一总局(对外情报总局)历任领导
米哈伊尔·阿布拉莫维奇·特里利瑟尔1921-1929年
阿尔图尔·赫里斯季安诺维奇·阿尔图佐夫1929—1934年
阿布拉姆·阿罗诺维奇·斯卢茨基1934-1938年
米哈伊尔·施皮格尔格拉斯1938年(2-7月)
弗拉基米尔·格奥尔吉耶维奇·杰卡诺佐夫1938-1940年
帕维尔·米哈伊洛维奇·菲京1940-1946年
彼得·瓦西里耶维奇·费多托夫1946-1949年
谢尔盖·罗曼诺维奇·萨夫琴科1949-1953年
瓦西里·斯捷潘诺维奇·里亚斯诺伊1953年(3-6月)
亚里山大·谢苗诺维奇·帕纽什金1953-1956年
亚里山大·米哈伊洛维奇·萨哈罗夫斯基1956-1971年
费奥多尔康斯坦丁诺维奇·莫尔京1971-1974年
弗拉基米尔·亚历山德罗维奇·克留奇科夫1974—1988年
列昂尼德·弗拉基米罗维奇·舍巴尔申1988年-1991年
1998年被任命为俄罗斯联邦总统办公厅副主任兼俄罗斯联邦总统监察局局长;1998年10月任俄罗斯联邦安全局副局长兼经济安全局局长;1999年任俄罗斯联邦安全局第一副局长;1999年8月9日根据俄罗斯联邦总统令被任命为俄罗斯联邦安全局局长;大将军衔，法学博士，俄罗斯英雄。2008年5月12日俄罗斯总统梅德韦杰夫签署总统令任命原联邦安全局副局长巴尔特尼科夫为联邦安全局局长，原联邦安全局局长帕特鲁舍夫改任联邦安全会议秘书。
