很多歷史學家都將克格勃稱為世界上效率最高的情報機構之一。
但是，專家同時指出，儘管克格勃非常強大，最終還是沒有能夠避免蘇聯解體。
分析人士認為，這可以稱為蘇聯時期最大的謎團。
盧比揚卡廣場克格勃總部大樓，1970年/法新社
十月革命後不久，新生蘇維埃政權的領導人就意識到，必須儘快組建自己的情報機關。
布林什維克對當時經常出現的來自意識形態敵人的大規模怠工行為非常擔憂。
1917年12月20日，根據人民委員會的決定組建全俄肅清反革命及怠工非常委員會（簡稱“契卡”），以打擊反革命和怠工行為，領導這個委員會的是費利克斯·捷爾任斯基。
後來，契卡又在各地區普遍設立了分支機構，反軍事間諜機關也被納入契卡。
此外，契卡還在國外執行偵查任務，1920年12月20日，契卡內部組建了一個涉外部門——也是蘇俄歷史上第一個專門負責對外情報的機關。
1922年2月6日，契卡重組為俄羅斯蘇維埃聯邦社會主義共和國內務人民委員部國家政治保衛局，1923年11月15日，升格為蘇聯人民委員會國家政治保衛總局，成為全蘇性機關。
1934年，在蘇聯人民委員會國家政治保衛總局的基礎上組建了蘇聯內務人民委員部國家安全總局，職責包括打擊外國情報機關對蘇聯的情報滲透、反革命活動、恐怖主義、陰謀破壞以及蒐集外國情報和國家保密工作。
1941年初，國家安全總局曾一度從內務人民委員部分出去，組建國家安全人民委員部，但是，戰爭開始後不久，又被併入內務人民委員部。
1943年4月，國家安全人民委員部再度重建。
1946年，在國家安全人民委員部基礎上組建了國家安全部，警察、內衛部隊和邊防部隊等內務部的一些主要強力部門被逐漸移交給了國家安全部。
1953年3月5日，蘇聯國家安全部和內務部合併組建內務部，部長為拉夫連季·貝利亞。這個部很像戰前的蘇聯內務人民委員部。
起步階段蘇聯最高蘇維埃主席團關於組建蘇聯國家安全委員會的命令©Wikipedia
貝利亞被處決後，以赫魯曉夫為首的蘇聯領導層堅持認為，不能再讓個別強力部門一家獨大，於是，將一些涉及國家安全的部門從內務部分了出來。
1954年3月13日，蘇聯最高蘇維埃主席團下令組建一個新的機構——蘇聯部長會議直屬國家安全委員會，就是後來盡人皆知的克格勃。
克格勃第一任主席為赫魯曉夫的親信伊萬·謝羅夫上將，後者曾參與整垮了貝利亞。
隨後，蘇聯國安系統進行了大裁員。僅僅幾年，克格勃的工作人員減少了一半以上，大約18000名員工被裁撤，此外，還有數千克格勃軍官改任文職。
後來， 伊萬·謝羅夫調任總參謀部情報總局局長，克格勃主席一職由蘇聯共青團前第一書記亞歷山大·謝列平接任，此人曾於1941年作為蘇聯共青團莫斯科市委員會的一名幹部，為游擊隊選拔了大批共青團員，並在卓婭·科斯莫傑米揚斯卡婭犧牲後步入仕途。
克格勃第一任主席伊萬 · 塞羅夫的《手提箱筆記》 ©拉米利·西季科夫 / 俄羅斯新聞社
謝列平是銜著赫魯曉夫關於加快"去斯大林化"的指示到克格勃上任的。他聲稱，他計劃將克格勃的工作重心轉移到國際問題上，而國內問題將僅僅是他的"第十個計劃"。謝列平擔任主席期間，繼續精簡克格勃機構，併為克格勃制定了1991年遠景計劃，
1961年，赫魯曉夫將謝列平調任中央書記，並任命了另一位沒有軍人背景的共青團幹部——弗拉基米爾·謝米恰斯內接任克格勃主席。謝米恰斯內是謝列平在共青團工作時的同事，他延續了後者精簡克格勃機構的方針。
謝米恰斯內後來成為1964年整垮赫魯曉夫的積極參與者之一，並採取措施確保一切得以和平進行。
但是，謝米恰斯內的好日子並沒有持續多久。
表面上看，是因為斯大林的女兒斯維特拉娜· 阿利盧耶娃出逃。
但是，很多歷史學家都認為，事實上，這與謝列平的政治野心有關，勃列日涅夫拿掉謝米恰斯內是為了“解除”謝列平的"武裝"。
因此，到了1967年，謝米恰斯內被調任烏克蘭部長會議副主席一職，接替他擔任克格勃主席的是尤里·安德羅波夫。
克格勃的整個歷史可分為兩個主要階段。第一階段始於1954年，結束於安德羅波夫擔任主席。這一階段，克格勃大量精簡機構，裁減人員，但工作相當有成效。情報史學家亞歷山大·科爾帕基迪接受今日俄羅斯電視臺專訪時說：
當時的克格勃很有聲望，但其作風低調，行事隱秘。
蘇聯西部地區的“烏克蘭民族主義組織——烏克蘭起義軍”*和“森林兄弟”等武裝團伙正是在這一時期被徹底消滅的，克格勃特工博格丹·斯塔辛斯基在慕尼黑成功刺殺了烏克蘭民族主義組織領導人和前納粹德國情報部門線人斯捷潘·班德拉。
1956年的匈牙利反政府抗議活動被鎮壓，對希特勒同謀的審判也仍在繼續，這些都與克格勃的積極參與有關。
克格勃特工偵破了蘇聯時代最著名的叛徒之一——為美國和英國工作的蘇聯武裝力量總參謀部情報總局(格魯烏)軍官奧列格·佩尼科夫斯基一案。
1962年古巴導彈危機期間，美國P2V“海王星”巡邏機曾跟蹤一艘蘇聯貨船。 © Getty Images
克格勃在古巴導彈危機期間的表現可圈可點。蘇聯向古巴運送軍隊期間，以及後來的美蘇兩國解決古巴導彈危機的談判過程中，克格勃特工都做了大量保密工作，有效遏制了外國間諜對蘇聯的滲透。
歷史學家、作家伊戈爾·貝哈洛夫在接受今日俄羅斯電視臺採訪時說，在克格勃成立和克格勃工作準則被批准之後，克格勃的工作更加複雜，因為它已經脫離了黨的領導。
黃金時代亞歷山大·科爾帕基迪：
尤里·安德羅波夫擔任主席後，克格勃進入了一個嶄新的歷史階段，影響力和權力開始迅速擴大。
1978年，安德羅波夫大大提升了克格勃的地位，"部長會議直屬"這幾個字已經從它的名字中消失了，克格勃作為蘇聯國家安全委員會，已經成為中央級國家行政機關的重要組成部門，
安德羅波夫則成了克格勃的“公關先生”，當時還製作了大批克格勃題材的電影，出版了很多克格勃題材的圖書，
克格勃的工作重點也開始轉變。儘管克格勃繼續積極開展情報和反間諜工作，但是，與赫魯曉夫時代相比，更加重視國內問題，與異見運動關係更加緊張。
1967年，克格勃成立了第五局，負責打擊意識形態領域的破壞活動。文化和科學方面的國際交流、大學生思想、宗教組織、體育賽事，都在克格勃的監控之下，同時，第五局還負責打擊右翼激進分子。所以，原則上講，很多蘇聯人都與這個克格勃有聯絡，
特種車輛正駕駛員證 globallookpress.com © x99/ZUMAPRESS.com
克格勃成功挫敗了多次內部威脅，但是，似乎很少見其染指經濟領域，這與它的前身契卡和內務人民委員部有所不同。
亞歷山大·科爾帕基迪：
譬如，提到國家對經濟的控制和打擊金融違法行為，我們馬上就能想起內務部打擊盜竊社會主義財產和投機倒把局，但是，克格勃卻沒有類似部門。
他說，不過，總的來說，在1970年代和1980年代，哪怕是再小的機關、單位和企業，都有克格勃人員派駐。
亞歷山大·科爾帕基迪：
但是，有關這一時期克格勃在經濟領域的公開活動資訊卻少之又少。如果我們仔細研究一下契卡或內務人民委員部的歷史，就會發現，自安德羅波夫擔任克格勃主席以來，我們清靜了許多。
同時，亞歷山大·科爾帕基迪對安德羅波夫也是評價不一。他指出，長期以來，人們已經習慣了正面評價安德羅波夫。但是，在他看來，安德羅波夫更關注社會變革，這也為1991年的八一九事件種下了禍根。
安德羅波夫經常跟一些人密會，一到晚上就玩失蹤。時至今日，我們也沒搞清楚，當時他都見了誰，目的是什麼。
除了“國內戰線”，克格勃人員還經常活躍於亞非拉各國。在蘇軍入侵阿富汗過程中，克格勃也發揮了重要作用。在克格勃的積極參與下，華約部隊於1968年進入捷克斯洛伐克。克格勃還成功搞到了有關西方國家研發核武器及未來是否會對蘇聯使用這些核武器的情報。
克格勃特工展示他們繳獲的一枚“毒刺”單兵行動式防空導彈 俄新社©安德烈·所羅門諾夫
駐紮在阿富汗的蘇聯軍隊數量有限，因此，也有蘇聯諜報人員參與軍事行動，一支克格勃特別行動小組就曾摧毀過阿富汗反對派的車隊。
安德羅波夫離任克格勃主席一職後，接替他的是維塔利·費多爾丘克，此人曾擔任過烏克蘭克格勃主席。然而，僅僅六個月後，他的主席職位就讓給了長期擔任克格勃副主席的維克托·切布里科夫。維克托·切布里科夫擔任克格勃主席期間，蘇聯的對外情報工作取得了巨大成功。
克格勃派駐美國的情報人員成功策反了美國中央情報局蘇聯情報處處長奧爾德里希·埃姆斯，他向克格勃提供了大約25名為西方國家充當骨幹間諜的蘇聯公民資訊。因此，蘇聯的反間諜工作實際上讓美國中情局對蘇聯的情報工作至少在幾年內一直處於停滯狀態。
1988年，維克托·切布里科夫的職位被安德羅波夫的另一位同事弗拉基米爾·克留奇科夫接替。弗拉基米爾·克留奇科夫擔任克格勃主席期間，蘇聯發生了一件最終導致其解體的大事。1991年8月，克留奇科夫成為蘇聯國家緊急狀態委員會成員，後來因此被解職。接替他的是瓦季姆·巴卡京，也就最後一任克格勃主席。
“為了人民的利益”亞歷山大·科爾帕基迪：
克格勃最令人困惑的就是，雖然它行事高效，卻沒能阻止蘇聯解體，而且還能眼睜睜看著華約國家搞所謂的天鵝絨革命。
今天，一些專家言之鑿鑿地聲稱，這與當時的社會經濟危機密切相關。
但是，這些專家在提出這番高論的同時，卻把西方國家在20世紀80年代同樣受到危機的嚴重影響這一事實給忽略了。
也許，終將會有一天，隨著1970年代至1990年代的有關檔案被公諸於眾，我們就會知道，當年到底發生了什麼。
他認為，今天的人們對蘇聯解體的瞭解，或許只是“冰山一角”。
克格勃總部大樓俄新社 ©弗拉基米爾·費多連科
伊戈爾·貝哈洛夫認為，組建克格勃是由蘇聯當時所面臨的現實決定的，有一些不懷好意的人試圖詆譭它，但是基本上都拿不出什麼像樣的證據。
讓我們看看那些今天自詡為民主的國家就什麼都清楚了。伊戈爾·貝哈洛夫強調說：
這些國家的特務組織更多，手段也比克格勃殘酷得多。
阿列克桑德·科爾帕基迪指出，總的來說，克格勃是一個"用之於民，又取之於民" 的機關，
這位歷史學家最後說：
克格勃當年選拔的都是青年才俊。與此同時，克格勃成為人類歷史上最強大和最有效的情報機構之一，從反間諜到科研，其觸角幾乎延伸到了社會的所有領域，
*烏克蘭起義軍系烏克蘭民族主義組織，俄羅斯認定其為極端主義組織並禁止其在俄羅斯境內活動（俄羅斯最高法院2014年.11.月17令）。