宋江因殺了閻婆惜，被髮配江州，又因在潯陽樓題“反詩”，被黃文炳發現，向江州蔡九知府蔡得章告發，被抓入牢中。蔡九知府依黃文炳之計，寫家書給父親蔡京，以炫耀“抓獲反賊”之功，並讓蔡京指點如何處置宋江。已與宋江結識的戴宗奉命將信送往東京，半路在朱貴的酒店被麻翻，信件被搜出。

吳用因此獻計，偽造蔡京回信，使宋江被押往東京，梁山便可派人中途奪下。金大堅因為善於雕刻圖書印記，又與吳用相識，因此與善於寫包括蔡京在內各家字型的蕭讓一同被吳用派戴宗賺上梁山。戴宗以“泰安州岳廟刻碑文”為由，騙得蕭讓、金大堅與其同行，半路上戴宗藉故走開，蕭、金二人便被王英依計捉上了山。第二天，兩人家眷也被接上山，從此，蕭、金二人便“死心塌地，再回山寨入夥”。

金大堅上山後，按吳用計策，偽造了蔡京的玉箸篆文“翰林蔡京”印章，用在蕭讓偽造的回信上。戴宗帶著假信便下山回江州。

然而戴宗離開後，吳用突然想起，家書不應蓋如此印章，蔡九知府必然會發現此信是假。

後來蔡九知府與黃文炳果然發現回信是假，戴宗也被打入死牢。梁山好漢鬧江州、劫法場，才救出宋江、戴宗二人。

此後金大堅在梁山擔任“刊造雕刻一應兵符、印信、牌面等項”。梁山大聚義時，石碣上名號為“地巧星玉臂匠金大堅”，排名六十六。職務為“掌管專造一應兵符印信”。

梁山受招安後，攻打遼國、田虎、王慶時，金大堅一直在隊伍之中。其中遼國政權透過賄賂蔡京、童貫等人，向宋朝投降之後，徵遼的梁山軍馬只得停戰，回師之時，宋江命金大堅、蕭讓和隨軍石匠們在“永清縣東一十五里茅山之下”立碑記事。徵田虎、王慶後也有類似舉動。

梁山徵方臘前，金大堅與皇甫端一起，被皇帝留在了京城，“駕前聽用”。最後“在內府御寶監為官”。