青黴素的抗菌作用是：低濃度時抑菌，高濃度時殺菌，但機理卻比較複雜。已發現所有細菌以及衣原體等的細胞膜上均具有一些能與青黴素和其它β-內醯胺類抗生素結合的蛋白，即青黴素結合蛋白（penicillin binding proteins, PBPs）。這些存在於細菌細胞內膜上的青黴素結合蛋白是青黴素作用的靶分子。PBPs系分子量為4萬到12萬的膜蛋白，是細菌細胞壁合成過程中不可或缺的具有催化活性的D,D-肽酶，如轉肽酶、羧肽酶、肽鏈內切酶等，它們是在細菌生長過程中起重要作用的蛋白質。不同細菌PBPs種類及數量有很大差異，例如金黃色葡萄球菌有4種PBPs，大腸桿菌則至少有7種。青黴素和其它β-內醯胺類抗生素作為PBPs底物的結構類似物，競爭性地與酶活性位點共價結合，從而抑制PBPs，干擾細菌細胞壁的合成，以達到殺滅細菌的作用。細菌對β-內醯胺類的敏感性主要由於其PBPs對這類藥物具有高親和力，各種PBPs與不同β-內醯胺類的親和力有所不同。大腸桿菌E的高分子量PBPs(PBP1a和1b)包含有與肽多糖合成有關的轉肽酶，而其它的PBPs對維持細菌桿狀形態和菌體分裂間隔形成是必需的。PBPs中最重要的一種PBP即為轉肽酶，轉肽酶的抑制可導致球形細胞形成，並迅速溶解。然而其它的PBPs活性的抑制可能使溶解延遲(PBP2)，或產生線狀細菌(PBP3)。青黴素β-內醯胺環中的醯胺鍵可使轉肽酶乙醯化而失活，從而阻礙細菌細胞壁黏肽合成，在使細菌合成細胞壁缺損的同時，還使細菌細胞壁中的自溶酶抑制劑失活，使自溶酶活化，從而導致菌體細胞裂解。細菌細胞壁具有保護和維持細菌正常形態的功能，主要成分為胞壁黏肽(mucopeptide,也稱肽聚糖，peptidoglycan)是由兩股改變氨基糖的線性多糖鏈(N-乙醯葡萄糖胺，N-acetylglucosamine, NAC；N-乙醯胞壁酸，N-acetylmuranic acid, MNAC)透過肽鏈交聯而成革蘭陽性細菌細胞壁有50-100個分子厚，而革蘭陰性細菌僅1-2個分子厚。其生物合成可分為3個階段：①胞質內黏肽前體的形成；②胞質膜上為乙醯胞壁五肽與乙醯葡萄糖胺連線；③在細胞膜外，透過轉肽作用完成交叉連線過程。青黴素含有高活性β-內醯胺環，與連線MNAC的五肽的最後二肽（即D-丙氨醯-D-丙氨酸）結構相似，轉肽酶與β-內醯胺環的醯胺鍵共價結合，形成乙醯化轉化酶，使轉肽作用不能進行，交叉聯結受阻，致細胞壁缺損，而失去保護屏障。由於菌體內滲透壓高，在等滲環境中水分不斷滲入，致細胞腫脹、變形，在自溶酶啟用影響下，細菌破裂溶解而死亡。

上面已提到PBPs是在細菌生長過程中起重要作用的蛋白質，所以青黴素對處於繁殖期正大量合成細胞壁的細菌作用強，而對已合成細胞壁，處於靜止期者作用弱，故稱繁殖期殺菌劑。哺乳動物和真菌無細胞壁結構，故對人類毒性小，對真菌感染無效。