8月4日晚，奧運會乒乓球賽場繼續進行男團半決賽，對陣雙方為東道主日本隊與德國隊。第一盤，水谷隼跟隊友，遺憾落敗，盤分0-1落後！五局比分為2-11、3-11，非常尷尬，隨後打出11-9、11-8，決勝局7-11落敗。

張本智和出戰第二盤的單打，大戰奧恰洛夫，最終局分3-1拿下，為日本隊扳平盤分到1-1！第三盤為波爾對陣水谷隼，結果這次單打，水谷隼再次落敗！五局比分11-7、11-13、7-11、7-11，如此崩盤的跡象，讓人無奈，太拉垮了！德國盤分2-1，為晉級決賽奠定了良好基礎。

第四盤，張本智和出戰單打，對陣弗朗西斯卡。結果日本選手開局狀態不佳，分別打出5-11、9-11，局分0-2落後，也導致日本軍團即將無緣決賽！絕境之下，張本智和敢打敢拼，幫助球隊逆襲了！此後三局，他分別打出11-5、11-9、11-9，完成3-2大逆轉，盤分也扳平到2-2！

遺憾的是，第五盤日本的波丹羽孝希面對奧恰洛夫，劣勢明顯，很快就0-2落後。沒有懸念，日本選手遺憾落敗。這樣德國3-2淘汰日本，晉級決賽！他們決賽的對手將是中國男團，中德對抗，備受關注，期待中國如願奪金！

在另外一場男團半決賽中，中國出戰的陣容是，雙打許昕/馬龍，單打樊振東、單打馬龍……雙打馬龍與許昕輕鬆拿下，樊振東單打3-0有驚無險，第三盤馬龍單打對陣李相秀，發揮不佳，在2-0領先情況下，被對手連續拿下2局，局分2-2，拖入決勝局。最終，馬龍3-2擊敗對手，中國軍團3-0晉級決賽。