在高麗王朝時期（十世紀至十四世紀末），釜山被稱為Busanpo，Busan的意思為“釜狀的山”這是根據城市後面山的形狀而得名。而po,則是“海灣”或“海港”的意思。

從十五世紀早期開始，釜山被北韓指定為商貿港口，並與日本開展貿易往來，並允許日本人在這裡定居。1592年後，釜山被日本人侵入並淪為日本殖民地，1607年戰爭以後恢復了外交關係，釜山並得以重建。

18世紀後葉，日本的勢力大肆膨脹，企圖侵佔韓半島及大陸，北韓民族予以頑強的抵抗。1876年以後與日本重新定位了睦鄰友好關係和建立了外交關係。1876年釜山成為北韓第一個國際性的港口，並從1883年開始恢復了與日本的一般商貿往來。1910以後，釜山成為日本保護國的城市，城市中心成為繁華的商阜。在日本統治時期（1910-45）釜山發展成為現代化的港口城市，輪船可從釜山碼頭直接開往日本的下關。1924年還開設了通往中國、俄羅斯的蒸汽機車鐵路。這是在電氣化火車還未被引進時北韓最早的蒸汽火車。在北韓戰爭時期（1950-53），釜山是聯合國運送裝備和供給到北韓的唯一港口。在城市周圍還保留著很多當年聯合國軍隊建造的防禦工事和設施。在當時釜山也是接受從海外返回的難民最多的城市。

從1978開始，釜山開放了三個集裝箱港口碼頭，釜山港口的設施和吞吐能力使其成為世界第三大港口。