早期對於三角函式的研究可以追溯到古代。古希臘三角術的奠基人是公元前2世紀的喜帕恰斯。他按照古巴比倫人的做法，將圓周分為360等份（即圓周的弧度為360度，與現代的弧度制不同）。對於給定的弧度，他給出了對應的弦的長度數值，這個記法和現代的正弦函式是等價的。喜帕恰斯實際上給出了最早的三角函式公式表。然而古希臘的三角學基本是球面三角學。

這與古希臘人研究的主體是天文學有關。梅涅勞斯在他的著作《球面學》中使用了正弦來描述球面的梅涅勞斯定理。古希臘三角函式與其天文學的應用在埃及的托勒密時代達到了高峰，托勒密在《數學彙編》（Syntaxis Mathematica）中計算了36度角和72度角的三角函式的正弦值，還給出了計算和三角函式公式表以及角公式和半形公式的方法。托勒密還給出了所有0到180度的所有整數和半整數弧度對應的正弦值。

古希臘文化傳播到古印度後，古印度人對三角術進行了進一步的研究。公元5世紀末的數學家阿耶波多提出用弧對應的弦長的一半來對應半弧的正弦，這個做法被後來的古印度數學家使用，和現代的正弦定義一致了。阿耶波多的計算中也使用了餘弦和正割。他在計算弦長時使用了不同的單位，重新計算了0到90度中間隔三又四分之三度（3.75°）的三角函式值表。然而古印度的數學與當時的中國一樣，停留在計算方面，缺乏系統的定義和演繹的證明。阿拉伯人也採用了古印度人的正弦定義，但他們的三角函式學是直接繼承於古希臘。

阿拉伯天文學家引入了三角函式公式中的正切和餘切、正割和餘割的概念，並計算了間隔10分(10′)的正弦和正切數值表。到了公元14世紀，阿拉伯人將三角計算重新以算術方式代數化（古希臘人採用的是建立在幾何上的推導方式）的努力為後來三角函式從天文學中獨立出來，成為了有更廣泛應用的學科奠定了基礎。