中國是世界上較早發明滾動軸承的國家之一，在中國古籍中，關于車軸軸承的構造早有記載。從考古文物與資料中看，中國最古老的具有現代滾動軸承結構雛形的軸承，出現于公元前221～207年 (秦朝)的今山西省永濟縣薛家崖村。新中國成立后，特別是上世紀七十年代以來，在改革開放的強大推動下，軸承工業進入了一個嶄新的高質快速發展時期。

在十七世紀末，英國的C.瓦洛設計制造球軸承，并裝在郵車上試用以及英國的P.沃思取得球軸承的專利。十八世紀末德國的赫茲發表關于球軸承接觸應力的論文。在赫茲成就的基礎上，德國的R.施特里貝克、瑞典的A.帕姆格倫等人進行了大量的試驗，對發展滾動軸承的設計理論和疲勞壽命計算作出了貢獻。隨后，俄國的彼得羅夫應用牛頓粘性定律計算軸承摩擦。

英國的O.雷諾對托爾的發現進行了數學分析，導出了雷諾方程，從此奠定了流體動壓潤滑理論的基礎。　早期的直線運動軸承形式，就是一排在撬板下放置一排木桿。這個技術或許可以追溯到修建吉薩大金字塔的時候，雖然還沒有明確的證據。現代直線運動軸承使用的是同一種工作原理，只不過有時用球代替滾子。最早的滑動和滾動體軸承是木制的。陶瓷、藍寶石或者玻璃也有使用，鋼、銅、其他金屬、塑料（比如尼龍、膠木、特氟隆和UHMWPE）都被普遍使用。

從重載車輪軸和機床主軸到精密的鐘表零件，很多場合都需要旋轉軸承。最簡單的旋轉軸承是軸套軸承，它只是一個夾在車輪和輪軸之間的襯套。這種設計隨后被滾動軸承替代，就是用很多圓柱形的滾子替代原先的襯套，每個滾動體就像一個單獨的車輪。最早投入實用的帶有保持架的滾動軸承是鐘表匠約翰·哈里遜于1760年為制作H3計時計而發明的。

在意大利奈米湖發現的一艘古羅馬船只上，發現了早期的球軸承的實例。這個木制球軸承是用來支撐旋轉桌面。這艘船建造于公元前40年。據說列昂納多·達·芬奇在1500年左右曾經對一種球軸承進行過描述。球軸承的各種不成熟因素中，有很重要的一點就是球之間會發生碰撞，造成額外的摩擦。但是可以通過把球放進一個個小籠里防止這種現象。

17世紀，伽利略對“固定球”的，或者“籠裝球”的球軸承做過最早的描述。但在隨后相當長的時間里，在機器上安裝軸承一直沒有實現。第一個關于球溝道的專利是卡馬森的菲利普·沃恩在1794年獲得的。  

1883年，弗里德里希·費舍爾提出了使用合適的生產機器磨制大小相同、圓度準確的鋼球的主張。這奠定了創建獨立的軸承工業的基礎。“Fischers Automatische Gußstahlkugelfabrik”或者“Fischer Aktien-Gesellschaft”的首字母組合后來成了商標，在1905年7月29日注冊。

1962年，FAG這個商標作了修改并沿用至今，并在1979年成為了公司不可分割的一部分。

1895年，亨利·鐵姆肯設計出第一個圓錐滾子軸承，三年后獲得了專利并成立Timken公司。

1907年，SKF軸承工廠的斯文·溫奎斯特設計了最早的現代自調心球軸承。