交易成本理論是由美國經濟學家羅納德·科斯最早提出的經濟學理論。科斯在1937年的《企業的性質》一文中闡述了交易成本的概念，他認為交易成本是通過價格機制組織生產時產生的成本，包括髮現相對價格的成本、談判和簽約的費用，以及其他利用價格機制時產生的成本。
交易成本理論的核心在於解釋企業的本質。科斯指出，由於經濟體系中企業的專業分工和市場價格機制的運作，產生了專業分工的現象。然而，使用市場價格機制的成本相對較高，因此形成了企業機制。企業是為了追求經濟效率而形成的組織體，它通過內部管理來協調分工和合作，從而減少交易成本。
交易成本不僅包括直接的經濟成本，如貨幣成本，還包括時間和努力的成本。它是人們在一定的社會關係中自願交往、合作達成交易所支付的成本，也即人與人之間的關係成本。這種成本與生產成本（人與自然界的關係成本）是相對應的概念。只要有人類交往和互換活動，就會有交易成本，它是人類社會生活中不可或缺的一部分。
由於交易成本泛指所有為促成交易發生而形成的成本，因此很難進行明確的界定和列舉。不同的交易往往涉及不同種類的交易成本。