1937年美国学者罗纳德·科斯（R.H.Coase）在其发表的题为《企业的性质》一文中，系统性地提出了市场交易成本理论，西方学者称之为科斯定理。科斯认为，市场与企业均是资源配置的手段，这两种资源配置方式在一定范围内存在相互替代关系，它们之间的不同之处在于：在市场上资源的配置是由非人格化的价格来调节的；而在企业内，资源的配置则是通过权威来实现的。到底是采取市场配置资源方式还是选择企业内部资源配置方式，主要取决于市场交易成本与企业内部层级组织管理成本的高低。

微观经济学假设存在一个灵活有效的自由市场交易机制，能够完成生产要素及产品和劳务等所有价值活动的公平、顺畅的交易过程，从而实现资源的优化配置。在这一过程中，价格机制是核心，通过自由波动的价格调节，在生产要素市场和产品及服务市场，拥有平等地位和自主权的交易双方可以瞬间完成各类交易活动，并且不发生任何交易成本或交易费用。科斯对此不以为然，科斯明确指出，任何市场的运行都是有成本的，即存在交易费用。交易费用这一重要概念最先由新制度经济学引入经济分析领域。交易费用就是在一定社会关系中，人们自愿交往、彼此合作、达成交易所支付的成本，即达成一笔交易所要花费的成本，包括选择交易对象的搜寻成本、交易磋商谈判的签约成本、监督与履约的执行成本等。如果通过组建一个组织（企业），并形成某种权威（企业家）来支配资源，利用企业内层级关系，即上下级的“命令—服从”关系来调配资源，虽然发生了一定的企业内部管理成本，但如果管理成本低于市场交易费用，企业就应将原本通过市场进行的各项交易纳入企业内部。所以，交易费用理论认为，企业的本质就是市场的替代物。

科斯的理论与传统的厂商理论不同。传统的厂商理论或产业组织理论仅仅分析了企业在专业化分工和规模经济方面的作用，企业的水平一体化或垂直一体化经营，是为了提高生产率，即规模经济效益。而科斯认为，企业是一个多功能的复合体，除了组织生产外，还要开展研究开发、采购原料（包括中间产品）、招募雇用、营销服务等一系列与市场相关的活动。科斯定理主要从企业内部分工性质所引发的产品交换机制和生产组织形式来研究企业的性质。外部市场机制的不完全导致企业内部分工和组织形式的变化，企业水平一体化或垂直一体化的目标是将各阶段的分工生产置于统一的管理体制之下，通过企业内部的资源调配，避免外部市场交易成本过高所产生的不利影响。巴克莱和卡森正是在这一理论基础上提出了内部化理论。