从物理构成上看，计算机网络包括硬件、软件、协议三大部分。计算机网络的形成与发展历史，大致可以分成4个阶段，即面向终端的计算机网络、计算机通信网络、开放式标准化网络及国际互联网络。
1. 面向终端的计算机网络
面向终端的计算机网络是以单台计算机为中心的远程联机系统，人们常称其为第一代计算机网络。在1946年第一台计算机问世之后的几年，计算机与网络无关。计算机放在“计算中心”，当多个用户需要计算时，需排队等候，计算机按一定的优先级算法(如先到的先处理，或紧急的优先处理)处理并输出结果。
第一代计算机网络的特点是：多机(主计算机和前端处理机)；数据处理和通信有了分工(主计算机承担数据处理，前端处理机负责与远程终端通信)；集线器的使用降低了系统中线路的总连接长度，提高了线路的利用率。
2. 计算机通信网络
第二代计算机网络是多台主计算机通过通信线路互连起来的为用户提供服务的系统。20世纪60年代，计算机开始获得广泛的应用。许多计算机终端网络系统分散在一些大公司、事业部门和政府部门，各系统之间迫切需要交换数据。于是，将多个计算机网络终端连接起来，以传输信息为主要目的的计算机通信网络就应运而生了。
第二代计算机网络的典型代表是ARPANET。20世纪60年代后期，美国国防部高级研究计划署ARPA提供经费给美国许多大学和公司，以促进多台主计算机互连的网络研究，从而使一个实验性的4节点网络开始运行并投入使用。ARPANET后来发展到连接数百台计算机，目前有关计算机网络的许多知识都与ARPANET的研究结果有关。ARPANET中互连的负责运行用户应用程序的计算机称为主机(Host)，但是主机之间并不是通过直接的通信线路互连，而是通过一个接口信息处理机(Interface Message Processor，IMP)的设备互连的。
接口信息处理机和它们之间互连的通信线路一起负责完成各主机之间的数据通信任务，构成通信子网，通过通信子网互连的主机组成资源子网。
第二代计算机网络的特点是：以通信子网为中心；以传输信息为主要目的。
3. 开放式标准化网络
第三代计算机网络是开放式标准化网络。这种网络具有统一的网络体系结构，遵循国际标准化协议。以往的计算机网络大都是由研究部门、大学、计算机公司等各自研制的，没有统一的标准。由于各生产厂家的计算机产品和网络产品在技术、结构等方面有着很大的差异，这给用户带来很大的不便，不同厂家的计算机和网络很难互连。网络的标准化使得不同的计算机能方便地互连在一起，且降低了成本。
20世纪70年代后期，人们开始重视计算机网络产品的兼容问题，许多国际组织都成立了专门的研究机构，研究计算机系统的互连、计算机网络协议标准化等问题。20世纪70年代末，国际标准化组织(ISO)制定了“开放系统互连基本参考模型(OSI/RM)”，从此，形成了第三代计算机网络。OSI标准确保了各厂商生产的计算机和计算机网络产品之间能够互连，推动了OSI技术的发展和标准的制定。
4. 国际互联网络(Internet)
Internet是一个全球性的计算机互联网络，中文名称为“国际互联网”、“因特网”、“网际网”或“信息高速公路”等。它是将不同地区而且规模大小不一的网络互相连接而成的。目前，世界上发展最快、最热门且最大的互联网络就是Internet。
Internet采用TCP/IP协议。由于Internet起源于ARPANET，而TCP/IP协议的使用早于OSI标准的制定，因此，TCP/IP协议并不遵循OSI的标准。
由于人们对网络应用的要求日益提高，未来计算机网络将向可以同时承载多媒体信息及高速度、高安全性的方向发展。
计算机网络按逻辑功能分为通信子网和资源子网两部分，而在物理结构上，计算机网络由网络软件和网络硬件组成。网络软件包括网络操作系统和应用软件，网络硬件包括计算机、网络设备、传输介质和外围设备。