采用服务端完成端口通信技术对路灯监控系统软件进行优化设计

　　1、 引言

　　目前，全国很多城市的路灯监控系统受到区域限制，仍停留在小规模的监控模式上，使得各地区的监控标准不统一，管理混乱，同时也占用了大量的人力和物力资源。因此，将各区域的路灯监控系统进行统一的管理，形成一个大规模的统一的监控体系， 已成为将来路灯监控发展的趋势。传统的SOCKET 通信模型有着客户端数量的限制，当实际的客户端超过限制，将会出现数据阻塞和丢失，甚至是服务器软件崩溃的情况，而引入了完成端口技术的通信模型没有客户端数量的限制，并且拥有着高效的数据处理能力，能够在大规模路灯监控系统内发挥优势，保障了数据传输的高效性和可靠性。

　　在Visual C++++ 2008 编程环境下，通过完成端口技术的应用，将原有的基于C / S 模式的路灯监控系统软件进行优化，使得整套系统可以应用于大数量客户端的场合，并且仍能保持通信系统较高的稳定性。

　　2、 监控系统软件的总体构架

　　路灯监控系统分为远程终端设备和监控软件两个部分。远程终端设备安装在路灯控制现场，是实现监控功能的主要硬件设备。远程终端通过GPRS无线通信网络与服务器相连，根据用户的设置参数，实现定时开关灯，采集数据和事故报警等功能。

　　根据不同地区的情况，其数量可能非常的庞大，传输到服务器的数据量也会非常庞大。监控软件是一套在Visual C + + 2008 开发平台下， 基于Client /Server 模式的网络通信软件，由服务端软件和客户端软件两个部分组成， 后台数据库选用MS SQLServer 2005。监控系统结构图如图1 所示。

　　监控软件的服务端安装并工作于服务器上，负责接收监控终端设备传输而来的数据，对数据进行分析，并存入数据库; 同时与软件的客户端进行通信，并且将软件客户端的指令数据，转发到相应的监控终端设备，对被监控对象的进行管理与控制。

　　监控软件的客户端工作在用户电脑上，通过网络与服务端和数据库相连，为少数特定的路灯监控管理员提供服务。客户端为这些管理员用户提供了一个功能齐全的图形界面。用户可以通过客户端查询数据，发送控制指令，也可以通过客户端的电子地图功能和柜体监控动画实时的了解各个远程终端的工作状态。

　　3、 服务端完成端口通信模型的实现

　　3. 1 完成端口原理

　　3. 1. 1 完成端口简介

　　网络通信模块是整个系统的部分，由于要负责大规模的数据传输与处理，因此对软件的性能的高效性提出了挑战，而完成端口通信技术的应用解决了这一难题。

　　完成端口（ I /O Completion Port ） 是一个Windows NT 执行子系统的对象。通过将完成端口与任意I /O 句柄（ 文件或Socket 等） 关联，使得用户可以通过完成端口，异步的获取并处理I /O 的结果。

　　完成端口是由系统直接提供并行优化支持的，在完成端口上建立几个并行的服务线程，一般数量为CPU 数，它们为到达完成端口的服务请求提供服务。当有服务请求到达时，如果有可用的服务线程，则激活该线程，如果没有可用服务线程，则将服务请求加入请求队列，该队列采用先进先出（ FIFO）的策略，来保证这些请求得到公平的服务。服务线程的建立和请求队列的FIFO 策略，减少了CPU 在不同线程间切换的次数，降低线程上下文切换所造成的开销。

　　3. 1. 2 重叠I /O

　　完成端口的设计原理是让应用程序使用重叠的数据结构，投递一个或多个I /O 请求，当这些请求完成后，应用程序可以为他们提供服务。这就要求我们在使用完成端口时必须要使用重叠I /O。

　　重叠I /O，即当I /O 功能调用时，不论I /O 是否完成，函数马上返回，由操作系统底层处理I /O 的实际工作，而应用程序（ 进程） 可以继续做其他事情。因而，完成端口是处理完成重叠I /O 的一种高效的机制。

　　3. 1. 3 工作线程

　　除了工作在完成端口上的服务线程外，在关联套接字之前，还必须创建一个或多个工作线程，以便在I /O 请求投递给完成端口对象后，为完成端口提供服务。工作线程的个数取决于应用程序的总体设计情况。创建的工作线程由完成端口管理。当有I /O 完成通知到来，则由完成端口唤醒一个工作线程接收I /O 完成通知，并对其进行处理。完成端口自动对工作线程进行调度，唤醒哪个工作线程则由完成端口决定。若无I /O 完成通知，则所有的工作线程都在等待。根据经验，工作线程的数量一般为CPU 数量的两倍再加上2。

　　3. 2 完成端口的程序实现

　　网络通信模块通过CreateIoCompletionPort 函数创建完成端口对象，并将接收到的SOCKET 对象与完成端口关联， 启动一定数量的工作线程， 通过GetQueuedCompletionStatus 函数获取完成端口上SOCKET 的当前状态，并将收到的数据从缓存出取出。完成端口的主要工作流程图如图2 所示。

　　主线程：

　　1） 程序启动的时候，初始化网络并且创建完成端口句柄：

　　CompletionPort = CreateIoCompletionPort （ INVALID_ HANDLE_ VALUE，NULL，0，0）；

　　2） 启动2* N + 2 个工作线程，N 为CPU 数量：

　　3） 进入一个*循环，开始*客户端连接请求；

　　4） 将接收到的客户端SOCKET 与完成端口对象绑定；

　　5） 发出一个异步的WSARecv 或是WSASend 操作，实际的接收和发送数据操作会由操作系统完成。

　　6） 重复以上3） 到5） 的操作。

　　工作线程：

　　1） 进入循环， 通过GetQueuedCompletionStatus函数， 从完成端口上取得WSASend /WSARecv 的操作结果：

　　2） 根据完成端口上I /O 状态， 进行数据的处理;

　　3） 提交一个新的WSASend /WSARecv 操作请求;

　　4） 重复以上1） 到4） 的操作。

　　3. 3 通信规约设计

　　整个监控系统采用TCP （ Transmission ControlProtocol，传输控制协议） 进行数据传输，在此基础上设计了一套监控系统规约，来完成服务端与远程终端，服务端与客户端的通信。根据路灯监控的实际需求，数据报文包括以下几种形式。

　　1） 远程终端主动向软件服务端发送的连接数据报文，如表1 所示。

　　2） 远程终端定时向软件服务端发送的现场数据报文，主要包括路灯监控现场采集到的电流，电压，温度，开关状态，报警信息等数据信息，如表2 所示。

　　3） 软件客户端发送给服务端， 并由服务端转发到相应远程终端的参数设置报文，根据不同的功能号，报文发送不同的参数信息，包括开关灯时间，报警阀值，数据采集周期等如表3 所示。

　　3. 4 完成端口通信的优化

　　3. 4. 1 内存池的设计

　　完成端口模型采用异步通信模式， 每次调用WSASend 和WSARecv 函数都需要在内存创建一个结构体空间，函数调用完毕后，再销毁这个结构体空间。频繁的创建和销毁内存空间占用了大量的系统资源，因此，在设计完成端口程序时，根据需求创建一定数量的结构体空间，并将其放入一个统一的空闲队列，当调用WSASend 和WSARecv 函数时，从队列中取用一个结构体空间，使用完毕，再将其放回队列。

　　3. 4. 2 连接池的设计

　　当用传统的accept 函数接收客户端时，accept函数会创建一个socket 作为返回值，分配给客户端。

　　客户端断开连接时，创建的socket 会被销毁。创建和销毁socket 的过程会占用大量的系统资源，因此在接收客户端时， 采用acceptEx 函数代替accept，该函数可以把一个事先创建好的socket 对象，分配给接收到的客户端。首先， 创建好一定数量的socket 对象，形成一个连接池，当接收到客户端的连接请求时，从连接池中取出空闲socket 对象，分配给该客户端，断开连接时，再将socket 放回连接池队列。连接池的设计减少了客户端SOCKET 的不断创建与销毁，节省了大量的系统资源。

　　3. 4. 3 线程池的设计

　　完成端口本身就应用了线程池技术，线程池中的线程不仅包括了工作者线程，还包括了工作上完成端口上的服务线程。有效的对这些线程进行管理，能够减少CPU 在不同线程间的频繁切换，降低了切换线程上下文所耗费的时间。

　　3. 4. 4 数据池的设计

　　完成端口模块接收到的数据，要根据通信规约进行处理与分析，并将数据存储到相应的数据库中。

　　由于完成端口网络通信的数据传输总是不平稳的，常常会出现短时间内接收到大量数据，而另一段时间内只接收到少量数据要的情况。为了防止服务器在短时间内超负荷工作，造成的数据意外丢失或是程序崩溃的情况，在进行数据处理时，预先建立了数据存储队列，形成一个数据池，将未处理的数据加入队列， 并采用FIFO 的策略来分配CPU 时间，这就使得CPU 资源得到充分的利用，提高了数据处理的安全性和可靠性。

　　4 客户端软件设计

　　客户端软件通过一般的SOCKET 通信方式与服务器相连，主要是功能是为用户提供一个简洁，便利的用户功能界面。地图显示模块通过对GIS 电子地图的绘制，将城市地图及路灯系统的分布图直观的显示给用户，使得用户能够大体的了解到整个路灯系统的运行状态。动画显示模块通过FLASH 编程技术，将单个远程终端所控制的配电柜示意图展示给用户，用户可以了解到现场的实时数据并对具体的监控点进行设置，开关灯等操作。数据显示模块与数据库相连，用户可以查询到各个监控点的历史数据以及当前的设置参数，了解路灯系统的具体工作状态。软件客户端主界面如图3 所示。

　　5 、完成端口服务器软件的性能测试

　　5. 1 测试对象

　　完成端口通信模型与传统通信模型相比，拥有更大的数据吞吐量和客户端数目，并且通过线程池、连接池、内存池的设计和应用，节省了系统资源，提高了服务器软件的数据处理效率。在对传统通信模型和完成端口通信模型的性能测试和比较中，选取饥饿的客户端和每秒线程上下文切换次数两个重要指标为测试对象。饥饿的客户端定义为同一时间向服务器申请连接并发送数据的客户端中，未被服务器影响的客户端数。

　　5. 2 测试环境

　　选用两台Intel Core2 1. 9GHz 双核CPU，2G 内存台式机，一台用作服务器电脑，一台用作客户端电脑。服务器电脑上分别安装传统通信模型的旧版路灯监控软件和完成端口模型的新版路灯监控软件，并且在软件程序中加入测试代码，用来计算饥饿客户端数目和线程上下文的切换次数; 客户端电脑上用测试软件来模拟一定数量的终端设备的客户端，并向服务器同时进行连接和发送数据的操作。

　　5. 3 测试结果及分析

　　不断的改变模拟客户端的数量，对两种通信模型进行测试，分别记录下两种模型在不同数量的客户端下，饥饿客户端数量和线程上下文切换的次数，重复多次测试，取得多组数据，取其平均值。

　　如表4 所示，当模拟客户端数目逐渐增加时，传统通信模型的饥饿客户端数量也不断增加，这就使得大量的客户端无法得到服务器响应，大量客户端的数据无法传输，导致数据的阻塞和丢失。而完成端口通信模型采取了一系列的优化策略，并不存在客户端无法得到服务的情况。

　　如表5 所示，在模拟客户端数量较少时，两种通信模型的线程上下文切换次数相当; 当模拟客户端数量增加时，传统通信模型的切换次数剧增，而每次的切换都会导致系统资源的额外开销，这就使的传统通信模型的数据处理效率十分低下。使用完成端口通信模型时，线程上下文切换次数并未随着模拟客户端的增加而产生更大的变化，因此完成端口模型更适合于大量客户端的应用场合，并且仍可保持的数据通信的可靠性和高效性。

　　6、 结束语

　　完成端口技术的引入， 充分发挥了服务器多CPU 的优势，使得整个监控系统的数据通信性能得到了极大的优化了。经过压力测试，当监控终端设备数量达5000 时，系统仍然能够保持高效、稳定的运行。目前该系统应用于厦门路桥公司，龙岩长汀等地的路灯控制，取得了良好的效果。