网路聊天室内容安全监管系统 【技术领域】
本发明涉及一种网络及信息安全监管系统，具体地说，是一种关于网路聊天室(HCATROOM)内容安全监管系统。背景技术
CHATROOM，中文翻译为“聊天室”。它是随着因特网(INTERNET)的发展而迅速发展起来的一种网路具体应用。就仿佛有一个个房间，每个房间大家讨论着不同的话题，任何用户都可以按照自己的兴趣加入不同的房间参加讨论，发表自己的观点。由于缺乏足够的控制手段，这些来自网路的自由用户能够比较随意的发表黄色信息或反动言论。由于每个用户的发言其他用户都可以看到，因而不良言论在聊天室的传播势必会造成极其恶劣的影响。
现有的管理措施只是简单依靠管理员实时地阅读聊天室中每一位用户的每一句发言，发现并删除其中一些不良言论。其工作流程可见图1。图中，所示的终端用户1、2、3通过网路6、7、8和聊天室服务器4进行通信，用户的每一句发言经过聊天室服务器4转发到其他终端用户实现聊天。所示的管理员5与其他的终端用户一样通过网路9登陆进聊天室，阅读用户的发言，检查并删除其中的一些不良言论。传统的管理方法有两大弊端：
1、管理员的工作量极大，必须时刻阅读用户每一句发言。在大量用户同时聊天或者管理员暂时离开时，难免有一些不良言论在网上传播，造成坏地影响；
2、即使管理员发现不良言论后立即删除，在管理员删除之前这
些发言已经被一些用户看到并传播，仍造成不良的影响。发明内容
本发明的目的在于克服现有网路聊天室监管系统的缺陷，提供一种网路聊天室内容安全监管系统，以减小管理员的工作量，并设法在那些不良言论发布之前将它们滤除，使由于这些不良言论的传播所带来的恶劣影响降至最低。
本发明是这样实现的，其包括若干终端用户、聊天室服务器和一管理员，特点是：还增加一过滤服务器，该过滤服务器分别与该等终端用户和该管理员以双向网路连接，并以单向网路连接该聊天室服务器。该过滤服务器过滤来自该等终端用户的不良发言，并将其丢入垃圾箱和生成审计记录，由该管理员负责管理垃圾箱和审计日志。
如上所述，在聊天室中，每一篇发言上传之后，在它发布之前，便由过滤服务器对其中的内容根据预先定义的含有不良信息的关键词和一些可能含有不良信息的关键词进行检索，检查它是否含有不良信息。没有问题的直接予以发表，有问题的言论被删除至垃圾箱，不予发表。同时，系统自动向发布不良言论的用户发出告警，并可采取进一步的惩罚措施。为了实现对聊天内容的实时处理，在内容检索匹配中，本发明采用了一些快速的离散算法，将过滤词按一定索引离散分布，这样可以降低子串比较的时间代价，实现用空间的消耗来换取处理的快速。比简单的匹配过滤更具有实效性。使用户基本感觉不到发言的时间延迟。
所有的监测和管理都实时地生成审计记录，管理员可以随时通过对审计记录的管理来处理聊天室中出现的大量不良言论、以及那些发布不良言论的用户。
本发明的效果是显著的，能在聊天室中的发言发布之前，及时地发现和删除其中的不良言论。管理员只需要通过管理垃圾箱和审计记录来对那些不良言论和发布不良言论的用户进行管理，极大地减少工作量。系统还能够自动对那些发布不良言论的用户采取一定的惩罚措施。附图说明
图1是现有的网路聊天室监管系统示意图。
图2是本发明的网路聊天室监管系统示意图。具体实施方式
本系统实际应用于国家信息安全应用示范工程(S219)中的聊天室内容安全监管。其系统实现原型图见图2。图中，所示的终端用户1、2、3通过网路6、7、8向图中所示的聊天室服务器4进行通信，用户的发言经过聊天室服务器4转发到其他终端用户实现网上聊天。在这里，用户的发言上传后首先经过图中所示过滤服务器6的处理，查找发言中有无不良信息。不含有不良信息的正常发言，经过网路12发送至聊天室服务器4直接发表；含有不良信息的发言删除至垃圾箱(在过滤服务器10或其它服务器中)，不予发表，同时向发布这些不良言论的用户发出警告信息。所有的操作都写入审计记录。所示的管理员5通过网路11管理垃圾箱和审计日志，处理被系统自动删除的不良言论，并对情节恶劣的用户采取进一步的惩罚措施，如将用户踢出聊天室，或者禁止来自该IP的用户登陆进聊天室等等。
管理员5可以通过WEB管理的方式对不良关键词进行管理，方便地进行添加、修改、删除、查询不良关键词的操作。这些不良关键词可以按照其严重程度分为几类，管理员可以自己选择管理规则，决定针对不同的不良言论，对用户采取不同的处理措施。
该系统目前正应用在S219工程中的中国上海东方网聊天室内容安全监管系统，取得了较好的效果。