`
zhaohaolin
  • 浏览: 979152 次
  • 性别: Icon_minigender_1
  • 来自: 杭州
社区版块
存档分类
最新评论

Java多线程 Reactor模式和NIO (转载)

    博客分类:
  • JAVA
阅读更多

Reactor模式和NIO

板桥里人 jdon.com 2002/11/08

本文可看成是对Doug Lea Scalable IO in Java 一文的翻译。

当前分布式计算 Web Services盛行天下,这些网络服务的底层都离不开对socket的操作。他们都有一个共同的结构:
1. Read request
2. Decode request
3. Process service
4. Encode reply
5. Send reply

经典的网络服务的设计如下图,在每个线程中完成对数据的处理:

但这种模式在用户负载增加时,性能将下降非常的快。我们需要重新寻找一个新的方案,保持数据处理的流畅,很显然,事件触发机制是最好的解决办法,当有事件发生时,会触动handler,然后开始数据的处理。

Reactor模式类似于AWT中的Event处理:

Reactor模式参与者

1.Reactor 负责响应IO事件,一旦发生,广播发送给相应的Handler去处理,这类似于AWT的thread
2.Handler 是负责非堵塞行为,类似于AWT ActionListeners;同时负责将handlers与event事件绑定,类似于AWT addActionListener

如图:

Java的NIO为reactor模式提供了实现的基础机制,它的Selector当发现某个channel有数据时,会通过SlectorKey来告知我们,在此我们实现事件和handler的绑定。

我们来看看Reactor模式代码:


public class Reactor implements Runnable{

  final Selector selector;
  final ServerSocketChannel serverSocket;

  Reactor(int port) throws IOException {
    selector = Selector.open();
    serverSocket = ServerSocketChannel.open();
    InetSocketAddress address = new InetSocketAddress(InetAddress.getLocalHost(),port);
    serverSocket.socket().bind(address);

    serverSocket.configureBlocking(false);
    //向selector注册该channel
     SelectionKey sk =serverSocket.register(selector,SelectionKey.OP_ACCEPT);

    logger.debug("-->Start serverSocket.register!");

    //利用sk的attache功能绑定Acceptor 如果有事情,触发Acceptor
    sk.attach(new Acceptor());
    logger.debug("-->attach(new Acceptor()!");
  }


  public void run() { // normally in a new Thread
    try {
    while (!Thread.interrupted())
    {
      selector.select();
      Set selected = selector.selectedKeys();
      Iterator it = selected.iterator();
      //Selector如果发现channel有OP_ACCEPT或READ事件发生,下列遍历就会进行。
      while (it.hasNext())
        //来一个事件 第一次触发一个accepter线程
        //以后触发SocketReadHandler
        dispatch((SelectionKey)(it.next()));
        selected.clear();
      }
    }catch (IOException ex) {
        logger.debug("reactor stop!"+ex);
    }
  }

  //运行Acceptor或SocketReadHandler
  void dispatch(SelectionKey k) {
    Runnable r = (Runnable)(k.attachment());
    if (r != null){
      // r.run();

    }
  }

  class Acceptor implements Runnable { // inner
    public void run() {
    try {
      logger.debug("-->ready for accept!");
      SocketChannel c = serverSocket.accept();
      if (c != null)
        //调用Handler来处理channel
        new SocketReadHandler(selector, c);
      }
    catch(IOException ex) {
      logger.debug("accept stop!"+ex);
    }
    }
  }
}

以上代码中巧妙使用了SocketChannel的attach功能,将Hanlder和可能会发生事件的channel链接在一起,当发生事件时,可以立即触发相应链接的Handler。

再看看Handler代码:

public class SocketReadHandler implements Runnable {

  public static Logger logger = Logger.getLogger(SocketReadHandler.class);

  private Test test=new Test();

  final SocketChannel socket;
  final SelectionKey sk;

   static final int READING = 0, SENDING = 1;
  int state = READING;

  public SocketReadHandler(Selector sel, SocketChannel c)
    throws IOException {

    socket = c;

    socket.configureBlocking(false);
     sk = socket.register(sel, 0);

    //将SelectionKey绑定为本Handler 下一步有事件触发时,将调用本类的run方法。
    //参看dispatch(SelectionKey k)
    sk.attach(this);

    //同时将SelectionKey标记为可读,以便读取。
    sk.interestOps(SelectionKey.OP_READ);
    sel.wakeup();
  }

  public void run() {
    try{
    // test.read(socket,input);
      readRequest() ;
    }catch(Exception ex){
    logger.debug("readRequest error"+ex);
    }
  }


/**
* 处理读取data
* @param key
* @throws Exception
*/
private void readRequest() throws Exception {

  ByteBuffer input = ByteBuffer.allocate(1024);
  input.clear();
  try{

    int bytesRead = socket.read(input);

    ......

    //激活线程池 处理这些request
    requestHandle(new Request(socket,btt));

    .....


  }catch(Exception e) {
  }

}

注意在Handler里面又执行了一次attach,这样,覆盖前面的Acceptor,下次该Handler又有READ事件发生时,将直接触发Handler.从而开始了数据的读 处理 写 发出等流程处理。

将数据读出后,可以将这些数据处理线程做成一个线程池,这样,数据读出后,立即扔到线程池中,这样加速处理速度:

更进一步,我们可以使用多个Selector分别处理连接和读事件。

一个高性能的Java网络服务机制就要形成,激动人心的集群并行计算即将实现。

Scalable IO in Java原文

 

Socket打造高性能服务器

更多NIO专题系列讨论....

并发模型

EDA

 

 

DCI 中场景的生命周期是如何的呢?

DCI 中场景的生命周期是如何的呢?有请Banq大哥出面。..

我对DCI的解理

大家,这两天看了与 DCI 相关的文章,写了这么个测试程序,请指正。 //ppt function Player(name) { this .name = name;....

无需OAuth就可以设计一个安全的REST (Web) API

OAuth非常复杂,但是考察Amazon的Web服务发现它们并没有使用OAuth,那么是如何保证 REST 安全性呢? 答案在: HMAC ,说白了就是HASH,每个客户端第一次发出请求时,将自....

Java没有死,它在进化

O'Grady确认Java现在达到其高峰时期,很难如Forrester宣传那样迅速死亡。 O'Grady这个观点是基于RedMonk搜集的各种数据,RedMonk注重研究开发者,而不是企业中那些所谓....

如何理解表现层,它不重要吗

我利用学到的开发方法,面向各种开发,可我发现我还是错的,只有面向客户,面向最终用户的开发,才是正确的,我所见的客户,他们最关心的不是你的团队写的代码如何,分析的多么条条有理,而是要一个漂亮的界面,正确....

读 banq的帖子Domain Events异步应用 有疑惑

看了这个帖子 http://www.jdon.com/jivejdon/thread/37712/15,深受启发。 因为我也正好碰到这个问题。比如一堆分类,每个分类需要统计其下Product的数量。....

数据库和OO

都说数据库对 OO 有阻碍作用,关系型数据库不是也能体现出对象之间的关系吗?外键代表单向,中间再放个关联表,不就代表双向关联了吗、对象之间不也就这几种关系吗?继承除外啊。..

color uml and dci 的问题

前段时间看了下color uml 和 DCI 发现 四色 原型可以直接通过 DCI 来实现 觉得非常不错。 在网上看了几个 DCI 的例子——主要是转账那个,然后自己开始琢磨1个....

怎么进行分离。

要实现一个像svn版本同步功能的信息同步模块。 在项目中有User用户信息,由于可能用 pc android IOS等客户端登录到服务器来同步User信息。User用户信息产生不一致的情况主要是 同....

Twitter 从Ruby的Rails移植到Java

Ruby成熟应用曾经以Twitter为骄傲,Twitter曾经一度前台使用Ruby,后台使用Java,可随着系统规模扩展,Twitter决定放弃RoR,早在2008到2009年,他们就开始将后台消息系....

可伸缩性Scalable高性能系统设计

文章比较全面分析了系统可 伸缩性 scalable设计。 首先指出scalable和普通意义上性能提升有些不同,以至于更多人关注单台机器性能,而无视更高意义上性能扩充。 Scalable可 ....

请教banq老师一个repository的问题

repository是针对聚合跟建立还是针对实体对象啊? 比方说员工是聚合跟,考勤记录是员工的一个属性,是个list; 我是对应聚合跟 Employeerepository 我想添加一条考勤记录的....

OOD vs SOA

在Yahoo的 SOA讨论组 一直持续着 OO 面向对象和SOA之间的讨论,涉及领域模型domain model, 消息格式message format 和服务设计考量等方面。 随着MDD/DD....

如何对现在系统架构进行改造

目前公司的一个产品使用的架构是struts+sessionBean+DAO+DB模式,平时所谓的设计工作也都是在做数据库方面的设计,增加几个DAO方法,或是在原DAO方法上if else来满足客户需求....

对象设计夜未眠

对象设计不是仅仅为了真实的模拟现实世界,而是使现实世界的需求能更好的在计算机这个环境中表达,当我们思考对象职责,设计对象行为时,能够更好的扩展,能够更好的维护,能够更清晰的表达这个对象所承担的....

分享到:
评论

相关推荐

    java NIO socket聊天室

    使用NIO socket不需要多线程来处理多个连接的请求,效率非常高 可以作为NIO socket入门的例子,Reactor模式,重点理解key.attach, jar文件里包含了源代码 1,运行server.bat启动服务器,可以打开编辑,修改端口号 ...

    基于事件的NIO多线程服务器

    许多基于NIO的多线程服务器程序往往直接基于选择器(Selector)的Reactor模式实现。这种简单的事件机制对于较复杂的服务器应用,显然缺乏扩展性和可维护性, 而且缺乏直观清晰的结构层次。本文将通过一个基于事件回...

    Java NIO原理和使用

    Java NIO非堵塞应用通常适用用在I/O读写等方面,我们知道,系统运行的性能...通过仔细阅读这个例程,相信你已经大致了解NIO的原理和使用方法,下一篇,我们将使用多线程来处理这些数据,再搭建一个自己的Reactor模式。

    简单了解Java Netty Reactor三种线程模型

    1. Reactor三种线程模型 ...由于Reactor模式使用的是异步非阻塞IO,所有的IO操作都不会导致阻塞,理论上一个线程可以独立处理所有IO相关的操作。从架构层面看,一个NIO线程确实可以完成其承担的职责。例如,通过Ac

    socket-nio-single-reactor.zip

    reactor多线程,java代码demo,帮助理解reactor模式;由于是测试代码,故不保证一定正确,能正常接入传输数据,目前数据包处理没做,故会出现数据截断

    Java_NIO原理解析

    Java NIO非堵塞技术实际是采取Reactor模式,或者说是Observer(观察员)模式为我们监察I/O端口,如果有内容进来,会自动通知我们,这样,我们就不必 开启多个线程死等,从外界看,实现了流畅的I/O读写,不堵塞了。

    nioreactor:无阻塞IOReact器

    由于React堆线程可以在执行IO时饱和,因此nioreactor使用接受器线程将新连接转发到可以在非阻塞模式下处理读取和写入的React堆池。 建筑分布 要求 2.2.0或以上 Java 8或以上 建立: git clone mvn clean install ...

    基于NIO的群聊.zip

    使用java NIO的方式实现服务器群聊功能,可以检测到客户端上下线,多个客户端之间的群聊功能。采用了Reactor单线程方式实现。

    NIO框架Netty实现高性能高并发

    Java异步NIO框架Netty实现高性能高...心的设计Reactor线程模型,达到上述性能指标是完全有可能的。 下面我们就一起来看下Netty是如何支持10W TPS的跨节点远程服务调用的,在正式开始讲解之前,我们先简单介绍下Netty。

    基于javatcpsocket通信的拆包和装包源码-Netty-practice:Netty学习实践

    NIO+主从多线程Reactor模型 总结 阻塞IO和非阻塞IO的区别就在于:应用程序的调用(等待数据准备阶段)是否立即返回! 同步IO和异步IO的区别就在于:数据访问(等待数据复制阶段)的时候进程是否阻塞! 再往深了说,可以...

    精通并发与 netty 视频教程(2018)视频教程

    32_IO体系架构系统回顾与装饰模式的具体应用 33_Java NIO深入详解与体系分析 34_Buffer中各重要状态属性的含义与关系图解 35_Java NIO核心类源码解读与分析 36_文件通道用法详解 37_Buffer深入详解 38_NIO堆外内存与...

    一种基于Netty框架的网络应用服务器设计方法

    Netty是一个异步的事件驱动的网络编程模型框架,使用Java NIO构建了Reactor模型,该模型是一种具有优良扩展性和性能的非阻塞异步模式,它同步等待多个I/O事件的到达,对其进行多路分离,派发给工作线程。Netty包括一...

    Netty原理架构解析

    本文来自于csdn,本文主要介绍了关于Netty的原理架构解析,介绍的NettyReactor模型以及服务端Netty的工作架构,希望对您的学习有所帮助。...例如熟悉Java多线程编程,因为NIO编程涉及到Reactor模式

    netty面试专题-答案-一起学习

    NIO 的特点:事件驱动模型、单线程处理多任务、非阻塞 I/O,I/O 读写不再阻塞,而是返 回 0、基于 block 的传输比基于流的传输更高效、更高级的 IO 函数 zero-copy、IO 多路复用 大大提高了 Java 网络应用的可伸缩性...

    精通并发与netty视频教程(2018)视频教程

    63_Reactor模式与Netty组件对比及Acceptor组件的作用分析 64_Channel与ChannelPipeline关联关系及模式运用 65_ChannelPipeline创建时机与高级拦截过滤器模式的运用 66_Netty常量池实现及ChannelOption与Attribute...

    深入理解Java源码:提升技术功底,深度掌握技术框架,快速定位线上问题

    无锁串行化设计思想是一种无锁串行化的设计思想,它通过串行化设计,即消息的处理尽可能在同一个线程内完成,期间不进行线程切换,这样就避免了多线程竞争和同步锁。直接内存的使用可以避免内存的二次拷贝,提高性能...

    高性能IO模型浅析

    (3)IO多路复用(IO Multiplexing):即经典的Reactor设计模式,有时也称为异步阻塞IO,Java中的Selector和Linux中的epoll都是这种模型。 (4)异步IO(Asynchronous IO):即经典的Proactor设计模式,也称为异步非...

    精通并发与netty 无加密视频

    第63讲:Reactor模式与Netty组件对比及Acceptor组件的作用分析 第64讲:Channel与ChannelPipeline关联关系及模式运用 第65讲:ChannelPipeline创建时机与高级拦截过滤器模式的运用 第66讲:Netty常量池实现及...

    基于javatcpsocket通信的拆包和装包源码-niochatroom:基于Javanio的聊天室

    基于java tcp socket通信的拆包和装包源码 功能 1)编写一个 NIO 群聊系统,实现服务器端和客户端之间的数据简单通讯(非阻塞) 2)实现多人群聊 3)服务器端:可以监测用户上线,离线,并实现消息转发功能 4)客户端:...

    基于javatcpsocket通信的拆包和装包源码-NettyTree:网状树

    基于java tcp socket通信的拆包和装包源码 NettyTree ... 2)多线程模型,有一组NIO线程处理IO操作   有一个专门的NIO线程-Acceptor线程用于监听服务端,接收客户端的TCP连接请求;   有一个NIO线程池,

Global site tag (gtag.js) - Google Analytics