瘦客户端计算模式显现出回来的风格——这一时刻，在互联网上的服务器正在为数千计的客户端服务。

　　考虑到这一点，这里有几个关于如何配置操作系统和编写代码以支持数千客户端的注意事项。讨论的中心是围绕类 Unix 操作系统的。因为这是我个人感兴趣的领域。但Windows也包括了一点。

目录

• C10K 问题
• 相关网站
• 首先阅读的书籍
• I/O 框架
• I/O 策略
  1. 为多客户端提供每个线程，并使用非阻塞 I/O 和水平触发 就绪通知
     • 传统 select()
     • 传统 poll()
     • /dev/poll（Solaris 2.7+）
     • kqueue（FreeBSD， NetBSD）
  2. 为多客户端提供每个线程，并使用非阻塞 I/O 和变更 就绪通知
     • epoll （Linux 2.6+）
     • Polyakov‘s kevent（Linux 2.6+）
     • Drepper的新网络接口（建议 Linux 2.6+）
     • 实时信号（Linux 2.4+）
     • 信号/fd
     • kqueue (FreeBSD, NetBSD)
  3. 为多客户端提供每个线程，并使用异步 I/O 和完成通知
  4. 为多客户端提供每个线程
     • Linux线程 (Linux 2.0+)
     • NGPT (Linux 2.4+)
     • NPTL (Linux 2.6, Red Hat 9)
     • FreeBSD 的线程支持
     • NetBSD 的线程支持
     • Solaris 的线程支持
     • Java 在JDK 1.3.x 及其早期版本的线程支持
     • 注意： 1：1 线程 VS. M：N 线程
  5. 在内核中构建服务器代码
• 注释
• 打开文件句柄的限制
• 线程的限制
• Java 议题 [更新于 2001年5月27日]
• 其他建议
  • 零拷贝
  • sendfile() 系统调用可实现零拷贝联网
  • 使用writev时避免小帧（或 TCP_CORK ）
  • 使用非 Posix 线程对一些程序有益
  • 缓存你自己的数据在有时可以成为赢家
• 其他限制
• 内核议题
• 衡量服务器性能
• 例程
  • 有趣的服务器 select()
  • 有趣的服务器 /dev/poll
  • 有趣的服务器 kqueue()
  • 有趣的服务器的实时信号
  • 有趣的服务器线程
  • 有趣的服务器内核
• 其他有趣的链接

相关站点

　　阅读Nick Black写的超级棒的 Fast UNIX Servers 文章.
　　2003年十月， Felix von Leitner 做了一个超级好的网页，展示了网络的可扩展性，他完成了在各种不同的网络系统请求和操作系统下的benchmark比较。他的一个实验观察结果就是linux2.6的内核确实比2.4的要好，但还有有很多很多好的图表数据可以引起OS开发者的深思(如有兴趣可以看看 Slashdot 的评论;是否真的有遵循Felix的实验结果对benchm的提高进行跟踪的)

提前阅读

　　如果你还没有读过上述，那么先出去买一本W. Richard Stevens写的 Unix Network Programming : Networking Apis: Sockets and Xti (Volume 1)  . 这本书描述了很多编写高性能服务器的I/O策略和误区，甚至还讲解了关于 ‘thundering herd‘ 问题。惊群问题
　　如果你读过了，那么请读这本 Jeff Darcy‘s notes on high-performance server design.(Cal Henderson写的，对更加倾向于使用一款web 服务器而非开发一款服务器 来构建可扩展web站点的同志，这本书更加有用.)

I/O 策略

　　网络软件设计者往往有很多种选择，以下列出一些:

• 是否处理多个I/O？如何处理在单一线程中的多个I/O调用？
  • 不处理，从头到尾使用阻塞和同步I/O调用，可以使用多线程或多进程来达到并发效果。
  • 使用非阻塞调用（如在一个设置O_NONBLOCK选项的socket上使用write）读取I/O，当I/O完成时发出通知（如poll，/dev/poll）从而开始下一个I/O。这种主要使用在网络I/O上，而不是磁盘的I/O上.
  • 使用异步调用（如aio_write()）读取I/O，当I/O完成时会发出通知（如信号或者完成端口），可以同时使用在网络I/O和磁盘I/O上.
• 如何控制对每个客户的服务?
  • 对每个客户使用一个进程（经典的Unix方法，自从1980年一直使用）
  • 一个系统级的线程处理多个客户，每个客户是如下一种：
    • 一种用户级的线程(如GNU 状态线程，经典的java绿色线程)
    • 一个状态机 (有点深奥，但一些场景下很流行; 我喜欢)
    • 一个延续性线程 (有点深奥，但一些场景下很流行)
  • 一个系统级的线程对应一个来自客户端的连接 (如经典的java中的带native 线程)
  • 一个系统级的线程对应每一个活动的客户端连接(如Tomcat坐镇而 apache 做前端的；NT完成端口; 线程池)
• 是否使用标准的操作系统服务，还是把一些代码放入内核中（如自定义驱动，内核模块，VxD）

　　下面的五种组合应该是最常用的了:

1. 一个线程服务多个客户端，使用非阻塞I/O和水平触发的就绪通知
2. 一个线程服务多个客户端，使用非阻塞I/O和就绪改变时通知
3. 一个服务线程服务多个客户端，使用异步I/O
4. 一个服务线程服务一个客户端，使用阻塞I/O
5. 把服务器代码编译进内核

　　这个方法中的一个重要瓶颈，就是read()或sendfile()对磁盘块操作时，如果当前内存中并不存在该页；将磁盘文件描述符设置为非阻塞将没有效果。同样的问题也发生在内存映射磁盘文件中。当一个服务端第一次需要磁盘I/O时，它的进程模块，所有的客户端都必须等待，因此最初的非线程的性能就被消耗了。
　　这也是异步I/O的目的所在，但是仅仅是在没有AIO的系统，处理磁盘I/O的工作线程或工作进程也可能遭遇此瓶颈。一条途径就是使用内存映射文件，如果mincore()指明I/O为必需的话，那么就会要求一个工作线程来完成此I/O，然后继续处理网络事件。Jef Poskanzer提到Pai，Druschel和Zwaenepoel的1999Flash web服务器就使用了这个方法；他们还就此在 Usenix ‘99上做了一个演讲。看上去就好像BSD衍生出来的 Unixes如 FreeBSD和Solaris 中提供了mincore()一样，但是它并不是 单一 Unix 规范的一部分，在Linux的2.3.51 的内核中提供了该方法， 感谢Chuck Lever。

　　但在 2003年11月的 freebsd-hackers列表中，Vivek Pei报告了一个不错的成果，他们对它们的Flash Web服务器在系统范围做性能分析，然后再攻击其瓶颈。他们找到的一个瓶颈就是mincore（猜测根本就不是什么好方法），另外一个事实就是sendfile在磁盘块访问时阻塞了；他们引入了一个修改后的sendfile()，当需要读 取的磁盘页不在内核中时，返回类似EWOULDBLOCK的值，这样便提高了性能。（不确定你怎样告诉用户页面现在位于何处…在我看来这里真正需要的是aio_sendfile()。） 他们优化的最终结果是SpecWeb99，在1GHZ/1GB FreeBSD沙箱上跑了约800分，这要比在spec.org存档的任何记录都要好。

　　对于单线程来说有很多方法来分辨一组非阻塞socket中哪一个已经准备好I/O了：

• 传统的select() 
  很不幸select()受FD_SETSIZE限制。这个限制已经被编译到了标准库和用户程序。（有些版本的C语言库允许在用户应用编译的时候提高这个值。）

  参照 Poller_select (cc,h) 做为一个如何使用select()替代其它就绪通知场景例子。

• 传统的poll() 
  poll()可以处理的文件描述符数量没有硬编码的限制，但是这种方式会慢几千倍，因为大部分文件描述符总是空闲的，扫描上千个文件描述符是耗时的。
  有些操作系统（比如Solaris8）使用类似轮询暗示（poll hinting）的办法来加速poll(),在1999年Niels Provos实现了这种办法并且做了基准测试。
  

  参照 Poller_poll (cc,h,benchmarks) 做为一个如何使用poll()替代其它就绪通知场景的例子。

• /dev/poll
  在Solaris系统中，这是推荐的poll的替代品。
  隐藏在/dev/poll后面的想法是利用poll()经常以相同的参数调用很多次的事实。使用/dev/poll，你获取一个对/dev/poll的打开的句柄，通过写这个句柄就可以一次性告诉操作系统你对哪些文件感兴趣；从这以后，你只需要读从那个句柄返回的当前准备好的文件描述符。
  

  这一特性悄悄出现在了Solaris7 (see patchid 106541) 但是首先公开出现是在 Solaris 8; 参照Sun的数据，在750个客户端的时候，这种实现仅占poll()开销的10%。

  在Linux上/dev/poll有很多种实现，但是没有一种性能与epoll一样好，这些实现从来没有真正完整过。在linux上/dev/poll是不建议的。

  参照 Poller_devpoll (cc,hbenchmarks ) 做为一个如何使用/dev/poll替代其它就绪通知场景的例子。(注意-这个例子是针对linux /dev/poll的，在Solaris上可能是无法工作的。）

• kqueue()
  在FreeBSD（以及NetBSD）上，这是推荐的poll的替代品。
  看下面，kqueue()可以被指定为边缘触发或者水平触发。

2. 一个线程服务多个客户端，并使用非阻塞I/O和变更就绪通知

　　变更就绪通知（或边缘触发就绪通知）意味着你给内核一个文件描述符，这之后，当描述符从未就绪变换到就绪时，内核就以某种方式通知你。然后假设你知道文件描述符是就绪的，直到你做一些事情使得文件描述符不再是就绪的时才不会继续发送更多该类型的文件描述符的就绪通知（例如：直到在一次发送，接收或接受调用，或一次发送或接收传输小于请求的字节数的时候你收到 EWOULDBLOCK 错误）。

　　当你使用变更就绪通知时，你必须准备好伪事件，因为一个共同的信号就绪实现时，任何接收数据包，无论是文件描述符都已经是就绪的。

　　这是“水平触发”就绪通知的对立面。这是有点不宽容的编程错误，因为如果你错过了唯一的事件，连接事件就将永远的卡住。不过，我发现边沿触发就绪通知使使用 OpenSSL 编程非阻塞客户端更容易，所以是值得尝试的。

　　[Banga, Mogul, Drusha ‘99] 在1999年描述了这种方案。　

　　有几种APIs可以使得应用程序获得“文件描述符已就绪”的通知:

• kqueue() 这是在FreeBSD系统上推荐使用边缘触发的方法 (and, soon, NetBSD).

  FreeBSD 4.3及以后版本，NetBSD（2002.10）都支持 kqueue()/kevent()， 支持边沿触发和水平触发（请查看Jonathan Lemon 的网页和他的BSDCon 2000关于kqueue的论文）。

  就像/dev/poll一样，你分配一个监听对象，不过不是打开文件/dev/poll，而是调用kqueue ()来获得。需要改变你所监听的事件或者获得当前事件的列表，可以在kqueue()返回的描述符上 调用kevent()来达到目的。它不仅可以监听套接字，还可以监听普通的文件的就绪，信号和I/O完 成的事件也可以.

  Note: 在2000.10，FreeBSD的线程库和kqueue()并不能一起工作得很好，当kqueue()阻塞时， 那么整个进程都将会阻塞，而不仅仅是调用kqueue()的线程。

  See Poller_kqueue (cc, h, benchmarks) for an example of how to use kqueue() interchangeably with many other readiness notification schemes.

  使用kqueue()的例程和库:

  • PyKQueue -- 一个Python的kqueue()库.
  • Ronald F.Guilmette的echo的服务器例程; 另外可以查看他在 2000.9.28在freebsd 上发表的帖子。
• epoll
  这是Linux 2.6的内核中推荐使用的边沿触发poll.

  2001.7.11， Davide Libenzi提议了一个实时信号的可选方法，他称之/dev/epoll（www.xmailserver.org/linux-patches/nio-improve.html）， 该方法类似与实时信号就绪通知机制，但是结合了其它更多的事件，从而在大多数的事件获取上拥有更高的效率。
  
  epoll在将它的接口从一个/dev下的指定文件改变为系统调用sys_epoll后就合并到2.5版本的 Linux内核开发树中，另外也提供了一个为2.4老版本的内核可以使用epoll的补丁。
  
  unifying epoll, aio, 2002 年万圣节前夕的Linux内核邮件列表就统一epoll，aio和其它的event sources 展开了很久的争论，it may yet happen，but Davide is concentrating on firming up epoll in general first.

• Polyakov‘s kevent (Linux 2.6+) 的最后新闻：2006.2.9和2006.7.9，Evgeniy Polyakov发表了融合epoll和 aio的补丁，他的目标是支持网络AIO. See:
  • the LWN article about kevent
  • his July announcement
  • his kevent page
  • his naio page
  • some recent discussion
• Drepper的最新网络接口 (proposal for Linux 2.6+)
  在2006 OLS上，Ulrich Drepper提议了一种最新的高速异步网络API. See:
  • his paper, "The Need for Asynchronous, Zero-Copy Network I/O"
  • his slides
  • LWN article from July 22
• Realtime Signals实时信号
  Linux2.4内核中推荐使用的边沿触发poll.

  2.4的linux内核可以通过实时信号来分派套接字事件,示例如下:

  /* Mask off SIGIO and the signal you want to use. */ 
  sigemptyset(&sigset); 
  sigaddset(&sigset, signum); 
  sigaddset(&sigset, SIGIO); 
  sigprocmask(SIG_BLOCK, &m_sigset, NULL);
  /* For each file descriptor, invoke F_SETOWN, F_SETSIG, and set O_ASYNC. */ 
  fcntl(fd, F_SETOWN, (int) getpid()); 
  fcntl(fd, F_SETSIG, signum); 
  flags = fcntl(fd, F_GETFL); flags |= O_NONBLOCK|O_ASYNC; fcntl(fd, F_SETFL, flags); 
  

  当正常的I/O函数如read()或write()完成时，发送信号。要使用该段的话，在外层循环中编写 一个普通的poll()，在循环里面，当poll()处理完所有的描述符后，进入 sigwaitinfo()循环。 如果sigwaitinfo()或sigtimedwait()返回了实时信号，那么siginfo.si_fd和 siginfo_si_band给出的信息和调用poll()后pollfd.fd和pollfd.revents的几乎一样。如果你处 理该I/O，那么就继续调用sigwaitinfo()。 

  如果sigwaitinfo()返回了传统的SIGIO，那么信号队列溢出了，你必须通过临时 改变信号处理 程序为SIG_DFL来刷新信号队列，然后返回到外层的poll()循环。
  

  See Poller_sigio (cc, h) for an example of how to use rtsignals interchangeably with many other readiness notification schemes.

  See Zach Brown‘s phhttpd 示例代码来如何直接使用这些特点. (Or don‘t; phhttpd is a bit hard to figure out...)

  [Provos, Lever, and Tweedie 2000] 描述了最新的phhttp的基准测试，使用了不同的sigtimewait()和sigtimedwait4()，这些调用可以使你只用一次调用便获得多个信号。 有趣的是，sigtimedwait4()的主要好处是它允许应用程序测量系统负载(so it could behave appropriately)（poll()也提供了同样的系统负载 测量）。

• Signal-per-fd
  Signal-per-fd是由Chandra和Mosberger提出的对实时信号的一种改进，它可以减少甚至削除实 时信号的溢出通过oalescing redundant events。然而是它的性能并没有epoll好. 论文(www.hpl.hp.com/techreports/2000/HPL-2000-174.html) 比较了它和select()，/dev/poll的性能.
  

  Vitaly Luban在2001.5.18公布了一个实现Signal-per-fd的补丁; 授权见www.luban.org/GPL/gpl.html. (到2001.9，在很重的负载情况下仍然存在稳定性问题，利用dkftpbench测试在4500个用户时将引发问题.

  如何使用signal-per-fd互换及通知计划请参考参考 Poller_sigfd (cc, h)

3. 每个服务器线程处理多个客户端请求，并使用异步I/O

　　在Unix中这种方式还不是很流行，可能因为少有操作系统支持异步I/O，也可能因为这种非阻塞I/O使得你不得不重新修改应用。在标准unix下，异步I/O功能是由 aio 接口(下滚查看 "异步输入输出"小节)提供, 它将一个信号和一个值与每个I/O操作关联。Signals信号和他们的值通过队列形式快速传递到用户进程中。这是 POSIX 1003.1b 实时扩展中的，同时也是单Unix规范的第2个版本。

　　AIO通常和边缘触发完成消息一起使用，例如当操作完成时，一个信号进入队列 (也可以在水平触发完成通知时，通过调用aio_suspend(), 但我觉得应该很少人这样做.)

glibc 2.1和后续版本提供了一个普通的实现，仅仅是为了兼容标准，而不是为了获得性能上的提高.

en LaHaise编写的Linux AIO实现合并到了2.5.32的内核中，它并没有采用内核线程，而是使 用了一个高效的underlying api，但是目前它还不支持套接字（2.4内核也有了AIO的补丁，不过 2.5/2.6的实现有一定程序上的不同）。更多信息如下:

• "Kernel Asynchronous I/O (AIO) Support for Linux" 2.6内核的AIO实现试图绑在一起的所有资料（发布于2003年9月16日）
• Round 3: aio vs /dev/epoll by Benjamin C.R. LaHaise (发布于2002的OLS)
• Asynchronous I/O Suport in Linux 2.5, by Bhattacharya, Pratt, Pulaverty, and Morgan, IBM;发布于2003的OLS
• Design Notes on Asynchronous I/O (aio) for Linux by Suparna Bhattacharya -- SGI的KAIO和其他几个AIO项目与Ben的AIO进行比较
• Linux AIO home page - Ben的初步补丁, 邮件列表等
• linux-aio mailing list archives
• libaio-oracle - 库实现标准POSIX AIO最上层的libaio.First mentioned by Joel Becker on 18 Apr 2003.

　　Suparma建议先看看 AIO的API.

　　RedHat AS和Suse SLES都在2.4的内核中提供了高性能的实现，与2.6的内核实现相似，但并不完全一样。

NPTL: Linux的本地Posix线程库

　　NPTL是由 Ulrich Drepper ( glibc的主要维护人员)和 Ingo Molnar发起的项目，目的是提供world-class的Posix Linux线程支持。

　　2003.10.5，NPTL作为一个add-on目录（就像linuxthreads一样）被合并到glibc的cvs树中，所以很有可能随glibc的下一次release而 一起发布。

　　Red Hat 9是最早的包含NPTL的发行版本（对一些用户来说有点不太方便，但是必须有人来打破这沉默[break the ice]...)

　　NPTL links:

• NPTL讨论的邮件列表
• NPTL源码
• NPTL的最初发表
• 最初的描述NPTL目标的白皮书
• 修改的NPTL的最后设计的白皮书
• Ingo Molnar最初的基准测试表明可以处理10^6个线程
• Ulrich的基准测试 比较了LinuxThreads，NPTL和IBM的NGPT的各自性能，结果看来NPTL比NGPT快的多。

FreeBSD线程支持

　　FreeBSD支持LinuxThreads和用户空间的线程库。同样，M:N的模型实现KSE在FreeBSD 5.0中引入。 具体请查看 www.unobvious.com/bsd/freebsd-threads.html.

2003.3.25, Jeff Roberson 发表于freebsd-arch:

...感谢Julian, David Xu, Mini, Dan Eischen,和其它的每一位参加了KSE和libpthread开发的成员所提供的基础， Mini和我已经开发出了一个1：1模型的线程实现，它可以和KSE并行工作而不会带来任何影响。实际上，它有助于把M：N线程共享位测试. ...

　　2006.7,  Robert Watson提议1:1的线程模型应该为FreeBSD 7.x的默认实现:

我知道曾经讨论过这个问题，但是我认为随着7.x的向前推进，这个问题应该重新考虑。 在很多普通的应用程序和特定的基准测试中，libthr明显的比libpthread在性能上要好得多。 libthr是在我们大量的平台上实现的，而libpthread却只有在几个平台上。 最主要的是因为我们使得Mysql和其它的大量线程的使用者转换到"libthr"，which is suggestive, also! ... 所以strawman提议:让libthr成为7.x上的默认线程库。

NetBSD线程支持

　　根据Noriyuki Soda的描述:

内核支持M:N线程库是基于调度程序激活模型，合并于2003.1.18当时的NetBSD版本中。

　　详情请看Nathan J. Williams, Wasabi Systems, Inc.在2002年的FREENIX上的演示  An Implementation of Scheduler Activations on the NetBSD Operating System。

Solaris线程支持

　　Solaris的线程支持还在进一步提高evolving... 从Solaris 2到Solaris 8，默认的线程库使用的都是M:N模型, 但是Solaris 9却默认使用了1:1线程模型. 查看Sun多线程编程指南 和Sun的关于Java和Solaris线程的note.

Java在JDK 1.3.x及更早的线程支持

　　大家都知道，Java一直到JDK1.3.x都没有支持任何处理网络连接的方法，除了一个线程服务一个客户端的模型之外。  Volanomark是一个不错的微型测试程序，可以用来测量在 某个时候不同数目的网络连接时每秒钟的信息吞吐量。在2003.5, JDK 1.3的实现实际上可以同时处理10000个连接，但是性能却严重下降了。 从Table 4 可以看出JVMs可以处理10000个连接，但是随着连接数目的增长性能也逐步下降。

5. 把服务代码编译进内核

　　Novell和Microsoft都宣称已经在不同时期完成了该工作，至少NFS的实现完成了该工作。 khttpd在Linux下为静态web页面完成了该工作， Ingo Molnar完成了"TUX" (Threaded linUX webserver) ，这是一个Linux下的快速的可扩展的内核空间的HTTP服务器。 Ingo在2000.9.1宣布 alpha版本的TUX可以在ftp://ftp.redhat.com/pub/redhat/tux下载, 并且介绍了如何加入其邮件列表来获取更多信息。

　　Mark Russinovich写了 一篇评论和 文章讨论了在2.2的linux内核只能够I/O策略问题。 尽管某些地方似乎有点错误，不过还是值得去看。特别是他认为Linux2.2的异步I/O (请看上面的F_SETSIG) 并没有在数据准备好时通知用户进程，而只有在新的连接到达时才有。 这看起来是一个奇怪的误解。 还可以看看 早期的一些comments, Ingo Molnar在1999.4.30所举的反例, Russinovich在1999.5.2的comments, Alan Cox的 反例，和各种 linux内核邮件. 我怀疑他想说的是Linux不支持异步磁盘I/O，这在过去是正确的，但是现在SGI已经实现了KAIO，它已不再正确了。

　　查看页面 sysinternals.com和 MSDN了解一下“完成端口”， 据说它是NT中独特的技术， 简单说，win32的"重叠I/O"被认为是太低水平而不方面使用，“完成端口”是提供了完成事件队列的封装，再加上魔法般的调度， 通过允许更多的线程来获得完成事件如果该端口上的其它已获得完成事件的线程处于睡眠中时（可能正在处理阻塞I/O），从而可以保持运行线程数目恒定（scheduling magic that tries to keep the number of running threads constant by allowing more threads to pick up completion events if other threads that had picked up completion events from this port are sleeping (perhaps doing blocking I/O).

　　查看OS/400的I/O完成端口支持.

　　在1999年9月，有一场很有趣的关于linux内核的讨论，它叫做 "> 15,000个并发连接" (主题的第二周 ). 重点如下:

• Ed Hall根据他的经验 发表 一些他的观点；他在跑着Solaris系统的UP P2/333上完成了超过1000连接/秒的任务。他代码里使用很少的线程(一两个CPU)，每个线程管理大量的使用事件模型模拟的用户
• Mike Jagdis posted 发表的分析poll/select系统开销的文章 并说 "当前的 select/poll实现部分可以改良，特别在阻塞状态下， 但系统开销仍然会随着描述符的增加而增加，因为select/poll不会也不能记住描述符参与了什么。不过很容易通过使用新的API来修复这个问题。欢迎提出建议....."
• Mike发表了  关于 改善select()和poll()的文章.
• Mike 发表了一个可能替换poll()/select()的API: "为何不试试‘类设备‘的API？你可以用它写出类pollfd的结构，然后“设备”就会侦探事件并在你读取它的时候传送类pollfd结构表示的结果... "
• Rogier Wolff 推荐使用 "digital guys推荐的API", http://www.cs.rice.edu/~gaurav/papers/usenix99.ps
• Joerg Pommnitz 指出t that任何新API都应不仅能等待文件描述符事件，还要能接受信号和处理SYSV-IPC。我们的同步原语至少应该能够做到Win32下的WaitForMultipleObjects能够做的。
• Stephen Tweedie 指出F_SETSIG, 排队的实时信号和sigwaitinfo()的结合是http://www.cs.rice.edu/~gaurav/papers/usenix99.ps中建议的API的超集. 他同时提到如果你对性能感兴趣，你应该总是让信号阻塞，而不是让信号异步传送，以致于处理器调用sigwaitinfo()在队列中调度下一个进程。
• Jayson Nordwick用F_SETSIG同步事件模型 比较 完成端口，并得出了相似的结论。
• Alan Cox 指出老版本的SCT‘s SIGIO 补丁包括在了 2.3.18ac.
• Jordan Mendelson 贴出了一些示例代码并演示如何使用F_SETSIG.
• Stephen C. Tweedie 继续比较完成端口和F_SETSIG, 并称: "在信号出队列的机制下，如果类库使用同样的机制，那么你的应用程序就会为不同库组件预定受信" ，类库也可以建立自己的受信句柄，这样就不会过多地影响程序本身了。
• Doug Royer 指出当他在Sun的日程服务器上工作时，他已经在Solaris 2.6上建立了100,000 个连接。其他人也附和地谈到在Linux上需要多少RAM，可能会遇到什么瓶颈。

　　感谢阅读!

Java 相关问题

　　在JDK1.3及以前，标准的Java网络库主要提供每个连接单独线程处理的模型。这是一种非阻塞读的工作方式，但并不支持非阻塞写。

　　2001年5月， JDK 1.4 引入了 java.nio 包以支持完整的非阻塞I/O操作（以及其他优点）。详情请见发行说明。请尝试使用并向Sun提交反馈。

　　惠普（HP）的Java库也包含了线程轮询API。

　　2000年，Matt Welsh在Java上实现了非阻塞网络接口（socket）； 对这个实现的负载测试表明在服务端处理大量（达到10000）连接时，非阻塞的方式比阻塞更具优势。这个库叫做java-nbio： Sandstorm 项目的一部分。负载测试报告可参见10000连接的性能 。

　　另请参考Dean Gaudet论文中关于Java、网络I/O以及线程部分；Matt Welsh的论文：事件驱动vs工作线程。

　　在NIO之前，改进Java网络API主要有以下几种建议：

• Matt Welsh的捷豹系统建议预先序列化对象、使用新的Java字节码以及改造内存管理机制从而使Java支持异步I/O。
• C-C. Chang和T. von Eicken提出将Java抽象成虚拟接口架构（Virtual Interface Architecture）。他们建议改造内存管理机制从而使Java支持异步I/O。
• JSR-51是Sun的一个项目，它引入了java.noi包。Matt Welsh也参与其中。（谁说Sun不听他人意见？）

其他提示

• 零拷贝
  通常，数据在传输的过程中会被拷贝好多次。一些消除这些拷贝直到达到绝对最小值的方案被称为“零拷贝”。
  • Thomas Ogrisegg‘s zero-copy send patch ，用于Linux 2.4.17-2.4.20 下的 mmaped 文件。它被号称快于 sendfile()。
  • IO-Lite 是一组去掉了多次不必要拷贝的 I/O 基本元素提案。
  • 早在1999年， Alan Cox 提出零拷贝有时不值得去费心 。(尽管他也喜欢 sendfile()。)
  • 2000 年七月，在 TUX 1.0 的 2.4 内核上，Ingo 实现了TCP零拷贝的一种形式，并称他会很快在用户空间上实现这一功能。
  • Drew Gallatin 和 Robert Picco 为 FreeBSD 增添了一些零拷贝特性；这主意看来就像：如果你在一个 socket 中调用 write() 或 read()，指针是按页对齐，同时要传输的数据量至少是一页，*同时*你不立即重用缓冲，使用内存管理诀窍来避免拷贝。但是看一看 linux-kernel 上这个消息的跟贴 ，人们对这些内存管理诀窍的速度的担忧。

    根据来自 Noriyuki Soda 的说明:

    自 NetBSD-1.6 发布，通过指定 "SOSEND_LOAN"  内核选项，来支持发送端零拷贝。现在这个选项在 NetBSD-current 中是默认的（你可以通过在 NetBSD_current 的内核选项中指定 "SOSEND_NO_LOAN"  来禁用这项特性）。使用这个特性，如果要发送的数据超过 4096 字节，零拷贝自动启用。

  • sendfile() 系统调用能够实现零拷贝的网络工作。
    Linux 和 FreeBSD 中的 sendfile() 函数让你告诉内核去发送一个文件的部分或全部。这让操作系统尽可能高效地去做。它也可以同样用在使用线程或非阻塞 I/O 的服务器上。 （在 Linux 上，目前缺乏文档；使用 _syscall4  调用它。 Andi Kleen 正在写一个关于这个的新手册页。参阅在in Linux Gazette issue 91上，Jeff Tranter 的 探索 sendfile 系统调用 。)有传言称，ftp.cdrom.com 从 sendfile() 中显著获益。

    一个2.4内核上的 sendfile() 零拷贝实现正处于进程之中。参见 LWN Jan 25 2001。

    一个在 Freebsd 上使用 sendfile() 的开发者报告说用 POLLWRBAND 取代 POLLOUT 会有大改观。

    Solaris 8 （截至 2001 年 7 月的更新）有一个新的系统调用 ‘sendfilev‘。 这里有一个手册页的副本。Solaris 8 7/01 发布说明 也提到了它。我怀疑这将会在阻塞模式下发送到一个 socket 时非常有用；而在非阻塞 socket 下使用时会有点痛苦。

• 通过使用 writev （或 TCP_CORK）避免小帧
  Linux 下一个新的 socket 选项，TCP_CORK，告诉内核避免发送并不完全的帧，这有些帮助，比如出于某些原因，你不能将许多小的 write() 调用聚集在一起时。去掉这个选项刷新缓冲。尽管用 writev() 更好……

  参阅 LWN Jan 25 2001，在 linux-kernel 上关于 TCP_CORK 和一个可能的替代者 MSG_MORE 的一些非常有趣的讨论的总结。

• 对过载切合实际地做出反应。
  [Provos, Lever, and Tweedie 2000] 记录了当服务器过载时，丢弃传入的连接，改善了性能曲线的形状，同时减少了整体错误率。 他们使用了一个“I/O 就绪的客户端的数目”的一个平滑描述作为过载的一个尺度。这种技术应该可以很容易地应用于使用 select，poll，或每次调用返回一个就绪事件计数的其他系统调用（如 /dev/poll 或 sigtimedwait4()）编写的服务器上。 
• 一些程序可以从使用非Posix线程中获益。
  并非所有的线程生来相同。Linux 中的 clone()（和其他操作系统中它的朋友们）让你创建一个拥有它自己当前工作目录的线程，例如，当实现一个  ftp 服务器时，这将非常有用。参看 Hoser FTPd，它是一个使用本地线程而非 pthreads 的例子。
• 缓存自己的数据有时可以取得双赢。
  5月9号， new-httpd 上，Vivek Sadananda Pai (vivek@cs.rice.edu) 在 "Re: fix for hybrid server problems"（回复：hybrid服务器问题的修复） 中陈述：

  “在 FreeBSD 和 Solaris/x86 上，我都比较了一个基于 select 的服务器和一个多处理器服务器的原始（raw）性能。在微型基准（microbenchmarks）方面，仅有一些来源于软件架构的细微性能差别。基于select的服务器的性能大获全胜源于做了一些应用程序级别的缓存。同时多处理器服务器可以用更高的代价做这件事，在实际的工作负担上很难获得同等收益（较之微型基准）。我要将这些测量作为下一期的 Usenix 会议上出现的论文的一部分。如果你有 postscript，可在 http://www.cs.rice.edu/~vivek/flash99/ 上找到这篇论文。”

测试服务器性能

1. 每秒钟原始连接数。 (你可以在一秒钟内处理多少个512字节的文件呢？)
2. 有很多慢速客户端时在大文件上的传输速率(可以支持多少个28.8k的调制解调器类型的客户端同时从你的服务器下载，在你的性能急剧下降前?)

　　我的笔记  关于 thttpd 和 Apache的对比 可能适合初学者查看.

　　Chuck Lever  一直提醒我们  Banga and Druschel的 "关于web服务器基准测试"论文 值得一读
　　IBM 的精彩论文 Java 服务器基准测试 [Baylor et al, 2000]. 也值得一看.

示例

Nginx是一个基于目标系统的高效率网络事件机制的 Web 服务器。它愈发受欢迎起来；甚至有两本相关相关书籍。

有趣的基于 select() 服务器

• thttpd 很简单的。使用单一进程。它具有良好的性能，但不会随CPU的数目扩展。也可使用 kqueue。
• mathopd。同 thttpd类似。
• fhttpd
• boa
• Roxen
• Zeus，一个试图成为速度最快的商业化服务器软件。见其调整指南。
• 其它非Java服务器列表于http://www.acme.com/software/thttpd/benchmarks.html
• BetaFTPd
• Flash-Lite - 使用 IO-Lite 的 Web 服务器
• Flash：一个高效可移植 Web 服务器 -- 使用 select(), mmap(), mincore()
• 2003年度 Flash Web 服务器 -- 使用 select(), modified sendfile(), async open()
• xitami - 使用 select() 实现自己的线程抽象，以移植到无线程系统。
• Medusa - 一个 Python 服务器编写工具包，试图提供高性能。
• userver - 可使用 select, poll, epoll, 或 sigio 功能的小型 http 服务器。

有趣的基于 /dev/poll 的服务器

• 2000年五月，N. Provos, C. Lever, "Linux 平台可扩展网络 I/O," 「2000年6月，加利福尼亚州圣地亚哥，FREENIX track, Proc。USENIX 2000」描述了一个支持 /dev/poll 的 thttpd 修改版。同 phhttpd 进行了性能比较。

有趣的基于kqueue()的服务器

• thttpd (从2.21开始?)
• Adrian Chadd说 "为了使Squid像一个真正的基于内核队列的IO系统，我做了很多工作";它是一个官方的Squid子项目；参见http://squid.sourceforge.net/projects.html#commloops. (这显然比Benno的 patch更加新)

有趣的基于实时信号的服务器

• Chromium‘s X15. 使用了2.4 内核的SIGIO特性加上sendfile()和TCP_CORK,其宣称拥有比TUX更快的速度. 基于社区源码许可下(非开源)的 源码已经发布。查看Fabio Riccardi发布的原始公告.
• Zach Brown‘s phhttpd - "为了展示sigio/siginfo事件模型而编写的快速web服务器。考虑它的嗲吗是一个高实验性的，如果你要将它使用到生产环境，那一将要花费很多的脑力"。要使用siginfo特性你需要2.3.21 或以后的版本，它们包含了针对早期内核的补丁。其宣传比khttpd更快。查看 1999.5.31号发布的邮件 获取更多信息。

参考文献：

英文版原文：http://www.kegel.com/c10k.html

中文翻译参考自：http://www.oschina.net/translate/c10k

原文：http://www.cnblogs.com/jukan/p/5228337.html