SMTP:
Es el famoso servidor sendmail. Creo que la mayoría de su servidor de correo electrónico común actualmente.
Luego hay Postfix, que he encontrado en serverwatch.
Hacer un google también mostró Exim. Ive nunca tuvo la experiencia de configurar un servidor de correo sendmail, pero generalmente es instalado con la mayoría de distribuciones Linux creo.
POP3:
Qpopper dice que ellos son los más utilizados servidor POP3 para que adivinar su Im bastante bueno.
Luego hay que fetchmail soporta ambos POP3 e IMAP.
De hacer una búsqueda rápida parece haber un montón de servidores de correo. Mucha de ellos son opensource y debe ser bastante bueno.
Si tuviera que configurar un servidor de correo que probablemente uso sendmail y fetchmail
a) porque hay nombres suenan igual

b) sendmail, ya que su tan popular
c) fetchmail, ya que apoya tanto el acceso POP e IMAP
En primer lugar, decidir lo que su planificación a hacer con este servidor de correo y luego elegir el derecho servidores de correo.
Nota. Serverwatch tiene un pequeño gran estudio que compara los diferentes servidores, me gustaría ir allí para comprobarlo:
http://www.serverwatch.com/stypes/compare/Buena suerte.