Las mejores opciones son Simple Machines Forum (SMF) o phpBB.
Ambos son gratis, muy faciles de instalar y configurar, y tienen muchisimos temas para personalizarlo a tu gusto.
También podes probar Icy Phoenix, que esta basado en phpBB, pero tiene un par de addons bastante buenos, viene con portal ya instalado y otras cosas bastante utiles.
Te dejo links
phpBB -
http://www.phpbb.com/
SMF -
http://www.simplemachines.org/
Icy Phoenix -
http://www.icyphoenix.com/
Si queres ver las alternativas pagas, tenes tambien unos cuantos preprogramados muy buenos. Podes probar vBulletin, que es uno de los mas usados actualmente, o Invision Power Board, que es al estilo phpBB.
vBulletin -
http://www.vbulletin.com/
Invision Power Board -
http://www.invisionpower.com/community/board/index.html
Saludos!
