Wenn man das Forum neu aufsetzt, würde sich flarum als kostenlose open-source Alternative anbieten. Flexibel durch zig Erweiterungen, die man nach Bedarf mit einbindet. Kann man selbst auf eigenem Server hosten oder deren kostenpflichtiges Hosting in Anspruch nehmen.
Ob und wie man den Datenbestand dann allerdings umgezogen bekommt, weiß ich nicht. Mitarbeit am Projekt könnte ich mir vorstellen, betreibe selbst seit Jahren einen kleinen Web- und Emailserver, der via Kommandozeile/SSH administriert wird.
Kauflösungen wie die WoltLab Suite kosten halt Geld und der Supportzeitraum ist begrenzt. Die verschiedenen Varianten müsste man mal gegenüberstellen und dann eine Entscheidung treffen.