Rubi, de 47 años, se dio a conocer como entrenador al coger al Girona en la temporada 2012-13. El equipo catalán era entonces uno de los equipos más humildes de la categoría pero acabó la liga en cuarto puesto tras pasar toda la temporada en puestos de ascenso directo o de promoción. El Girona de Rubi superó al Alcorcón en la primera eliminatoria, pero cayó en el play-off definitivo ante el Almería. Desde entonces el Girona es uno de los gallitos de la categoría, quedando en varias ocasiones a las puertas del ascenso, una de ellas precisamente hace dos años cuando un gol del Lugo en el último minuto permitió que el Sporting fuese el equipo que finalmente subiese a primera.

Esta brillante temporada propició su fichaje por el cuerpo técnico del Barcelona. Al año siguiente fichó por el Valladolid, de nuevo en Segunda. El club blanquivioleta acabó quinto en la Liga y fue eliminado por Las Palmas en la primera eliminatoria de la promoción.

El Levante le llamó a finales de octubre de la pasada temporada para intentar salvar al equipo del descenso a Segunda. Los granotas dirigidos por Rubí no lograron evitar el descenso tras conseguir 26 puntos en 29 partidos.