Победитель Открытого чемпионата Франции в мужском парном разряде в 2004 году.
Семья: отец Жан-Поль — врач, мать Анна — стоматолог, старший брат Кристоф также является теннисистом, младший брат Пьер. Имеет прозвище «Олли». Любимый теннисист Пит Сампрас.
Оливье Рохус начал играть в возрасте 6 лет. Вместе с Роджером Федерером в 1998 году выиграл юниорский Уимблдонский турнир в парном разряде. В мировом туре ATP сыграл первый матч в 1999 году. В следующем сезоне завоевывает свой первый титул ATP в итальянском Палермо. В финале ему удалось обыграть местного теннисиста Диего Наргисо 7-6, 6-1. Наряду со своим братом Кристофером Рохусом сезон 2000 года завершает в первой сотне. Последний раз это достижение родным братьям покорялось в 1998 году — Байрону и Уэйну Блэку. Благодаря
своим выступлениям по итогам года Оливье получает Награду от ATP — Новичок года. В 2002 и 2003 годах доходит до финала на турнире в Копенгагене, но оба раза проигрывает. На Уимблдонском турнире 2003, впервые пробивается в 4 раунд соревнований Большого шлема. Такой же результат Оливье повторит через год на Открытом чемпионате США.
В 2004 году вместе с Ксавье Малиссом неожиданно для многих специалистов выигрывает свой первый Турнир Большого шлема в парном разряде Открытый чемпионат Франции. Не имевшие свой номер посева пара бельгийских теннисистов, сумела на пути к титулу выбить из сетки вторую пару турнира — шведа Йонаса Бьоркмана и австралийца Тодда Вудбриджа, девятую пару — аргентинцев Мартина Родригеса и Гастона Эл
иса, третью — индийца Махеша Бхупати и белоруса Макса Мирного. В финале им противостояла французская пара (шестые при посеве) М. Ллодра и Фабрис Санторо, которых на трибунах активно поддерживала местная публика. Но бельгийской паре удалось сломить сопротивление соперников и выиграть в двух сетах 7-5, 7-5. Это победа стала первой и пока (на 2010 год) единственной победой на турнирах Большого шлема в соревнованиях среди мужчин для Бельгии. Также летом 2004 года принимает участие в Летних Олимпийских играх в Афинах, где проигрывает во втором круге испанцу Карлосу Мойя, а в парном выбывает вместе с Малиссом уже в первом круге.
В январе 2005 года Оливье Рохус побеждает в паре с Ксавье Малиссом на турнире в Аделаиде. Через
неделю он сумел пробиться в финал в Окленде, где уступает Фернандо Гонсалесу 4-6, 2-6. На Открытом чемпионате Австралии сумел дойти до 4 круга. В мае 2006 года на турнире в Мюнхене завоевывает второй в карьере титул ATP в одиночном разряде. В финале был обыгран соотечественник Кристоф Влиген 6-4, 6-2. В сентябре 2007 года финал в Мумбаи, а октябре 2009 финал в Стокгольме. На теннисном турнире летних Олимпийских игр 2008 в Пекине доходит до третьего раунда, где проигрывает серебряному призеру Фернандо Гонсалесу. В парном разряде вместе с Стивом Дарси выбывает во втором раунде. В июле 2010 года сумел выйти в первый финал в карьере на травяном покрытии на турнире в Ньюпорте, но уступает американцу Марди Фишу 7-5, 3-6, 4-6