Sale sul kart per la prima volta a otto anni in una gara di club, ma molto rapidamente comincia a mostrare tutto il proprio talento. Un anno più tardi finisce nella top 5 del British Karting GP e conquista il quarto posto tra i cadetti nel campionato nazionale.
Nelle due stagioni successive Oliver vince il Kartmasters British Grand Prix ed è vicecampione tra i cadetti. Nel 2019 vince a Valencia la Coppa del Mondo nella classe Junior X30 e poi la serie europea e il campionato del mondo a Le Mans.
Nel 2020 debutta in monoposto nei campionati di Formula 4 di Germania e Italia con il team US Racing impressionando subito per le sue performance. Alla prima gara, al Lausitzring, conquista un posto in prima fila e centra la sua prima affermazione ad Hockenheim all’ottava gara nella categoria piazzandosi settimo assoluto in classifica. Si impone anche in una gara del campionato italiano dove chiude decimo.
Nel 2021 passa al team Van Amersfoort Racing con il quale porta a casa entrambi i titoli ottenendo la bellezza di 17 vittorie (11 in Italia e sei in Germania). Si impone anche in una gara del campionato GB3 e viene suggerito da ACI Sport alla Ferrari Driver Academy per le Scouting World Finals nelle quali eccelle e si conquista un posto nella Academy.
Nel 2022 corre in Formula 3 con Prema e si mette subito in luce fin dalla prima gara in Bahrain. Conquista una vittoria, sette podi e un giro più veloce e a fine anno è terzo, a soli sette punti dal vincitore. A fine stagione viene annunciato il suo passaggio in Formula 2, sempre con il team Prema.
La stagione 2023 di Oliver è stata solida. In un campionato tradizionalmente combattuto come quello della F2 ha conquistato quattro vittorie, di cui tre nelle Feature Race di Baku (dove si è imposto anche nella Sprint Race), Barcellona e Monza, oltre a tre pole position, concludendo il campionato al sesto posto, secondo nella classifica dei migliori rookie. Nello stesso anno ha l’occasione di salire per quattro volte su una monoposto di Formula 1: prima a Fiorano, a bordo di una SF21 per compiere i chilometri necessari alla superlicenza, e poi sulla Haas VF-23 per due sessioni di prove libere, in Messico e ad Abu Dhabi, e poi nei test post-stagionali a Yas Marina, dove impressiona il team per la maturità e la concretezza della prestazione.
Nel 2024 viene confermato da Prema in F2, e viene scelto dalla Scuderia Ferrari come terzo reserve driver.