Uno dei "tre grandi" – gli altri erano Wil Hartog e Boet van Dulmen – del motociclismo olandese, Middelburg aveva iniziato a correre in moto nel 1973, debuttando sul circuito cittadino di Woudrichem. Dopo un apprendistato nella NMB, divenne campione olandese nel 1977 e nel 1978. Le vittorie a livello nazionale spinsero Middelburg verso il motomondiale, dove si fece notare per la sua guida impetuosa, tanto da meritarsi il soprannome "Jumping Jack" ispirato dalla canzone Jumpin' Jack Flash dei Rolling Stones.
Circuito di Heeswijk, 1982: a sinistra Middelburg, a destra Boet Van Dulmen
L'esordio di Middelburg nel mondiale fu al Gran Premio d'Olanda 1977, terminato all'11º posto in 350 e in 500. Il primo podio di Middelburg arrivò con il 2º posto al Gran Premio di Svezia 1979, terminando 7º a fine stagione. Sempre da pilota privato, questa volta con una Yamaha TZ 500, corse anche nel 1980, anno in cui conquistò la sua prima vittoria, nella gara di casa ad Assen, dopo essere partito dalla pole position: fu il secondo olandese a vincere in patria dopo Hartog.
Il 1981 rivide Middelburg su una Suzuki RG 500: si fece notare vincendo il Gran Premio di Gran Bretagna davanti al campione uscente Kenny Roberts. La vittoria dell'olandese, 7º a fine stagione in classifica, fu l'ultima in 500 per un pilota privato. Il 1982 fu privo di soddisfazioni per Middelburg, a punti solo in tre occasioni (Argentina, Jugoslavia e San Marino), tanto da spingerlo ad acquistare una delle nuove Honda RS 500 R tre cilindri per la stagione 1983, terminata al 12º posto.
Il 1º aprile 1984, partecipando sul circuito di Tolbert a una gara del campionato olandese, Middelburg cadde cercando di andare in testa; ricoverato presso l'ospedale di Groninga, morirà due giorni dopo[1].