Na een studie sociologie in Utrecht promoveerde Van Rossum in Amsterdam op 'Wetenschappelijke ontwikkeling als een sociologisch probleem'. Vervolgens werkte hij onder andere bij de universiteiten van Amsterdam, Rotterdam en laatstelijk in Groningen.
Voor zijn recente benoeming in Twente was Van Rossum hoogleraar sociale en organisatieaspecten van wetenschap en technologie bij de Rijkuniversiteit Groningen. Daarnaast was hij consultant bij de Rand Corporation in Santa Monica en, in de periode 1996-1997, visiting scholar bij de Graduate School of Business van Stanford University).
