Čeprav je podobna igra z žogo omenjena že v antičnih pesmih, velja za uradno leto rojstva rokometa 1898. Nato je bilo ekipno tekmovanje s skoraj sodobnimi pravili vključeno v program športne vzgoje ene od šol na Danskem. Danci so zaslužni tudi za samo idejo, da bi igrali z rokami z žogo in golom - igralci te države so to pozimi uporabljali za vzdrževanje kondicije.
Prvi nastop rokometa v olimpijskem programu se je zgodil na zadnjih poletnih igrah pred začetkom druge svetovne vojne. V Berlinu so igrale ekipe enajstih igralcev, domača ekipa pa je zmagala na turnirju. Ta šport se je na olimpijske športne počitnice vrnil šele 36 let kasneje. In spet se je to zgodilo v Nemčiji - v Münchnu so tekmovale moške ekipe, ki jih je v skladu s sodobnimi pravili sestavljalo 7 igralcev. Nato je reprezentanca Jugoslavije postala zmagovalec. Že na naslednjih olimpijskih igrah v kanadskem Montrealu je bil moški rokometni turnir dodan še rokometni turnir za ženske. Istega leta so se ekipe ZSSR izkazale za močnejše od tekmecev tako v ženski kot v moški konkurenci.
Sovjetske ženske ekipe so na naslednjem olimpijskem turnirju zmagale leta 1980 v Moskvi, sovjetske ekipe pa so štirikrat osvojile zlate medalje in enkrat postale srebrne in bronaste medalje. To je najboljši kazalnik med vsemi državami, ki sodelujejo na olimpijskih rokometnih turnirjih. Po koncu obstoja Sovjetske zveze so zmagovito tradicijo najprej nadaljevale ekipe, sestavljene iz igralcev iz nekdanjih republik ZSSR - vsaka je osvojila po eno zlato in bronasto medaljo. Nato so reprezentance Rusije, ki so osvojile po eno medaljo vsakega ranga, na poletnih igrah igrale dokaj uspešno.
Med drugimi državami je najvišje rezultate dosegla Jugoslavija, ki je na olimpijadah osvojila pet medalj različnih imen. Po razpadu te države je ena od nekdanjih republik nadaljevala svoje tradicije - hrvaške reprezentance so na seznam dodale še dve zlati priznanji. Tako Rusija kot Hrvaška imata vse možnosti, da svoje hranilnice dopolnita z medaljama XXX poletnih olimpijskih iger v Londonu - moške in ženske rokometne reprezentance teh držav so dobile pravico do udeležbe na turnirjih 2012.
