Iako se slična igra s loptom spominje čak i u antičkim pjesmama, službenom godinom rođenja rukometa smatra se 1898. Tada je ekipno natjecanje s gotovo modernim pravilima bilo uključeno u program tjelesnog odgoja jedne od danskih škola. Danci su zaslužni i za samu ideju da igraju rukama s loptom i golom - igrači ove zemlje koristili su to da zimi održavaju kondiciju.
Prvo pojavljivanje rukometa u olimpijskom programu dogodilo se na posljednjim ljetnim igrama prije početka Drugog svjetskog rata. Ekipe od jedanaest igrača igrale su u Berlinu, a domaća momčad osvojila je turnir. Ovaj se sport vratio na olimpijske sportske praznike samo 36 godina kasnije. I opet se to dogodilo u Njemačkoj - u Münchenu su se natjecale muške momčadi koje su, u skladu s modernim pravilima, činile 7 igračica. Tada je reprezentacija Jugoslavije postala pobjednik. Već na sljedećim Olimpijskim igrama u kanadskom Montrealu, rukometni turnir za muškarce dodan je i ženski rukometni turnir. Ispalo je te godine da su ekipe SSSR-a bile jače od suparnika i u ženskoj i u muškoj konkurenciji.
Sovjetska ženska momčad osvojila je sljedeći olimpijski turnir 1980. godine u Moskvi, a sovjetske ekipe četiri su puta osvajale zlatne medalje i jednom postale srebrne i brončane. Ovo je najbolji pokazatelj među svim zemljama koje sudjeluju na olimpijskim rukometnim turnirima. Nakon završetka postojanja Sovjetskog Saveza, pobjedničku tradiciju prvo su nastavile ekipe sastavljene od igrača iz bivših republika SSSR-a - svaka je osvojila po jednu zlatnu i brončanu medalju. Tada su reprezentacije Rusije, koje su osvojile po jednu medalju svakog ranga, prilično uspješno igrale na ljetnim igrama.
Između ostalih zemalja, Jugoslavija je postigla najviše rezultate, osvojivši pet medalja različitih denominacija na olimpijadama. Nakon raspada ove države, jedna od bivših republika nastavila je s tradicijom - reprezentacije Hrvatske dodale su na popis još dvije zlatne nagrade. I Rusija i Hrvatska imaju sve šanse napuniti svoje kasice prasice medaljama na XXX ljetnim olimpijskim igrama u Londonu - muške i ženske rukometne reprezentacije ovih zemalja dobile su pravo sudjelovanja na turnirima 2012. godine.
