Košarka se pojavila u olimpijskom programu na posljednjem prijeratnom forumu - 1936. u Berlinu. Na njemu su sudjelovale 23 ekipe, što je košarkaški turnir učinilo najreprezentativnijim među timskim sportovima na XI Ljetnim igrama. Prvo zlato u ovom sportu pripalo je američkoj momčadi, drugi su bili Kanađani, a treći Meksikanci.
Amerikanci su nastavili dominirati ovim sportom - od desetak turnira na kojima je sudjelovala momčad ove zemlje, prvenstvo su izgubili samo na tri. Dva puta na vrhu crte reprezentacija SSSR-a mogla je biti, jednom - reprezentacija Argentine. Na Olimpijskim igrama 1980. Amerikanci nisu sudjelovali, a onda je zlato pripalo jugoslavenskim košarkašima. Na račun sovjetskih momčadi, osim dvije zlatne nagrade, postoje četiri srebrne i tri brončane - ovo je druga linija u objedinjenoj ocjeni postignuća muških košarkaša.
Ženska košarka dodana je u program Ljetnih igara deset olimpijskih ciklusa kasnije, prije XXI Olimpijskih igara koje su se održale u Atlanti 1976. godine. Prvi turnir osvojili su košarkaši Sovjetskog Saveza, kao i sljedeći, koji se održao bez sudjelovanja Amerikanaca. Još jednom, na Ljetnim igrama u Barceloni 1992. godine, tim sastavljen od igrača iz bivših republika SSSR-a istaknuo se u košarkaškim natjecanjima. Na svim ostalim ženskim olimpijskim turnirima, a ima ih već šest, pobijedile su samo reprezentacije Sjedinjenih Država.
U razdoblju kada je djelovala kao neovisna država, muške košarkaške reprezentacije u Rusiji nikada nisu mogle osvojiti olimpijske medalje. Žene imaju najbolje rezultate - na posljednja dva ljetna sportska foruma osvajale su brončane medalje.
Prema važećim propisima, profesionalni košarkaši imaju pravo sudjelovanja na olimpijskim košarkaškim turnirima. Odabir momčadi kojima je dozvoljeno da u njemu startaju provodi se prema unaprijed određenoj shemi, u kojoj se u kvalifikacijskim natjecanjima otkrivaju samo tri mjesta. Ostatak je raspoređen među prvacima Afrike, Amerike (2 momčadi), Azije, Europe (2 momčadi) i Oceanije. Još jedno mjesto dodjeljuje se aktualnom svjetskom prvaku i reprezentaciji zemlje domaćina Olimpijade.