1936年第十一届奥运会在德国首都柏林举行。中国申报了近三十个参赛项目，派出了140余人的代表团，但运动员仅有69人，其余是武术表演队、体育考察团及职员等。在所有的参赛项目中，除撑杆跳高选手符宝卢跳过3.80米进入复赛外，其他人都在初赛中淘汰。
　　　　中国代表队最终全军覆没，回国途经新加坡时，一幅外国漫画这样嘲讽中国人：在奥运五环旗下，一群头蓄长辫、身着长袍马褂、形如枯草的中国人，用担架抬着一个硕大无比的鸭蛋，画题为“东亚病夫”，许多外国人都讥笑中国队为“鸭蛋队”。体育的落后是当时中国政治、经济、文化状况的真实写照。
　　　　拒绝一个国家两个奥委会
　　　　1954年国际奥委会雅典年会，以23:21的票数承认了新中国的中华全国体育总会为中国奥委会，同时却保留了台湾的所谓“中华民国奥委会”，开了在一个国家中承认两个“国家奥委会”的先例。国际奥委会后来又作出允许这两个奥委会同时参加第16届奥运会的决定，并规定两个代表团使用的名称一个是 “台湾中国”，一个是“北京中国”。结果，台湾体育组织被邀请参加比赛，中华全国体育总会于1956年1月发表声明，强烈抗议国际奥委会分裂中国的做法，并宣布拒绝参加第16届奥运会。
　　　　鉴于国际奥委会少数人坚持 “两个中国”的政策，中国奥委会于1958年8月19日宣布退出国际奥委会，自1960年意大利罗马奥运会起，新中国中断了对奥运会的参与。
　　重返奥运赛场“破零”雪耻
　　　　美国洛杉矶奥运会，中国奥委会派出了一个大型体育代表团参加这次盛会。重返奥运赛场的中国体育代表团，在奥运会开幕后的第一天，便展示出新兴世界体育强国的风采。许海峰在男子手枪慢射比赛中所获的金牌，不仅是本届奥运会决出的第一块金牌，而且实现了炎黄子孙在奥运会上金牌及奖牌 “零的突破”，一雪“东亚病夫”的耻辱。
　　　　此后，中国体育健儿再接再厉，取得了辉煌的成绩，共获15块金牌、8块银牌、9块铜牌，列金牌榜第四位。
　　　　奖牌榜上进“三强”
　　　　2000年9月15日，悉尼奥运会上，中国代表团以金牌28枚、奖牌总数59枚的优异成绩一举跃入了奖牌榜世界三强行列，这两项指标不仅都创下了中国自参加奥运会以来的单届最高纪录，而且均名列世界第三位。仅9月22日一天，中国就日收6金，创下了中国运动员参加奥运会单日夺取金牌数的最高纪录。
　　　　雅典奥运会创造辉煌
　　　　2004年雅典奥运会上，中国派出了包括407名运动员 （其中女运动员269名，男运动员138名）的代表团参加了除棒球和马术外的其他所有26个大项的比赛，取得了空前出色的战绩，以金牌32枚、奖牌总数63枚的优异成绩一举登上了奖牌榜的第二位 （其中奖牌总数列第三位），金牌覆盖面也达到了历史新高，获得金牌的项目增加至13个大项。
　　——中国奥运故事