1963年3月19日，日本男女乒乓球队在东京开始了第三次为期五天的集训，为第27届世乒赛做最后一次准备。
在这之前，日本男女乒乓球队的全部8名球员和陪练，先后从2月23号到27号、3月7日到11日在滨松和饭阪进行了两次集训。最后一次在东京集训后，日本队于3月24日乘飞机前往斯德哥尔摩同瑞典队进行联合训练。
第26届世乒赛对日本队来说无疑是个沉重的打击，丢掉了分量最重的斯韦思林杯。对这个败局日本人并不服气，他们认为中国队不过是借主场之利。对此，日本乒乓球队声言要“雪耻”，决心要“重夺世界乒坛霸权”，继而特别成立了“加强选手训练工作委员会”，进行多次座谈、研究，更加严格地培训选手。
1964年中国对访问日本时，日本对花了80万日元对中国队的技术进行研究。比赛中四台摄像机从不同的角度详细地拍摄了中国优秀选手的技术动作，这些片子经常在日本运动员中巡回放映，放映时间长达四个小时。当时的80万日元对经济拮据的日本队来说是一个不小的数目。虽然日本队只筹出了男女共8人的经费去参加第27届世乒赛，但对中国队的技术的研究却这样的不惜花费工本，可见其“雪耻”的决心。
尽管投入了大量的金钱、人力和时间，日本男队在第27届世乒赛上仍然全军尽墨。三木、木村虽然大发凶狠、但由于跟不上中国队的速度，反手位始终成为软肋，加之队张燮林的长胶削球怀有恐惧心理，因而惨败而归。
遭受两连败的日本队，以“打败中国队为目标”，先后进行了8次集训。在战术、技术、体力、精神上作了认真的准备。教练长谷川喜代太郎相当乐观地预言：“日本队通过最近的集训，可以有把握地说，决不会像上届那样遭到惨败。”>>你认为日本队会对国乒有多大威胁
日本队参加第28届世乒赛的团体阵容中，有一个引人注目的新秀，他就是两次击败庄则栋的高桥浩。第一次参加世乒赛的高桥浩除了赢过庄则栋外，对中国队的几大主力均无胜绩。而且被认为不善于对付削球。在参加第28届世乒赛，途径瑞典进行的友谊赛中，高桥浩两次败给了名将阿尔塞。
日本队之所以将他选入阵容，是看中他曾两次战胜庄则栋。中日团体赛决定启用高桥浩，日本队冒了很大的风险，光从这一点就可以看出日本队孤注一掷的决心。高桥浩在决赛中也不辱使命，打败了日本队从未战胜国的张燮林和虎将庄则栋，为日本队夺得了两分。但小中健一人连丢三分，木村丢两分的结果，使高桥浩的努力化为乌有。
尽管日本队丢掉了三届世乒赛团体赛的冠军，但他们为世界乒坛带来了历史性的革命：第26届的弧圈球，第27届狄村的下跪式发球，第28届高桥浩和木村威胁性颇大的发球，成为了每届比赛的新亮点。日本队不仅带来了弧圈球，它输出的弧圈球技术为世界乒坛带了了翻天覆地的变化。
由于受“文革”的影响，中国队中断了一切对外的体育交往，第29、30届世乒赛上少了中国乒乓球队的身影。日本队借中国队国内动乱之机，重新将优势夺回来。在这两届世乒赛上，除了男子双打被瑞典队夺走外，日本队将男子的其余冠军全部收入囊中。
在这期间，日本队出现了一位引人注目的新星--长谷川信彦。1965年，还在读高中三年级，未满19岁的长谷川信彦夺得了全日本男子单打冠军，创下了日本对历史上最年轻的冠军纪录。两年后，20岁的他夺得了世乒赛男子单打冠军。与传统的日本打法不同的是，长谷川信彦是横拍弧圈结合快攻的打法，强调步伐的快速移动和正手的进攻威力，他食指直立，几乎到了球拍的中心，这种握拍法在当时的世界乒坛独树一帜，对付直拍选手有着很大的优势。
获得第29届世乒赛单打亚军的河野满也和其他日本选手迥然不同，是直拍生胶两面攻打法。他的这种打法，初期因为功力不够，威胁不大。但后期对欧洲弧圈打法和中国直拍快攻打法占尽上风。
第30届世乒赛男单冠军伊藤繁雄是传统的单面拉打法。以长谷川信彦、河野满、伊藤繁雄三人为主的日本队，将日本队乒坛霸主的地位艰难维持到了60年代末。
随着中国重返世界乒坛和欧洲的崛起，日本队的日子越来越难过。在第31届世乒赛上，日本队男线全军覆没，一金未得。在中国和欧洲的双重夹击下，长谷川信彦和河野满再也难以支撑。在第32届世乒赛，日本队团体赛比赛连续输给瑞典和中国，仅获得第三名。
长谷川信彦退役后，日本队更加捉襟见肘。河野满上升为一号主力，二、三号主力分别是高岛规郎和单面拉弧圈球打法的阿部胜幸。河野满的两面攻打法还存在着漏洞，面对欧洲人的反手弧圈球，他的特长施展不得，当他准备发力攻时，球已经顶在球拍上，显得很被动。他不仅败给了欧洲的一流选手，连二、三流的也输。第33届世乒赛团体赛比赛，日本队接连败给了中国、匈牙利和南斯拉夫，只名列小组第四。
第33届后长河野满将中国推挡融入在自己的打法中，由于生胶薄，推出去的球发沉，欧洲选手通常只能兜一板，他趁机左右开弓。展开攻势。第34届世乒赛河野满的水平达到了一个新高度。除负于斯蒂潘契奇外，对欧洲其余选手保持了全胜，尤其是在日本对于匈牙利队争夺决赛权的比赛中，他一连打败了盖尔盖伊、克兰帕尔和约尼尔，为日本队打进决赛立下了头功。
日本队能打进决赛还得益于另一名削球手高岛规郎，高岛规郎步伐灵活，反应快，动作轻快，削弧圈球时能连续加转，使对方难以连冲，待对方拉到手臂僵硬时突然送出不转球，然后向前反攻。
由于弧圈球的威力普遍增强，用反胶削球的难度越来越大，因而大多数削球手都采用两面不同性能的球拍(一面长胶，一面反胶)，两面反胶的高岛面对欧洲强有力的弧圈球能够连续削出加转球，实在难能可贵。他在同瑞典、匈牙利的两场决赛硬仗中，战胜了本格森、约翰森、约尼尔和盖尔盖伊。尤其是男团半决赛第八盘对阵盖尔盖伊，他赢了这场非胜不可的比赛--因为如果打到第九盘，前面已丟两分的田阪登纪夫对克兰帕尔，日本队恐怕凶多吉少。高岛先失一局后连扳两局，帮助日本队挺进了决赛。
但中日男团决赛呈现了一边倒的局面，日本队0：5惨败。前面比赛中威风八面的河野满，败在了梁戈亮和王亮德比麾拍下。以往对阵日本队战绩卓越的梁戈亮这次被排在了第三号的位置，主要考虑到前两轮避开前原正浩--梁戈亮对河野满从未失手过，而前原正浩曾在亚非拉乒乓球邀请赛上3比2击败过他。但无论日本对如何的排兵布阵，实力上的差距还是无力撼动中国队。
由于受当时政治环境的影响，第34届世乒赛上中国队定下的冠军指标是不能超过四个，中国男女队夺得团体冠军后，后面的单项比赛顶多只能拿两个，所以采取了边看边打的策略。五个单项半决赛，中国队的形势一片大好。男子双打包揽了两个决赛的席位，最后梁戈亮/李振恃、黄亮/陆元盛分获冠亚军。女子双打张中立/葛新爱、朱香云/魏力捷、中朝组合杨莹/朴英玉和韩国组合李基元/金顺玉进入了前四名。
当朱香云/魏力捷3比0淘汰韩国组合李基元/金顺玉后，中国队已经最起码能多的半个冠军。杨莹/朴英玉夺走波普杯后，中国队的任务已经完成，后面的比赛成就了河野满和朴英顺。
在前面的比赛中，中国队已经有意无意的放弃了争夺决赛的资格，阎桂丽/李振恃在半决赛中0比3不敌日本选手田阪登纪夫/横田幸子，进入决赛的田阪登纪夫/横田幸子一攻一守，但配合尚有缺陷，法国的塞克雷坦/贝尔热雷把握住机会，捧走了赫杜塞克杯。
男女单打半决赛，出现了“三英战吕布”的局面。男单郭跃华、黄亮、梁戈亮，女单张立、张德英、葛新爱均进入半决赛。河野满在1/4决赛中，和本格森经历了一场九死一生的殊死搏斗后，半决赛中，他“打败”了从未赢过的梁戈亮，决赛中“再接再厉”，将二号种子郭跃华击败，为日本队夺得了七十年代以来的第一个世界冠军。
第34届后，河野满功成身退，日本队的实力大打折扣。顶上来的小野城治无论是实力上还是经验上与河野满相比还有很大额差距。第35届世乒赛，日本队光靠老将高桥和小野城治支撑局面，小组赛中勉勉强强出现后，半决赛中被匈牙利队5比1收拾掉了，最后获得第三名。
团体赛中对欧洲人几乎连战连败的小野城治，单打却神奇地冒了出来。团体赛两次击败过中国的匈牙利队，其三名主力单打中全部被中国选手淘汰：梁戈亮淘汰约尼尔，鲁尧华淘汰克兰帕尔，李振恃淘汰盖尔盖伊，这无疑给小野城治扫清了障碍。
小野城治进入了前16名后，一路上遇到的都是中国选手。他先以3比1淘汰了黄亮，然后在与鲁尧华的比赛中经过五盘激战，死里逃生地进入了半决赛。在半决赛中，他的急球和侧上旋令梁戈亮很不适应。左手的小野特长是正手拉、扣斜线，恰好打在梁戈亮的反手弱点上，发球后拉反手、杀两角，梁戈亮疲于奔命，接发球轮失分过多，结果被小野3比2淘汰。
决赛中小野如法炮制，连胜郭跃华两局，第三局郭跃华加强了主动进攻扳回一局，但在这局快要结束时郭跃华拉伤了腿。第四局刚打了几个球，郭跃华再也支持不住了，只得弃权。小野城治以他的实力加上运气，为日本队夺得了世乒赛至今为止最后一个世界冠军。
然而，运气不能总是眷恋日本队。小野城治的世界冠军丝毫掩盖不了日本队日益艰难的处境。小野城治、斋藤清、宫崎义人，一茬接一茬的打法就像一个模子里倒出来的，七大发一只摆脱不了六十年代单面拉的影子，死抱陈旧观念导致日本队在80年代的全面崩溃。
从上个世纪80年代开始，日本队不仅世界老三的位置不保，连亚洲老二的地位也陆续被韩国和朝鲜取代。到了90年代，日本队进攻型选手已经无力和世界劲旅抗争，无奈之下，只得启用了松下浩二、涩谷浩这样的削球手。后来的伟关晴光、吉田海伟、韩阳等前中国球员的陆续加入，一度充实了日本队的实力，但总的来说和世界强队还存在着很大的差距。
通过十年的努力，日本队近来有复苏的迹象。年轻选手岸川圣也和水谷隼不仅单打有一定实力，他们的双打也可以和世界上任何一对劲旅叫板。在第49届世乒赛上，岸川圣也/水谷隼将中国的郝帅/马龙淘汰出局，随后他们与王励勤/王皓的争夺也非常激烈，但终归火候未到，苦战6盘失利。可以预见，随着岸川圣也和水谷隼的成长，吉田海伟和韩阳的加盟，日本队在未来的世界大赛中一定能有所作为，但要重振昔日的雄风还要走一段很漫长的路。