旧制土浦中学毕业后，于土浦当地从事农业。因于某次案件中被误认为嫌犯，在侦讯中遭到土浦警察署的殴打，而前往东京进入警视厅工作。

1939年分发至鸟居坂警察署（现麻布警察署），起初担任岗哨外勤的平冢八兵卫之后因检举率为该署最高，调任至搜查一课（刑事部）。之后由1943年至1975年退休为止一直在搜查一课服务。

拥有肉屑的八兵卫、喧哗八兵卫、鬼之八兵卫等众多绰号的平冢八兵卫是著名的一流刑警，其任内单侦办杀人案件便高达124件以上，站在许多战后重要案件之搜查前线。其中最为有名的莫过于以其惊人的毅力与黏性得出吉展诱拐杀人事件中犯人小原保的口供，之后执行死刑前小原的自白：“请帮我转告平冢先生，现在，我终于可以问心无愧以人的身分活着了。”也是相当著名。

另外，对帝银事件的嫌犯平泽贞通其刑求似的调查，这种采取强硬手段办案的方式也招致不少批评。

以三亿円事件搜查主任的身分退休，并曾在电视上以此事件评论者的身分出现，退休四年后因胰脏癌逝世。

平冢八兵卫由巡查升至巡查部长、警部补、警部、警视皆非经过考试，完全由功累进。其于帝银事件后获得警察功劳章，吉展诱拐杀人事件后获得警察功绩章，此项在职中获得此两项奖章的纪录，也是仅有平冢一人达成。