在日本神话中，天孙降临之时，琼琼杵尊从天照大神获得了镜、玉、剑3件宝物，分别名为八尺镜、八尺琼勾玉和天丛云剑。天丛云剑又有草薙剑、八重垣剑、沓薙剑、都牟刈大刀等其他说法。这三件宝物由历代天皇继承。
关于这三样宝物，日本古典文学作品中有记载，但是对于宝物的种种说法各方人士意见不一。
史书《吾妻镜》中记载，1185年在坛浦之战的时候，安德天皇把天丛云剑扔到了关门海峡，后鸟羽天皇在没有三大神器大情况下登基继位。

第二次世界大战之后，日本经济逐步发展，家用电器日益普及，电冰箱、洗衣机和黑白电视机被称为战后的三大神器。
当时除了在战前已经开始尝试播放电视信号的公共放送NHK之外，1953年日本电视、1955年TBS、1956年大阪电视等电视公司也都开始输送电视节目。
1959年为了收看皇太子成婚相关的节目，黑白电视机的销量突破200万台。

到了60年代，彩色电视机、空调和私家车被称为新三大神器。
1955年日本通产省（现在的经济产业省）公布了国民车构想，计划由通产省研发物美价廉的私家车。
尽管这一构想效果不及预期，却让成千上万的日本人感到私家车距离自己并不遥远。
1959年铃木自动车工业、1960年东洋工业、1962年新三菱重工业、1966年大发均开发出了新的车型并且投入市场，日本的汽车市场也进入了繁华时代。

现在我们大多将“三大神器”用在要表达“三大要素”、“三项重要内容”等意思的时候，我们可以说网站的“三大神器”、某某项目的“三大神器”等等。
时至今日，科技的发展创造出无数”神器“，仅仅”三大“也许已经代表不了这个时代。