《苏日中立条约》签订后，虽然日本国内有人对条约与三国同盟条约的关系提出质疑，也有人对条约促成者和签订者外相松冈洋右有所不满，但日本国内整体上认为条约的签订是日苏国交调整的成果，对日苏关系的改善充满期待。同时，日本也非常关注世界各国政府及舆论对条约的反应，大量报告有关条约反响的情报汇集到东京。苏德战争爆发后，日本国内对于未来的走向，对于是向南扩张，还是向北进攻苏联，出现了分歧。《苏日中立条约》的签订者松冈洋右极力主张抛开中立条约，配合德国发动对苏联的进攻。同时，日本向中国东北地区调集大量军队，进行“关东军特别演习”，一时间，苏日边境地区形势紧张。但很快，日本决定向南进攻，并于1941年12月8日偷袭珍珠港，向美国挑战。此后，日本为保证集中兵力南进，一直与苏联维持中立关系，直至苏联提出废除条约。日本对苏联保持中立，意味着不参加德国的对苏作战，这必然造成日德关系的疏远，影响到二战时期三国同盟的合作。