发生在三洞桥的大爆炸，所有的线索都指向了日本人，而且日后历史资料也确证是日本人所为，但在当时日本却矢口否认，拼命叫屈，说张作霖不是他们炸死的，而是南方革命党人。由于日本人的否认，皇姑屯事件在当时也如同民国时期的廖仲恺被害案、宋教仁被刺案一样，成为众多悬案中的一件。
历史是很复杂的，有很多案件一眼看下去就知道是谁干的，但偏偏没有办法破解，只能成为悬案。比如廖仲凯被刺案，作为国民党左派的领袖，时人都怀疑是右派干的，甚至很有可能是在此事件发生后获利最多的蒋介石暗中做的手脚，然而此案还有许多谜团或疑点，至今未能破解。再比如宋教仁被刺案，这个就更明显了，人们有一百个理由认为是当时的袁世凯派人暗杀的，但贼喊捉贼又苦无证据，最后只好不了了之。
皇姑屯事件也是同样的道理，尽管大家心知肚明，但在当时却没有证据，反过来日本人却找到了一些据称是南方革命党人谋杀的证据。
在三洞桥附近，日本人找到了两具尸体，在其中的一具上发现了两封来自南方“国民革命命军司令部”的密信，信中写有商洽有关“东三省”起义的字样；另一具手里握着苏制炸弹，一副要投弹炸桥的样子。
由于现场伪造的痕迹太浓，估计没几个人从心里相信，但当时掌握话语权的是日本，他们借此转移了视线，把一潭水搅得更浑。
皇姑屯事件作为一桩历史悬案就此沉淀了下去，直到二战结束日本投降后，在东京审判时，始由日本前陆军省兵工局长、事件的参与者东宫铁男(当时是上尉)揭露供述，才知道这是前关东军高级参谋河本大作(当时是陆军大佐)等人所犯下的罪行。后来，河本大作又著书《我杀死了张作霖》，才使事件的全貌得以大白于天下。
根据河本的自供状，20年前，河本大作对张作霖十分痴迷，其狂热程度远远超过了今天的球迷之于球星，只不过球迷对球星的狂热是善意的，而河本的狂热则是一门心思的要置张作霖于死地。
河本与张作霖究意有什么仇？个人私仇没有，但是国仇是一定有的，在河本看来，正是因为张作霖的存在，才导致日本推行了十几年的满蒙独立一直没有成功。据说时任关东军司令的武藤信义曾就满蒙问题征询河本意见，河本明确表示要干掉张作霖，除此以外没有解决满洲问题的第二条道路。
狂热分子河本大作瞄上张作霖的时候，张作霖对此一无所知，所以这场较量从一开始就是不对等的，有违日本的武士道精神。不过这位狂热的河本根本管不了这些，在军国主义思想的影响下，他已经把报效日本甚至为日本献身当做最大的荣耀，而报效日本的最佳方式，在当时的河本看来那就是干掉张作霖。为实现这一至高无上的目标，河本于1926年担任日本关东军高级参谋之后不久，就勾结日本川越守二等人，窜到由苏联控制的满洲里至绥芬河一线的铁路附近搞爆炸试验，前后爆炸过两次，掌握了引爆方法、炸药能量及效果等第一手资料。
1928年5月，竹下义晴等另外一批日本人想谋刺张作霖，河本知道后予以及时制止，理由是有可能打草惊蛇，还有就是万一失败，有可能会牵扯到军方及日本政府。河本的意思是要么不做，要做就要滴水不漏，出了事情则由自己一人担当。
为确保万无一失，河本派竹下义晴到北京潜伏。不久，竹下拍来密电，说张作霖已经决定出关，并报告了火车的预定行程。事实上这个预定行程是错误的，因为张作霖并没有按照预定行程的时间出发，不过河本也从来没有相信过这个所谓的预定行程，他有自己的一套，那就是派自己的人到几个火车站站点进行现场侦测。他派石野芳男大尉到山海关，派神田泰之助到新民屯等京奉铁路要地，命令他们切实监视火车到达和启动的具体时间、地点；此外，他还让町野武马跟随张作霖一起登上了离京返奉的专列，后来他还是不放心，在张作霖专列开车之前也上了车，一直跟到了山海关，亲自看到张作霖到了山海关后才换乘日军专列迅速赶到奉天指挥部指挥他的谋杀计划。这样，张作霖几时出发，在哪个站点停留多少分钟，和哪些人在一起，整个的行程都像一张白纸黑字一样清清楚楚，明明白白。
情报确保无误后，剩下来要做的就是暗杀的时间、地点、方法和人选的选择。
关于暗杀的时间，这个不用多说，当然是张作霖离京返奉的那段时间。如果从6月3日1时张作霖离京算起，到6月4日5时暗杀成功，时间跨度为28个小时，这么长的时间内，足够日本人做好各种暗杀准备了。
东宫铁男河本大作
关于暗杀的地点，这个最让人头痛，因为沿线戒备森严。河本最初选择的是巨流河上的大铁桥。但是当他派工兵队中队长前去侦察一番后，发现无隙可乘，就算瞅准机会偷偷混进去了，安装炸药最少也得一个星期，时间不够。这个地点只得放弃。后经多方研究，才找到了满铁线和京奉线交叉的三洞桥，因为在这个地方，满铁线从上面穿过，京奉线从下面穿过，日本人在三洞桥活动，不会引起别人的注意。同时，根据当时签订的南满铁路条约，中国军警不能靠近南满铁路。这就为他们布置埋设重磅炸药，提供了十分有利的条件。
关于暗杀的方法，河本也精心策划，设置了前后手两招：前招是不留痕迹的用炸药炸毁火车，万一爆炸失败，那么紧跟着还有后招，那就是设计让火车出轨，然后乘乱派刺刀队直接冲上去刺杀。
关于暗杀的人选，河本选择了驻守当地的日本守备队中队长东宫铁男上尉，因为此人对地形熟悉，又是明正言顺的三洞桥日方最高指挥官，进出三洞桥不受限制。河本还从朝鲜新义州调遣了一组工兵，携带电气发火之500磅高爆炸药两箱，配属其作业。为了保证爆炸成功，还设置了两道爆炸装置。同时，在桥墩500米外的瞭望台上设有电线按钮，以控制触发爆炸。
关于暗杀的善后事宜，河本也考虑得非常详细，那就是暗杀一旦成功，那就嫁祸于南方的北伐军，当时北伐军正与张作霖在平津沿线开战，嫁祸于北伐军从理论上来看也有一定的可信度。为此，河本早在一个月前就安排日本浪人安达隆盛寻找替死鬼，安达隆盛把这个任务交给了一个名叫刘戴明的中国人。刘戴明很快就找到了三个替死鬼，1928年6月3日深夜，刘戴明给了三个人一笔钱，让三人到三洞桥日本守备队报到，三个人糊里糊涂地走到三洞桥附近，当场被日本人刺死了两个，因为日本人怕暴露目标，没敢开枪，才让一个叫查大明的拼死逃脱了。不过查大明并没有活多长时间，于皇姑屯事件后的第五天即被日本特务找到并杀害了，刘戴明也没有逃过一劫，事后即被押送到大连日本宪兵队秘密处死，这样，所有的人证均已消失，日本人矢口否认的底气更硬了。
获得两个替死鬼的尸体后，日本人将他们打扮一番，伪造了南方革命党人谋杀的现场，这就有了前文所说的日本人提供的所谓证据。