民国十七年(1928年)，蒋介石领导国民革命军进行北伐战争，一路蒸蒸日上，大有统一全国的趋势，日本人为了保障自己在华利益，阻挠北伐军北进，四月份下旬，以“保护侨民”为由，悍然发兵，直指山东，5月3日，制造了震惊中外的“济南惨案”，又称“五三惨案”。
1928年4月，日本假借“保护侨民”为由，派遣日军第6师团五千余人从青岛登陆，入侵山东。
同年5月1日，国民革命军收复济南。
1928年5月3日上午，日本军队开始寻衅滋事，北伐军士兵经过日军警戒区时被射杀，与此同时又向第四十军第三师第七团的两个营发起攻击，北伐军损失惨重。蒋介石立刻派遣参谋，下达“不抵抗”的命令。并派人与日方进行交涉。
下午，在双方交涉的时候，恰有日本士兵被流弹打死。于是，日军找到了合适的借口，于当日晚开始大举进军，挨家挨户搜索国民革命军士兵。一时间尸横遍野，哀叫不断。由于蒋介石下达“不抵抗”命令，当晚7000北伐军士兵被迫缴械投降。
深夜时刻，日军闯入了山东交涉公署搜查掳掠，将中国战地政务委员会外交处长兼山东特派交涉员蔡公时及其下属捆绑起来。
蔡公时忍痛大骂：“日本强盗禽兽不如，此种国耻，何时能雪!野兽们，中国人可杀不可辱!”
蔡公时据理痛斥日军，日军竟割掉蔡的耳、鼻、舌头，挖去眼睛，然后将他同众人一起杀害。
次日，蒋介石命外交部长黄郛致电日本首相兼外务大臣田中义一，电文指出“似此暴行，不特蹂躏中国主权殆尽，且为人道所不容。今特再向贵政府提出严重抗议，请立即电令在济日兵，先行停止枪炮射击之暴行，立即撤退蹂躏公法、破坏条约之驻兵，一切问题当由正当手续解决。“
日方并未回复且加大对“济南事件“的影响。
5月8日，日方开始大举进攻济南，首轮进攻炮击城内重要设施，一时间，济南街头死尸遍地，哀嚎无数。
城内守军忍无可忍，奋勇反击，伤亡惨重。
11日，奉命撤退。日军竟毫不费力夺取济南城。
北伐军撤出济南后，日军于5月11日上午举行“显扬国威”的入城式，日军因攻城时受挫而报复屠城，犯下累累罪行，开始惨绝人寰的大屠杀：见人就开枪射击，或乱刀刺死。济南死伤军民1.7万有余，真是血流成河，尸横遍地，惨不忍睹，举国上下无不愤怒!
他们将一直久攻不下的西门城下一带房屋全部烧毁，仅这一项，1000余平民惨遭毒手。
直到1929年，日本政府碍于国际压力，宣布撤军。至此，“济南事件“结束。
“济南惨案”起始于5月3日，故又称为”五三惨案“。这是日本帝国主义对中国人民欠下的一笔血债。
日本政府尝到了甜头，开始逐渐加大对满蒙和东三省的控制权。
“济南惨案”发生以后，国人的反日情绪变得日常高涨。蒋介石也终止北伐，注重于其南方政权的稳固以及与西方国家的交流。
直至今日，每年的5月3日，济南将其定为防空警报试鸣日，以此来纪念发生在济南的“五三”惨案。