杨德昌坚信“年轻是一种品质，而不是数量，一旦拥有就不会失去”。“小四”的故事根据杨德昌学生时代的校友茅武的真实事件改编，茅武是建国中学夜间部初二的学生，因女友拒绝他，在1961年6月15日晚上与女友来到牯岭街谈判，谈判不成，他将她连刺七刀，致使女友当场毙命。事件发生后，轰动台湾，报刊以“不良少年行凶情杀”来概括这件事件。

　　与茅武同校的杨德昌对这一概括“耿耿于怀”，多年后当他以《牯岭街少年杀人事件》“凭吊”那起案件时表示：“对我来讲最有趣的反而不是茅武的生平或他为什么杀人，而是那个环境很可能发生这种事，我的出发点基本上还是那段时间，它对我们这一代人来讲非常重要。我们这一代在那个时候念初中，命中注定到现在就是社会中流砥柱，五十年的环境也许会增强你的个性，也许会削弱你的志气，那个年代有很多线索可以让我们看清楚现在这个时代，这是我做这个片子的最大动力。”在杨德昌看来1960年代的台湾是一个“奇异”的时候，也是一个“一直被刻意忽略的时代”(引自该片宣传资料)，所以杀人事件不单是孤立的暴力案例，而成为集体的悲剧了。