老男孩主要在山西平遥古城拍。导演用那里的明清老房子当背景，比如武大靖打群架的戏在县衙拍，小混混抢钱的场景在城隍庙。平遥的城墙和街巷特别适合拍黑帮片，很多老建筑连砖缝都跟电影里一模一样。

平遥的明清建筑群保存得最好，全县有2700多座古建，电影里80%场景都取自这里。2013年拍摄时，剧组专门请了当地工匠修复了县衙门前的青石板路。导演说"平遥的黄昏特别适合拍打戏，光线像给场景蒙了层灰"。电影里武大靖输掉比赛那场戏，其实是在平遥县衙后院拍的，当时有200多个群众演员在围观。还有南大街的青砖路，剧组特意撒了煤灰模仿旧时尘土。其他小地方比如汾阳的戏份很少，主要是在平遥拍的。有个镜头是武大靖在茶馆喝茶，那家茶馆现在还挂着"义顺祥"的招牌呢。