这首歌的旋律分三段，主歌用简单和弦，副歌变调上扬，结尾重复副歌。简谱里C大调转D大调，和弦走C-G-Am-F循环，副歌部分旋律线比主歌高半音，像爬山一样上坡。

这首歌为什么这样编曲呢？三毛写词强调离别，齐豫唱的时候主歌用C大调营造宁静感，副歌转D大调增强情绪张力。比如第8小节主歌C和弦，到第12小节副歌突然变D大调，像阶梯一样爬高。数据证明：原曲前奏共4小节C调，副歌前奏4小节D调，调号变化让听众感觉情绪升级。和弦循环用了五次C-G-Am-F，每次循环副歌都重复"橄榄树"三个字，像车轮子转圈圈。结尾突然变慢速，把两行"橄榄树啊"唱成气声，就像说话时突然停住，让人记到心里头。