元干出身书香门第。其父名动，进士出身，官至龙图阁直学士，能诗。张元干受其家风影响，从小聪明好学，永泰的寒光阁、水月亭是他幼年生活和读书处。十四五岁随父亲至河北官廨（在临漳县）已能写诗，常与父亲及父亲的客人唱和，人称之“敏悟”。
小苏一物绝风流，竹杖芒鞋爱讨幽。招隐归来吐佳句，何时一笑共重游。
薰炉玉煖云生岫，晓鉴鸾窥翠扫空。未许尊前听金缕，两公新句漫争雄。
