一行的家族在唐初的时候声名显赫，其祖父张公瑾是唐朝的开国功臣。但到了一行生活的武则天时期，他的家族呈现出衰败的景象。

一行从小具有不同于常人的奇特天赋，对玄学知识特别感兴趣，喜欢到寺观去借书阅览。当时长安城有一个玄都观，住持道长尹崇的学问非常高深。小一行对他很是敬仰，经常上门拜谒，求道问学。道长很欣赏这个年轻人的虚心和勤奋，不遗余力地给予他指导。

一次，尹崇道长把汉代玄学大师扬雄的著作《太玄经》借给一行，对他说：“这本著作道理深奥，阐发精微，你应当细细阅读体会。”一行高兴地把书带回了家。过了几天，他把书还给了道长。尹崇认为他读书不愿意下苦功，就严肃地教导他说：“我花了几年的工夫，把这本书反复体会了几遍，虽获益良多，但也没有完全弄懂。

你只用了几天的工夫，一定还没有读完，怎么就放弃了呢？”不料一行郑重地回答：“道长，我已经读完了。这是我写下的读书心得。”说着，他拿出自己写的文章《大衍玄图》和《义诀》交给尹崇。尹崇惊讶地发现一行理解深入，多有创见，大为赞赏。从此，小一行有了“神童”的美誉。

武则天集团看中一行学识渊博，想拉拢他为自己服务。但是一行对做官没有兴趣，跑到嵩山剃度出家。在山林当和尚的日子，一行非常愉快。他四处游学，拜访名师，如饥似渴地学习各种各样的知识。有一段时间，他跑到天台山去找一位无名老僧，向他学习数学知识，为他日后编写历法打下了良好的基础。

717年，唐玄宗听说了一行的名声，就在长安召见他。在这次会面中，一行显示出过目不忘的本领，令唐玄宗大为叹服，让一行做了皇室的顾问，住在长安城的华严寺。

在此期间，一行认识了许多从印度来的高僧，虚心向他们学习，学到了很多印度的天文学和历法知识。他将这些知识运用于实践，主持了多项天文地理测试的项目，并修订了传统历法。

在724年至725年间，一行取得了他这一生最重要的科学研究成果：测量地球子午线的长度。他派人在河南的四个地点展开实地观测，测量了这四个地点的北极星高度和冬至、夏至、春分和秋分的日影长度等等，最后计算出了地球从南极到北极的子午线长度。虽然计算结果在近代被证明有误差，但这是世界上首次获得子午线长度的数据，可谓划时代的创举。

此外，一行还制作了水运浑天仪、黄道游仪等天文观测工具。这名得道的高僧，为中国古代科学技术的发展做出了巨大贡献，极大地促进了天文学的发展。他的成就是人类的宝贵财富。