地动仪是用青铜制造的，形状有点像一个酒坛，四围刻铸着八条龙，龙头向八个方向伸着。每条龙的嘴里含了一颗小铜球，龙头下面，蹲了一个铜制的蛤蟆，对准龙嘴张着嘴。哪个方向发生了地震，朝着那个方向的龙嘴就会自动张开来，把铜球吐出。铜球掉在蛤蟆的嘴里，发出响亮的声音，就给人发出地震的警报。
公元138年2月的一天，张衡的地动仪正对西方的龙嘴突然张开来，吐出了铜球。按照张衡的设计，这就是报告西部发生了地震。可是，那一天洛阳一点也没有地震的迹象，也没有听说附近有哪儿发生了地震。因此，大伙儿议论纷纷，都说张衡的地动仪是骗人的玩意儿，甚至有人说他有意造谣生事。过了几天，有人骑着快马来向朝廷报告，离洛阳一千多里的金城、陇西一带发生了大地震，连山都有崩塌下来的，大伙儿这才信服。
张衡还发明了一个用来显示日期的装置，叫作“瑞轮蓂荚”。蓂荚草是一种神话中表示祥瑞的植物。据说生长在尧帝的居室阶下。随着新月的出现，一天长一个荚，到满月时长到15个荚。过了月圆之后，就一天掉一个荚。这样，数一数荚的荚数就可以知道今天是在一个朔望月中的哪一天和这天的月相了。这个神话曲折地反映了尧帝时天文历法的进步。张衡的机械装置瑞轮就是在这个神话的启发下发明的。所谓“随月盈虚，依历开落”，其作用就相当于现今钟表中的日期显示。遗憾的是，这种发动力和传动力的机械装置的具体情况史书没有留下记载。
张衡还著有一篇有关天文学的代表作《灵宪》，这篇文章全面体现了张衡在天文学上的成就和发展。他认为宇宙是无限的，天体的运行是有规律的。《灵宪》认为，宇宙的起源，最初是一派无形无色的阴的精气，是一个很长的阶段，称为“溟滓”。这一阶段乃是道之根。从道根产生道干，气也有了颜色。但是，“浑沌不分”，看不出任何形状，也量不出它的运动速度。有了道干以后，开始产生物体。这一阶段叫做“太玄”，也就是道之实。《灵宪》把宇宙演化三阶段称之为道根、道干、道实。在解释有“浑沌不分”的“太素”气时引了《道德经》里的话：“有物混成，先天地生。”这些都说明了《灵宪》的宇宙起源思想，其渊源是老子的道家哲学。总之，张衡继承和发展了中国古代的思想传统认为宇宙并非生来就是如此，而是有个产生和演化的过程。张衡所代表的思想传统与西方古代认为宇宙结构亘古不变的思想传统大异其趣，却和现代宇宙演化学说的精神有所相通。
关于宇宙无限之说，战国时代的《尸子》里这样描述：“上下四方曰宇，往古来今曰宙”。宇就是空间，宙就是时间。中国的传统思想是把空间和时间联系在一起的。这一点也和西方古代把二者看成是两个互相割裂的概念大不相同。但是，中国和西方一样，在二者是有限还是无限的问题上历来也有争论。《庄子》一书中就有宇宙在空间和时间上都是无限的说法。而西汉末年的扬雄却认为“阖天为宇，辟宇为宙”，在空间上是有限的，在时间上是有起点的。张衡虽然长期研究扬雄的《太玄经》，并受到扬雄较深的影响，但在宇宙的无限性上却并没遵循扬雄。《灵宪》认为人目所见的天地是大小有限的，但是，宇宙在空间上没有边界，在时间上没有起点。扬雄的思想和目前天文学界最负盛名的大爆炸宇宙学说在终极本质上是相通的。而张衡的结论却和当代的辩证唯物主义哲学相合。
张衡对月食的解释也充满了科学性。在张衡之前，人们已对日食的原因有所认识。西汉的刘向就说过：“日蚀者，月往蔽之”。东汉王充在《论衡·说日篇》中引述过别人的一种更明确的说法：“或说，日食者月掩之也。日在上，月在下，障于日之形也”。都认为日食是月球遮蔽造成的阴影，这一认识是符合科学的，而对于月食原因，则在张衡之前尚无明晰的解释。大概正是针对这种状况，张衡在《灵宪》中专门论述了月食的原因：“月，光生于日之所照；魄生于日之所蔽。当日则光盈，就日则光尽也。众星被耀，因水转光。当日之冲，光常不合者，蔽于地也，是谓虚。在星星微，月过则食。”这段话中说到，月亮本身是不发光的，太阳光照到月亮上才产生光月。月亮之所以出现有亏缺的部分，就是因为这一部分照不到日光。所以，当月和日正相对时，就出现满月。当月向日靠近时，月亮亏缺就越来越大，终至完全不见。这样一种月相理论，在《周髀算经》中已有大概：“日兆（按：通照）月，月光乃生，故成明月。”西汉京房说得更为明确：“先师以为日似弹丸，月似镜体；或以为月亦似弹丸，日照处则明，不照处则暗”。张衡的月相理论和他们没有本质的差别，所突出的是张衡强调了月相与日、月相对位置的关系。但这样一来人们自然要问，既然“当日则光盈”，那么何以有时候当日时会有月食呢？对此，张衡回答说：“蔽于地也。”即大地挡住了日光，使日光照不到月亮上去了。张衡把这块大地所产生的影子起个名字叫“虚”。月亮进入虚时就发生月食。
张衡在《灵宪》中提出四个极有价值的见解。第一，日、月、五星并不是在天球球壳上，它们是在天地之间运行，距地远近各不相同。第二，这七个天体的运动速度也不同，离地球近的速度快，离地球远的速度慢。第三，用天的力量来说日月行星有留、逆、迟、速等运动变化现象。第四，按照五星离地球远近及其运行快慢；将它们分成两类。一类属月，包括水星、金星。另一类属日，包括火星、木星、和土星。
除此以外，张衡在很多方面都颇有造诣，他绘制出我国第一幅较为完备的星图，制作出能飞行数里的木鸟，他还是东汉六大画家之一，他写的《二京赋》中的文字“博思精会，十年乃成”为人们所传诵。可是在那个时候，朝廷掌权的全是宦官或是外戚，像张衡这样有才能的人不但不被重用，反而被打击排挤。张衡做侍中的时候，因为与皇帝接近，宦官怕张衡在皇帝面前揭他们的短，就在皇帝面前讲张衡很多坏话。他被调出了京城，到河间去当国相，最终在他六十一岁那年病死。
张衡在我国科学史上尤其是天文学史上留下了光辉的业绩。河南省南阳县的北面有张衡墓和平子读书台，墓碑上有郭沫若的题词：“如此全面发展之人物，在世界史上亦所罕见”。