事实上，究竟是谁发明了第一架望远镜在某种程度上并不是十分明确谁发明了眼镜。长久以来，人们就一直在使用由石英制成的单透镜。在13世纪晚期，人们发明了用于矫正远视眼的凸透镜。到了15世纪中期，德国科学家尼古拉斯-库萨发明了用于矫正近视眼的凹透镜。由于最简单的望远镜是由一块凸透镜和一块凹透镜组成，所以望远镜应该是在那之后出现。事实上，来自16世纪晚期英国的各种文字记载暗示，望远镜可能是由至少几个人独立发明的。
一般认为，真正的望远镜最早出现在1608年，三名荷兰人独立发明了望远镜，他们分别是汉斯·利珀斯海、查哈里亚斯·杨森以及雅各布·梅提斯。在此之后不久，望远镜开始大批量生产，并作为新奇物品传遍欧洲。这些最早的望远镜只能把物体放大大约三倍。
到了1609年，意大利天文学家、物理学家伽利略在造访威尼斯城时，听闻了当时还是非常新奇的望远镜。于是，在他回到帕多瓦大学后，通过把凹透镜和凸透镜组合在一起，制造出了一架望远镜。伽利略改进了望远镜的性能，把放大倍数提高到了33倍。利用自制的望远镜，伽利略发现了木星的四颗最大卫星、太阳黑子、金星盈亏以及月球环形山等天文现象。因此，这是第一架真正意义上的天文望远镜，所以这种结构的望远镜又被称为伽利略望远镜。
本质上，伽利略望远镜是一种折射式望远镜，但由于结构原因，很难制造出大口径望远镜。牛顿在前人的基础上，制造出了更为实用的反射式望远镜。此后，又出现了性能更加优异的折反射式望远镜。现代大型的天文望远镜都是从此基础上改进而来。可以说，没有望远镜，就没有天文学。
