Na área da óptica, foram publicados dois livros importantes: Astronomiae Pars Optica (A Parte Óptica da Astronomia) e Dioptrice.
Em Astronomiae Pars Optica, Kepler estuda a variação da intensidade da luz com a distância, a reflexão de imagens em espelhos com várias formas, a refracção da luz em diferentes prismas e os princípios de câmaras pinhole. Relativamente aos seus estudos sobre a intensidade da luz, a refracção e a reflexão, apenas conclui que a intensidade da luz varia com o inverso do quadrado da distância, I∝1/d^2 , apesar de também descrever a lei da refracção da luz mas não apresentando nenhuma equação que a sumarie. Apesar de este livro ter inicialmente o objectivo de estudar as várias leis da óptica que teriam implicações nas observações astronómicas, o tamanho e posições aparentes dos astros (efeitos causados, por exemplo, pela paralaxe), o estudo da câmara escura, ou câmara pinhole, em que a luz entrava numa sala totalmente escura apenas através de um pequeno buraco e era projectada na parede oposta, levou Kepler a uma descoberta de grande importância: a imagem reflectida apresentava-se invertida e reversa. Esta descoberta levou-o a acreditar que o olho humano funcionasse de maneira semelhante, ou seja, que as imagens captadas seriam invertidas e reversas no cristalino, sendo depois “projectadas” na parte de trás do olho, hoje chamada de retina, em oposição ao que acreditava na altura, que a imagem era captada no cristalino. A teoria apresentada por Kepler é a primeira a afirmar que a imagem é “projectada” de maneira invertida e reversa na retina, representando, assim, apesar de conter alguns erros (Kepler assumiu que a imagem seria depois corrigida nos buracos do cérebro por actividade da Alma), uma grande descoberta e avanço na área da óptica. Muitos acreditam que este livro representa a fundação da óptica moderna.
Tendo sido abordado por Galileu acerca das suas observações das luas de Júpiter utilizando o seu novo telescópio com uma combinação de lentes convexas e côncavas, Kepler começa um estudo a teórico e experimental ligado à óptica nos telescópios. É a partir deste objectivo que mais tarde, em 1611, é publicado Dioptrice, um livro onde Kepler apresenta os conceitos de imagens reais e virtuais, estuda imagens direitas ou invertidas e o efeito da distância focal (é a distância que vai desde a lente até ao ponto onde convergem os raios de luz captados) no aumento ou redução da imagem obtida, analisa o funcionamento de conjuntos de duas lentes côncavas, de duas lentes convexas e do telescópio de Galileu (composto por uma lente convexa e uma lente côncava) e ainda apresenta um telescópio que teria melhor desempenho do que o de Galileu, o telescópio kepleriano.
Nesta altura, um telescópio era formado por um tubo com uma lente, numa ponta, que captava os raios de luz, a objectiva, e outra lente, na outra ponta, por onde o astrónomo observava o céu, a ocular. A combinação destas duas lentes e a distância entre elas dita a ampliação e nitidez conseguidas, assim como o ângulo de visão e a orientação da imagem mostrada através da ocular. Ao estudar o funcionamento do telescópio galileano, Kepler concluiu que a sua combinação de uma objectiva convexa e uma ocular côncava produzia imagens demasiado distorcidas e desfocadas e que o ângulo de visão que este oferecia era demasiado pequeno. Assim, teorizou um telescópio formado por uma objectiva convexa e uma ocular igualmente convexa. Este telescópio teria um maior ângulo de visão, maior ampliação e permitiria a utilização de um micrómetro, mas requeria que a objectiva ficasse a uma maior distância da ocular e a imagem obtida encontrava-se invertida.
