John Davis nasceu em 13 de janeiro de 1787, em Northborough, Massachusetts, filho de Deacon Isaac Davis e Anna Brigham Davis. Desde cedo frequentou as escolas locais e depois a Leicester Academy, antes de ingressar no Yale College, onde se formou em 1812. Após a graduação, estudou direito em Worcester com o advogado Francis Blake, sendo admitido na ordem dos advogados três anos depois. Essa formação sólida e metódica seria a base de uma carreira pública marcada pela integridade pessoal que ficaria imortalizada no apelido que seus contemporâneos lhe deram: John Honesto Davis.
Os primeiros anos de prática jurídica transcorreram em Spencer, Massachusetts, mas Davis logo retornou a Worcester, cidade que se tornaria o centro de sua vida profissional e política. Lá assumiu a advocacia de Francis Blake e breve parceria com Levi Lincoln Jr., até que este foi nomeado para o Supremo Tribunal Judicial de Massachusetts em 1824. Nesse mesmo ano, Davis deu o passo que definiria sua trajetória pública ao vencer as eleições para o Congresso dos Estados Unidos, iniciando uma sequência de dez anos na Câmara dos Representantes que o tornaria uma das figuras mais proeminentes da política de Massachusetts.
Na Câmara, Davis representou Massachusetts de 1825 a 1833, participando dos 19º ao 23º Congressos. Filiado ao Partido Nacional Republicano, que depois se tornaria o Partido Whig, ele se posicionou como defensor do protecionismo tarifário, política que atendia aos interesses da crescente indústria têxtil de Massachusetts. Seus discursos em favor da Tarifa de 1828, que protegia a produção nacional da concorrência estrangeira, foram amplamente reproduzidos e contribuíram para consolidar sua reputação como porta-voz dos interesses industriais de seu estado. Apoiou John Quincy Adams na disputa presidencial e opôs-se sistematicamente às políticas do presidente Andrew Jackson, alinhando-se com Henry Clay, embora discordasse da tarifa de compromisso que Clay propôs em 1833.
A eleição para governador de Massachusetts em 1833 foi um episódio revelador da política da época. Davis concorreu num embate triangular que envolvia o ex-presidente John Quincy Adams, candidato pela chapa Anti-Maçônica, e o democrata Marcus Morton. No resultado, Davis obteve a maioria dos votos, mas não a maioria absoluta exigida pela lei estadual, o que transferiu a decisão para a legislatura. Com Adams retirando sua candidatura e expressando preferência por Davis, a Câmara controlada pelos Whigs elegeu Davis governador. A manobra consolidou sua posição no estado, mas gerou ressentimentos entre os Anti-Maçons, cujo apoio a Adams foi desperdiçado sem contrapartida.
Reeleito em 1834, Davis exerceu dois mandatos como governador sem protagonizar grandes iniciativas pessoais, mantendo as políticas fiscais e econômicas que seu antecessor Levi Lincoln Jr. havia estabelecido. Massachusetts continuava em expansão econômica, expandindo sua infraestrutura de transportes e sua base industrial, e Davis administrou esse crescimento com a cautela e a solidez que caracterizavam seu estilo político. Sua separação em relação ao colega de partido Daniel Webster se aprofundou nesse período, anunciando as divergências que os afastariam em questões importantes nos anos seguintes.
Em 1835, Davis deixou o governo para assumir uma vaga no Senado dos Estados Unidos, seguindo arranjo negociado dentro do Partido Whig. No Senado, adotou posições notáveis em algumas questões específicas. Na disputa de fronteira nordeste do país, que envolvia a divisa entre o Maine e a província britânica de New Brunswick, Davis foi inflexível, insistindo que os Estados Unidos não deveriam ceder qualquer território que reivindicavam. Essa controvérsia chegou quase a desencadear um conflito armado com o Reino Unido em 1839, conhecida como a Guerra de Aroostook, e a firmeza de Davis numa posição de princípio foi observada com atenção pelos seus constituintes.
Após renunciar ao Senado no início de 1841 para assumir novamente o governo de Massachusetts, Davis viveu seu segundo mandato como governador de maneira menos marcante. Perdeu a eleição de 1843 para o democrata Marcus Morton, o mesmo adversário que havia enfrentado em 1833, em derrota que refletia tanto o desgaste natural de um político veterano quanto as tensões crescentes dentro do Partido Whig. Retornou ao Senado em 1845, onde cumpriu mandato até 1851, opondo-se à Guerra Mexicano-Americana e trabalhando para conter a expansão da escravidão aos novos territórios, embora sem adotar uma posição abolicionista radical. Votou na maioria das disposições do Compromisso de 1850, que tentava equilibrar os interesses escravistas e anti-escravistas na composição do Congresso.
Em 1821, Davis havia sido eleito membro da American Antiquarian Society, refletindo seu interesse pela história e pela cultura de sua região. Aposentou-se do serviço público em 1853, após quase três décadas de atuação ininterrupta, e morreu em 19 de abril de 1854 em Worcester, a cidade que havia sido o centro de toda a sua vida. A alcunha de Honesto que carregou ao longo de toda a carreira permaneceu como o tributo mais genuíno que seus contemporâneos puderam lhe oferecer, num mundo político onde a reputação de integridade era um bem raro e precioso.
