Jimmy Wales nació en Huntsville, Estados Unidos. Su padre, Jimmy, trabajaba como gerente en una tienda de comestibles, mientras que su madre, Doris, y su abuela, Emma, dirigían una escuela privada agrupada, donde Wales hizo sus primeros estudios. Él y otros cuatro niños formaban su curso, así que en su aula recibían clase todos los alumnos de primero a cuarto curso y de quinto a octavo. Cuando terminó octavo, Wales asistió a la escuela Randolph School, una secundaria en Huntsville. Dijo que la escuela era cara para su familia, pero que "la educación siempre fue una pasión en mi hogar ... ya sabes, el enfoque muy tradicional del conocimiento y el aprendizaje y establecer eso como una base para una buena vida".
Recibió el título de licenciado en Finanzas de la Universidad de Auburn y entró en el programa de financiación del doctorado en Finanzas de la Universidad de Alabama antes de dejarla con un título de máster. Prosiguió los estudios gracias a un préstamo para obtener el título de Doctorado en Finanzas de la Universidad de Indiana Bloomington. Enseñó en ambas universidades durante sus estudios de postgrado, pero no escribió la tesis para finalizar el doctorado, algo que él mismo atribuye al aburrimiento.
Entre 1994 y 2000 Wales trabaja como director de investigación en el Chicago Options Associates. Hace fortuna especulando sobre la fluctuación de las tasas de intereses y de cambio. Según Daniel Pink de la revista Wired, gracias a la especulación sobre las tasas de intereses y fluctuaciones de las monedas extranjeras dice haber ganado bastante dinero como para hacer vivir a su pareja por el resto de su existencia.
En 1996, uno de los proyectos que emprende es la creación de Bomis (actualmente no está disponible), un motor de búsqueda erótico. Wales describe Bomis como «un motor de búsqueda, más bien destinado a los jóvenes» que a menudo vendía fotos eróticas parecidas a las de la revista Maxim con mujeres muy ligeramente vestidas.
En una entrevista de 2007 declaró que en 1999 realizó un estudio y luego creó un computador que permitía producir una enciclopedia multilingüe en línea, pero demasiado lenta para ser utilizada.
En marzo de 2000 Jimmy Wales funda y financia (gracias a Bomis) Nupedia, un proyecto de enciclopedia libre de naturaleza abierta y revisada por pares. Contrata para ello a Larry Sanger como redactor jefe. Wales deseaba una calidad comparable a las enciclopedias profesionales del mercado con redactores libres seleccionados. En un discurso de octubre de 2009, recordó su intento de escribir un artículo para Nupedia sobre el economista ganador del Premio Nobel Robert C. Merton, pero se sintió demasiado intimidado para presentar su primer borrador a los prestigiosos profesores de finanzas que debían revisarlo. Wales describió esto como el momento en que se dio cuenta de que el modelo de Nupedia no iba a funcionar. El 26 de septiembre de 2003 con tan solo 24 artículos terminados y 74 en desarrollo, se cierra Nupedia.
Después de que Larry Sanger propusiera públicamente el 10 de enero de 2001 la idea de utilizar una wiki para crear una enciclopedia, Wales instaló un software para wikis en un servidor proporcionado por Bomis y autorizó a Sanger a continuar con el proyecto, bajo su vigilancia.
El 1 de marzo de 2002, luego de la supresión del financiamiento de Bomis, Sanger abandonó el proyecto.
Formó un comité de cinco miembros compuestos por él mismo, dos de sus colegas de trabajo, que no son wikipedistas activos, y dos miembros elegidos por la comunidad de wikipedistas.
Creó también, con Angela Beesley, la empresa Wikia.