Jimmy Wales nació en Huntsville, Estados Unidos. Su padre, Jimmy, trabajaba como gerente en una tienda de comestibles, mientras que su madre, Doris, y su abuela, Emma, dirigían una escuela privada agrupada, donde Jimmy Wales hizo sus primeros estudios. Él y otros cuatro niños formaban su curso, así que en su aula recibían clase todos los alumnos de primero a cuarto curso y de quinto a octavo. Cuando terminó octavo, Wales asistió a la escuela Randolph School, una secundaria en Huntsville. Wales ha dicho que la escuela era costosa para su familia, pero considera esa educación importante: «La educación fue siempre una pasión en mi hogar... sabes, el tan tradicional apremio por el conocimiento y el aprendizaje, estableciendo eso como una base para una buena vida».
Recibió el título de licenciado en Finanzas de la Universidad de Auburn y entró en el programa de financiación del doctorado en Finanzas de la Universidad de Alabama antes de dejarla con un título de máster. Prosiguió los estudios gracias a un préstamo para obtener el título de Doctorado en Finanzas de la Universidad de Indiana. Enseñó en ambas universidades durante sus estudios de postgrado, pero no escribió la tesis para finalizar el doctorado, algo que él mismo atribuye al aburrimiento.
Entre 1994 y 2000 Wales trabaja como director de investigación en el Chicago Options Associates. Hace fortuna especulando sobre la fluctuación de las tasas de intereses y de cambio. Según Daniel Pink de la revista Wired, gracias a la especulación sobre las tasas de intereses y fluctuaciones de las monedas extranjeras dice haber ganado bastante dinero como para hacer vivir a su pareja por el resto de su existencia.
En 1996, uno de los proyectos que emprende es la creación de Bomis (actualmente no está disponible), un motor de búsqueda erótico. Wales describe Bomis como «un motor de búsqueda, más bien destinado a los jóvenes» que a menudo vendía fotos eróticas parecidas a las de la revista Maximal con mujeres muy ligeramente vestidas.
En una entrevista de 2007 declara que en 1999 realiza un estudio y luego crea un computador que permite producir una enciclopedia multilingüe en línea, pero demasiado lenta para ser utilizada.
En marzo de 2000 Jimmy Wales funda y financia (gracias a Bomis) Nupedia, un proyecto de enciclopedia libre de naturaleza abierta y corregida por pares. Contrata para ello a Larry Sanger como redactor jefe. Jimmy Wales desea al comienzo una calidad comparable a las enciclopedias profesionales del mercado con redactores libres seleccionados, pero su rareza causa el cierre de Nupedia el 26 de septiembre de 2003 con tan solo 24 artículos terminados y 74 en desarrollo.
Después de que Larry Sanger propusiera públicamente el 10 de enero de 2001 la idea de utilizar una wiki para crear una enciclopedia, Wales instala un software para wikis en un servidor proporcionado por Bomis y autoriza a Sanger a continuar con el proyecto, bajo su vigilancia.
El 1 de marzo de 2002, luego de la supresión del financiamiento de Bomis, Larry Sanger abandona el proyecto.
Forma un comité de cinco miembros compuestos por él mismo, dos de sus colegas de trabajo, que no son wikipedistas activos, y dos miembros elegidos por la comunidad de wikipedistas.
Creó también, con Angela Beesley, la empresa Wikia.