John Anderson wurde am 26. September 1726 in Rosneath geboren, einem kleinen Ort in Schottland. Sowohl sein Vater als auch sein Großvater waren Pfarrer, sodass er in einem Umfeld aufwuchs, das Gelehrsamkeit und gesellschaftliche Verantwortung als selbstverständliche Werte betrachtete. Nach dem frühen Tod seines Vaters wuchs Anderson bei einer Tante auf, was seine Kindheit prägte, ohne seinen intellektuellen Antrieb zu mindern.
Er studierte an der Universität Glasgow, die damals zu den bedeutendsten Bildungseinrichtungen Schottlands zählte und Männern wie Adam Smith und David Hume als Wirkungsstätte gedient hatte. Nach dem Studienabschluss im Jahr 1745 arbeitete Anderson zunächst als Privatlehrer, bevor er Ende 1755 eine Professur für orientalische Sprachen an der Universität Glasgow erhielt. Schon 1757 wechselte er auf den Lehrstuhl für Naturphilosophie, dem Fach, das damals Physik, Mechanik und die aufkommende Experimentalwissenschaft umfasste.
Anderson erkannte früh, dass die experimentelle Physik die Zukunft der Wissenschaft darstellte. Er spezialisierte sich auf dieses neue Gebiet und entwickelte eine Leidenschaft für praktische Demonstrationen, die theoretisches Wissen lebendig machten. 1786 veröffentlichte er ein Lehrbuch der Physik, das in der Folgezeit mehrfach neu aufgelegt wurde und seinen Ruf als Vermittler naturwissenschaftlicher Erkenntnisse festigte.
Zu seinen engsten Bekannten an der Universität Glasgow gehörte James Watt, der damals als Modellmacher für die Universität arbeitete und sich mit der Verbesserung der Newcomen-Dampfmaschine beschäftigte. Anderson ermutigte Watt ausdrücklich zur Weiterentwicklung der Dampfmaschine — eine Begegnung, die zu den weniger bekannten, aber bedeutsamen Momenten der Industriellen Revolution gehört, denn Watts Kondensationsdampfmaschine sollte die Welt verändern.
Anderson war ein entschiedener Befürworter der Ziele der Französischen Revolution von 1789, was ihn in manchen akademischen Kreisen seiner Zeit zu einer umstrittenen Figur machte. Er unterstützte die revolutionären Ideen von Freiheit und Gleichheit durch mehrere öffentliche Aktionen und scheute sich nicht, seine politischen Überzeugungen offen zu vertreten.
Jenseits seiner akademischen Verpflichtungen brennte Anderson für eine Idee, die seiner Zeit weit voraus war: die Volksbildung. Er war davon überzeugt, dass Wissen nicht das Privileg einer gelehrten Elite sein durfte, sondern allen Schichten der Gesellschaft zugänglich sein müsste — insbesondere Handwerkern und Arbeitern, die keine Möglichkeit hatten, die reguläre Universität zu besuchen. Er organisierte gut besuchte öffentliche Abendvorlesungen, in denen er naturwissenschaftliche und technische Grundlagen für ein breites Publikum aufbereitete, das sonst keinen Zugang zu solchem Wissen gehabt hätte.
Diese Vision lebte nach seinem Tod in einer außergewöhnlichen Weise fort. In seinem Testament, das er kurz vor seinem Tod verfasste, regte Anderson die Gründung einer neuen Universität in Glasgow an, die ausdrücklich denjenigen dienen sollte, die von der bestehenden Universität ausgeschlossen waren. Seinem Nachlass vermachte er dieser Institution sein gesamtes Vermögen. Er starb am 13. Januar 1796 in Glasgow, doch sein Werk überlebte ihn: Noch im selben Jahr wurde die Einrichtung gegründet, zunächst als Anderson's Institution bekannt.
1759 war Anderson zum Fellow der Royal Society of London gewählt worden, 1783 gehörte er zu den Gründungsmitgliedern der Royal Society of Edinburgh — zwei der renommiertesten wissenschaftlichen Gesellschaften Großbritanniens. Die von ihm ins Leben gerufene Institution trug von 1828 bis 1877 den Namen Anderson's University und durchlief im Laufe der Jahrzehnte mehrere institutionelle Veränderungen, bis sie 1964 als University of Strathclyde in eine staatliche Universität umgewandelt wurde. Anderson's Erbe lebt damit bis heute als eine der führenden technischen Hochschulen Schottlands fort — ein Beweis dafür, dass eine einzelne visionäre Idee über Jahrhunderte hinaus Früchte tragen kann.
