Die Bundeswehr ist der nachgeordnete Geschäftsbereich des Bundesministeriums der Verteidigung (BMVg), der aus den deutschen Streitkräften und einem zivilen Bereich besteht. Erstere gliedern sich in die Teilstreitkräfte Heer, Luftwaffe, Marine und Cyber- und Informationsraum sowie dem Unterstützungsbereich. Zivil sind die Organisationsbereiche Ausrüstung, Informationstechnik und Nutzung, Infrastruktur, Umweltschutz und Dienstleistungen und Personal (zusammen die Bundeswehrverwaltung), die Militärseelsorge und die Rechtspflege sowie drei dem BMVg unmittelbar nachgeordneten militärischen Dienststellen und der Militärische Abschirmdienst. Das BMVg als oberste Bundesbehörde und zivile Einrichtung steht hierarchisch über der Bundeswehr, ohne selbst Teil von ihr zu sein. Unter den Angehörigen der Bundeswehr sind Soldaten, aber auch Beamte, Arbeitnehmer (Tarifbeschäftigte) und Richter (an den Truppendienstgerichten).
Der Bundesminister der Verteidigung ist Mitglied der Bundesregierung und grundsätzlich der Inhaber der Befehls- und Kommandogewalt (IBuK) über die Streitkräfte (Art. 65a GG). Sie geht im Verteidigungsfall auf den Bundeskanzler über (Art. 115b GG).
Als Parlamentsarmee benötigt die Bundeswehr für Einsätze die Zustimmung des Deutschen Bundestags. Die Auslandseinsätze der Bundeswehr finden grundsätzlich im Rahmen von Mandaten der NATO, EU und UN statt.
Der ehemalige General Gerhard Graf von Schwerin wurde am 24. Mai 1950 Konrad Adenauers „Berater in technischen Fragen der Sicherheit“ zur geheimen Vorbereitung des Aufbaus westdeutscher Streitkräfte. Am 26. Oktober 1950 berief Konrad Adenauer Theodor Blank zum „Beauftragten des Bundeskanzlers für die mit der Vermehrung der alliierten Truppen zusammenhängenden Fragen“. Dieses „Amt Blank“ wurde zur Keimzelle des späteren Bundesministeriums der Verteidigung. In der Himmeroder Denkschrift vom Oktober 1950 lieferten 15 Experten, allesamt ehemalige Offiziere der Wehrmacht (unter ihnen Wolf von Baudissin), maßgebliche Ideen für die Konzeption und den Aufbau der Bundeswehr. Die sieben in die Bundeswehr übernommenen Offiziere dieser 15-köpfigen Himmeroder Expertengruppe, die zum Teil höchste Stellungen in der Bundeswehr (Generalinspekteur, Inspekteure von Teilstreitkräften) und in der NATO (Vorsitzender des Militärausschusses, hohe Kommandeure) erlangten, prägten mit den in Himmerod entwickelten Konzepten die junge Bundeswehr.
Wichtig für den Aufbau einer neuen Armee war die am 23. Januar 1951 erfolgte Ehrenerklärung für die Soldaten der deutschen Wehrmacht durch den damaligen Oberbefehlshaber der NATO-Streitkräfte und späteren US-Präsidenten, Dwight D. Eisenhower, gegenüber Bundeskanzler Konrad Adenauer, in der Eisenhower konstatierte, dass der deutsche Soldat tapfer kämpfte und seine Ehre – bis auf wenige Ausnahmen – nicht verloren habe. Daraufhin gab Bundeskanzler Adenauer vor dem Deutschen Bundestag am 3. Dezember 1952 eine eigene Erklärung ab: „Ich möchte vor diesem Hohen Hause im Namen der Bundesregierung erklären, dass wir alle Waffenträger unseres Volkes, die im Namen der hohen soldatischen Überlieferung ehrenhaft zu Lande, auf dem Wasser und in der Luft gekämpft haben, anerkennen … Es muss unsere gemeinsame Aufgabe sein – und ich bin sicher, wir werden sie lösen –, die sittlichen Werte des deutschen Soldatentums mit der Demokratie zu verschmelzen …“
Die Ehrenerklärung ermöglichte die Wiedereingliederung ehemaliger Angehöriger der Wehrmacht (und auch einiger Angehöriger der Waffen-SS). Es folgte die Aufstellung von Verteidigungskräften, die zunächst in den teilweise bewaffneten Dienstgruppen vorgehalten und ab 16. März 1951 im paramilitärisch organisierten Bundesgrenzschutz (BGS) ausgebildet wurden.
Die Gründung der Bundeswehr und die Wiederbewaffnung der Bundesrepublik am 5. Mai 1955 führten zu erheblichen innenpolitischen Auseinandersetzungen. Hauptsächlich zwischen SPD und CDU wurde die Frage diskutiert, ob es moralisch zu verantworten sei, dass Deutschland nach der Hitler-Diktatur und einem strukturell ausgeprägten inneren deutschen Militarismus jemals wieder über Streitkräfte verfügen sollte. Die KPD war ein vehementer Gegner der Wiederbewaffnung. Schließlich wurde am 7. Juni 1955 die Wehrverwaltung gegründet; am 12. November 1955 die ersten 101 Freiwilligen vereidigt.
Der Name „Bundeswehr“ geht zurück auf den FDP-Bundestagsabgeordneten Hasso von Manteuffel, einen früheren General der Wehrmacht, und wurde durch Richard Jaeger im Rahmen eines Antrages während einer Sitzung des Sicherheitsausschusses des Deutschen Bundestages vorgeschlagen. Der neue Name gilt offiziell seit dem 1. April 1956. Vorher wurden die noch namenlosen Streitkräfte der Bundesrepublik oft „Neue Wehrmacht“ genannt.
Am 24. Juli 1955 trat das Freiwilligengesetz in Kraft, das die Einstellung von bis zu 6000 Freiwilligen in die bundesdeutschen Streitkräfte erlaubte (Gesetz über die vorläufige Rechtsstellung der Freiwilligen in den Streitkräften vom 23. Juli 1955); am 12. November 1955 wurden die ersten freiwilligen Soldaten ernannt. Am 22. März 1956 trat die mit großer Mehrheit beschlossene Wehrverfassung (Ergänzung des Grundgesetzes Art. 87a und Art. 87b) in Kraft und am 1. April 1956 das Gesetz über die Rechtsstellung der Soldaten (Soldatengesetz) vom 19. März 1956.
Das am 21. Juli 1956 vom Bundestag beschlossene Wehrpflichtgesetz, führte eine Wehrpflicht für alle männlichen deutschen Staatsbürger vom vollendeten 18. Lebensjahr an ein und trat am 25. Juli 1956 in Kraft.
Um einen beschleunigten Aufbau der Bundeswehr zu gewährleisten, war bereits am 1. Juni 1956 das Zweite Gesetz über den Bundesgrenzschutz vom 30. Mai 1956 in Kraft getreten. Mit diesem Gesetz wurde der Bundesminister für Verteidigung ermächtigt, aus Freiwilligenverbänden des BGS Verbände der Bundeswehr aufzustellen. BGS-Beamte hatten im Zeitraum vom 1. bis 30. Juni 1956 die Möglichkeit, eine Erklärung abzugeben, ob sie im Bundesgrenzschutz verbleiben wollten. Wer dies nicht tat, wurde automatisch zum 1. Juli 1956 in die Bundeswehr überführt. Die ehemaligen BGS-Beamten erhielten dabei den nächsthöheren Dienstgrad und Möglichkeiten einer schnelleren Beförderung. Besonders ehemalige Angehörige der Wehrmacht im BGS nutzten dies, weil sie im Bundesgrenzschutz bis dahin oft um drei Dienstgrade niedriger Dienst taten als in der Wehrmacht, während sie bei der Bundeswehr nach ihrem letzten Rang in der Wehrmacht beurteilt wurden.
Die Anfang November 1956 von der Bundesregierung befohlene Aufstellung von zunächst sieben Divisionen bestand daher in ihrer Masse anfangs aus ehemaligen BGS-Beamten und Freiwilligen, von denen ein Teil in verschiedenen alliierten Dienstgruppen gedient hatte. Ab 1957 kamen dann die ersten Wehrpflichtigen dazu. Der BGS bildete die Grundlage für die 2. 3. und 4. Grenadierdivision, drei Musikkorps und die Führungsebene des Panzeraufklärungsbataillons 5 sowie des Panzerfernmeldebataillons 3. Aus Mangel an Bundeswehruniformen und Unterkünften behielten die ehemaligen Bundesgrenzschutzmänner anfangs ihre bisherige Ausrüstung und blieben in den BGS-Kasernen. Sie mussten lediglich das Abzeichen mit dem Bundesadler vom linken Oberärmel abtrennen.
Bei Gründung der Bundeswehr stammten deren Offiziere und Unteroffiziere fast ausnahmslos aus der Wehrmacht – teilweise auch aus der Waffen-SS. Im Jahr 1959 waren von 14.900 Bundeswehroffizieren 12.360 bereits in der Reichswehr oder Wehrmacht zu Offizieren ernannt worden; 300 Offiziere entstammten der Waffen-SS. Alle Offiziere vom Oberst aufwärts wurden durch den Personalgutachterausschuss überprüft. Dieses Gremium bestand aus 38 Persönlichkeiten des öffentlichen Lebens, die vom Bundespräsidenten auf Vorschlag der Bundesregierung und nach Bestätigung durch den Bundestag ernannt worden waren. Auf den Vorwurf, alle hohen Offiziere hätten in der Wehrmacht gedient, antwortete Bundeskanzler Adenauer sinngemäß, die NATO nehme ihm keine 18-jährigen Generale ab.
Nach der Wiedervereinigung übernahm die Bundeswehr etwa 20.000 Soldaten der Nationalen Volksarmee der ehemaligen DDR. Außerdem wurde ein kleiner Teil des Materials der NVA, z. B. MiG-29-Flugzeuge der Luftstreitkräfte, übernommen und weiter genutzt. Große Mengen der Bewaffnung und Ausstattung wurden verschrottet, verkauft oder verschenkt, z. B. Panzer an die Türkei. Indonesien kaufte 39 Kriegsschiffe der Volksmarine. Der Verkauf von Panzern an die Türkei wurde kritisiert, weil deren Streitkräfte sie zur Bekämpfung von Minderheiten, wie den Kurden, verwendeten.