从1800年6月6日至1801年3月4日，他在亚当斯总统任内出任国务卿，并在亚当斯总统任期即将届满之前，于1801年1月31日被任命为最高法院院长，因此他是仍在国务卿之任内同时主持最高法院的。在他出任第四任院长之时，最高法院并不受人重视，一般有才能的人都不愿意担任该院法官，而于1795年辞职的第一任院长约翰杰伊（John Jay）不久之前便曾拒绝再度出长该院，理由是该院的组织有着严重的缺陷，永远无法获得其应有的地位和尊严。马歇尔就任院长后，乃设法将该院审理案务的方式加以改变。以往该院的组织是遵照英国流行的习惯，由各个法官依次宣告他们的意见，但从1801年12月的那一期开始，院长实际上成为该院唯一的发言人。整整11年，凡该院所表达的，几乎完全是马歇尔的意见，很少有不同的意见记录下来。于是最高法院院长在政府司法部门中所代表的权威，几乎一如总统在行政部门中所表现的一样。此一改变所以为马歇尔一班并非平庸之辈的同僚所接受，目的即在加强该院的权力和尊严。当然他们所以同意其如此并对其无所怀疑，主要也是由于他的人格高尚，能力优异，使人敬佩所致。直至约瑟夫·斯托里法官（Justice Joseph Story）的到任，才废止了院长的独决。不过，马歇尔依然在大多数的案件，实际上在几乎所有关涉宪法解释的案件中担任起草人，虽然大多数的时间大部分的法官均由那些倾向民主主义的总统（democratic presidents）所任命。这些法官们在未升任该院法官之前，均系被认为并不同情马歇尔那些联邦党人的思想（federalistic idess），可是有关宪政结构的事项，他们却很少不默许他们这位伟大的院长所作的判决。因此在美国史上这一危机四伏的期间，注释宪法的艰巨任务便全系由他承担。他一方面须建立宪法所规定的行政立法与司法三权的关系，另方面亦须确定联邦政府和各州政府的关系。

马歇尔出任最高法院院长所执行的第一件公务，便是替他的表亲和政见上最大的对头托马斯·杰斐逊（Thomas Jefferson）主持总统就职宣誓。在他34年的任期中，最高法院一共审理了1215件案件，而马歇尔本人便以他平易的逻辑和精密的思考便起草了519件案件的判决书，其中44件关涉宪法问题。在南北战争（Civil War）前，几乎美国宪法及其修正条款所规定的重要部分，无不经过他作一次或更多的解释。当他逝世而终结其长久的任期时，美国最高法院早经成为美国政府中与行政、立法二大部门分庭抗礼，强而有力的第三部门。他所作的重要判决，不但奠立了司法审查制度，使美国宪法所规定的三权分立政府变成具体化，同时确立了司法国家主义，使美国率先采用的联邦制度得以健全。直至现在，美国最高法院所作的宪法解释或重大判决，仍常常以其所确立的重要原则为依据。

三、奠立司法审查制度

马歇尔于出长最高法院时，如上所述，该院仅系联邦政府中一个冷落的部门，若干人甚至认为该院永远无法处现重大的问题，但经他改变该院处理案件的方式，及作了几次有关宪法的重大判决后，情形立为改观，该院已变成联邦政府组织上掌理司法权的最高部门，其权力及声望与总统及国会等量齐观，鼎足而三。他首次所作有关宪法的重大判决，便是马布里控诉麦迪逊案（Marbury vMadison）。

该案的缘起，应上溯1800年秋天的全国大选。联邦党（Federalist Party）于该次选举中惨败，从此无法东山复起。亚当斯总统及其联邦党同僚乃利用他们在位最后的几个月时间，加紧修改1789年所制定的司法法（the Judiciary Act of 1789），以期得胜的共和党人（Republicans）继任之后，尚能保有一个维持联邦党原则的堡垒。1801年2月13日国会修正通过司法法，免除最高法院法官员担巡回法官的职责，增加巡回法官的员额及创设相当数目的下级法官。亚当斯总统于其在位最后16日中，将所有67个新增设的法官名额均委由忠诚的联邦党人充任。此举自然引起共和党人极大的愤慨。杰斐逊愤然认为："联邦党人已撤退入司法机关作为一坚强据点……从该一炮台把共和党人所作的贡献全予轰毁和抹杀。"Robert ECushman, Leading Constitutional Decisions,11th edNew York,AppletonCenturyCrofts Inc,1958，p245因此共和党人第一步的反击，就是要废止新修正的司法法。此一目的经过激烈而长时期的辩论后，终于1802年3月达成。国会中的联邦党人均抨击该废止法（Repeal Act）系属违宪，而马歇尔本人一向附和此说。为了防止马歇尔使用司法权力认为该法无效，该法明定最高法院于14个月内不得召集，以便受该法影响的法官到时再抨击该法的效力未免不切实际。不料当1803年2月该院召集开庭时，马布里控诉麦迪逊案竟赫然在诉讼载记之上。