海顿被誉为“交响乐之父”，其实也是“弦乐四重奏之父”。许多评论甚至认为，海顿对于弦乐四重奏这种音乐形式的发展所作出的贡献，要超过作曲家对交响曲发展的贡献。但有意思的是，作曲家曾经承认，自己使用这种形式创作音乐是“纯属偶然”的，可见海顿只是在不知不觉中完善了弦乐四重奏，而非刻意去创造或革新。他一生创作了100余首交响曲，而其弦乐四重奏作品的数量也毫不逊色，粗略统计一共有80多首。遗憾的是，至今尚无任何唱片公司将海顿所有的弦乐四重奏作品出版齐全。所谓“弦乐四重奏”，是由两把小提琴、一把中提琴以及一把大提琴所组成的。这四种弦乐器代表四个声部，从而构成一个高中低音相当完整的小型乐团。海顿经过数十年对弦乐四重奏这一曲式的创作，逐渐确立了其基本创作技巧以及四乐章的整体构架。又经过莫扎特、贝多芬、舒伯特、舒曼等一代代后辈音乐大师的完善，弦乐四重奏逐渐成为了“室内乐”的代表形态，其拥有均衡的四部合声，音色容易协调，表现力丰富，音域宽广，富于音色对比。
海顿从18岁开始创作弦乐四重奏，直到晚年一直未曾间断，作品往往是以曲集的方式出版，通常习惯以六首作品为一个整体，辑成一套。早期的作品作曲家自己称之为“多声部嬉游曲”或者“四声部嬉游曲”，在诸多方面还处于不成熟的探索阶段，但在这个过程中海顿逐渐确立了弦乐四重奏的创作形式。1772年左右问世的《四重奏嬉游曲》是海顿在弦乐四重奏领域成功的开始，这六部作品甚至被一些学者认为是“巅峰之作”。此后作曲家又写下了《俄罗斯四重奏》，这套作品是真正以奏鸣曲形式写成的现代弦乐四重奏鼻祖。而此后海顿的弦乐四重奏创作显得越发成熟、优秀，陆续写下了《普鲁士四重奏》、《临终七言四重奏》、《第一、第二托斯特四重奏》、《亚波尼四重奏》以及《艾尔道迪四重奏》等。
在众多作品中比较引人注目的是晚年的一些作品，具有代表性的则是第75号到第80号协奏曲。这套弦乐四重奏创作于1797年，也就是海顿写下《小号协奏曲》之后的一年。由于曾经出价转让给约瑟夫·艾尔道迪伯爵，所以有了《艾尔道迪四重奏》这样一个标题。实际上大家更熟悉其中三部作品的小标题：《五度》、《皇帝》、《日出》。d小调的《五度》是因为其第一主题的主要动机为下降五度音型而得名。而降B大调的第78号被称之为《日出》，则因为整部作品体现出精神抖擞的气质而得名。C大调的第77号的第二乐章主题是著名的《皇帝赞歌》，所以被称之为《皇帝》。这个背景很能体现海顿“忠君爱国”的情结。在伦敦的时候，海顿便受英国国歌《天佑吾王》的启示，很想为自己的祖国创作一首国歌。1796年，奥地利和法国开战，这一事件更激发了作曲家写作国歌豪情。不久之后，海顿根据《上帝保佑弗兰茨皇帝》的歌词，以一首克罗地亚民歌为基础写成的一首合唱曲，也称之为《皇帝赞歌》。1797年2月12日，在奥地利国王弗兰茨生日当天，这首国歌在维也纳国家剧院和各地的大剧院同时演唱。有趣的是这首当时的奥地利国歌现在是德国国歌。海顿对于这段旋律非常钟爱，在第77号弦乐四重奏中再次使用便是一个例证。甚至根据有些文献记载，海顿临终前正值法军进攻维也纳的关头，弥留之际海顿常常满怀深情地在钢琴上演奏这首歌曲，以期从中得到精神上的安慰。
