此后的10年是他的艰苦岁月。他当过仆人--看门、送信、擦皮鞋，干过家庭教师，写过歌剧，作过大提琴手，任过乐队队长。

　　1759年，他成为波希米亚伯爵莫辛的小教堂唱诗班的音乐指导。

　　1760年，他娶凯勒为妻，犯了一个悲剧性的错误，为自己招来莫大的痛苦。凯勒体魄强壮而智能低下，性格凶狠暴躁，素质极差！她不仅在生活上虐待海顿，还常常把丈夫用大量心血创作的音乐手稿随便擦桌椅、包糖果、制点心盒等等。对此，海顿只有仰天长叹，而这又会引起更大的麻烦！后来，他们终于分道扬镳了。

　　1961年，海顿被匈牙利最有权势的保罗.安东.埃斯特哈齐王子任命为宫廷副乐长，在此，他度过了长达30年之久的音乐仆役生活。受雇于人的滋味是辛酸的：上班时必须穿上绣金花背心，白色长统裤袜，头戴假发或梳辫子，脸上搽香粉。每天午餐前后，要恭候在客厅里，等待主人有关当天音乐活动的安排指示。在创作上，必须在规定的日期内按主人的命题或要求，准时写成音乐作品。此外，还要监督乐队的纪律，看管好每件乐器，给新歌手上课，提高乐队水平，等等。海顿曾悲哀地写道：“我坐在我的荒野里，几乎没有人类和我在一起，我是很痛苦的......最近几天我也不知道我是乐长还是剧场验票员......要知道经常作奴隶是很可悲的......”。

　　“尽管有时宫适生活强加给他的种种约束惹他生气，他还是居住在这样一个世界中。这个世界既不怀疑王公的至高无上，也不怀疑穿制服的伟大艺术家的天才。关于他在埃斯特哈齐家中的地位，他自己的最后评价认为有利条件超过了不利条件。‘亲王总是对我的作品感到满意。我不仅经常受到鼓励，而且作为一个乐队的指挥，我可以进行实验，观察什么产生了效果、什么减弱了效果，我可以改进、替换、作一些增删，可以大胆地按我喜欢的那样去做，我与世隔绝，没有人来扰乱或折磨我，我被迫成为‘独创才’。”

　　从未有人对海顿的音乐天才表示怀疑，但却发生过面对着艺术家本人而怀疑他究竟是不是海顿的怪事。由于他身材粗笨矮小，相貌又不大好看，致使一向喜爱海顿音乐的公爵夫人多恩在第一次见到他时竟失声问道：“你是真正的海顿吗？......”

　　尽管我们的大师其貌不扬，却十分善良、纯朴、幽默和平易近人，因而，他的好友与崇拜者们都亲切而风趣地称他为“海顿爸爸”。

　　有一次，他意外地接待了一位不速之客--屠夫。一见面，客人就恭恭敬敬地摘下帽子，虔诚地请求道：“尊敬的大师，我最亲爱的小女儿即将举行婚礼，对我来说，这是重大事件。我满怀感激之情，请您为我写一首最美的小步舞曲。如此重大的请求，除了向您提出，还能去找谁呢？”善良诚恳的海顿立即慨然允诺。到了约定之日，他果真写成一首典雅的《C大调小步舞曲》屠夫千恩万谢地取走了这份珍贵的礼物。

　　几天之后，正当作曲家伏在书桌前全神贯注地埋头写作之际，窗外突然爆发出一阵震耳欲聋的混杂声响，着实把海顿吓了一跳！他好不容易才反应过来：这是有人在奏乐。是什么曲子呢？......大师怀着一颗好奇的心仔细听了半天才终于恍然大悟：天哪！这不正是自己前几天作的那支《C大调小步舞曲》吗？他赶紧跑到窗口向外张望，只见台阶上立着一头强健的公牛，牛角上还挂有金色的彩带，喜笑颜开的屠夫站在一旁，身后是满面春风的女儿女婿，一支由流浪艺人组成的我队正在起劲地吹吹打打！

　　屠夫庄重地走上前来，恳切地说：“尊敬的大师，对一个屠夫来说，用健壮的公牛来对优美的小步舞曲表示谢忱是最好不过的了。”

　　海顿在宫廷供职的30年里，埃斯特哈齐王宫两易其主(召海顿进宫的保罗.安东王子于1762年去世，继位的胞北尼古拉王子于1790年病故)，1790年继位的新主人只聘请他作挂名的音乐指导，海顿从此得到自由，于是他移居到维也纳。

　　1791年，应英国之邀，海顿前往伦敦访问。在此期间，他出席了纪念已故大作曲家亨德尔的音乐会。当大厅里回响起亨德尔的名作《哈里路亚》时，年近60岁的海顿激动得突然振臂高呼：“亨德尔是我们一切人的先师！”接着，便如同小孩子一般哭泣起来，全场听众无不肃然起敬！

　　1809年5月31日，海顿在维也纳逝世，享年77岁。

　　德国作曲家瓦格纳(1813-1883年)在评论海顿时曾这样讲道：他一生追求平静安逸的生活和力图保持受人敬爱的地位，所以他被看做唯命是从、卑躬屈节的人。

　　海顿不像莫扎特那样，敢于同封建势力进行斗争，更经不上多芬，英勇主动地向墨蝉现实发动猛攻！海顿就是海顿，他虽有时对屈辱的处境感到痛苦，却能安于现状，自得其乐。他的音乐风格正如他的个性：乐观、亲切、真诚、爽朗、幽默。

　　海顿被后人推崇为“交响曲之父”与“弦乐四重奏之父”。其实，无论交响曲还是弦乐四重奏都不是由他首创，不过，这两个尊称却并过誉，因为正是在他的培植下，这两种重要的器乐曲体裁才从草创进入了成熟阶段。

　　在弦乐四重奏中，他采用“说话的原则”，即各声部彼此像交谈般地呼应，既有清晰的旋律，又有复调的美感。莫扎特说：“从海顿那里我才第一次学会了写作四重奏的真正方法。”在交响曲中，他“确立了以短小动机加以动力性展开的奏呜性发展原则，废除了数字低音的传统，以及开始确立了近代管弦乐的编制和配器原则”。这些，都给予莫扎特和贝多芬很大的启迪。

　　海顿的作品数量是惊人的：交响曲104部；弦乐四重奏77部；各类三重奏180部；钢琴奏鸣曲50部；歌剧14部；清唱剧两部；还有大量小型的声乐与器乐作品。其中，较名的代表作有：《第四十五交响曲》(告别Abschied)、《第九十二交响曲》(牛津Oxford)、《第九十四交响曲》(惊愕Surprise)、《第一百交响曲》(军队Military)、《第一百零一交响曲》(时钟Clock)、《第一百零三交响曲》(鼓声Drum-roll)、《第一百零四交响曲》(伦敦London)；弦乐四重奏第三、十七、二十、六十四、七十六、七十七号；清唱剧《创世纪》(The  Creation)、《四季》(The  Seasons)。