尼姆·贾尔维1937年6月7日生于爱沙尼亚首都塔林。早年在塔林音乐学校学敲击乐和合唱指挥，毕业后进入前列宁格勒音乐学院。毕业时在前列宁格勒基洛夫大剧院指挥演出普罗科菲耶夫《第五交响曲》和比才《卡门》，初露锋芒，引人瞩目。尼姆·贾尔维毕业后，他被分配出任爱沙尼亚电台与电视乐团音乐总监，并兼任爱沙尼亚歌剧院首席指挥，任期13年。其间，他还创办了塔林室乐团，曾任新成立的爱沙尼亚国家交响乐团艺术总监兼首席指挥(1976-1980年)。值得一提的是他指挥理查施特劳斯《玫瑰骑士》、格什温《波吉与贝丝》和罗西尼《土耳其人在意大利》在前苏联的首演。