1996 Kasımı’nda Stig, Glenn Morten and Arild tarafından kurulmuştur. Yakın zaman sonra grup, Ola, Anita ve Ingfrid ile bağlantıya geçmiştir. O sıralar gruba «Purgatory» ismi verilmişti ancak benzer isme sahip gruplar olduğundan (sadece Amerika’da 3 tane), All Alone’un çıkmasından sonra grup adı değiştirilmek zorunda kalındı ve 3 ay sonra, Şubat 97’de demo şarkıları kaydetmek için studyoya girdiler. .
Kayıt, ünlü norveçli grup November Then’in basçısı olan Gulleiv Wee tarafından yapıldı. Studyo provalarından sonra The Sins Of Thy Beloved, bunlardan üç tanesini, Italian Nocturnal Music tarafından yayımlanacak «All Alone» MCD’sine koymaya karar verdiler. Eylül 1997’de grup ikinci klavyeci Anders ile bağlantıya geçti. Ocak 1998’de The Sins Of Thy Beloved, Sound Suite Studiosunda Terje Refsnes tarafından yapılan «Silent Pain»i kaydetti. Bu Pete’nin bulunduğu ilk kayıttı.
Bir çok firmayla görüşüldü ancak Napalm Records ile 1998 Mart’ında anlaşma imzalandı.Agustos 98’de grup Sound Suite Studio’ya debut-albumleri «Lake of Sorrow»u kaydetmeye girdiler.
«All Alone» MCD’sinden iki parça - «All Alone» ve «Worthy of You» - studyoda orjinalinden daha iyi hale getirilecek halde tekrar düzenlendi. Album içindeki fotoğraflar fotoğrafçı Petter Hegre tarafından çekildi.
«Lake of Sorrow» albumunun ismi kayıttan hemen önce oluşmuştur. İsim uzun olmamalıydı, diğer yandan The Sins Of Thy Beloved’in biraz da karanlık ve romantik stiliyle uyuşacak derecede gothic olmalıydı.
Şarkı sözlerinin sadece bir özetleri bulunuyordu albumde. Şarkı sözleri tamamen basılı olan albumleri dinleyenlerin sözleri incelemekten müziğe dikkatlerini veremediklerini düşünüyorlardı. Sözler Glenn Morten, Arild ve Anders tarafından yazılmışlardı ama hepsi kendi şahsi kelimeleri idi, hiç biri beraber yazılmamıştı. Grubun şarkı sözlerine gelince her bir grup üyesinin yaratıcılığı katkıda bulunuyor. Eğer bir şarkı üyelerden biri tarafından yazılmışsa, provada bunu çalıyor ve diğer üyeler kendi notalarını kendileri yazıyorlar. 2000 yılında Perpetual Desolation’ın piyasaya sürülmesinden sonra yedi üyeden üçü muziksel ya da kişisel nedenlerden daha çok turlardan sıkıldıkları için grubu bıraktılar. 2002’de grupta hala aktiftiler ama bu yana kadar onlardan ufak tefek söylentiler çıktı.
Ayrıca gruptaki her bir üyenin müzikal geçmişi epeyce farklıdır. Neredeyse hepsi gençlik yıllarında bir grupta çalıyorlardı.