"This family/blood-line is 'ausgelöscht'."
"This feud ended in 'Auslöschung'."
"ausgerottet" "Ausrottung" wird eher bei Tierarten verwendet oder, pejorativ, bei Ethnien/Familien, die man mit Tieren gleichsetzt; z.B. "Juden - Ratten/Ungeziefer".
"Ausrottung" is rather used for animals or, pejoratively, ethnicities/families one is comparing with animals; e.g. "jews - rats/vermin".