У нас на даче пара домов решили эту проблему, вкопав газгольдеры, которыми отапливают дом, нагревают воду и т.д, заправляя их 1-2 раза в год.
Не бюджетно, зато автономно.
Сами мы по старинке, топим кирпичную печь дровами, электрические конвектора тоже имеются. Дрова можно заменить более эффективным каменным углем, но тогда совсем никакой романтики.