Судя по описанию xattrs никак не поможет для включения компрессии
xattrs это же не утилита, это расширенные атрибуты. Каким инструментом включать атрибуты и задавать им значение (если требуется), это уже другой вопрос.
Да, алгоритм можно задать только с помощью btrfs property set, но включить атрибут можно и с помощью chattr, просто будет алгоритм по умолчанию - zlib, возможно на новых ядрах zstd, точно не скажу. Возможно это изменилось со временем и приведенная дока чуть отстает от действительности.
Так или иначе я имел ввиду установку компрессии в расширенных атрибутах, чтоб она всегда была, а не только если смонтировано с опцией компрессии. Мне кажется это удобнее и можно выбирать что сжимать, а что нет.