Забавно, уже вторая коммерческая система, и тоже сжата не в xz и даже не zstd, а в gzip с дефолтным блоком. Надо у себя попробовать, заменить алгоритм zstd.
$ unsquashfs -s 41.layer.mate.sfs | grep -E 'Compression|Block'
Compression gzip
Block size 131072