[Решено] Файловая система ZFS

Ответить
trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

[Решено] Файловая система ZFS

Сообщение trs » 31 янв 2016, 12:53

На данный момент установить можно так (для 64 битных систем)

Код: Выделить всё

sudo urpmi.addmedia trs_personal http://abf-downloads.rosalinux.ru/trs_personal/repository/rosa2014.1/x86_64/main/release
sudo urpmi zfs
Лучше производить из консоли:
DKMS собирает требуемые ФС драйвера для всех установленных в системе ядер, потому процесс может занять некоторое время.

Так же доступен GRUB 2.02 beta3 с поддержкой ZFS и сжатия LZ4. Эта версия потребуется, если раздел boot находится на ZFS (весь диск отформатирован в ZFS).

Руководство по администрированию файловых систем ZFS Solaris (Октябрь 2009 г.)

Шапка будет редактироваться, исходный вариант оставляю для истории
---

Следующие технические проблемы мешают полноценно использовать ZFS on Linux в ROSA:
1. Исходники, по-видимому, рассчитаны на использование библиотеки SunRPC. С TIRPC, которую использует ROSA, не собираются. Решается элементарным патчем (прилагается).
2. Для автоматической пересборки драйвера при обновлении ядра, требуется DKMS версии >= 2.2.0.3-20. С другой стороны, если ядро активно не обновлять - то проблемы и нет. Можно воспользоваться нижеприведённым примером и попробовать уже сейчас.
3. ZFS позволяет использовать диски без предварительной разбивки, целиком. В таком случае, для загрузки ОС потребуется одна из последних версий GRUB (в официальных репозиториях ROSA пока отсутствует). В тоже время, можно использовать традиционную ФС на разделе /boot. Да и для "поиграться" не обязательно устанавливать систему на ZFS.
4. Якобы не работает на 32 битах. Этот пункт пока не проверен. Но для FreeBSD подобное утверждение так же существует и является ложным.
5. Модуль ZFS для FUSE - пишут, что нужно его удалять.
При включенном LZ4, ROSA R7 сжимается примерно вдвое:

Код: Выделить всё

$ uname -a && sudo zfs get all z12/ROOT/rosa-1|egrep 'G|rat'
Linux z12 4.1.15-nrj-laptop-1rosa-x86_64 #1 SMP PREEMPT Thu Dec 17 14:13:13 UTC 2015 x86_64 x86_64 x86_64 GNU/Linux
z12/ROOT/rosa-1  used                  2,94G                      -
z12/ROOT/rosa-1  available             46,7G                      -
z12/ROOT/rosa-1  referenced            2,73G                      -
z12/ROOT/rosa-1  compressratio         1.95x                      -
z12/ROOT/rosa-1  usedbydataset         2,73G                      -
z12/ROOT/rosa-1  refcompressratio      1.94x                      -
z12/ROOT/rosa-1  logicalused           5,67G                      -
z12/ROOT/rosa-1  logicalreferenced     5,26G                      -
Может быть интересно тем, кто использует систему на флешке.
Снимки (snapshot), send, recive - это ключевые слова для тех, кому интересны возможности.

Поскольку ФС исходно создана для Solaris, требуется дополнительный компонент Solaris Porting Layer (SPL).
Собирать всё можно по слегка переработанной инструкции отсюда.
На всякий случай скопировал всё подряд из истории.

Код: Выделить всё

urpmi lib64tirpc-devel

mkdir ~/src
cd ~/src

wget http://archive.zfsonlinux.org/downloads/zfsonlinux/spl/spl-0.6.5.4.tar.gz
wget http://archive.zfsonlinux.org/downloads/zfsonlinux/zfs/zfs-0.6.5.4.tar.gz
tar -xzf spl-0.6.5.4.tar.gz
tar -xzf zfs-0.6.5.4.tar.gz

# Solaris Porting Layer
cd spl-0.6.5.4

./configure --prefix=/usr --bindir=/bin --sbindir=/sbin --sysconfdir=/etc --libdir=/lib64
make
sudo make install

# ZFS
cd ~/src/zfs-0.6.5.4

#тут нужно положить в папку патч. И применить его так:
patch -p0 <patch-lib-libspl-include-rpc-xdr.h

LIBS=-ltirpc ./configure --prefix=/usr --bindir=/bin --sbindir=/sbin --sysconfdir=/etc --libdir=/lib64 --with-dracutdir=/usr/lib/dracut
make
sudo make install
Поскольку это обходит систему RPM, приведу и команды по удалению, выполнять в соответствующих каталогах:

Код: Выделить всё

sudo make uninstall
Для работы с ФС используются команды zpool и zfs (требуются права root, хотя есть возможность разрешить это делать определённым пользователям).
mount в большинстве случаев не нужен.
Вот так можно "отформатировать" (точнее - создать так называемый пул с именем zf) флешку /dev/sdc

Код: Выделить всё

# zpool create zf sdc
invalid vdev specification
use '-f' to override the following errors:
/dev/sdc1 is part of exported pool 'zf'
Здесь сообщается, что накопитель уже отформатирован и нужен клчик -f

Код: Выделить всё

# zpool create -f zf sdc
# fdisk -l

Disk /dev/sdc: 15 GiB, 16131293184 bytes, 31506432 sectors
Units: sectors of 1 * 512 = 512 bytes
Sector size (logical/physical): 512 bytes / 512 bytes
I/O size (minimum/optimal): 512 bytes / 512 bytes
Disklabel type: gpt
Disk identifier: B793EB85-0202-D14E-A29D-971A79F43698

Устр-во          Start   Конец Size Тип
/dev/sdc1         2048     31487999  15G Solaris /usr & Apple ZFS
/dev/sdc9     31488000     31504383   8M Solaris reserved 1
Как видно, она сама создаёт GPT разметку. Раздел с №9 может быть использован для установки GRUB, если поменять его тип на Bios_boot.
Можно разбить диск самому и использовать традиционные имена (sdc1 и т.п.)

В принципе, можно уже записывать данные на такой диск. Но правильнее создать на нем аналоги разделов.
Документация на русском языке в сети доступна.
Вложения
patch-lib-libspl-include-rpc-xdr.h
(356 байт) 665 скачиваний
Последний раз редактировалось trs 26 сен 2016, 09:02, всего редактировалось 6 раз.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 06 фев 2016, 09:52

При обновлении ядра, придётся повторить часть вышеприведенных шагов: configure, make, и make install для spl и zfs.
При этом, нужно добавить в параметры configure два параметра с путями к новому ядру. На примере недавно опубликованного 4.4.1:

Код: Выделить всё

# LIBS=-ltirpc ./configure --prefix=/usr --bindir=/bin --sbindir=/sbin --sysconfdir=/etc --libdir=/lib64 --with-dracutdir=/usr/lib/dracut --with-linux=/usr/src/linux-4.4.1-nrj-laptop-1rosa-x86_64 --with-linux-obj=/usr/src/linux-4.4.1-nrj-laptop-1rosa-x86_64
Это вариант для zfs. Ленивые могут использовать его же и для spl.

Не забываем пересобрать initramfs, если ФС должна подключаться при загрузке:

Код: Выделить всё

# dracut -v --kver 4.4.1-nrj-laptop-1rosa-x86_64
И, как говорится, доверяй, но при танцах с бубном, initramfs проверяй:

Код: Выделить всё

# lsinitrd --kver 4.4.1-nrj-laptop-1rosa-x86_64 | grep 'zfs'
zfs
-rw-r--r--   1 root     root          327 Feb  6 16:29 etc/udev/rules.d/90-zfs.rules
drwxr-xr-x   2 root     root            0 Feb  6 16:32 etc/zfs
-rw-r--r--   1 root     root         1628 Feb  3 15:17 etc/zfs/zpool.cache
-rwxr-xr-x   1 root     root        19586 Feb  6 16:32 lib64/libzfs_core.so.1.0.0
lrwxrwxrwx   1 root     root           20 Feb  6 16:32 lib64/libzfs_core.so.1 -> libzfs_core.so.1.0.0
lrwxrwxrwx   1 root     root           20 Feb  6 16:32 lib64/libzfs_core.so -> libzfs_core.so.1.0.0
-rwxr-xr-x   1 root     root       295587 Feb  6 16:32 lib64/libzfs.so.2.0.0
lrwxrwxrwx   1 root     root           15 Feb  6 16:32 lib64/libzfs.so.2 -> libzfs.so.2.0.0
lrwxrwxrwx   1 root     root           15 Feb  6 16:32 lib64/libzfs.so -> libzfs.so.2.0.0
-rwxr-xr-x   1 root     root         1707 Feb  6 16:29 lib/dracut/hooks/cmdline/95-parse-zfs.sh
-rwxr-xr-x   1 root     root          812 Feb  6 16:29 lib/dracut/hooks/mount/98-mount-zfs.sh
-rwxr-xr-x   1 root     root          400 Feb  6 16:29 lib/dracut/hooks/shutdown/30-export-zfs.sh
-rwxr-xr-x   1 root     root         1708 Feb  6 16:29 lib/dracut-zfs-lib.sh
drwxr-xr-x   2 root     root            0 Feb  6 16:32 lib/modules/4.4.1-nrj-laptop-1rosa-x86_64/extra/zfs
-rw-r--r--   1 root     root      2205448 Feb  6 16:32 lib/modules/4.4.1-nrj-laptop-1rosa-x86_64/extra/zfs/zfs.ko
-rwxr-xr-x   1 root     root        26286 Feb  6 16:32 sbin/mount.zfs
-rwxr-xr-x   1 root     root       117764 Feb  6 16:32 sbin/zfs
-rw-r--r--   1 root     root            4 Feb  6 16:29 usr/lib/modules-load.d/zfs.conf

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 10 фев 2016, 19:13

Прочитал вот это —

http://www.linux.com/news/enterprise/sy ... n-debian-8

И по поводу фразы «Now you won't have to worry about your precious files getting corrupted» хочется спросить: что, в самом деле, если не zfs, то порча данных?
Talk is cheap. Show me the code.
Linus Torvalds

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 12 фев 2016, 05:54

У ZFS примерно следующая логика работы с данными на носителях:
1. запись данных производится только в свободное место (как следствие: при изменении, новая версия данных не записываются поверх старой);
2. после успешной записи данных, ссылка на них добавляется в управляющие структуры файловой системы;
3. всё это реализовано с использованием механизма транзакций и контрольных сумм.
Таким образом, если при работе с диском случается авария (отключение питания, паника в ядре), то в худшем случае теряются изменения (то, что должно было быть записано на диск).

В традиционных ФС, для уменьшения дефрагментации, данные в файле перезаписываются поверх старых, потому возможна ситуация "наполовину изменён". Да, есть журнал, но что будет при его порче?
Например, сталкивался с ситуацией. Старое железо. При первом включении Windows загружалась не менее тридцати минут. Если установить Linux — он работает нормально, пока железо не остынет, после — при попытке загрузить ОС, ФС рушится. После замены шлейфа, Windows стала загружаться за обычное время, а Linux перестал портить ФC при "холодной" загрузке. Но возникает вопрос, а что случится с Linux, если шлейф опять начнёт барахлить?

ZFS мне удавалось привести в "нерабочее" состояние (создал файл подкачки на разделе ZFS, усыпил туда ОС, потом насильно загрузил систему с этого снимка — такой случай использования не поддерживается). Решилось импортом пула в режиме "только чтение". Сами же данные не пострадали.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 12 фев 2016, 21:20

Когда речь идет об активно используемом диске с системой, то преимущества btrfs и zfs очевидны. Но автор, на которого я сослался, начинает свою заметку с того, что очень озабочен сохранностью черновиков своих научно-фантастических новелл, а также семейных фото. А дальше с места в карьер: всякого рода вещи могут привести к порче данных («all sorts of things can lead to data corruption»)… и тут-то, мол, на сцене и появляется zfs. И завершает статью он тоже тем, что вуаля, вы установили zfs и теперь вам нечего беспокоиться по поводу того, что вами драгоценные файлы повредятся («now you won't have to worry about your precious files getting corrupted»).

Отсюда и вопрос: неужто за пределами zfs данные только и делают, что портятся? Особенно такие как черновики писанины и фото. Черновик писанины еще может подвергаться опасности быть «наполовину записанным», но фото обычно лежат на диске и изредка считываются.

Пишу с иронией, но интересуюсь всерьез, т.к. данных, которые мне не хотелось бы потерять, достаточно. Но это не системные данные, а в основном pdf’ы и картинки. В общем, можно ли не верить этому автору и надеяться, что на xfs такого рода данные, лежа на внешних жестких дисках и изредка считываясь, сохранятся достаточно надежно?..
Talk is cheap. Show me the code.
Linus Torvalds

notauser
Сообщения: 1205
Зарегистрирован: 06 май 2012, 21:00

Re: Файловая система ZFS

Сообщение notauser » 12 фев 2016, 22:00

> лежа на внешних жестких дисках и изредка считываясь, сохранятся достаточно надежно?
http://www.verbatim.ru/ru/prod/verbatim ... 23/?con=11

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 12 фев 2016, 22:13

Вместимость недостаточная — 25 Гб. У меня файлы по 2 Гб не редкость, а всего файлов — десятки тысяч.
Talk is cheap. Show me the code.
Linus Torvalds

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 13 фев 2016, 04:21

ZFS спасёт от физической поломки носителя? Увы. Так что какой вывод? Покупаем redundant дополнительный диск для RAID, болванки, место в облаке?

Чем эти страшилки о потере данных не инструмент маркетинга, по продаже залежалого товара.
Delles писал(а):можно ли не верить этому автору и надеяться, что на xfs такого рода данные, лежа на внешних жестких дисках и изредка считываясь, сохранятся достаточно надежно?..
Если только чтение, вряд ли есть существенная разница. А если рассмотреть гипотетический сценарий с "трояном-шифровальщиком", то снимки (snapshot) могут спасти данные.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 13 фев 2016, 11:30

trs писал(а):А если рассмотреть гипотетический сценарий с "трояном-шифровальщиком", то снимки (snapshot) могут спасти данные.
А как снимок избежит шифрования?
Talk is cheap. Show me the code.
Linus Torvalds

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 13 фев 2016, 11:50

Во-первых, снимки в ZFS неизменяемы (в BTRFS такие создаются с ключём -r). Если требуется возможность изменений, то на их основе создаётся клон, который в свою очередь и будет модифицируем. Во-вторых, они — как не смонтированные разделы — по умолчанию не видны.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 13 фев 2016, 12:16

trs писал(а):Во-первых, снимки в ZFS неизменяемы (в BTRFS такие создаются с ключём -r). Если требуется возможность изменений, то на их основе создаётся клон, который в свою очередь и будет модифицируем. Во-вторых, они — как не смонтированные разделы — по умолчанию не видны.
Да, это, конечно, очень удобно, если все данные собраны на том же диске (или в той же связке дисков), что и система. У меня сейчас менее удобно: данные хранятся на внешних дисках, которые подключаются только на то время, когда что-то требуется считать или записать. Запись прописана в скриптах, индексация данных на этих дисках — внешняя (по отношению к ним), т.е. и для записи, и для считывания требуются секунды. Кроме того, данные дублированы на разных внешних дисках. Так что беспокойство мое только о том, чтобы они сами собой как-нибудь не испортились.
Talk is cheap. Show me the code.
Linus Torvalds

notauser
Сообщения: 1205
Зарегистрирован: 06 май 2012, 21:00

Re: Файловая система ZFS

Сообщение notauser » 13 фев 2016, 17:45

trs писал(а): Чем эти страшилки о потере данных не инструмент маркетинга, по продаже залежалого товара.
Так оно конечно. Но мой скромный опыт напоминает - как хорошо что когда-то это было записано на CD.
Delles писал(а):Кроме того, данные дублированы на разных внешних дисках. Так что беспокойство мое только о том, чтобы они сами собой как-нибудь не испортились.
Это произойдет. См. выше.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 13 фев 2016, 17:56

notauser писал(а):Но мой скромный опыт напоминает - как хорошо что когда-то это было записано на CD.
Я писал свой архив на CD, пока у меня не стали появляться файлы размером больше CD.
Это произойдет. См. выше.
Буду изучать btrfs/zfs.
Talk is cheap. Show me the code.
Linus Torvalds

notauser
Сообщения: 1205
Зарегистрирован: 06 май 2012, 21:00

Re: Файловая система ZFS

Сообщение notauser » 13 фев 2016, 22:53

Delles писал(а):
notauser писал(а):Но мой скромный опыт напоминает - как хорошо что когда-то это было записано на CD.
Я писал свой архив на CD, пока у меня не стали появляться файлы размером больше CD.
Это произойдет. См. выше.
Буду изучать btrfs/zfs.
Это хорошо. Но не поможет. Важные (реально важные) данные можно долговременно хранить на носителях типа HDD (особенно "больших" современных) и SDD только имея определенную инфраструктуру, стоимость которой для обычного пользователя во много раз превосходит "значимость" хранимых данных. Создать такое в "домашних условиях" нереально в принципе. Файловая система тут играет далеко не определяющую роль. Но ZFS - вещь. Про размер файлов не понял.
PS > У меня файлы по 2 Гб не редкость, а всего файлов — десятки тысяч. Я бы в первую очередь смотрел на "средний" размер файла. Опять же из опыта. Себестоимость долговременного хранения (~18 лет) 10 Gb данных на оптических обошлась дешевле, чем на HDD. Про надежность я вообще молчу :( .

Аватара пользователя
Vochatrak
Сообщения: 805
Зарегистрирован: 22 сен 2014, 01:21
Operating system: Rosa fresh R5

Re: Файловая система ZFS

Сообщение Vochatrak » 13 фев 2016, 23:34

Но ZFS - вещь.
Вопрос к пользователям этой-самой ZFS (точнее ZOL) Как у нее с производительностью и потреблением ресурсов (помниться озу жрала как не в себя)
И перед BTRFS преимущества есть (для домашнего использования, естественно)?
И такой момент - ZFS ставиться поверх уже размеченного диска, так? А что с данными, переносятся на ZFS или затираются?
пока у меня не стали появляться файлы размером больше CD.
Блюрей вполне пригоден для бекапов. И объем приличный и убить не просто...

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 14 фев 2016, 00:11

notauser писал(а):Про размер файлов не понял.
У меня файлы идут по порядковым номерам, и так и должны идти на архивный носитель, иначе будет путаница и неудобство. Уже сейчас файлы по 2-3 Гб — это норма (не обыкновение, но норма). Например, если Вы скачаете все такого рода pdf-странички, а потом их объедините, то объём файла будет 2,5 Гб. Бывает и значительно больше, пакетные по 40 Гб. То есть маловместительные носители не годятся.
Vochatrak писал(а):Блюрей вполне пригоден для бекапов. И объем приличный и убить не просто...
У меня от него впечатление как от техники прошлого. Не верю в будущее этой технологии. Мало вмещает, не всюду прочитается и т.д. Мне всё же интереснее технологии повышения сохранности на жестких дисках.
Talk is cheap. Show me the code.
Linus Torvalds

Аватара пользователя
Vochatrak
Сообщения: 805
Зарегистрирован: 22 сен 2014, 01:21
Operating system: Rosa fresh R5

Re: Файловая система ZFS

Сообщение Vochatrak » 14 фев 2016, 00:32

Мне всё же интереснее технологии повышения сохранности на жестких дисках.
Райд? NAS с зеркалированием данных? Банальные бекапы? Зеркала?
Снапшоты для сохранности данных, так себе решение.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 14 фев 2016, 00:51

Vochatrak писал(а):Райд? NAS с зеркалированием данных? Банальные бекапы? Зеркала?
Это для сервера, скорее, где новые данные постоянно идут и постоянно же бэкапятся. Мне наворачивать такой агрегат и держать его постоянно включенным нет смысла. Если нужно зеркалирование, я его скриптом сделаю, и всё.
Снапшоты для сохранности данных, так себе решение.
Пока что у меня положительные впечатления, я в возможностях btrfs/zfs вижу то, что мне было бы полезно. Работа со снимком, в частности. У меня ж не просто бэкап, у меня это еще и архив, который периодически подключается и читается. Интересно, что trs ответит про ресурсопотребление.
Talk is cheap. Show me the code.
Linus Torvalds

Аватара пользователя
Vochatrak
Сообщения: 805
Зарегистрирован: 22 сен 2014, 01:21
Operating system: Rosa fresh R5

Re: Файловая система ZFS

Сообщение Vochatrak » 14 фев 2016, 01:02

Пока что у меня положительные впечатления, я в возможностях btrfs/zfs вижу то, что мне было бы полезно.
Рад за Вас конечно, но я как человек таки грохнувший данные (вместе со снапшотом) рискну дать совет - не очень полагайтесь на подобный способ "сохранения" :)
P.S. Если все таки снапшоты, стоит присмотреться к snapper и автоматизации процесса через него.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 14 фев 2016, 01:09

Спасибо, поставил закладку, буду читать.
Talk is cheap. Show me the code.
Linus Torvalds

notauser
Сообщения: 1205
Зарегистрирован: 06 май 2012, 21:00

Re: Файловая система ZFS

Сообщение notauser » 14 фев 2016, 01:53

> Вопрос к пользователям этой-самой ZFS (точнее ZOL) Как у нее с производительностью и потреблением ресурсов (помниться озу жрала как не в себя)
Проводил "эксперимент" на довольно пожилом для даже для тех времен (FreeBSD поимело экспериментальную поддержку ZFS) ПК с (постараюсь сильно не соврать) 512 Mb ОП. 4 Gb HDD - UFS с ОС, два физических диска (20 Gb и 40 Gb) - ZFS (не помню подробностей), сетевая 100baseTX mediaopt full-duplex. Использование - NAS. Интересовала скорость передачи данных со стороны клиента по разным протоколам. Память - 512 Mb, скорость около 8 MB/s, 1 - 10-12, 2 - 15-25. Потом перенес в другой системник диски и сетевую (там память до 4Gb) - 4Gb - уперся в пропускную способность сетевухи. Про процессор не помню. Видимо ничего особенного.
>И перед BTRFS преимущества есть (для домашнего использования, естественно)?
Я не использую дома ни ZFS, ни BTRFS.

Аватара пользователя
Vochatrak
Сообщения: 805
Зарегистрирован: 22 сен 2014, 01:21
Operating system: Rosa fresh R5

Re: Файловая система ZFS

Сообщение Vochatrak » 14 фев 2016, 01:58

(FreeBSD поимело экспериментальную поддержку ZFS)
Интересует именно ZOL, именно сейчас и именно в Росе. :wink:

notauser
Сообщения: 1205
Зарегистрирован: 06 май 2012, 21:00

Re: Файловая система ZFS

Сообщение notauser » 14 фев 2016, 02:08

Это к trs

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 14 фев 2016, 07:30

О потребляемых ресурсах

Объём потребляемой ZOL памяти можно задать, например, передав ядру параметр: zfs.zfs_arc_max=сколько_можно_в_байтах.
Или в работающей ОС:

Код: Выделить всё

# echo объём > /sys/module/zfs/parameters/zfs_arc_max
В других ОС разница лишь в способе инициализации этого параметра.

Память эта используется под так называемый "DVA-based Adjustable Replacement Cache". То есть, для хранения часто требуемых данных, что бы лишний раз не читать их с диска. При необходимости, кэш освобождается, и память возвращается системе под её нужды.

О производительности.

Это относительно и зависит от задач и аппаратуры. Если я использую небольшие по объёму SSD, то, вполне вероятно, F2FS на них и покажет лучшую скорость в синтетических тестах. Но место на дисках, как и корпус железки — не резиновые. На текстовых файлах ZFS (грубо) его удваивает. При этом и читать с дисков приходится вдвое меньше. На практике, после смены F2FS на ZFS я не заметил проблем с производительностью. Зато, когда менял на слабой машине с FreeBSD UFS на ZFS, то время компиляции ядра уменьшилось c двух часов до одного.

О преимуществах.

Это субъективно. Для меня ZFS, прежде всего, привычнее. BTRFS вроде как Linux Way и официально включена в ядро. Использовать - легко (в смысле, легко установить драйвер). Далее начинается:

1. Что бы указать системе необходимость сжатия данных, необходимо передать параметр в mount или в /etc/fstab. Мне это неудобно. Более того, это похоже на концептуальную ошибку (в частности, с точек зрения объектной ориентированности, инкапсуляции данных).
В ZFS как необходимость, так и режим сжатия — атрибуты раздела. В случае переносных накопителей — нет нужды забивать себе и другим голову, как же правильно монтировать.

2. С BTRFS сталкивался с ситуацией, когда система (при обновлении ядра) не дописала initramfs, и соответственно, не смогла загрузиться. 11% свободно на диске, но по факту — его нет. С ZFS на той же флешке места осталось побольше, даже после создания раздела подкачки (кстати, тоже поддерживается сжатие).
Vochatrak писал(а): И такой момент - ZFS ставиться поверх уже размеченного диска, так? А что с данными, переносятся на ZFS или затираются?
Ставить можно на:
1. неразмеченный диск (как в примере в первом сообщении);
2. размеченный диск (раздел);
3. файл на разделе с другой ФС.
О возможности конвертировать, как у btrfs <—> ext, мне не известно, то есть данные теряются.
notauser писал(а):Важные (реально важные) данные можно долговременно хранить на носителях типа HDD (особенно "больших" современных) и SDD только имея определенную инфраструктуру, стоимость которой для обычного пользователя во много раз превосходит "значимость" хранимых данных.
Можно решать задачи попроще: вместо постоянного втыкания-вытыкания внешних дисков обеспечить возможность сохранять файлы по Wi-Fi на старый ноутбук. Болванки тоже не вечны. Выкидывал их когда-то.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 14 фев 2016, 11:29

+62.0°C не многовато ли?
Talk is cheap. Show me the code.
Linus Torvalds

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 14 фев 2016, 15:23

Это без bbswitch, дискретное видео не отключено было.
Вложения
С.png
С.png (6.52 КБ) 35885 просмотров

Аватара пользователя
Vochatrak
Сообщения: 805
Зарегистрирован: 22 сен 2014, 01:21
Operating system: Rosa fresh R5

Re: Файловая система ZFS

Сообщение Vochatrak » 14 фев 2016, 22:16

trs
А алгоритмы и уровень сжатия у BTRFS и ZOL одинаковые?

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 14 фев 2016, 22:43

Vochatrak,
Вы спрашивали: «И перед BTRFS преимущества есть (для домашнего использования, естественно)?».
А сами что можете сказать насчет преимуществ BTRFS для домашнего использования?
Если Вы считаете, что обеспечение сохранности данных посредством снимков можно признать лишь с оговорками, то вдвойне интересно, какие преимущества Вы видите.
Talk is cheap. Show me the code.
Linus Torvalds

Аватара пользователя
Vochatrak
Сообщения: 805
Зарегистрирован: 22 сен 2014, 01:21
Operating system: Rosa fresh R5

Re: Файловая система ZFS

Сообщение Vochatrak » 14 фев 2016, 23:18

какие преимущества Вы видите.
Сжатие данных в реальном времени (правда ощутить это сжатие, я пока не смог :) ), COW все таки надежнее чем вырезал/вставил будет, производительность больше чем у EXT4 (субъективно, тесты не делал), снапшоты - пусть и не особо помогают сохранять данные, но для системы (и экспериментами над ней :evil: ) вещь просто незаменимая.
Да и я пока не замечал чтобы BTRFS сжирала кучу места, под свои нужды (как жрет Ext4 напоминать думаю не стоит).
P.S. Оговорюсь сразу - для внешних хардов, BtrFS пожалуй наихудший вариант.

notauser
Сообщения: 1205
Зарегистрирован: 06 май 2012, 21:00

Re: Файловая система ZFS

Сообщение notauser » 14 фев 2016, 23:46

> производительность больше чем у EXT4 (субъективно, тесты не делал)
Нет. Для домашнего использования. Для NAS - да.
> под свои нужды (как жрет Ext4 напоминать думаю не стоит).
Именно по этому для "внешних хардов, BtrFS, ZFS, XFS, в плане долговременного хранения пожалуй наихудший вариант." Подправил немого. :)
Для подсистемы хранения данных в соответствующей инфраструктуре ZFS, пожалуй, оптимальный вариант. Для долговременного хранения "для домашнего использования" - любой отдельно взятый "автономный" HDD(SSD) не то. Но если нет других вариантов, то без дополнительных тело(мозго)движений с Ext4 будет проще. В GNU/Linux увидите определенную задержку при монтировании. Во многом благодаря тому, что "как жрет Ext4 напоминать думаю не стоит". Это не проблема архитектуры файловой системы, а "осознанная необходимость".
PS Delles, проблемы удобства резервирования (backup), восстановления и долговременного хранения ортогональны.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 15 фев 2016, 00:03

Спасибо, Vochatrak и notauser. Помню и люблю это слово: ортогональны :)
Есть что-то прекрасное в этой невозможности ничего сохранить наверняка :)
Talk is cheap. Show me the code.
Linus Torvalds

notauser
Сообщения: 1205
Зарегистрирован: 06 май 2012, 21:00

Re: Файловая система ZFS

Сообщение notauser » 15 фев 2016, 00:29

> Есть что-то прекрасное в этой невозможности ничего сохранить наверняка
> Помню и люблю это слово: ортогональны
Не нужно. "Долгая память хуже..." :)
Вопрос в количестве, времени и значимости. ДНК(РНК), Ономастика и всякое подобное. :)

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 15 фев 2016, 07:18

Vochatrak писал(а):А алгоритмы и уровень сжатия у BTRFS и ZOL одинаковые?
Эта информация несложно находится:
BTRFS использует ZLIB ("медленнее но лучше") и LZO ("быстрее и хуже сжимает").
Текущая версия ZOL поддерживает следующие методы:

Код: Выделить всё

# zfs set compression=aaaa z12
cannot set property for 'z12': 'compression' must be one of 'on | off | lzjb | gzip | gzip-[1-9] | zle | lz4'
Сравнение скорости некоторых алгоритмов на странице LZ4

По сжатию я уже указывал, вот та же самая система, что на 4G флешке с btrfs оставила 11% свободного места и не смогла больше ничего записать:

Код: Выделить всё

# zpool get all | grep G && zfs get logicalused zpa
zpa   size                        3.72G                       -
zpa   free                        1.36G                       -
zpa   allocated                   2.36G                       -
NAME  PROPERTY     VALUE  SOURCE
zpa   logicalused  4.71G  -

Vochatrak писал(а):Сжатие данных в реальном времени (правда ощутить это сжатие, я пока не смог :)
Одна из этих опций указана при монтировании?

Код: Выделить всё

compress=lzo
compress-force=lzo
Хотя, BTRFS позволяет указать необходимость сжатия индивидуально для файлов (chattr +c).

Аватара пользователя
Vochatrak
Сообщения: 805
Зарегистрирован: 22 сен 2014, 01:21
Operating system: Rosa fresh R5

Re: Файловая система ZFS

Сообщение Vochatrak » 15 фев 2016, 22:52

Сравнение скорости некоторых алгоритмов на странице LZ4
Используя один и тот-же алгоритм, уровень/скорость сжатия у BtrFS и ZOL одинаковые?
Одна из этих опций указана при монтировании?

Код: Выделить всё

# Entry for /dev/sdb5 :
UUID=71c18ac1-1da0-42cc-992e-b35a3f97826c / btrfs ,relatime,compress=lzo,autodefrag 0 0
# Entry for /dev/sdb8 :
UUID=aab9ef30-c741-4beb-9ea8-bf5fd3299bde /boot ext4 relatime,nofail 1 2
# Entry for /dev/sdb7 :
UUID=2b6c3d1e-8591-41d3-857e-ec251c8ecbba /home btrfs relatime,compress=lzo,autodefrag 0 0
none /proc proc defaults 0 0
# Entry for /dev/sdb6 :
UUID=6d690ad0-6d53-48aa-9931-a0351a515963 swap swap nofail 0 0

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 16 фев 2016, 06:58

Vochatrak писал(а):Используя один и тот-же алгоритм, уровень/скорость сжатия у BtrFS и ZOL одинаковые?
LZ4 пока есть только в ZFS. Таким образом сравнить возможности нет. Да и зачем? Остальные алгоритмы там сохранены для обратной совместимости, не знаю, есть ли смысл в их практическом использовании.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 17 фев 2016, 13:53

Найден способ хранить цифровые данные миллиарды лет
ссылка
Talk is cheap. Show me the code.
Linus Torvalds

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 18 фев 2016, 11:06

Этот способ давно известен - меньше шастать где ни попадя. :)
спам.png

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 18 фев 2016, 12:47

trs писал(а):Этот способ давно известен - меньше шастать где ни попадя. :)
pdf
save-data.pdf
(1.23 МБ) 149 скачиваний
Talk is cheap. Show me the code.
Linus Torvalds

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: Файловая система ZFS

Сообщение Delles » 21 фев 2016, 13:14

Canonical объявила о поддержке файловой системы ZFS в Ubuntu 16.04 LTS
​​http://www.linux.org.ru/news/ubuntu/12370696
Talk is cheap. Show me the code.
Linus Torvalds

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 21 фев 2016, 15:40

Спасибо. Таким образом на одной чаше весов может оказаться Ubuntu 16.04 LTS 32 бита, а на другой — полноценная поддержка 32х бит в SPL.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 04 мар 2016, 16:38

Под "полноценная поддержка 32х бит" следует понимать, что не придётся добавлять в параметы ядра для GRUB подобного:

Код: Выделить всё

vmalloc=256M zfs.zfs_arc_max=150994944
В "стрес-тестировании" принимли участие менее 1Gb ОЗУ и "SSD" по скорости больше похожий на флешку, какую в продаже днём с огнём не сыскать, но на 4Gb поместилась ROSA Gnome и даже swap.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 26 мар 2016, 13:31

Немного об отказоустойчивости.

На двух накопителях создан ZFS pool (RAID без зеркалирования данных пользователя, свои метаданные ZFS дублирует).
Установлены ОС: две ROSA Linux, одна Calculate Linux. И заполнено данными:

Код: Выделить всё

# zpool get all|grep G
z12   size                        119G                        -
z12   free                        43.0G                       -
z12   allocated                   76.0G                       -
На один из этих дисков командой dd был записан файл размером 1.6Gb.
В результате:

Код: Выделить всё

# blkid
/dev/sda1: TYPE="zfs_member"
/dev/sdb1: LABEL="z12" UUID="4727477716142952980" UUID_SUB="1113055392921313666" TYPE="zfs_member" PARTLABEL="zfs" PARTUUID="adce88a3-72c0-3b47-a47c-e72222d3738c"
/dev/zd0: UUID="a5f15a8a-241a-47bd-b881-87b39a50b8bf" TYPE="swap"
/dev/sdb9: PARTUUID="d42bf75b-8cf7-a746-8001-390ccaf3d3fe"
Таким образом создано более 40 тысяч ошибок:

Код: Выделить всё

# zpool scrub
# zpool status
  pool: z12
 state: ONLINE
status: One or more devices has experienced an error resulting in data
        corruption.  Applications may be affected.
action: Restore the file in question if possible.  Otherwise restore the
        entire pool from backup.
   see: http://zfsonlinux.org/msg/ZFS-8000-8A
  scan: scrub repaired 26.0M in 0h25m with 43138 errors on Fri Mar 25 23:27:39 2016
config:

        NAME        STATE     READ WRITE CKSUM
        z12         ONLINE       0     0 42.1K
          sda       ONLINE       0     0  111K
          sdb       ONLINE       0     0     0
Система исключает возможность открытия повреждённых файлов, но на её функционировании это не отражалось, процитированные команды выполнялись без перезагрузки с дополнительных носителей.

После выполнения zpool scrub:

Код: Выделить всё

# blkid
/dev/sda1: LABEL="z12" UUID="4727477716142952980" UUID_SUB="14157394359164788545" TYPE="zfs_member"
/dev/sdb1: LABEL="z12" UUID="4727477716142952980" UUID_SUB="1113055392921313666" TYPE="zfs_member" PARTLABEL="zfs" PARTUUID="adce88a3-72c0-3b47-a47c-e72222d3738c"
/dev/zd0: UUID="a5f15a8a-241a-47bd-b881-87b39a50b8bf" TYPE="swap"
/dev/sdb9: PARTUUID="d42bf75b-8cf7-a746-8001-390ccaf3d3fe"
И вскользь о теории вероятности. При 40 000 ошибках.
Из данных пользователя повреждено 3 графических файла и 1 ISO, всё можно найти в Интернете.
Из системных: данные о RPM (synthesis.hdlist.cz и т.п.) одной из ROSA и аналогичная (portage) из CL, а так же исходники одного из ядер.
Плюс к тому: 6 .so файлов, одно из ядер и initrd, и конфигурационные файлы Офиса.
Всё восстановимо средствами ОС.

Потеря GPT разметки и, как следствие, доступа к не продублированному на sdb9 GRUB выходит за рамки ответственности ZFS. Для такого существует gdisk.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 30 мар 2016, 06:46

Добавлю к предыдущему посту, как решать возможную проблему с повторной установкой grub*, в поисковике решение не нашел, поскольку выдача grub-install не информативна:

Код: Выделить всё

grub-install: error: filesystem 'zfs' doesn't support blocklists.
и перед ошибкой предупреждение отсюда:

Код: Выделить всё

    if (ctx.multiple_partmaps || (ctx.dest_partmap && fs) || (is_ldm && fs))
      {
	grub_util_warn ("%s", _("Attempting to install GRUB to a disk with multiple partition labels.  This is not supported yet."));
	goto unable_to_embed;
      }
Причиной являются остатки ISO образа:

Код: Выделить всё

 # dd if=/dev/sda bs=1 skip=32768 count=512 |hexdump -C
512+0 записей получено
512+0 записей отправлено
 скопировано 512 байт (512 B), 0.00061985 c, 826 kB/c
00000000  01 43 44 30 30 31 01 00  20 20 20 20 20 20 20 20  |.CD001..        |
00000010  20 20 20 20 20 20 20 20  20 20 20 20 20 20 20 20  |                |
00000020  20 20 20 20 20 20 20 20  52 4f 53 41 2e 46 52 45  |        ROSA.FRE|
00000030  53 48 2e 47 4e 4f 4d 45  2e 52 37 2e 69 35 38 36  |SH.GNOME.R7.i586|
00000040  20 20 20 20 20 20 20 20  00 00 00 00 00 00 00 00  |        ........|
00000050  8e 8f 0b 00 00 0b 8f 8e  00 00 00 00 00 00 00 00  |................|
00000060  00 00 00 00 00 00 00 00  00 00 00 00 00 00 00 00  |................|
00000070  00 00 00 00 00 00 00 00  01 00 00 01 01 00 00 01  |................|
00000080  00 08 08 00 68 00 00 00  00 00 00 68 26 00 00 00  |....h......h&...|
00000090  00 00 00 00 00 00 00 27  00 00 00 00 22 00 13 00  |.......'...."...|
000000a0  00 00 00 00 00 13 00 08  00 00 00 00 08 00 74 03  |..............t.|
000000b0  19 0c 22 30 00 02 00 00  01 00 00 01 01 00 20 20  |.."0..........  |
000000c0  20 20 20 20 20 20 20 20  20 20 20 20 20 20 20 20  |                |
*
000001b0  20 20 20 20 20 20 20 20  20 20 20 20 20 20 49 53  |              IS|
000001c0  4f 20 4d 61 73 74 65 72  20 20 20 20 20 20 20 20  |O Master        |
000001d0  20 20 20 20 20 20 20 20  20 20 20 20 20 20 20 20  |                |
*
00000200
Соответственно решением может быть их обнуление:

Код: Выделить всё

# dd if=/dev/zero of=/dev/sda bs=1 seek=32768 count=512 

# grub-install /dev/sda
Installing for i386-pc platform.
Installation finished. No error reported.
———
*) Новый grub можно взять из OpenMandriva и собрать с поддержкой libzfs, но это актуально, если не выделять отдельный раздел под /boot.

euspectre
Сообщения: 1102
Зарегистрирован: 21 дек 2012, 15:24
Operating system: Linux в разных вариантах

Re: Файловая система ZFS

Сообщение euspectre » 30 мар 2016, 13:33

Полезно. Спасибо!

Как насчёт того, чтобы завести страничку у нас на wiki.rosalab.ru и туда скопировать рекомендации и опыт использования ZFS, о которых Вы написали в этой теме? Новым пользовaтелям проще будет искать информацию, т.к. она будет собрана в одном месте. Да и не новым тоже.

А на форуме можно было бы тогда продолжить обсуждение ZFS и, возможно, время от времени обновлять ту Wiki-страницу.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 31 мар 2016, 08:56

Хотелось бы создать полновесный RPM, всё таки Wiki это несколько иной уровень. DKMS для меня тема новая, сходу не въехал, да и пока не вполне ясно, как быть с автоматическими обновлениями ядер и возможностью последующего отката: для работы утилит пользователя может потребоваться соответствие версий с модулями ядра (тут снимки ФС напрашиваются сами собой).

Видимо пока это всё можно преподать под соусом «собрать драйвер ФС — это совсем не страшно»?

euspectre
Сообщения: 1102
Зарегистрирован: 21 дек 2012, 15:24
Operating system: Linux в разных вариантах

Re: Файловая система ZFS

Сообщение euspectre » 31 мар 2016, 10:59

trs писал(а):Хотелось бы создать полновесный RPM, всё таки Wiki это несколько иной уровень. DKMS для меня тема новая, сходу не въехал, да и пока не вполне ясно, как быть с автоматическими обновлениями ядер и возможностью последующего отката: для работы утилит пользователя может потребоваться соответствие версий с модулями ядра (тут снимки ФС напрашиваются сами собой).
Соответствие версий - чего с чем? Текущей версии ядра с той, под которую модуль был собран? Если так, то это несложно: DKMS и наши механизмы установки и обновления ядер обеспечивают автом. пересборку модулей под соотв. версии ядра.

Или утилитам нужны версии ядра, которые у нас не поддерживаются?

А так, RPM-пакеты с модулями ядра для установки с помощью DKMS во многих случаях сделать бывает несложно. Это если сама сборка модуля не требует каких-то нетривиальных операций, конечно.

Относительно простой пример: https://abf.io/import/rtl8723bs/.
trs писал(а):Видимо пока это всё можно преподать под соусом «собрать драйвер ФС — это совсем не страшно»?
Да, можно и так.

Я ещё и о том, что в этой теме собраны не только инструкции по сборке ZFS, но и по использованию. Сборку в RPM сделать можно, а вот рекомендации по использованию как раз хорошо бы на Wiki иметь, думаю.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 31 мар 2016, 12:08

euspectre писал(а):Соответствие версий - чего с чем?
Есть модуль ядра zfs и утилиты командной строки: zfs, zpool.
Драйвера помещаются в соответствующие каталоги и initrd, что обеспечивает возможность загрузки. А юзерлендная часть одна на всё. Потому после загрузки возможны варианты, когда команда zfs ожидаемого результата не даст.
euspectre писал(а):RPM-пакеты с модулями ядра для установки с помощью DKMS во многих случаях сделать бывает несложно.
Автор zfsonlinux создал spec файл, но он содержит:

Код: Выделить всё

Requires:       dkms >= 2.2.0.3-20

подправить и собрать получалось, и требуемую версию dkms впихивал (иначе не назвать) в ROSA, но знаний не хватило даже для того, чтобы понять чем обусловлено требование версии, потому отложил до лучших времён. Для меня "понимать" означает не только "как надо", а "по каким причинам" и "для чего".
euspectre писал(а): Относительно простой пример: https://abf.io/import/rtl8723bs/.
Спасибо, будем изучать, есть и соотв. железо.
euspectre писал(а):рекомендации по использованию как раз хорошо бы на Wiki иметь, думаю.
Рекомендации дело ответственное, но примеры разбивки диска добавить и правда следует.

euspectre
Сообщения: 1102
Зарегистрирован: 21 дек 2012, 15:24
Operating system: Linux в разных вариантах

Re: Файловая система ZFS

Сообщение euspectre » 31 мар 2016, 14:22

trs писал(а): Автор zfsonlinux создал spec файл, но он содержит:

Код: Выделить всё

Requires:       dkms >= 2.2.0.3-20

подправить и собрать получалось, и требуемую версию dkms впихивал (иначе не назвать) в ROSA, но знаний не хватило даже для того, чтобы понять чем обусловлено требование версии, потому отложил до лучших времён. Для меня "понимать" означает не только "как надо", а "по каким причинам" и "для чего".
Если не ошибаюсь, в dkms 2.2 есть очень большие изменения по сравнению с нашим 2.0. Поэтому мы в свое время решили DKMS пока не обновлять. Работает - и ладно. Тем более, многие возможности DKMS нам просто не нужны.

Просмотрел бегло тот .spec-файл. Похоже, новый DKMS там используется только для того, чтобы некоторые скрипты запускать после установки. Вероятно, для depmod, генерации initrd и пр. У нас это всё делается частью средствами DKMS, частью - явно в spec'е. В том примере с rtl8723bs это всё есть. Т.е., возможно, всё проще и ничего особенного от нового DKMS и не нужно.

euspectre
Сообщения: 1102
Зарегистрирован: 21 дек 2012, 15:24
Operating system: Linux в разных вариантах

Re: Файловая система ZFS

Сообщение euspectre » 31 мар 2016, 14:34

trs писал(а): подправить и собрать получалось, и требуемую версию dkms впихивал (иначе не назвать) в ROSA, но знаний не хватило даже для того, чтобы понять чем обусловлено требование версии, потому отложил до лучших времён. Для меня "понимать" означает не только "как надо", а "по каким причинам" и "для чего".
Согласен, здравый подход к делу.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 31 мар 2016, 15:56

euspectre писал(а): Просмотрел бегло тот .spec-файл. Похоже, новый DKMS там используется только для того, чтобы некоторые скрипты запускать после установки. Вероятно, для depmod, генерации initrd и пр. У нас это всё делается частью средствами DKMS, частью - явно в spec'е
Спасибо! Тоже так подумал, но подобный скрипт видел впервые. Значит, пришло время идти дальше.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 11 апр 2016, 10:50

Переработал spec файлы, rpm создаются, при установке получается создать дерево исходных текстов для сборки и соотв. dkms.conf.

Но возник вопрос по dkms.
Фрагмент function prepare_build()

Код: Выделить всё

    # Set up temporary build directory for build
    rm -rf "$dkms_tree/$module/$module_version/build"
    cp -rf "$dkms_tree/$module/$module_version/source/" "$dkms_tree/$module/$module_version/build"

    # Run the pre_build script
    if [ -n "$pre_build" ] && [ -x `echo "$dkms_tree/$module/$module_version/source/$pre_build" | sed 's/ .*//'` ]; then
        echo $""
        echo $"Running the pre_build script:"
        $dkms_tree/$module/$module_version/source/$pre_build
    fi

    cd "$dkms_tree/$module/$module_version/build"
Согласно созданному dkms.conf, $pre_build содержит вызов configure. Вызов этот происходит в подкаталоге /usr/src, а не временной директории для сборки.

Я верно понимаю, что строка с вызовом должна быть такой:

Код: Выделить всё

	$dkms_tree/$module/$module_version/build/$pre_build
? Соответственно и проверка в if изменена. Возможно и cd лучше перенести выше?

На первый взгляд можно попробовать вызывать configure макросом CLEAN (он не используется) или добавить в MAKE, но про такое и думать не хочется.

euspectre
Сообщения: 1102
Зарегистрирован: 21 дек 2012, 15:24
Operating system: Linux в разных вариантах

Re: Файловая система ZFS

Сообщение euspectre » 11 апр 2016, 13:20

trs писал(а): На первый взгляд можно попробовать вызывать configure макросом CLEAN (он не используется) или добавить в MAKE, но про такое и думать не хочется.
Обычно проще и надёжнее всего всё необходимое для сборки держать в MAKE.
PRE_BUILD делается для source tree, да.

Не знаю, как в ZFS, но во многих проектах можно вызывать configure из build-каталога, указав путь к этому скрипту. Если и при сборке ZFS так можно, то в MAKE можно будет добавить что-то наподобие "$source_tree/<name>-<version>-<release>/configure" и .т.д.

Сам DKMS лучше оставить, как есть.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 11 апр 2016, 15:05

euspectre писал(а):PRE_BUILD делается для source tree, да.
Не ясно, с какой целью это происходит после создания копии?
В результате чего для сборки используется исходный вариант.
При повторном вызове (на следующей итерации цикла сборки для всех ядер) - есть вероятность неожиданного побочного эффекта.

Не нашёл, где задокументировано именно такое поведение.

В http://wiki.rosalab.ru/en/index.php/DKMS_policy сказано
(optional) Run a script at the specified stage. The script should be in the dkms module source dir.
Модуль (для каждого ядра свой) собирается из /var/lib/dkms/, а не из /usr/src (в моём понимании это "архивная" копия).

В комментариях к коду говорится о подготовке сборочной директории:

Код: Выделить всё

    # Set up temporary build directory for build
    rm -rf "$dkms_tree/$module/$module_version/build"
    cp -rf "$dkms_tree/$module/$module_version/source/" "$dkms_tree/$module/$module_version/build"

    cd "$dkms_tree/$module/$module_version/build"

    # Run the pre_build script
    if [ -n "$pre_build" ] && [ -x `echo "$dkms_tree/$module/$module_version/build/$pre_build" | sed 's/ .*//'` ]; then
        echo $""
        echo $"Running the pre_build script:"
#        $dkms_tree/$module/$module_version/build/$pre_build
        ./$pre_build
    fi
Я использовал тот PRE_BUILD, что предназначен для более поздней версии dkms. С вышеприведённым вариантом, драйвера собираются.

euspectre
Сообщения: 1102
Зарегистрирован: 21 дек 2012, 15:24
Operating system: Linux в разных вариантах

Re: Файловая система ZFS

Сообщение euspectre » 11 апр 2016, 16:28

trs писал(а):
euspectre писал(а):PRE_BUILD делается для source tree, да.
Не ясно, с какой целью это происходит после создания копии?
В результате чего для сборки используется исходный вариант.
При повторном вызове (на следующей итерации цикла сборки для всех ядер) - есть вероятность неожиданного побочного эффекта.

Не нашёл, где задокументировано именно такое поведение.
Может, и баг, хотя до сих пор это никому не мешало.

Как я уже говорил, надёжнее сделать всё через MAKE. Всё равно, по-хорошему, configure надо бы делать в build tree, а не в source tree. Т.е. - без PRE_BUILD.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 12 апр 2016, 06:42

configure и выполняется в build tree, в исправленном варианте. В нынешнем состоянии configure в PRE_BUILD результаты своей работы может сохранить в корневом разделе. PRE_BUILD, видимо, и не использовали, если с таким поведением не сталкивались.

Но если надо через MAKE, значит попробуем придерживаться традиции.
Там, кстати, свои тонкости:

Код: Выделить всё

    local the_make_command=`echo $make_command | sed "s/^make/make KERNELRELEASE=${kernelver_array[0]}/"`
и ещё:

Код: Выделить всё

/ $ ~/rpmbuild/BUILD/spl-0.6.5.6/configure 
/home/st/rpmbuild/BUILD/spl-0.6.5.6/configure: line 1822: config.log: Permission denied
потому "$source_tree/<name>-<version>-<release>/configure" опасна, да и не нужна -- cd предварительно выполняется в том фрагменте "с багом".

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено?] Файловая система ZFS

Сообщение trs » 16 апр 2016, 13:07

Добавил в шапку ссылку на репозиторий.

При обновлении ядра, кстати, создаётся initrd со всеми требуемыми для загрузки с ZFS драйверами.

Из нерешенного пока осталось то, что grub2-mkconfig (из официального пакета) делает так:

Код: Выделить всё

linux	/vmlinuz root=/dev/sda1
а надо так:

Код: Выделить всё

linux	/vmlinuz zfs=pool/filesystem-to-boot-from
Ну, и ещё руководство... :oops:

По поводу "тормозов". 108 минут занимала сборка ядра версии 4.2.8 ROSA на F2FS, 123 минуты на ZFS cо сжатием LZ4 и atime=on (это на Atom с 2Гб ОЗУ, на таком нынче телефоны собирают). Эксперимент не чистый, во втором случае еще использовался Chromium.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: [Решено?] Файловая система ZFS

Сообщение Delles » 18 апр 2016, 20:48

Interpreting, enforcing and changing the GNU GPL, as applied to combining Linux and ZFS
An FSF statement by Richard Stallman, published on April 11, 2016.
https://www.fsf.org/licensing/zfs-and-linux
Talk is cheap. Show me the code.
Linus Torvalds

Аватара пользователя
Алзим
Сообщения: 4361
Зарегистрирован: 18 июн 2015, 11:57
Operating system: ROSA Desktop Fresh R10
Откуда: Интернет

Re: [Решено?] Файловая система ZFS

Сообщение Алзим » 18 апр 2016, 20:53

Delles писал(а):Interpreting, enforcing and changing the GNU GPL, as applied to combining Linux and ZFS
An FSF statement by Richard Stallman, published on April 11, 2016.
https://www.fsf.org/licensing/zfs-and-linux
Вы для англоязычной ветки писали?
Или на английском можно везде?

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: [Решено?] Файловая система ZFS

Сообщение Delles » 18 апр 2016, 21:00

Материал свежий, по-русски пока вроде нет. Но важный — Столлман от имени FSF, как-никак. Как появится по-русски, добавим ссылочку, а пока пусть эта будет, чтоб не потерялось.
Talk is cheap. Show me the code.
Linus Torvalds

Аватара пользователя
Алзим
Сообщения: 4361
Зарегистрирован: 18 июн 2015, 11:57
Operating system: ROSA Desktop Fresh R10
Откуда: Интернет

Re: [Решено?] Файловая система ZFS

Сообщение Алзим » 18 апр 2016, 21:06

Delles писал(а):Материал свежий, по-русски пока вроде нет. Но важный — Столлман от имени FSF, как-никак. Как появится по-русски, добавим ссылочку, а пока пусть эта будет, чтоб не потерялось.
Да мне плевать что там по ссылке. Может вирусники.
Меня интересует текст в русскоязычной ветке написанный на английском.

Представляю чтобы было со мною, если бы я зашёл на нерусскоязычную ветку и написал бы там по-русски.
Меня бы наверно в клочья за это разорвали.

В следующий раз пишите на арабском. В русскоязычной ветке можно всё.

Аватара пользователя
Delles
Сообщения: 1785
Зарегистрирован: 18 авг 2015, 19:52
Operating system: GNU/Linux : ROSA Desktop Fresh R7 (x86_64). Не обновлял.

Re: [Решено?] Файловая система ZFS

Сообщение Delles » 18 апр 2016, 21:10

Я на польском форуме Росы всегда по-английски отвечаю, т.к. по-польски только читать могу, никто не возмущался, наоборот. Когда нет по-русски, можно и по-английски.
Talk is cheap. Show me the code.
Linus Torvalds

Аватара пользователя
Алзим
Сообщения: 4361
Зарегистрирован: 18 июн 2015, 11:57
Operating system: ROSA Desktop Fresh R10
Откуда: Интернет

Re: [Решено?] Файловая система ZFS

Сообщение Алзим » 18 апр 2016, 21:25

Delles писал(а):Когда нет по-русски, можно и по-английски.
А можно и перевести. У вас там не какой-то код программный или что-то в этом роде.

Что касаемо поляков, то давно пора знать, что в Восточной Европе прекрасно знают русский язык. В своё время, он входил в обязательный предмет восточноевропейских школ.
Если восточно-европеец не знал русского, то он карьеру не мог сделать себе в своей стране.
Я не удивлюсь, если узнаю, что ваши поляки, написанное вами на английском, потом переводят через Гугл на свой язык. А русский многие из них знают хорошо.

Аватара пользователя
Галахов Роман
Сообщения: 2284
Зарегистрирован: 26 фев 2012, 20:02
Operating system: Rosa 2016.1 Fresh KDE (HP ProBook 440 G4 (y7z81ea))
Откуда: Моск. обл. Волоколамск

Re: [Решено?] Файловая система ZFS

Сообщение Галахов Роман » 18 апр 2016, 21:51

Алзим писал(а): А можно и перевести. У вас там не какой-то код программный или что-то в этом роде.

Что касаемо поляков, то давно пора знать, что в Восточной Европе прекрасно знают русский язык. В своё время, он входил в обязательный предмет восточноевропейских школ.
Если восточно-европеец не знал русского, то он карьеру не мог сделать себе в своей стране.
Я не удивлюсь, если узнаю, что ваши поляки, написанное вами на английском, потом переводят через Гугл на свой язык. А русский многие из них знают хорошо.
Если знают русский, то почему не идут на русскоязычный форум? Просто им проще общаться на своем языке. Они (особенно молодежь) как вы не любят изучать иностранный язык. Зачем его изучать если все обязаны вам на вашем родном языке отвечать. Им как и вам, просто лень пользоваться яндекс/Google - переводчиками, чтобы понимать иностранный. А английский в странах, находящихся под финансово-военным протекторатом США и Англии - уже такой-же родной, как русский для народов России где Русский не родной язык (Татары, к примеру (второй по численности народ в России).
Rosa 2016.1 Fresh KDE5 x64-86 (HP ProBook 440 G4 (y7z81ea))

Аватара пользователя
Алзим
Сообщения: 4361
Зарегистрирован: 18 июн 2015, 11:57
Operating system: ROSA Desktop Fresh R10
Откуда: Интернет

Re: [Решено?] Файловая система ZFS

Сообщение Алзим » 18 апр 2016, 22:00

Галахов Роман писал(а): Просто им проще общаться на своем языке.
Вот именно. На своём.
Для этого и созданы разделы на разных языках.
А не для того, чтобы во всех разделах писать на одном английском то, что можно написать на языке раздела.

А если языка не знаешь, то и нечего лесть в чужие разделы и навязывать там «свой» язык.

keleg
Сообщения: 5395
Зарегистрирован: 15 сен 2011, 01:58

Re: [Решено?] Файловая система ZFS

Сообщение keleg » 19 апр 2016, 08:24

Личные разборки почищены.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено?] Файловая система ZFS

Сообщение trs » 19 апр 2016, 08:50

Delles писал(а):Interpreting, enforcing and changing the GNU GPL, as applied to combining Linux and ZFS
An FSF statement by Richard Stallman, published on April 11, 2016.
https://www.fsf.org/licensing/zfs-and-linux
Интересная новость. И спасибо, что в оригинале: при переводе смысл "enforcing" может ускользнуть. Назвались "свободным", так положение обяжет.

keleg, так уж и все. :)

Аватара пользователя
Алзим
Сообщения: 4361
Зарегистрирован: 18 июн 2015, 11:57
Operating system: ROSA Desktop Fresh R10
Откуда: Интернет

Re: [Решено?] Файловая система ZFS

Сообщение Алзим » 19 апр 2016, 09:00

keleg писал(а):Личные разборки почищены.
Самый главный флуд не удалён. Это сообщение на месте: http://forum.rosalab.ru/viewtopic.php?f ... 769#p68758

К тому же уверен, что никто не смотрел, что там нафлудили на польском форуме.
Delles писал(а):Я на польском форуме Росы всегда по-английски отвечаю

keleg
Сообщения: 5395
Зарегистрирован: 15 сен 2011, 01:58

Re: [Решено?] Файловая система ZFS

Сообщение keleg » 19 апр 2016, 09:18

Алзим, пожалуйста оставьте модераторство модераторам. В случае вопросов - задавайте мне в личке. Ага?

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено?] Файловая система ZFS

Сообщение trs » 19 апр 2016, 09:46

Новость, что процитировал Delles -- весома, и, по-видимому, требует разъяснений для тех, кто не понял.

Текущая ситуация, когда есть две "свободные" лицензии: CDDL и GPL (порядок алфавитный), но линковать одно с другим якобы нельзя, выглядит, мягко говоря, странно и противоречиво.

С одной стороны понятно, что без такого ограничения, развитие аналогичной инфраструктуры в Linux велось бы не столь активно.

С другой стороны -- весьма символично, что "дитё" Sun-Solaris, цитирую: "enforcing", что юристы переведут как "приводит в жизнь".
[личные разборки почищены]

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено?] Файловая система ZFS

Сообщение trs » 21 апр 2016, 15:05

Создал наброски в Вики.
trs писал(а):grub2-mkconfig (из официального пакета) делает так:

Код: Выделить всё

linux	/vmlinuz root=/dev/sda1
а надо так:

Код: Выделить всё

linux	/vmlinuz zfs=pool/filesystem-to-boot-from
Столкнулся с известной проблемой grub-probe
Проявляется не во всех случаях, а в новых версиях grub её быть не должно.

Пока можно решить (если возникнет необходимость) таким исправлением:

Код: Выделить всё

--- /etc/grub.d/.10_linux.orig	
+++ /etc/grub.d/10_linux	
@@ -64,6 +64,11 @@
 	if [ "x${rootsubvol}" != x ]; then
 	    GRUB_CMDLINE_LINUX="rootflags=subvol=${rootsubvol} ${GRUB_CMDLINE_LINUX}"
 	fi;;
+    'xUNKNOWN (0x2fc12fc1)')
+	# both grub_probe and stat failed 
+	# allow dracut to parse zfs= correctly
+	LINUX_ROOT_DEVICE="zfs:"
+	;;
     xzfs)
 	rpool=`${grub_probe} --device ${GRUB_DEVICE} --target=fs_label 2>/dev/null || true`
 	bootfs="`make_system_path_relative_to_its_root / | sed -e "s,@$,,"`"
Плюс добавить в GRUB_CMDLINE_LINUX_DEFAULT='zfs=pool/ROOT/rosa-1' (заменив на актуальный путь)

Интересно, что в /etc/grub.d/10_linux пробует определить тип ФС дважды, и оба случая не проходят:

Код: Выделить всё

# grep -A12 GRUBFS /etc/grub.d/10_linux 
GRUBFS="`${grub_probe} --device ${GRUB_DEVICE} --target=fs 2>/dev/null || true`"

if [ x"$GRUBFS" = x ]; then
    GRUBFS="$(stat -f --printf=%T / || true)"
fi
Для stat() предлагалась доработка: https://lists.gnu.org/archive/html/bug- ... 00115.html
Не столько для grub, сколько для "tail -f now uses inotify for files on ZFS file systems".

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: Файловая система ZFS

Сообщение trs » 22 сен 2016, 10:49

euspectre писал(а): Соответствие версий - чего с чем? Текущей версии ядра с той, под которую модуль был собран? Если так, то это несложно: DKMS и наши механизмы установки и обновления ядер обеспечивают автом. пересборку модулей под соотв. версии ядра.
Подвернулся пример.

Давно не обновлял одну машину. Пробую. Много пакетов, в том числе dracut. Ядро не обновляется (пакеты -latest не установлены).

Код: Выделить всё

(источник «trs»)
 cpupower                       4.6.2        1             rosa  2014.1 i586 
 grub2                          2.02_zfs     2             rosa  2014.1 i586 
 kernel-headers                 4.6.2        1             rosa  2014.1 i586 
 libnvpair1                     0.6.5.8      1             rosa  2014.1 i586 
 libuutil1                      0.6.5.8      1             rosa  2014.1 i586 
 libzfs2                        0.6.5.8      1             rosa  2014.1 i586 
 libzpool2                      0.6.5.8      1             rosa  2014.1 i586 
Будет использовано 85МБ дополнительного дискового пространства.
Будет загружено 241МБ пакетов.
Установить 251 пакетов? (Y/n) y

В списке нет пакетов c драйверами. Кроме того, установленные zfs и zpool слинкованы с соответствующими (более ранними версиями) lib*. Предположительно после перезапуска пул импортирован и диски смонтированы не будут, то есть дальше консоли dracut дело не пойдёт (initrd пересоздало новый).

Обновление завершилось загадочной надписью:

Код: Выделить всё

Необходимо перезапустить компьютер для filesystem
Возможно, она такую ситуацию и объясняет, или я что-то ешё не углядел.

До перезагрузки путём автообновления установить пакет zfs не представляется возможным:

Код: Выделить всё

# urpmi --auto-update
источник «Main» уже обновлён
источник «Main Updates» уже обновлён
источник «Contrib» уже обновлён
источник «Contrib Updates» уже обновлён
источник «Non-free» уже обновлён
источник «Non-free Updates» уже обновлён
источник «Restricted» уже обновлён
источник «Restricted Updates» уже обновлён
источник «kernel_4.4» уже обновлён
источник «trs» уже обновлён
Пакеты находятся в актуальном состоянии
Хотя вышеупомянутые lib* создаются по одной с ним спецификации.

Можно обновить вручную:

Код: Выделить всё

# urpmi zfs
Для удовлетворения зависимостей будут установлены следующие пакеты:
 Пакет                          Версия       Релиз         Dist  DEpoch Платформа 
(источник «trs»)
 spl                            0.6.5.8      1             rosa  2014.1 i586 
 spl-dkms                       0.6.5.8      1             rosa  2014.1 noarch 
 zfs                            0.6.5.8      1             rosa  2014.1 i586 
 zfs-dkms                       0.6.5.8      1             rosa  2014.1 noarch 
Будет использовано 14МБ дополнительного дискового пространства.
Будет загружено 2.2МБ пакетов.
Установить 4 пакетов? (Y/n) 
Может быть дело в том, что база rpm была повреждена, и я её как-то не вполне восстановил?

bestcat75
Сообщения: 39
Зарегистрирован: 20 окт 2015, 13:14
Operating system: ROSA 11 Desktop Fresh 64, Windows 10

Re: [Решено] Файловая система ZFS

Сообщение bestcat75 » 22 сен 2016, 15:25

Всем здравствуйте) У меня тут возник вопросик - у себя дома делал ради интереса сетевое хранилище на основе FreeNas, так вот, сейчас от него остались диски, файловая система естественно ZFS, если я в Росе соберу поддержку драйвера, как описано выше, то увижу ли я инфу на этих дисках? Как с фс NTFS например? В Винде подсоединил диск и все готово, все читается, тут так будет?

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 22 сен 2016, 18:14

Все эти реализации далают на базе единого проекта - OpenZFS, но кто-то начал раньше, потому вроде как есть некоторые различия, но сходу о них не скажу. Неоднократно приходилось импортировать линуксовый пул в FreeBSD и OpenIndiana, и scrub даже делал — ничего вроде не пропало. :)

А собирать давно не надо, достаточно подключить репозиторий и установить пакет zfs (или скачать пакеты вручную) и драйвера соберутся и установится. Это можно сделать в том числе и в Live системе. Версия актуальная 0.6.5.8. Для тестирования вышла 0.7.0-rc1, но пока не собирал.

bestcat75
Сообщения: 39
Зарегистрирован: 20 окт 2015, 13:14
Operating system: ROSA 11 Desktop Fresh 64, Windows 10

Re: [Решено] Файловая система ZFS

Сообщение bestcat75 » 25 сен 2016, 21:14

пакет установил, но при подключении диска пишет, что том отформатирован в новой версии zfs

Пакет zfs-fuse-0.7.0-6-rosa2014.1.x86_64 уже установлен
roman@roman-desktop ~ $ sudo zpool import -o altroot=/media/zfs hdd1
[sudo] пароль для roman:
cannot import 'hdd1': pool is formatted using a newer ZFS version
как теперь обновить версию?

notauser
Сообщения: 1205
Зарегистрирован: 06 май 2012, 21:00

Re: [Решено] Файловая система ZFS

Сообщение notauser » 25 сен 2016, 21:34

Так версия созданного пула выше чем умеет zfs-fuse. В zfs-fuse zpool максимум 23. А в OpenZFS - 28. Понизить версию созданного пула невозможно. Но её можно было указать при создании. Теперь только один вариант - использование zfs из репозитория trs вместо zfs-fuse.

bestcat75
Сообщения: 39
Зарегистрирован: 20 окт 2015, 13:14
Operating system: ROSA 11 Desktop Fresh 64, Windows 10

Re: [Решено] Файловая система ZFS

Сообщение bestcat75 » 25 сен 2016, 22:33

просто несколько дисков остались от FreeNas, информацию не хотелось бы потерять, теперь мне надо удалить пакет zfs-fusion и поставить из репозитория trs? попробую

bestcat75
Сообщения: 39
Зарегистрирован: 20 окт 2015, 13:14
Operating system: ROSA 11 Desktop Fresh 64, Windows 10

Re: [Решено] Файловая система ZFS

Сообщение bestcat75 » 25 сен 2016, 22:37

urpmi.addmedia trs_personal http://abf-downloads.rosalinux.ru/trs_p ... in/release
bash: urpmi.addmedia: команда не найдена
вот что пишет теперь, глубокоуважаемый trs, как скачать новую версию у вас?
зашел в ваш репозиторий, какой именно файл с zfs нужно скачать? скачал zfs-0.6.5.8-1-rosa2014.1.x86_64.rpm, пишет про зависимость, неудовлетворенность lib64zpool2,что делать дальше? извиняюсь сам баран, у вас там все есть

bestcat75
Сообщения: 39
Зарегистрирован: 20 окт 2015, 13:14
Operating system: ROSA 11 Desktop Fresh 64, Windows 10

Re: [Решено] Файловая система ZFS

Сообщение bestcat75 » 25 сен 2016, 22:54

все равно не получается примонтировать диск((

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 26 сен 2016, 08:59

Для установки пакетов нужны права рут:

Код: Выделить всё

$ urpmi.addmedia
-bash: urpmi.addmedia: команда не найдена
$ sudo urpmi.addmedia
[sudo] пароль для *:
прошу прощения, не учёл. Исправил сообщение в шапке.

Диски в zfs не монтируются в обычном понимании, для начала нужно импортировать пул:

Код: Выделить всё

zpool import имя
потом посмотреть перечень "разделов":

Код: Выделить всё

zfs list
и монтировать их:
1) в простейшем случае zfs mount -a
2) mount -t zfs -- если точка монтирования legacy
3) zfs set mountpoint= ... -- если в точке монтирования уже что-то смонтировано, то её можно изменить. Либо поменять свойство overlay.

Но обычно при импорте сразу всё что можно смонтируется, если не указать ключ -N

Если что не получается, копируйте сюда вывод, посмотрим. Вообще команды идентичны, и в FreeBSD, и в Solaris. Подробности можно посмотреть в русскоязычной документации по ссылке в первом сообщении.

От zfs-fuze, как я помню, сам автор давненько отказался.

bestcat75
Сообщения: 39
Зарегистрирован: 20 окт 2015, 13:14
Operating system: ROSA 11 Desktop Fresh 64, Windows 10

Re: [Решено] Файловая система ZFS

Сообщение bestcat75 » 26 сен 2016, 18:15

огромнейшая благодарность!!)) все теперь получилось)) данные не будут потеряны, только все команды пришлось делать через sudo, зашел не под root-ом

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 27 сен 2016, 06:19

Да, такие операции традиционно для Unix требуют привилегий. Хотя в ZFS есть средства для управления полномочиями:
zfs делегации.png

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 26 сен 2017, 11:44

Попал в руки мне жесткий диск из под FreeNas.
Через установку программ по поиску zfs был один результат. Установил. Презагрузился.

Код: Выделить всё

admin-G710 admin # zpool import pool
connect: Нет такого файла или каталога
Please make sure that the zfs-fuse daemon is running.
internal error: failed to initialize ZFS library
admin-G710 admin # zfs list
connect: Нет такого файла или каталога
Please make sure that the zfs-fuse daemon is running.
internal error: failed to initialize ZFS library
admin-G710 admin # urpmi zfs
Пакет zfs-fuse-0.7.0-8-rosa2016.1.x86_64 уже установлен
Screenshot_20170926_114141.png
что он ругается на : internal error: failed to initialize ZFS library ?

вот проба https://linux-hardware.org/index.php?probe=19167c4b0e
и кстати вот из шапки:

Код: Выделить всё

wget http://archive.zfsonlinux.org/downloads/zfsonlinux/spl/spl-x.y.z.tar.gz
--2017-09-26 11:20:35--  http://archive.zfsonlinux.org/downloads/zfsonlinux/spl/spl-x.y.z.tar.gz
Распознаётся archive.zfsonlinux.org… 52.216.232.5, 2600:1fa0:8094:5c9:34d8:204b::
Подключение к archive.zfsonlinux.org|52.216.232.5|:80... соединение установлено.
HTTP-запрос отправлен. Ожидание ответа… 404 Not Found
2017-09-26 11:20:35 ОШИБКА 404: Not Found.
Что я сделал не так или не доделал ?
Когда-нибудь я слезу с винды

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 26 сен 2017, 12:52

zfs-fuse удалите, этот пакет потерял актуальность и автором не поддерживается.

Две первые команды с самом верхнем сообщении подключают мой репозиторий и устанавливают драйвер zfsonlinux:

Код: Выделить всё

    sudo urpmi.addmedia trs_personal http://abf-downloads.rosalinux.ru/trs_personal/repository/rosa2014.1/x86_64/main/release
    sudo urpmi zfs
Репозитоиий можно будет отключить

Код: Выделить всё

sudo urpmi.removemedia trs_personal 
что бы случайно не обновился grub.

Свёрнутый текст там можно не читать, это инструкция по сборке вручную, оставлена для истории.

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 26 сен 2017, 13:08

Так, а система то R9. Сейчас попробую собрать для неё.

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 26 сен 2017, 13:35

Спасибо, жду
Когда-нибудь я слезу с винды

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 26 сен 2017, 16:48

Для 2016й платформы 64-х разрядный репозиторий другой:

Код: Выделить всё

sudo urpmi.addmedia st_personal http://abf-downloads.rosalinux.ru/st_personal/repository/rosa2016.1/x86_64/main/release/
sudo urpmi zfs
Лучше выполнять в консоли, на всякий случай. Потребуется время для сборки драйверов (особенно, если установлено несколько ядер).

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 28 сен 2017, 14:26

Что-то плазма 2016 совсем заглючила. Не сконектолось там с zfs. Глючила по вайфаю, это уже в истории.
Установил fresh 8.1. Вот проба https://linux-hardware.org/index.php?probe=9732d381ef
сейчас ставится zfs.
снимок1.png
после перезагружусь.

Вопрос, если попробовать открыть диск в dolphin, он автоматом дОлжен правильно примонтироваться ?

Или надо через терминал сделать:

Код: Выделить всё

zpool import pool
zfs list

?

Сам диск от FreeNas из зеркала из двух дисков.
Когда-нибудь я слезу с винды

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 28 сен 2017, 18:15

Спасибо trs , все срослось открылось и получилось ).
Единственно вопрос, как правильно прописать монтирование в нужную папку, например в /home/zfs, а то у меня в корень смонтировалось )

Код: Выделить всё

rosa-Lenovo rosa # zpool import St2
cannot import 'St2': pool may be in use from other system, it was last accessed by  (hostid: 0x54ce77b3) on Tue Sep 26 13:57:59 2017
use '-f' to import anyway
rosa-Lenovo rosa # zpool import St2 -f
rosa-Lenovo rosa # zfs list
NAME   USED  AVAIL  REFER  MOUNTPOINT
St2   1,54T   226G  1,54T  /St2
rosa-Lenovo rosa # zfs mount -a
rosa-Lenovo rosa # 
Гуглил я тут про zfs, на каждом углу кричат что набирающая силу и популярность новая ФС, так это или нет ? Если так, то есть ли вариант научить Росу с ней дружить, чтоб система автоматом монтировала эту ФС ?

P.S. сдается мне что R9 не допиленная какая-то....или я не прав ?
Когда-нибудь я слезу с винды

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 28 сен 2017, 18:39

после перезагрузки ноута при отключенном диске папка в корне осталась.
подключил опять диск, подождал, открыл папку (думал само примонтируется) пусто.
открыл терминал:

Код: Выделить всё

rosa-Lenovo rosa # zpool import pool
The ZFS modules are not loaded.
Try running '/sbin/modprobe zfs' as root to load them.
набрал /sbin/modprobe zfs и все завелось после zfs list
Когда-нибудь я слезу с винды

keleg
Сообщения: 5395
Зарегистрирован: 15 сен 2011, 01:58

Re: [Решено] Файловая система ZFS

Сообщение keleg » 28 сен 2017, 19:38

KA-25 писал(а): P.S. сдается мне что R9 не допиленная какая-то....или я не прав ?
Ну, мы даже официально в анонсе писали, что R9 это для энтузиастов, более-менее допиленной ее можно будет считать с R10-R11
Стабильная - R8.1

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 29 сен 2017, 09:42

ZFS это свой мир с инструкцией в три сотни страниц :) (следует учесть, что в обычных сценариях большая её часть не потребуется, и что писалось немного для другой ОС)
Монтирование начинается на стр. 206.

Что бы zfs mount монтировало не в корень, следует указать точку монтирования с требуемым путём. Изменённый пример из руководства, если не ошибся со структурой пула (странно, что нет подтомов, как правило, их создают и в сам пул запись не производят):

Код: Выделить всё

zfs set mountpoint=/home/user/куда St2
Если хотите использовать традиционный для Linux способ через mount, то надо установить точку монтирования legacy

Код: Выделить всё

zfs set mountpoint=legacy St2
после чего должен работать /etc/fstab и проч.

ROSA вполне автоматически монтирует ZFS, у меня полтора года на неё была установлена рабочая система, только недавно сменил на BtrFS (для сравнения). Просто она непривычная и потому может казаться непонятной. Но если диск внешний и ожидаете поведение как с флешкой - тут пока увы, кто-то должен выполнить импорт.

Если при старте системы драйвер не загружается автоматом, его скорее всего нет в образе initramfs. Образ генерируется такой командой:

Код: Выделить всё

dracut -f
(старый при этом будет перезаписан, так что обязательно должна быть какая-то ещё версия ядра для запуска, в случае чего.
Команду надо выполнять после того, как загрузили драйвер. Система слишком умная и думает, что раз нет драйвера, значит он и не нужен. :)

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 04 окт 2017, 10:26

Подскажите, если я вижу такую картину, о чем это говорит ??

Код: Выделить всё

rosa-Lenovo rosa # fdisk -l
.....
Device       Start       End   Sectors   Size Type
/dev/sdc1      128   4194431   4194304     2G FreeBSD swap
/dev/sdc2  4194432 976773134 972578703 463,8G FreeBSD ZFS

rosa-Lenovo rosa # zpool import pool
cannot import 'pool': no such pool available
rosa-Lenovo rosa # zfs list
no datasets available
rosa-Lenovo rosa # 
Я просматриваю диски от Freenas, Диски из рейда zfs. Некоторые от простого зеркала, при импорте был вывод что этот диск онлайн, второго нет, но монтировалось и мог работать с файлами. А вот с некоторыми дисками вот такая вот песня.

Есть возможность засунуть нос в диск хотя бы в режиме чтения ?
Когда-нибудь я слезу с винды

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 04 окт 2017, 10:55

А что показывает zpool status? Может имя пула не pool.

Если несколько пулов с одним именем, можно импортировать по id.
Если пул не был ранее экспортирован с другой системы, то помогает опция -f
Про эти возможности пишет в подсказках (правда, они пока не переведены) при попытке импорта.

Можно даже уничтоженный пул импортировать zpool import -D

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 04 окт 2017, 11:11

trs писал(а):Может имя пула не pool.
ага, значит я где-то не допонял. Значит первым действием после подключения диска к ноуту надо выполнить

Код: Выделить всё

zfs list
чтоб узнать имя пула, а потом уже

Код: Выделить всё

zpool import "имя пула"
и далее монтирование...
trs писал(а):А что показывает zpool status?

Код: Выделить всё

rosa-Lenovo rosa # zpool status
no pools available
rosa-Lenovo rosa # zpool import -f
no pools available to import
rosa-Lenovo rosa # zpool import -D
no pools available to import
rosa-Lenovo rosa # 
Когда-нибудь я слезу с винды

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 04 окт 2017, 11:20

Гипотетически, во фринасе были диски как iscsi для VM .... по идее zfs должен же дать инфу в этом плане ?
Когда-нибудь я слезу с винды

Аватара пользователя
KA-25
Сообщения: 402
Зарегистрирован: 13 мар 2015, 20:40
Operating system: Rosa 64bit
Откуда: Собянинка

Re: [Решено] Файловая система ZFS

Сообщение KA-25 » 04 окт 2017, 11:50

А gparted говорит что не знает какая фс у диска
снимок3.png

Код: Выделить всё

Невозможно обнаружить файловую систему! Возможные причины:
- Файловая система повреждена
- Файловая система неизвестна GParted
- Отсутствует файловая система (раздел не отформатирован)
- Запись устройства /dev/sdc2 отсутствует
что диск просто пустой и не отформатирован в zfs ?
Когда-нибудь я слезу с винды

trs
Сообщения: 1939
Зарегистрирован: 07 сен 2015, 16:08
Operating system: -

Re: [Решено] Файловая система ZFS

Сообщение trs » 04 окт 2017, 12:05

Команда zfs показывает "разделы" (в терминологии zfs - "файловые системы") что находится внутри пула. Имеет смысл только после импорта пула. То есть сначала выполняется команда zpool.

А вот почему zpool status не показал пул, пока не ясно. Может быть, дело в его версии. Насколько мне известно, совместимость с FreeBSD (а она в основе FreeNAS) сохраняется, и у меня пулы открывались хоть там, хоть в OpenSolaris.

Я бы попробовал запустить FreeBSD и проверить, или может быть вот это проще https://www.trueos.org/downloads/

Ответить