Перейти из форума на сайт.

НовостиФайловые архивы
ПоискАктивные темыТоп лист
ПравилаКто в on-line?
Вход Забыли пароль? Первый раз на этом сайте? Регистрация
Компьютерный форум Ru.Board » Компьютеры » Программы » ICEECC | QuickPAR | MultiPAR | RSC32 и др.

Модерирует : gyra, Maz

 Версия для печати • ПодписатьсяДобавить в закладки
Страницы: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

Открыть новую тему     Написать ответ в эту тему

persicum

Full Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Программы данного раздела служат для обнаружения и исправления ошибок, возникающих при передаче данных и их долговременном хранении. Как правило, восстановление возможно, если суммарный объем повреждений в искаженных файлах вместе с объемом полностью утраченных файлов не превышает объем корректирующей информации, которая заблаговременно дописывается на носитель.
 
 
Контроль целостности без возможности восстановления
 
RHash
Описание: замечательная кроссплатформенная консольная утилита для вычисления огромного количества криптографически-стойких hash-функций, в том числе и используемых в p2p сетях. Программы этой группы не способны к исправлению данных сами по себе, но способны указывать на ситуации, когда необходимо воспользоваться резервной копией или перекачать файл заново
 
Домашняя страница: https://github.com/rhash/RHash
Страница для скачивания: http://sourceforge.net/projects/rhash/files/rhash/
 
RapidCRC Unicode
Описание: профессиональное средство для расчета hash-функций, в том числе и современных быстрых многопоточных функций blake2sp и blake3.
 
Домашняя страница: https://www.ov2.eu/programs/rapidcrc-unicode
Страница для скачивания: https://www.ov2.eu/programs/rapidcrc-unicode
 
CHK Hash Sum
Описание: портативная утилита для контроля целостности файлов с поддержкой Юникода и перетягивания.  
 
Домашняя страница: https://compressme.net/
Страница для скачивания: https://compressme.net/
 
 
8-битные коды Рида-Соломона
 
DVDisaster
Описание: Программа для защиты данных на оптических дисках CD, DVD и BD путём добавления к нему избыточной информации.
 
Домашняя страница: https://sourceforge.net/projects/dvdisaster/
Страница для скачивания: https://sourceforge.net/projects/dvdisaster/files/dvdisaster/
 
 
16-битные коды Рида-Соломона
 
WinRAR
Описание: популярный архиватор, начиная с версии 5.0 создает до 65535 томов восстановления. Кроме того, использует коды RS и для добавления информации восстановления к архивам, выгодно отличаясь от всех других архиваторов.
 
Домашняя страница: http://www.win-rar.ru/
Страница для скачивания: https://www.win-rar.com/download.html?&L=4
 
MultiPAR
Описание: Мощная программа для защиты файлов от повреждений. Одновременно работает в 32- и 64-разрядном окружении. Поддержка многопоточности, Юникода, русского языка. Использует ускорение AVX2 и вычисления GPU. Постоянно обновляется.
 
Домашняя страница: http://hp.vector.co.jp/authors/VA021385/
Страница для скачивания: http://www.vector.co.jp/soft/dl/winnt/util/se460801.html
 
ICEECC
Описание: программа во многом аналогична MultiPAR, но появилась на несколько лет раньше. Русский язык отсутствует. Не обновлялась с 2009 года. На сегодня работает примерно в 5 раз медленнее, чем MultiPAR.
 
Домашняя страница: http://www.ice-graphics.com/ICEECC/IndexR.html
Страница для скачивания: http://www.ice-graphics.com/ICEECC/DownloadR.html
 
 
32-битные коды Рида-Соломона
 
RSC32
Описание: консольная утилита для контроля целостности файлов с использованием hash-функций CRC32, CRC64, MD5, SHA1, SHA256, Tiger и blake2sp. Реализация эффективных 32-разрядных кодов Рида-Соломона позволила оперировать сотнями тысяч и миллионами блоков без драматического влияния на быстродействие. Использует FAR Manager как свой GUI
 
Страница для скачивания: https://disk.yandex.ru/d/yFtikZtmyWuQ1w
 


Схожая тема: ZIDRAV и CRC Recovery 2005

Всего записей: 462 | Зарегистр. 27-06-2007 | Отправлено: 11:35 18-07-2007 | Исправлено: persicum, 11:39 29-10-2021
fonser

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Pasha_ZZZ аналогично можно заявить что высокоуровневые языки программирования - для домохозяек, ассемблер - для нормальных людей. Встречал уже такое.
 
Идеально когда оба варианта доступны и можно выбирать/комбинировать самому.

Всего записей: 142 | Зарегистр. 05-06-2008 | Отправлено: 13:49 15-01-2018
persicum

Full Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Зашел посмотреть, что новенького произошло за последние годы...  
 
1) MultiPar жив и обновляется, но алгоритм по сравнению с PAR2 не изменился. Это GF(2^16) и N^2 операций. Проект PAR3 не состоялся по многим причинам, из них главная, что не все алгоритмы позволяют кодировать на лету и лечить на лету (без сложных дисковых операций). PAR2 развивается в сторону роста вычислительных мощностей, многих гигабайт памяти, большой многоядерности, GPU... Это и хорошо и плохо одновременно
 
2) Булат освоил FFT и, возможно, что-то такое планируется вставить в FreeArc или создать отдельную утилиту.
 
3) Кажется, проект DVDisaster благополучно скончался... Людям давно уже лень записывать оптические диски.

Всего записей: 462 | Зарегистр. 27-06-2007 | Отправлено: 19:04 09-11-2018 | Исправлено: persicum, 21:00 24-12-2018
Pasha_ZZZ



Platinum Member
Редактировать | Профиль | Сообщение | ICQ | Цитировать | Сообщить модератору
persicum
Цитата:
Булат освоил FFT
Он вроде на LDPC замахивался...

Всего записей: 12398 | Зарегистр. 11-03-2002 | Отправлено: 19:06 09-11-2018
persicum

Full Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Знакомлюсь с литературным творчеством BZ касательно кодов, исправляющих ошибки. Доступного неспециалистам материала по этой теме практически нет, поэтому читал с большим интересом, попутно припоминая некоторые вещи. Вообще, наука кодирования файлов, или, точнее, пакетов, является новой и по своим задачам существенно отличается от классической теории защиты информации, которая направлена скорее на низкоуровневую поддержку аппаратной части. Но в сетях, даже если все железо работает без сбоев (то есть на низком уровне коды функционируют), может возникать необходимость введения избыточных пакетов для повышения пропускной способности каналов из-за неравномерной доставки и хаотичного поведения абонентов.
Остановимся на некоторых, как мне кажется, неточностях.    
1) Не названа причина высокой скорости и "бешеной популярности" LDPC, фонтанных и им подобных кодов. Мне представляется, что причина состоит в наличии нулей, особенно когда их число велико, в генераторной матрице. И простота базовой XOR-операции, кроме которой ничего не нужно. Удивительной способностью матриц с большим количеством нулей является их свойство восстанавливать ошибки практически ничем не хуже полновесных, честных, всюду обратимых матриц. А вычисляются они, конечно, в сотни и тысячи раз быстрее. Они имеют некоторые несущественные, косметические недостатки, или, скорее, особенности, которые на практике незаметны. Теория "несовершенных" кодов несоизмеримо сложнее теории MDS кодов, но, для начала, при проектировании "несовершенного" кода следует учесть две цифры. Это, во-первых, "критическая масса" блоков, ниже которой коды не работают, и число дополнительных блоков (относительно потерянных), необходимых для декодирования с вероятность отказа хорошего хеша. Если, например, критическая масса равна 100 блоков, а число экстра-блоков равно 3-м, то можно спокойно создавать, например, 2000 блоков восстановления, практическая разница с MDS кодом будет неощутима (а скорость выше). Такой систематический код будет работать, даже если потерять 95% блоков восстановления.
Об этом и нужно было поведать школьникам.
2) Корни из единицы, DFT и FFT есть в любых конечных полях. Тут следовало бы сказать, что сложность N log N у FFT достигается за счет применения тактики "разделяй и властвуй". Под этим подразумевается рекурсивный вызов процедуры для двух половин входных данных, и так далее. Другие общеизвестные примеры этого - умножение Карацубы, быстрая сортировка. Проще всего организовать FFT в полях, которые имеют корни порядка 2^N. Такие корни есть далеко не во всех полях. Примеры полей, где такие корни имеются в достаточном количестве - GF(65537) и GF(FFF00001h)
3) Предложенный BZ метод кодирования как FFT(iFFT), конечно, непрактичен. Во первых, набор корней единицы для FFT процедуры зависит от ее длины. Если добавить нулей - длина изменится и корни вместе с ней. Для FFT-2 это не так страшно - просто в систематическом коде проверочные символы окажутся вперемешку с информационными. Во вторых, нулями придется дополнять дважды. Например, сначала 5 символов до 8-ми для iFFT, потом 8 символов до 16-ти чтоб получить парити (вперемешку с исходными данными). Скорость такого кода будет в 2 раза меньше от возможной. В третьих, из такого кодирования не ясно, как раскодировать. Получается аналог архиватора Лыщенко, который паковал любой файл в один xor-байт, а распаковка обещалась в следующей версии.  
Сходство матрицы Вандермонда и матрицы корней единицы сыграла с BZ злую шутку. На самом деле - корни FFT процедуры это ее внутренняя кухня и сами по себе они неважны (более того, меняются в зависимости от длины процедуры!!). А что нужно? Тут всплывает волшебное слово СВЕРТКА. Свертка нужна, а конкретные корни - нет. Заодно понятно и кодирование/декодирование. Если провести свертку с маской (из нулей и единиц), то эта маска и укажет, какие данные сохранились, а какие нужно восстановить. А при кодировании маску можно настроить на получение символов четности. Похожим целям служит и классический полином-локатор, но там это не так очевидно, как с маской. Используя внешнюю свертку, можно создать быстрые коды в любом поле, например, в GF(FFFFFFFBh) или даже в GF(2^32).
4) Предложен код, использующий матрицы Вандермонда k*k и k*n, но не сказано, какое кол-во операций необходимо для обращения матрицы k*k. Вдруг это N^3?  

Всего записей: 462 | Зарегистр. 27-06-2007 | Отправлено: 22:23 21-12-2018 | Исправлено: persicum, 07:51 22-12-2018
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
помогите плиз)
выкачал сейчас давний архив, один том битый
пробую восстановить, пишет cannot open fhash.rsc32
совсем забыл, как восстанавливать, можно инструкцию?

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 22:15 27-11-2019
Pasha_ZZZ



Platinum Member
Редактировать | Профиль | Сообщение | ICQ | Цитировать | Сообщить модератору
lehachuev
А что у вас в наличии для восстановления? Должен быть *.FHash.RSC32, *.VHash.RSE32 и еще несколько *.RSE32 файлов.

Всего записей: 12398 | Зарегистр. 11-03-2002 | Отправлено: 22:22 27-11-2019
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Pasha_ZZZ
все это есть

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 22:24 27-11-2019
Pasha_ZZZ



Platinum Member
Редактировать | Профиль | Сообщение | ICQ | Цитировать | Сообщить модератору
lehachuev
Надо сначала
set RSC32_BaseName=

Всего записей: 12398 | Зарегистр. 11-03-2002 | Отправлено: 22:36 27-11-2019
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Pasha_ZZZ
точно
и имя должно быть из vhash
все получилось, спасибо!

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 22:43 27-11-2019
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
кстати, все ссылки на rsc32 сдохли ТС, обновите плиз)

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 19:00 13-12-2019
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
разобрался, тупил с недосыпа)
все время забываю про -bnNAME

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 07:21 17-12-2019 | Исправлено: lehachuev, 07:27 17-12-2019
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
подскажите
что за тонкости с настройкой памяти такие
допустим, есть пачка раров гигов на 5
в батнике -mu750m
все нормально
увеличиваю до -mu2048m
попадается папка с рарами гигов на 30
и ошибка - out of memory
возвращаю 750 - порядок.
это как?

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 18:26 20-12-2019
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
насколько же медленный с маленькими файлами -b2p2 в сравнении с -md2, просто ужас. визуально - раз в 10 дольше считает.

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 05:40 01-05-2020
persicum

Full Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Если повезет, в ближайшее время напишу мануал на русском. Работа программы почти никак не зависит от используемой памяти. Можно взять -mu1.5g, т.к. два гига это на грани для 32-разрядной проги откомпилированной без специального флага для трех гигов (чего я не пробовал), вот она и падает. Для быстродействия очень важен отдельный диск для свапа (свопа). Например, -wrkD:

Всего записей: 462 | Зарегистр. 27-06-2007 | Отправлено: 16:41 05-06-2020 | Исправлено: persicum, 21:26 05-06-2020
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
будем надеяться на везение
до сих пор юзаю прогу для залива бэкапов в юзнет
пока ничего быстрее не нашел
подскажите, как поменять количество томов бэкапа? у меня всегда три тома, но в случае с бэкапами многогиговых данных это перебор, каждый том весит больше гига
из мануала вычитал про параметры nn и mm, пишу -nn10 или -mm10, но это не работает - приложуха сканит файлы, и на этом все... вот батник
@ECHO OFF
REM MODE CON COLS=96 LINES=25
REM COLOR 1f
SETLOCAL ENABLEDELAYEDEXPANSION
SET temp=I:\TEMP
 
for /f "tokens=*" %%a in ('dir /A:D /B "%~1"') do (
 RSC32 -wt"%%a" -r -b2p2 -ya -bn"%%a" "%%a\" -tw"%%a" -la 2>>"Error.log"
 RSC32 -wrk%temp% -bn"%%a" -mu750m -ya -wrr384000-10%%-"%%a" -pr"%%a" -la 2>>"Error.log"
что дописать и куда, чтобы на выходе было не три тома, а сколько мне нужно?
 
зы. вижу, что mm и nn - аргументы wrr, но как это написать, не понимаю в фаре тоже не нашел такую настроечку.

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 17:16 19-07-2020 | Исправлено: lehachuev, 17:24 19-07-2020
Pasha_ZZZ



Platinum Member
Редактировать | Профиль | Сообщение | ICQ | Цитировать | Сообщить модератору
lehachuev
Менюшка же для старого Фара есть. Там считай что одни сплошные примеры (и их много). Для себя я ее переделал в отдельное подменю для нового Фара.

Всего записей: 12398 | Зарегистр. 11-03-2002 | Отправлено: 17:46 19-07-2020
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Pasha_ZZZ
ну я вот не нашел такого...
облазил всю менюшку

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 17:51 19-07-2020
Pasha_ZZZ



Platinum Member
Редактировать | Профиль | Сообщение | ICQ | Цитировать | Сообщить модератору
persicum
Цитата:
откомпилированной без специального флага для трех гигов
Компилить необязательно, можно ЕХЕ отредактировать:

Всего записей: 12398 | Зарегистр. 11-03-2002 | Отправлено: 18:21 19-07-2020
persicum

Full Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Pasha_ZZZ
К сожалению, при выделении больше 2g памяти в win64 прога RSC32 падает, хотя и не сразу. Нужна тщательная отладка. Просто перекомпилить или поменять флаг в exe не получится(
 
Добавлено:
lehachuev
 
-sn10 -hr10
Пример, если хочешь 10 равных кусков и в конце каждого резервная копия заголовков.
 
 
Обновление до версии 3.23 (только EXE).
Улучшена реализация blake2sp.  
 
https://anonfiles.com/d5vdW0G4of/RSC32_323_exe_only_rar

Всего записей: 462 | Зарегистр. 27-06-2007 | Отправлено: 19:48 19-07-2020 | Исправлено: persicum, 19:51 19-07-2020
lehachuev

Junior Member
Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
persicum
спасибище, попробую сегодня же

Всего записей: 139 | Зарегистр. 17-09-2006 | Отправлено: 23:40 19-07-2020
Открыть новую тему     Написать ответ в эту тему

Страницы: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

Компьютерный форум Ru.Board » Компьютеры » Программы » ICEECC | QuickPAR | MultiPAR | RSC32 и др.


Реклама на форуме Ru.Board.

Powered by Ikonboard "v2.1.7b" © 2000 Ikonboard.com
Modified by Ru.B0ard
© Ru.B0ard 2000-2024

BitCoin: 1NGG1chHtUvrtEqjeerQCKDMUi6S6CG4iC

Рейтинг.ru