metaclass: (Default)
metaclass ([personal profile] metaclass) wrote2010-11-25 06:07 am

diff на больших файлах, кэширование файлов и память

Запустил сравнение Araxis Merge на двух 100 мб файлах, он выжрал гиг памяти и сидит в нее долбится.
В связи с этим вспоминается, что [livejournal.com profile] vitus_wagner постоянно ругается на тему "раньше обрабатывали под досом файлы в 100 раз больше чем объем памяти, а сейчас разучились".
И статья, которую кто-то недавно постил на тему кэширования файлов и свопа в винде, где написано, что делать собственные кэши, чтение файла по кускам и вообще выпендриваться алгоритмами давно не модно, т.к. винда лучше знает как ей это делать, особенно с мемори-маппед файлами.
А у Firebird так и вообще есть параметр "использовать ли кэш операционки", пороговый - задано количество страниц, если база меньше чем это количество - то используется, если больше - то нет. Не совсем понятно обоснование для наличия такого параметра и более того - указание его в страницах (которые могут иметь разные размеры у разных баз), а не в абсолютных значениях.

[identity profile] vp.livejournal.com 2010-11-25 07:09 am (UTC)(link)
Да надо просто тестировать то, что пишут. Неужели нельзя было проверить типичные случаи?

[identity profile] thedeemon.livejournal.com 2010-11-25 07:18 am (UTC)(link)
Думаю, 100 МБ они не считают типичным случаем.

[identity profile] vp.livejournal.com 2010-11-25 07:18 am (UTC)(link)
100 несчастных мегабайт логов???? Последние времена.

[identity profile] thedeemon.livejournal.com 2010-11-25 07:46 am (UTC)(link)
А он вообще для логов предназначен?
Я им исходники мерджу (вот прям щас, кстати, в этот момент), их по сто мегов не бывает обычно.

[identity profile] metabr.livejournal.com 2010-11-25 07:49 am (UTC)(link)
diff - compare files line by line © DIFF(1)

Но у вас наверное могут быть иные представления о назначении diff'а

[identity profile] thedeemon.livejournal.com 2010-11-25 07:55 am (UTC)(link)
Речь не про diff, вообще-то.

[personal profile] alll 2010-11-25 08:07 am (UTC)(link)
Название программы "Araxis Merge" какбэ говорит нам, что не диффом она там занимается.

[personal profile] alll 2010-11-25 08:50 am (UTC)(link)
стопудофф

[identity profile] metaclass.livejournal.com 2010-11-25 08:38 am (UTC)(link)
Да не, именно диффом она занимается. Мерже там следующая отдельная операция, после изучения разницы.

[personal profile] alll 2010-11-25 08:51 am (UTC)(link)
диффом она там занимается, скорее всего, просто в качестве побочного эффекта :)

[identity profile] metaclass.livejournal.com 2010-11-25 08:52 am (UTC)(link)
Нет. Там сначала diff и наглядный просмотр результата, затем мерже руками или автоматом.

[personal profile] alll 2010-11-25 08:56 am (UTC)(link)
показывает-то дифф
а данные, небось, готовит для мержа - чтоб два раза не вставать