metaclass: (Default)
metaclass ([personal profile] metaclass) wrote2010-03-25 07:18 pm

Распределенный Postgresql срач

В итоге, в разборки насчет использования [livejournal.com profile] dmzlj postgresql под приличной нагрузкой в системе GPS-мониторинга подключили всех до кого смогли дотянутся, вплоть до разработчиков postgresql.

Я потерял нить обсуждения где-то в конце, но судя по результатам, ключевой аспект шизы был в двух вещах: фрагментированность данных и индекса (условно говоря - на каждую интересующую нас запись нужно было читать целую страницу данных, в которой все остальное нас не касалось) и нехватка памяти для кэша, в результате чего все начинало тормозить.

В качестве решения проблемы в итоге предложили какое-то хитрое двухуровневное партиционирование, которое должно устранить проблему фрагментации - сначала партиционировать сильно актуальные данные (текущий день(неделя, месяц)) по hash id объекта, затем переносить данные в партиции по времени кусками с одинаковыми id чтобы избежать фрагментации.

[identity profile] permea-kra.livejournal.com 2010-03-26 04:42 am (UTC)(link)
Я так подозреваю, что скорее отслеживать момент отбытия составов. Там, в общем-то, посекундная точность может быть оправдана.

[identity profile] permea-kra.livejournal.com 2010-03-26 04:44 am (UTC)(link)
В смысле, на ЖД несмотря на размеры график надо выдерживать точно. А то торможение за 15 секунд, впаяешься в спину - пред. состава - не отмоешь.

[identity profile] b00ter.livejournal.com 2010-03-26 05:09 am (UTC)(link)
Э-э-э... РЖД хочет заменить машинистов роботами?

[identity profile] permea-kra.livejournal.com 2010-03-26 07:23 am (UTC)(link)
Оно всегда хочет. Машинист нужен для исполнения команд диспетчера и форсмажоров. БОльшую часть времени его действия подчинены строгому алгоритму и проходу между блокирующей автоматикой.

[identity profile] norguhtar.livejournal.com 2010-03-26 04:48 am (UTC)(link)
Я подозреваю что N-секунд будут лицезреть состав кторый стоит :))

[identity profile] dmzlj.livejournal.com 2010-03-26 08:13 am (UTC)(link)
Секунд? Они будут сутками мониторить стоящие составы. А особенно, спецсоставы, которые стоят годами, ну раз в месяц на учения съездят.

[identity profile] norguhtar.livejournal.com 2010-03-26 09:00 am (UTC)(link)
Ну для них то точно надо полусекундный апдейт, а то вдруг сопрут!

[identity profile] dmzlj.livejournal.com 2010-03-26 10:05 am (UTC)(link)
Ну танки же сперли, что б составы не спереть

[identity profile] blacklion.livejournal.com 2010-03-26 07:40 pm (UTC)(link)
Да вроде же сняли скальпели с вооружения :)

[identity profile] dmzlj.livejournal.com 2010-03-26 07:45 pm (UTC)(link)
Ну они по-любому другому ведомству принадлежали бы.