metaclass: (Default)
metaclass ([personal profile] metaclass) wrote2010-03-25 07:18 pm

Распределенный Postgresql срач

В итоге, в разборки насчет использования [livejournal.com profile] dmzlj postgresql под приличной нагрузкой в системе GPS-мониторинга подключили всех до кого смогли дотянутся, вплоть до разработчиков postgresql.

Я потерял нить обсуждения где-то в конце, но судя по результатам, ключевой аспект шизы был в двух вещах: фрагментированность данных и индекса (условно говоря - на каждую интересующую нас запись нужно было читать целую страницу данных, в которой все остальное нас не касалось) и нехватка памяти для кэша, в результате чего все начинало тормозить.

В качестве решения проблемы в итоге предложили какое-то хитрое двухуровневное партиционирование, которое должно устранить проблему фрагментации - сначала партиционировать сильно актуальные данные (текущий день(неделя, месяц)) по hash id объекта, затем переносить данные в партиции по времени кусками с одинаковыми id чтобы избежать фрагментации.

[identity profile] metaclass.livejournal.com 2010-03-25 09:10 pm (UTC)(link)
Я подозреваю, там что-нибудь из соображений "следить за сверхскоростным поездами". Особо это радует в контексте точности GPS-приемников и скорости выдачи ими результатов :)

[identity profile] dmzlj.livejournal.com 2010-03-25 09:13 pm (UTC)(link)
Главным образом потому, что они сами не понимают чего хотят, но исходят из того, что если попросят раз в полсекунды, то им будет в случае чего не так худо, как если попросят раз в полминуты. Ну типа они считают, что если что, то из полсекунды полминуты они сделают как-нибудь, а вот наоборот --- никак.

И убедить их врядли в чем-то можно, потому что что такое РЖД и что такое мы.

[identity profile] permea-kra.livejournal.com 2010-03-26 04:42 am (UTC)(link)
Я так подозреваю, что скорее отслеживать момент отбытия составов. Там, в общем-то, посекундная точность может быть оправдана.

[identity profile] permea-kra.livejournal.com 2010-03-26 04:44 am (UTC)(link)
В смысле, на ЖД несмотря на размеры график надо выдерживать точно. А то торможение за 15 секунд, впаяешься в спину - пред. состава - не отмоешь.

[identity profile] b00ter.livejournal.com 2010-03-26 05:09 am (UTC)(link)
Э-э-э... РЖД хочет заменить машинистов роботами?

[identity profile] permea-kra.livejournal.com 2010-03-26 07:23 am (UTC)(link)
Оно всегда хочет. Машинист нужен для исполнения команд диспетчера и форсмажоров. БОльшую часть времени его действия подчинены строгому алгоритму и проходу между блокирующей автоматикой.

[identity profile] norguhtar.livejournal.com 2010-03-26 04:48 am (UTC)(link)
Я подозреваю что N-секунд будут лицезреть состав кторый стоит :))

[identity profile] dmzlj.livejournal.com 2010-03-26 08:13 am (UTC)(link)
Секунд? Они будут сутками мониторить стоящие составы. А особенно, спецсоставы, которые стоят годами, ну раз в месяц на учения съездят.

[identity profile] norguhtar.livejournal.com 2010-03-26 09:00 am (UTC)(link)
Ну для них то точно надо полусекундный апдейт, а то вдруг сопрут!

[identity profile] dmzlj.livejournal.com 2010-03-26 10:05 am (UTC)(link)
Ну танки же сперли, что б составы не спереть

[identity profile] blacklion.livejournal.com 2010-03-26 07:40 pm (UTC)(link)
Да вроде же сняли скальпели с вооружения :)

[identity profile] dmzlj.livejournal.com 2010-03-26 07:45 pm (UTC)(link)
Ну они по-любому другому ведомству принадлежали бы.