metaclass: (Default)
metaclass ([personal profile] metaclass) wrote2012-06-13 12:11 pm

SQL vs версионность-иммутабельность

А вот что бывает когда реляционные БД ставят в несвойственную им позу и нет моральных ограничений (потому что кодогенерация):
...
FROM REPLTRANS
  join ChangeLog 
   left join TransactsLog tlog on tlog.TRANSACTS_CHL_ID=CHL_ID
   left join TransactsLink tlnk 
     join Transacts tr on tr.TR_ID_BASEID=tlnk.TR_ID_BASEID and
                          tr.TR_ID_LOCALID=tlnk.TR_ID_LOCALID
     left join Transacts tr_old on tr_old.TR_ID_BASEID=tr.TR_ID_BASEID_PV and
                                   tr_old.TR_ID_LOCALID=tr.TR_ID_LOCALID_PV
    on tlnk.TRANSACTS_CHL_ID=CHL_ID
   left join FillingsLog filllog 
    join Customers cst1 on cst1.Cst_ID=filllog.FILL_Customer
   on filllog.FILLINGS_CHL_ID=CHL_ID 
   left join FillingsLink filllnk 
    join Fillings fill 
      join Customers cst2 on cst2.Cst_ID=fill.FILL_Customer
     on fill.FILL_ID_BASEID=filllnk.FILL_ID_BASEID and
        fill.FILL_ID_LOCALID=filllnk.FILL_ID_LOCALID
    on filllnk.FILLINGS_CHL_ID=CHL_ID  
  on (CHL_TRANS=REPLTR_BEGID+0)
  join ReplTables on REPLTBL_ID=CHL_TABLE_ID
...


кусок запроса "получить информацию об последних изменениях в БД, поддерживающей хранение всей истории изменений".

Ситуация вообще в следующем:
1) Фактически я храню в БД персистентный граф, но морально отказаться от RDBMS/SQL и переписывать все с нуля я не готов. За вопросами - к [livejournal.com profile] plumqqz, он вам расскажет, что думает за неосиливших СУБД.
2) N+1 запрос вообще и для Firebird в частности (сетевой протокол, лаги) - печаль. А то я бы всю сложность выкинул на клиента и там на F# собрал бы все что нужно. Впрочем, сервер и клиент (сервис-считалка) стоят рядом, ничего страшного, по идее, быть не должно.
3) В Firebird пока нет возможности сунуть код на произвольном языке в БД (как это есть у Postgres например)


PS: выяснил, чего сервер раком становится от таких запросов. Там дальше сортировка, не сводимая к чтению по индексам. Поэтому он начинает дичайше писать в временные файлы результат запроса и далее его читать. И файл размером 2 гига, внезапно, со скоростью 100 мег в секунду это таки 20 секунд на запись и потом хз сколько еще на фетч.

[identity profile] skif-by.livejournal.com 2012-06-13 09:41 am (UTC)(link)
Судя по количеству комментариев, тебя никто не понял :)

[identity profile] vk11.livejournal.com 2012-06-13 09:47 am (UTC)(link)
просто все ушли на фронт за вопросами к plumqqz

[identity profile] tzirechnoy.livejournal.com 2012-06-13 09:44 am (UTC)(link)
Запрос вроде как запрос, ничего такого.

[identity profile] falcrum.livejournal.com 2012-06-13 10:39 am (UTC)(link)
Когда в табличках по три записи - ничего такого. Когда их там по три миллиона - такое чего. :)

[identity profile] tzirechnoy.livejournal.com 2012-06-13 10:46 am (UTC)(link)
На индэксах -- везде O(log2n) скорость будет. В общем, тожэ ничего.

[identity profile] molnij.livejournal.com 2012-06-13 10:56 am (UTC)(link)
Просто в какой-то момент прийдется немножко научить кодогенератор писать запросы покрасивше для базы.

[identity profile] molnij.livejournal.com 2012-06-13 10:06 am (UTC)(link)
А где смеятся?
это большой страшный запрос чтоле?

[identity profile] vp.livejournal.com 2012-06-13 12:53 pm (UTC)(link)
В смысле, что методика оптимизации скорости выполнения запроса несколько выпала вообще из SQL и перешла в аппаратно-программную плоскость. Такое обычно не часто бывает.

[identity profile] molnij.livejournal.com 2012-06-14 02:27 am (UTC)(link)
Интересная мысль, тем не менее для любимого сервера я не раз сталкивался с точкой, после которой оптимизацией все-таки приходилось заниматься мне. Ну и к слову, оптимизация уже очень много где перешла на уровень компиляторов-интерпретаторов (во многом будучи скрытой возросшей производительностью)
С другой стороны в представленном запросе банальные джойны, еще и по, надеюсь, индексированным полям. Тут оптимизировать разве что порядок соединений.

(no subject)

[identity profile] metaclass.livejournal.com - 2012-06-14 04:42 (UTC) - Expand

[identity profile] nivanych.livejournal.com 2012-06-13 10:23 am (UTC)(link)
> морально отказаться от RDBMS/SQL

А что такое "морально отказаться"?

[identity profile] w00dy.livejournal.com 2012-06-13 10:42 am (UTC)(link)
всякие носакли, как я понимаю.

[identity profile] berezovsky.livejournal.com 2012-06-13 10:40 am (UTC)(link)
бля, прочитал белтрансгаз :-/

[identity profile] metaclass.livejournal.com 2012-06-13 11:04 am (UTC)(link)
Хм. Тызнал.

[identity profile] nivanych.livejournal.com 2012-06-13 11:42 am (UTC)(link)
Белтрансмон!

[identity profile] berezovsky.livejournal.com 2012-06-13 12:04 pm (UTC)(link)
хуй пизда белтелеком

[identity profile] avnik.livejournal.com 2012-06-13 10:42 am (UTC)(link)
Возьми питон и zodb, будет тебе персистентный граф.

PS Код в базе -- он у тебя будет "разъезжаться" с кодом в в гите (или чем тебе пауки велят пользоваться)

[identity profile] metaclass.livejournal.com 2012-06-13 11:04 am (UTC)(link)
Не будет. В базу он попадает в самую последнюю очередь, со ссылкой на тикет и ревизию в vcs

(no subject)

[identity profile] avnik.livejournal.com - 2012-06-13 11:28 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2012-06-13 11:30 (UTC) - Expand

(no subject)

[identity profile] nivanych.livejournal.com - 2012-06-13 11:45 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2012-06-13 11:46 (UTC) - Expand

(no subject)

[identity profile] nivanych.livejournal.com - 2012-06-13 11:47 (UTC) - Expand

(no subject)

[identity profile] nivanych.livejournal.com - 2012-06-13 18:22 (UTC) - Expand

(no subject)

[identity profile] avnik.livejournal.com - 2012-06-13 12:18 (UTC) - Expand

(no subject)

[identity profile] nivanych.livejournal.com - 2012-06-13 12:45 (UTC) - Expand

(no subject)

[identity profile] avnik.livejournal.com - 2012-06-13 12:50 (UTC) - Expand

(no subject)

[identity profile] nivanych.livejournal.com - 2012-06-13 12:52 (UTC) - Expand

(no subject)

[identity profile] avnik.livejournal.com - 2012-06-13 12:58 (UTC) - Expand

(no subject)

[identity profile] vp.livejournal.com - 2012-06-13 12:54 (UTC) - Expand

(no subject)

[identity profile] nivanych.livejournal.com - 2012-06-13 12:55 (UTC) - Expand

(no subject)

[identity profile] avnik.livejournal.com - 2012-06-13 11:45 (UTC) - Expand

[identity profile] justy-tylor.livejournal.com 2012-06-13 11:23 am (UTC)(link)
А какой получается размер баз для этого ада? В данном случае, и вообще для клиентской опердени, с которой приходилось сталкиваться.

[identity profile] metaclass.livejournal.com 2012-06-13 11:27 am (UTC)(link)
Гиг 25 сейчас схожая опердень.

(no subject)

[identity profile] justy-tylor.livejournal.com - 2012-06-13 11:32 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2012-06-13 11:33 (UTC) - Expand

(no subject)

[identity profile] justy-tylor.livejournal.com - 2012-06-13 12:37 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2012-06-13 12:38 (UTC) - Expand

(no subject)

[identity profile] nivanych.livejournal.com - 2012-06-13 12:46 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2012-06-13 12:55 (UTC) - Expand

(no subject)

[identity profile] nivanych.livejournal.com - 2012-06-13 13:07 (UTC) - Expand

(no subject)

[identity profile] avnik.livejournal.com - 2012-06-13 12:51 (UTC) - Expand

(no subject)

[identity profile] justy-tylor.livejournal.com - 2012-06-13 13:11 (UTC) - Expand

[identity profile] denisioru.livejournal.com 2012-06-13 11:24 am (UTC)(link)
То что Firebird хуево работает с большим количеством джойнов это уже баян.

[identity profile] metaclass.livejournal.com 2012-06-13 11:29 am (UTC)(link)
Оптимизатор плющится иногда. Но тут проблема не в нем - даже две таблицы из этого запроса и вызывают дичайший i/o на временных файлах.

(no subject)

[identity profile] denisioru.livejournal.com - 2012-06-13 12:40 (UTC) - Expand

[identity profile] kranov.livejournal.com 2012-06-13 12:42 pm (UTC)(link)
либо я не понял, либо вместо
сущноть, время_рождения_версии
надо хранить
сущноть, время_рождения_версии, время_смерти_версии

[identity profile] metaclass.livejournal.com 2012-06-13 12:54 pm (UTC)(link)
Вообще оптимизатор запросов к интервальным величинам в записях вроде не очень хорошо относится.

(no subject)

[identity profile] kranov.livejournal.com - 2012-06-13 13:08 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2012-06-13 13:23 (UTC) - Expand

[identity profile] guamoka.livejournal.com 2012-06-13 02:00 pm (UTC)(link)
Как в Простоквашино. Вы сгенерировали запрос. Теперь полгода вы его еще будите хинтовать.

[identity profile] nivanych.livejournal.com 2012-06-13 06:58 pm (UTC)(link)
Ну вы же видите сами, как оно происходит In Soviet Belarus — запросы хинтуют нашего уважаемого ребе!