metaclass: (Default)
metaclass ([personal profile] metaclass) wrote2009-04-26 11:28 am

Строго типизированный лог

А вот интересно, возможна ли такая концепция: писать не текстовый лог, а строго типизированный, чтобы в будущем можно было грузить сохраненные в него объекты и выполнять над ними какие-нибудь запросы?
Сейчас анализ логов сводится к grep, awk и прочей тексто-ориентированной линуксятине. Существует мнение, что это (текстово-ориентированный обмен данными между линуксовыми утилитами через |) хорошо, но у меня это усиленно ассоциируется с электронным прибором, у которого все платы соединены одинаковыми никак не различимыми разъемами, а плата сама решает, "что делать с входным сигналом", т.е. нет никакой защиты от обобщенного индуса-дяди-Васи-телемастера-из-соседнего-гаража.


Плохо то, что большинство интересующих объектов обычно содержат кучу пропертей-ссылок на всякие дебри, которые вне рабочего контекста смысла не имеют, а чтобы их исключить, нужно какой-то флаг на проперть типа атрибута/аннотации "NotLoggable". А это плохо тем, что логгинг не должен требовать лишнего от объектов, с которыми он работает.

Сейчас вывод в лог выглядит следующим образом:
  mLog.DebugFormat("OnAuthenticateRequest: {0} {1} {2}",
        httpApplication.Request.RawUrl,
        httpApplication.Request.UserAgent,
        httpApplication.Request.UserHostAddress); 


А желательно было бы так:
 
 mLog.Debug("some_user_comment",LogFlags.LocalVars | LogFlags.MethodName | LogFlags.This | LogFlags.Parameters);


А DebugAll был бы хитрым метапрограммным макросом, который бы доставал, в зависимости от флагов, имя метода, this, все локальные переменные и параметрами с именами и значениями, сериализовал бы это дело во что-то машинно-читабельное и писал бы в лог.

[identity profile] theiced.livejournal.com 2009-04-26 03:25 pm (UTC)(link)
И вместо того что бы тупо пойчитать лог придётся писать прогу которая из хымыыля сделает что нибудь читаемое.

Опять же - меганабор из grepов, sedов и прочих awkов становится непременим. Как жить дальше?

[identity profile] madeveloper.livejournal.com 2009-04-26 04:11 pm (UTC)(link)
Зачем прогу писать? Я же написал, что современные БД, тот же Оракл, умеют работать с XML полями как со структурой самой БД, даже могут поаттрибутно индексировать. Даже если не умеют, добавить в селект что-то типа "where xml_field containing "my_attribute=""101""" никаких проблем не составляет. Зато плюсов хоть завались: группировки, диапазоны дат и значений, расчет количества, прочая аналитика. Любые отчеты создадите стандартными средствами, без лишнего сетевого трафика будете их иметь их с любого места и раздачи шар. Ведь что такое журнал? Это вполне типизируемый и индексируемый набор данных, для которого самое место в какой-нибуль БД.

[identity profile] theiced.livejournal.com 2009-04-26 04:25 pm (UTC)(link)
То есть ещё и оракл для логов? Вы там совсем охуели, не?

[identity profile] madeveloper.livejournal.com 2009-04-26 04:44 pm (UTC)(link)
Это пример. Я же говорю, кладите в ЛЮБУЮ БД, хоть в MySQL, хоть в Postgre. Один фиг жизнь это значительно упростит. Оракл как всегда на верху совершенства...

[identity profile] theiced.livejournal.com 2009-04-26 06:30 pm (UTC)(link)
Ясно оракель головного моска приправленный буйной хымыыльманеей.

[identity profile] madeveloper.livejournal.com 2009-04-26 06:41 pm (UTC)(link)
Самое смешное, что XML я не использую принципиально, а Оракл лишь там, где это диктует заказчик. Что касется данного случая, то журналы я веду в БД, но на стадии проектирования продумываю структуры и способы журналирования.

[identity profile] metaclass.livejournal.com 2009-04-26 05:11 pm (UTC)(link)
Ну замени его на mysql,postgresql или еще какую-нибудь трасцу.
Конечно, с ними xml не распарсишь, но достать его из базы для обработки каким-нибудь консольным xquery процессором - запросто.

Но я бы предпочел не xml, а автоматически сгенеренную при компиляции строго типизированную схему для логов, тогда чистым SQL можно будет анализировать все что в голову придет.

[identity profile] madeveloper.livejournal.com 2009-04-26 05:15 pm (UTC)(link)
А что если "бросать" в качестве эксепшенов сами объекты или в объекте-эксепшене ссылку на них? И в обработчике раскладывать их по полям таблиц (на основе метаданных языка, хотя не со всеми прокатит)? Конечно матаданные в БД разрастутся, зато все под рукой...

[identity profile] madeveloper.livejournal.com 2009-04-26 05:19 pm (UTC)(link)
Кстати, пишу сейчас "тул" для генерации языковых классов на базе метаданных исходной БД и хранением там же. Что бы к объектам обращаться не через SQL или даже LINQ, а банальным вызовом конструкторов и доступом к типизированным атрибутам и методам, включая форейн-референсы. Готово для Delphi, сейчас начинаю делать для C#. Конечно пока не все реализовано, но все зависит от спроса. Есть интерес?

[identity profile] metaclass.livejournal.com 2009-04-26 06:20 pm (UTC)(link)
Это ж ORM классический, типа NHibernate. Уже неоднократно обсуждали, пришли к выводу, что не для всех случаев пригодно.

Например, если через такой API делать редактирование базы для юзеров - придется еще и прикручивать генератор GUI из метаданных класса, если делать запросы - опять же придется LINQ или что-то похожее вызывать. У NHibernate для таких целей есть собственный язык запросов (кривоватый), из которого SQL генерируется.

В общем, вещь наиболее подходящая, если нужно бизнес-логику сложную считать, используя объекты, чтобы для каждого объекта загрузчик руками не писать. Или если изначально есть цель напрямую с базой не работать, а изолироваться от нее и работать с объектами. [livejournal.com profile] arbinada про кошмары такого подхода неоднократно писал.

А беда вся от того, что у разных СУБД даже SQL разный, не говоря уже о его процедурных расширениях, где кто во что горазд пляшет.

[identity profile] madeveloper.livejournal.com 2009-04-26 06:32 pm (UTC)(link)
Не, ну это уже в практику вошло. Только что-нибудь дельное придумаешь, оказывается это придумали задолго до тебя. С другой стороны, существующие решения не подходят по многим причинам (контроль на стадии начала выполнения, языковая распространенность).

Генератор GUI прикручивать не обязательно, я реализую DataSource автоматически (для Delphi). Более того, уже автоматически реализуются и GUI, но не в виде отдельных класов, а в виде единственного класса формы для редактирования моих объектов.

[identity profile] metaclass.livejournal.com 2009-04-26 06:50 pm (UTC)(link)
Я такое тоже делал (автоматическая генерация GUI), но в итоге всегда упираюсь в то, что реализация некоторых вещей оказывается сложнее, чем их руками нарисовать в дизайнере.

[identity profile] madeveloper.livejournal.com 2009-04-26 07:06 pm (UTC)(link)
У меня тоже GUI не было самоцелью, но 30% USER GUI оно, как ни странно, закрыло. Самоцелью был контроль соответствия структур, когда проверка идет на стадии компиляции и выполнения, а также способ доступа из языка без использования конструкций типа ('DEPT_ID').AsInteger, а нормального обращения к типизированным свойствам, включая ссылочные. А вопрос сложнее/проще решается по месту, одно другого у меня не исключает. Хотя после написания такого framework'а я стал больше обращать внимания на бизнес-логику на стороне сервера БД, когда процедуры компиляться в свойства объектов, или реализуют наборы данных (вместе со view), которые я раньше вытаскивал SQL запросами.

[identity profile] theiced.livejournal.com 2009-04-26 11:26 pm (UTC)(link)
За бизнес логику на стороне БД сразу отрывать яйца и садить в бочку с жабами.

[identity profile] http://users.livejournal.com/_windwalker_/ 2009-04-27 12:27 am (UTC)(link)
гг. зависит от ситуации. иногда её так реализуют для того, что бы оные яйца не оторвали и в бочку с жабами - не посадили.

(no subject)

[identity profile] theiced.livejournal.com - 2009-04-27 13:40 (UTC) - Expand

(no subject)

[identity profile] theiced.livejournal.com - 2009-04-27 13:40 (UTC) - Expand

(no subject)

[identity profile] madeveloper.livejournal.com - 2009-04-27 17:22 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2009-04-27 18:26 (UTC) - Expand

(no subject)

[identity profile] madeveloper.livejournal.com - 2009-04-27 19:16 (UTC) - Expand

(no subject)

[identity profile] theiced.livejournal.com - 2009-04-27 20:53 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2009-04-27 14:24 (UTC) - Expand

(no subject)

[identity profile] theiced.livejournal.com - 2009-04-27 15:25 (UTC) - Expand

(no subject)

[identity profile] metaclass.livejournal.com - 2009-04-27 16:41 (UTC) - Expand

(no subject)

[identity profile] theiced.livejournal.com - 2009-04-27 20:51 (UTC) - Expand

[identity profile] metaclass.livejournal.com 2009-04-26 04:12 pm (UTC)(link)
Если писать XML в базу данных(да и даже если в текст) - можно выполнять к этому запросы, а дальше уже грепы и седы и авки(которые становятся нафик не нужны, т.к. вся их функциональность, да еще в строго типизированном и разбитом на поля виды, есть в БД).

[identity profile] madeveloper.livejournal.com 2009-04-26 05:04 pm (UTC)(link)
Да дальше консольного доступа к БД уже ничего не нужно ;)

[identity profile] permea-kra.livejournal.com 2009-04-26 07:10 pm (UTC)(link)
>>И вместо того что бы тупо пойчитать лог придётся писать прогу которая из хымыыля сделает что нибудь читаемое.
Какую прогу писать???
Есть xmllint, чтобы отформатировать в читабельный вид.
Есть xqilla для тестов и обработки.

[identity profile] theiced.livejournal.com 2009-04-26 11:27 pm (UTC)(link)
Я просто хочу просмотреть глазами лог, не хочу какой то говнософт пускать.

[identity profile] permea-kra.livejournal.com 2009-04-27 04:38 am (UTC)(link)
гыгыгыгы.
Ну, удачи в смотрении глазами 25М лога с мешаниной выводов десятка так подсистем.

[identity profile] theiced.livejournal.com 2009-04-27 11:43 am (UTC)(link)
Ну вот как то спокойно смотрю глазами (cat | grep | grep | tail -n 20) 200мегабайтный лог.

[identity profile] permea-kra.livejournal.com 2009-04-27 02:32 pm (UTC)(link)
Вы ж не хотели запускать говнософт -).

[identity profile] theiced.livejournal.com 2009-04-27 08:50 pm (UTC)(link)
Дык это не говнософт а стандартные утилитки которые используются без участия головного моска.

[identity profile] permea-kra.livejournal.com 2009-04-28 05:22 am (UTC)(link)
дык и xqilla/xmllint после некоторого времени используется без участия головного мозга. А гибкость в выборке она обеспечивает на порядки большую.