metaclass: (Default)
metaclass ([personal profile] metaclass) wrote2009-04-26 11:28 am

Строго типизированный лог

А вот интересно, возможна ли такая концепция: писать не текстовый лог, а строго типизированный, чтобы в будущем можно было грузить сохраненные в него объекты и выполнять над ними какие-нибудь запросы?
Сейчас анализ логов сводится к grep, awk и прочей тексто-ориентированной линуксятине. Существует мнение, что это (текстово-ориентированный обмен данными между линуксовыми утилитами через |) хорошо, но у меня это усиленно ассоциируется с электронным прибором, у которого все платы соединены одинаковыми никак не различимыми разъемами, а плата сама решает, "что делать с входным сигналом", т.е. нет никакой защиты от обобщенного индуса-дяди-Васи-телемастера-из-соседнего-гаража.


Плохо то, что большинство интересующих объектов обычно содержат кучу пропертей-ссылок на всякие дебри, которые вне рабочего контекста смысла не имеют, а чтобы их исключить, нужно какой-то флаг на проперть типа атрибута/аннотации "NotLoggable". А это плохо тем, что логгинг не должен требовать лишнего от объектов, с которыми он работает.

Сейчас вывод в лог выглядит следующим образом:
  mLog.DebugFormat("OnAuthenticateRequest: {0} {1} {2}",
        httpApplication.Request.RawUrl,
        httpApplication.Request.UserAgent,
        httpApplication.Request.UserHostAddress); 


А желательно было бы так:
 
 mLog.Debug("some_user_comment",LogFlags.LocalVars | LogFlags.MethodName | LogFlags.This | LogFlags.Parameters);


А DebugAll был бы хитрым метапрограммным макросом, который бы доставал, в зависимости от флагов, имя метода, this, все локальные переменные и параметрами с именами и значениями, сериализовал бы это дело во что-то машинно-читабельное и писал бы в лог.

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 04:45 am (UTC)(link)
> Позвольте, вы утверждали что XML вообще не читаем.

Я где-то сказал обратное?

> Более компактные языки не всегда являются более читаемыми, так как предполагают более глубокие знания самого языка.

Будете смеяться, любой язык надо знать, чтобы им пользоваться. Сюрприз.

> Конструкции типа return (func(x) ? 0 : GetLastResult()) я не считаю более читабельными чем процедурное выражение.

Согласен. Многовато скобочного шума. А, скажем,

if func x then 0 else getLastResult

- уже сильно лучше.

> При этом объем лога ничего не говорит о его читаемости.

Безусловно, я просто намекнул, что говорить о 130K чего угодно - не вполне корректно, если речь идёт о разных языках.

> Может попросить вас код этой страницы выразить на Haskell?

Вы путаете язык программирования и язык разметки.

> Вы уже начинаете путать процедурные, функциональные

Учитывая, что они служат одной цели - не вижу, почему не говорить о них одновременно.

> и языки разметки в одну кучу.

Вы первый поставили C++ и HTML в одно предложение.

> Десять штук полей - это фигня

That depends. Если они всегда в одном порядке - да. Правда, XML этого никак не обеспечивает.

> Зато при незначительном изменении структуры, все продолжит работать, без необходимости что-то переделывать.

Свежо питание.

> Ну и опять же упомянутый XQuery - стандарт де-факто для интеграции.

Угу, только это на порядок более громоздкая и неудобная штука, чем банальный регэксп.

[identity profile] madeveloper.livejournal.com 2009-04-27 05:48 am (UTC)(link)
> Я где-то сказал обратное?

Да. Вы стали расуждать категориями "более|менее читаем".

> Согласен. Многовато скобочного шума. А, скажем, if func x then 0 else getLastResult - уже сильно лучше.

Два return-а забыли ;) Я к чему это говорил - в языках есть конструкции слабо воспринимаемые зрительно. Если еще все это разбавить частым использованием "x = (заодно еще чего-нибуль посчитаем), (куда-нибудь присвоим), (а вот только тут значение для x)", то и язык C++ придется признать нечитаемым. В этом свете мне непонятны претензии к XML.

> Угу, только это на порядок более громоздкая и неудобная штука, чем банальный регэксп.

Что делать, газовая плита - более громозкая и неудобная штука, чем банальная зажигалка...

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 07:35 am (UTC)(link)
> Вы стали расуждать категориями "более|менее читаем".

В какой момент я сказал, что читаемость XML выше нуля?

Кстати, говорю. Немножко выше. Примерно как у бинарного кода.

> Два return-а забыли ;)

Нет, не забыл. Это именно то, что я и говорю: синтаксический мусор.

> Если еще все это разбавить частым использованием "x = (заодно еще чего-нибуль посчитаем), (куда-нибудь присвоим), (а вот только тут значение для x)"

Да, мутабельность переменных - это полный ужас, согласен. При чём тут это, правда...

> то и язык C++ придется признать нечитаемым

А это почти так и есть.

> Что делать, газовая плита - более громозкая и неудобная штука, чем банальная зажигалка...

Поэтому от плиты прикуривают лишь в исключительных ситуациях.

[identity profile] permea-kra.livejournal.com 2009-04-27 08:01 am (UTC)(link)
>> то и язык C++ придется признать нечитаемым
>А это почти так и есть.
А может, вы не умеете его готовить?

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 08:06 am (UTC)(link)
Понимаете в чём дело, если не знать, что такое "читабельный язык", то можно и плюсы счесть читабельными - в них есть немного читабельности, даже немножко больше, чем в иксэмэле.

[identity profile] permea-kra.livejournal.com 2009-04-27 08:07 am (UTC)(link)
Читабельности там ничуть не меньше чем в хаскеле. Многословия больше, а так...

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 08:11 am (UTC)(link)
И это многословие очень сильно мешает читабельности.

Плюс, конечно, проблемы императивных языков - бесконечные неконтролируемые сайд-эффекты.

Плюс проблемы низкоуровневых языков - арифметика указателей (когда она нафиг не нужна) и пр.

Плюс проблемы ссылок - когда функция изменяет свой параметр, а в синтаксисе вызова это не отражается (вообще звиздец).

[identity profile] permea-kra.livejournal.com 2009-04-27 08:33 am (UTC)(link)
реквестирую аналог, к примеру, mpqc, на haskell. Действующий с приемлимой скоростью.

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 08:40 am (UTC)(link)
1) Не смешивайте скорость с читабельностью. C++ - язык низкоуровневый, соответственно, работает быстрее.

2) Для того, чтобы предъявить аналог, я должен вообще хоть немного работать в данной области.

3) Может быть, вы мне покажете аналог, скажем, STM на C++?

[identity profile] permea-kra.livejournal.com 2009-04-27 08:52 am (UTC)(link)
1)С++, к сожалению, ни фига не низкоуровневый, хоть и даёт доступ к потрохам.
3)Ну, fmap, например, пишется. Монады, пожалуй, тоже. STM... Пожалуй, я знаю как его написать, но сам заниматься не буду.

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 08:57 am (UTC)(link)
> С++, к сожалению, ни фига не низкоуровневый, хоть и даёт доступ к потрохам.

C++, к сожалению, слишком низкоуровневый.

> STM... Пожалуй, я знаю как его написать, но сам заниматься не буду.

Ну-ну. Только попрошу учесть, что для реализации STM необходимо гарантировать, что между операциями чтения/записи в одной транзакции не должно быть никаких сайд-эффектов вообще. Иначе это не STM, а помойка. А такие гарантии в плюсах, увы, невозможны.

[identity profile] permea-kra.livejournal.com 2009-04-27 09:00 am (UTC)(link)
>>C++, к сожалению, слишком низкоуровневый.
То-то дептайпы в хаскеле только делают... Вот когда доделают, тогда можно будет так говорить. А пока - у кого-то слишком кривые руки.

>>А такие гарантии в плюсах, увы, невозможны.
unsafePerformIO

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 09:02 am (UTC)(link)
> То-то дептайпы в хаскеле только делают... Вот когда доделают, тогда можно будет так говорить. А пока - у кого-то слишком кривые руки.

А в C++ они, типа, уже есть? Ну-ну.

> unsafePerformIO

За импорт System.IO.Unsafe бьют по рукам. Вы можете предъявить столь же простой критерий необходимости бить по рукам в плюсах?

[identity profile] permea-kra.livejournal.com 2009-04-27 09:05 am (UTC)(link)
>> То-то дептайпы в хаскеле только делают...
>А в C++ они, типа, уже есть? Ну-ну.
в плюсах есть кривое, но всё же стандартизованное метапрограммирование на шаблонах. В ФП его аналогом будут дептайпы.

>> unsafePerformIO
>За импорт System.IO.Unsafe бьют по рукам.
Гм. Речь шла о гарантиях.

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 09:18 am (UTC)(link)
> в плюсах есть кривое, но всё же стандартизованное метапрограммирование на шаблонах. В ФП его аналогом будут дептайпы.

В ФП есть кривоватое, но, всё же, более прямое метапрограммирование. Дептайпы - несколько из другой оперы.

> Гм. Речь шла о гарантиях.

Именно. ЕДИНСТВЕННОЕ, что нужно сделать для получения ГАРАНТИЙ - запретить импорт System.IO.Unsafe. В плюсах получить гарантии невозможно вообще.

(no subject)

[identity profile] permea-kra.livejournal.com - 2009-04-27 09:20 (UTC) - Expand

(no subject)

[identity profile] migmit.vox.com - 2009-04-27 09:28 (UTC) - Expand

(no subject)

[identity profile] permea-kra.livejournal.com - 2009-04-27 11:22 (UTC) - Expand

(no subject)

[identity profile] migmit.vox.com - 2009-04-27 11:27 (UTC) - Expand

[identity profile] madeveloper.livejournal.com 2009-04-27 05:02 pm (UTC)(link)
Дело на самом деле в том, что кто-то начал рассуждать не о human-readabilty, а о выразительности того или иного языка, признав читаемым лишь один. XML может понять любой человек, которому понадобилось взять из него данные.

http://en.wikipedia.org/wiki/Human-readable

Что касается избыточности и "мусора", то, следуя Вашей логике, консоль следует признать более выразительной чем GUI. Может и так, но она от этого не становиться более human-friendly.

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 05:46 pm (UTC)(link)
> XML может понять любой человек, которому понадобилось взять из него данные.

А экзешник может понять любой человек, которому понадобилось его прочитать.

Только времени у него это займёт немеряно.

> следуя Вашей логике, консоль следует признать более выразительной чем GUI.

Вывод не понял. Консоль часто более выразительна, но далеко не всегда.

> она от этого не становиться более human-friendly.

А это вообще омерзительное понятие. Компьютерная программа - мой раб. Я не хочу, чтобы раб был ко мне дружелюбен.

[identity profile] madeveloper.livejournal.com 2009-04-27 06:36 pm (UTC)(link)
> Только времени у него это займёт немеряно.

Именно поэтому сравнение совершенно неуместно.

> Вывод не понял. Консоль часто более выразительна, но далеко не всегда.

Я тоже ваших выводов не понимаю. Вы всегда крайне категоричны в оценках и делите все на массу остоя и "моя-прелесть".

> Компьютерная программа - мой раб. Я не хочу, чтобы раб был ко мне дружелюбен.

Ваше право. Только к общедисциплинным вопросам это отношения не имеет.

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 06:51 pm (UTC)(link)
> Именно поэтому сравнение совершенно неуместно.

Именно поэтому оно в яблочко.

> Я тоже ваших выводов не понимаю.

Задавайте вопросы. И желательно сразу.

> Вы всегда крайне категоричны в оценках

Разумеется. Вы ждали толерантности и политкорректности?

> делите все на массу остоя и "моя-прелесть".

Отнюдь. Просто пока ваши варианты проходят по разряду "отстой".

[identity profile] permea-kra.livejournal.com 2009-04-27 08:00 am (UTC)(link)
> Ну и опять же упомянутый XQuery - стандарт де-факто для интеграции.
Угу, только это на порядок более громоздкая и неудобная штука, чем банальный регэксп.

Как человек, пользовавшийся и тем, и другим, заявляю: Брехня. Это не говоря о том, что в регэксп покрывает хорошо если 0.01 выразительной мощности XQuery.

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 08:06 am (UTC)(link)
> Это не говоря о том, что в регэксп покрывает хорошо если 0.01 выразительной мощности XQuery.

А может, вы не умеете его готовить?

[identity profile] permea-kra.livejournal.com 2009-04-27 08:35 am (UTC)(link)
реквестирую регэксп аналог
/*/*/*[@a eq "somestr"]/../somelem[6]
(мог напутать в синтаксисе - давно не открывал стандарта)

[identity profile] migmit.vox.com (from livejournal.com) 2009-04-27 08:47 am (UTC)(link)
У вас возникают подобные извращения при парсинге логов?

Не говоря уже о том, что это, в общем-то, не XQuery, а его маленькая часть XPath.

[identity profile] metaclass.livejournal.com 2009-04-27 02:25 pm (UTC)(link)
Регэкспы даже по самому своему названию не умеют работать с иерархическими структурами, а вот насчет XQuery не знаю, но предполагаю, что должен уметь.

[identity profile] permea-kra.livejournal.com 2009-05-03 02:05 pm (UTC)(link)
Умеет. Более того, можно его средствами статистику подбивать и прочее. Минус - если логи жирные, нужно аккуратно выбирать процессор и составлять запросы, чтобы оно не попыталось весь лог пачкой всосать.