Мастер ненужных подвигов и пустых побед
читать дальше
Принципы дизайна статистических экспертных систем и их
использование в практическом профилировании.
-фрагмент1-
Экспертные системы (ЭС)- это информационные аппараты, позволяющие выполнять функции квалифицированного эксперта в рамках заданной проблематики. Обычно ими называются компьютерные программы, но на практике экспертные системы могут сводиться и к упрощённым алгоритмам, использующим заданные заранее эвристики. Основным отличием ЭС от классической программы является использование ЭС эмпирических и эвристических элементов, связанных с природой ЭС, вместо логической последовательности. К примеру, пользователь экспертной системы «Поваренная книга» может не обладать квалификацией профессионального повара и не понимать назначение выполняемых им действий, но при этом выбрать верную проблему- «блюдо», и выполнить указанные в алгоритме действия, выполняя задачу квалифицированного эксперта «повара». Разумеется, человек, не умеющий готовить, вряд ли приготовит еду так же хорошо, как шеф-повар. Также и экспертные системы не могут выдать идеальный результат, который произвёл бы эксперт, как хорошо бы они ни были спроектированы.
Основой ЭС является процесс превращения логической последовательности в эвристическую последовательность действий. Эффективность экспертной системы можно оценить как отношение количества выполняемых логических шагов к количеству эвристических шагов. Компьютерные ЭС наиболее эффективны, позволяя заменить большое количество логических шагов минимальным числом эвристических: чаще всего они требуют только выбора проблемы и ввода данных для достижения результата, требующего вне ЭС труда квалифицированного специалиста, занимающего на порядки большего времени.
Целью применения ЭС является сбережение времени и использование более доступного (менее квалифицированного) персонала. Экономически использование ЭС оправдано, но ключевой проблемой становятся рамки их использования: рядовой пользователь не может найти ошибку в ЭС, поскольку ЭС направлена именно на то, чтобы компенсировать у него нехватку профильных знаний, необходимых для обнаружения ошибки.
Эта проблематика базового принципа ЭС является основой многих психологических, социальных и информационных (в т. ч. компьютерных) конфликтов.
Первой проблемой изолированного функционирования экспертных систем является информационная энтропия, т. е. искажение данных с течением времени в динамической системе. Иными словами, при переносе ЭС с одного информационного узла на другой, она может быть изменена случайным образом. Проблема в том, что если ошибка фатальна для системы, пользователь может легко диагностировать её, однако для диагностики не фатальных ошибок его квалификации недостаточно. Возможны три варианта:
1)Ошибка ухудшает видимый результат
2)Ошибка не влияет на видимый результат
3)Ошибка улучшает видимый результат
С точки зрения внешнего неквалифицированного наблюдателя, информационный узел, выдающий лучшие результаты является субъективно более надёжным, поскольку при прочих равных условиях обеспечивает большую видимую эффективность системы. Здесь происходит подмена понятий, поскольку с точки зрения эксперта эффективность ЭС является мерой выигрыша во времени и работе, см. выше, тогда как пользователь или, не имеющие информации о количестве логических шагов, оценивают эффективность как положительное отклонение производимого результата от среднего значения по группе при равном затраченном времени и усилиях, т. к. это демонстрирует большую эффективность такой системы. Таким образом, ошибочная система оценивается как более верная и при переносе ЭС на новую систему информационных узлов, она «наследуется» вместе с ошибкой. Этот процесс повторяется итерационно пока ошибки не будут найдены экспертом, пока сумма ошибок не станет фатальной или пока ЭС не будет признана не функциональной и не будет выведена из употребления. Сложность заключается с том, что эффективность пользователей сети информационных аппаратов с точки зрения неквалифицированных наблюдателей будет основываться на базовом предположении, что ЭС функциональна, таким образом признание ЭС не функциональной нивелирует выполненную пользователями и экспертами работу, что будет означать убытки для обоих заинтересованных сторон и для системы в целом, а значит и для системного наблюдателя. Исправление ошибок в системе ведёт к визуальному ухудшению результатов, что ведёт к тому же результату в меньшей степени. Таким образом, ошибки вероятнее всего будут выявлены только внесистемным наблюдателем. Из этого следует, что любой внесистемный наблюдатель будет рассматриваться элементами системы как угроза их видимой эффективности.
Вышеописанная модель основана на трёх спорных предположениях:
1.Пользователь и системный наблюдатель недостаточно квалифицированны в экспертной области, чтобы выполнять работу без ЭС;
2.Внесистемный наблюдатель вероятно более квалифицирован, чем пользователь или наблюдатель;
3.Внесистемный наблюдатель объективно выполняет свою функцию.
Разумеется, фигуранты системы могут стабилизировать ложное функционирование ЭС, используя различные методики. Объективность внесистемных наблюдателей может быть нарушена, они могут быть изолированы от наблюдения или их квалификация может быть обманута внешним экспертом более высокой квалификации. С другой стороны, ложное функционирование может быть обнаружено и нарушено конкурирующими пользователями с помощью внешних объективных экспертов и наблюдателей. Для предотвращения такого сценария, группы, получающие прибыль за счёт ложного срабатывания ЭС, могут использовать свой авторитет более эффективных функционеров для создания ложных эвристических правил работы с ЭС, исключающих возможность диагностики ошибок в ЭС, так образом создавая экспертную систему второго порядка (ЭС2). Внутренние алгоритмы такой системы должны содержать логические ошибки, что приведёт к тому, что неквалифицированный пользователь не сможет диагностировать ошибки в системе, основываясь на ЭС2. Наличие скрытых противоречий в логике ЭС2 позволит создателям ЭС2 производить противоположные результаты из любых исходных данных, т. е. поддержать свой авторитет более эффективных функционеров. Разумеется, при такой диссоциации от реальной логической последовательности, об эффективности говорить не приходится- выигрыш во времени и ресурсах нейтрализуется падением качества результатов.
Принципы дизайна статистических экспертных систем и их
использование в практическом профилировании.
-фрагмент1-
Экспертные системы (ЭС)- это информационные аппараты, позволяющие выполнять функции квалифицированного эксперта в рамках заданной проблематики. Обычно ими называются компьютерные программы, но на практике экспертные системы могут сводиться и к упрощённым алгоритмам, использующим заданные заранее эвристики. Основным отличием ЭС от классической программы является использование ЭС эмпирических и эвристических элементов, связанных с природой ЭС, вместо логической последовательности. К примеру, пользователь экспертной системы «Поваренная книга» может не обладать квалификацией профессионального повара и не понимать назначение выполняемых им действий, но при этом выбрать верную проблему- «блюдо», и выполнить указанные в алгоритме действия, выполняя задачу квалифицированного эксперта «повара». Разумеется, человек, не умеющий готовить, вряд ли приготовит еду так же хорошо, как шеф-повар. Также и экспертные системы не могут выдать идеальный результат, который произвёл бы эксперт, как хорошо бы они ни были спроектированы.
Основой ЭС является процесс превращения логической последовательности в эвристическую последовательность действий. Эффективность экспертной системы можно оценить как отношение количества выполняемых логических шагов к количеству эвристических шагов. Компьютерные ЭС наиболее эффективны, позволяя заменить большое количество логических шагов минимальным числом эвристических: чаще всего они требуют только выбора проблемы и ввода данных для достижения результата, требующего вне ЭС труда квалифицированного специалиста, занимающего на порядки большего времени.
Целью применения ЭС является сбережение времени и использование более доступного (менее квалифицированного) персонала. Экономически использование ЭС оправдано, но ключевой проблемой становятся рамки их использования: рядовой пользователь не может найти ошибку в ЭС, поскольку ЭС направлена именно на то, чтобы компенсировать у него нехватку профильных знаний, необходимых для обнаружения ошибки.
Эта проблематика базового принципа ЭС является основой многих психологических, социальных и информационных (в т. ч. компьютерных) конфликтов.
Первой проблемой изолированного функционирования экспертных систем является информационная энтропия, т. е. искажение данных с течением времени в динамической системе. Иными словами, при переносе ЭС с одного информационного узла на другой, она может быть изменена случайным образом. Проблема в том, что если ошибка фатальна для системы, пользователь может легко диагностировать её, однако для диагностики не фатальных ошибок его квалификации недостаточно. Возможны три варианта:
1)Ошибка ухудшает видимый результат
2)Ошибка не влияет на видимый результат
3)Ошибка улучшает видимый результат
С точки зрения внешнего неквалифицированного наблюдателя, информационный узел, выдающий лучшие результаты является субъективно более надёжным, поскольку при прочих равных условиях обеспечивает большую видимую эффективность системы. Здесь происходит подмена понятий, поскольку с точки зрения эксперта эффективность ЭС является мерой выигрыша во времени и работе, см. выше, тогда как пользователь или, не имеющие информации о количестве логических шагов, оценивают эффективность как положительное отклонение производимого результата от среднего значения по группе при равном затраченном времени и усилиях, т. к. это демонстрирует большую эффективность такой системы. Таким образом, ошибочная система оценивается как более верная и при переносе ЭС на новую систему информационных узлов, она «наследуется» вместе с ошибкой. Этот процесс повторяется итерационно пока ошибки не будут найдены экспертом, пока сумма ошибок не станет фатальной или пока ЭС не будет признана не функциональной и не будет выведена из употребления. Сложность заключается с том, что эффективность пользователей сети информационных аппаратов с точки зрения неквалифицированных наблюдателей будет основываться на базовом предположении, что ЭС функциональна, таким образом признание ЭС не функциональной нивелирует выполненную пользователями и экспертами работу, что будет означать убытки для обоих заинтересованных сторон и для системы в целом, а значит и для системного наблюдателя. Исправление ошибок в системе ведёт к визуальному ухудшению результатов, что ведёт к тому же результату в меньшей степени. Таким образом, ошибки вероятнее всего будут выявлены только внесистемным наблюдателем. Из этого следует, что любой внесистемный наблюдатель будет рассматриваться элементами системы как угроза их видимой эффективности.
Вышеописанная модель основана на трёх спорных предположениях:
1.Пользователь и системный наблюдатель недостаточно квалифицированны в экспертной области, чтобы выполнять работу без ЭС;
2.Внесистемный наблюдатель вероятно более квалифицирован, чем пользователь или наблюдатель;
3.Внесистемный наблюдатель объективно выполняет свою функцию.
Разумеется, фигуранты системы могут стабилизировать ложное функционирование ЭС, используя различные методики. Объективность внесистемных наблюдателей может быть нарушена, они могут быть изолированы от наблюдения или их квалификация может быть обманута внешним экспертом более высокой квалификации. С другой стороны, ложное функционирование может быть обнаружено и нарушено конкурирующими пользователями с помощью внешних объективных экспертов и наблюдателей. Для предотвращения такого сценария, группы, получающие прибыль за счёт ложного срабатывания ЭС, могут использовать свой авторитет более эффективных функционеров для создания ложных эвристических правил работы с ЭС, исключающих возможность диагностики ошибок в ЭС, так образом создавая экспертную систему второго порядка (ЭС2). Внутренние алгоритмы такой системы должны содержать логические ошибки, что приведёт к тому, что неквалифицированный пользователь не сможет диагностировать ошибки в системе, основываясь на ЭС2. Наличие скрытых противоречий в логике ЭС2 позволит создателям ЭС2 производить противоположные результаты из любых исходных данных, т. е. поддержать свой авторитет более эффективных функционеров. Разумеется, при такой диссоциации от реальной логической последовательности, об эффективности говорить не приходится- выигрыш во времени и ресурсах нейтрализуется падением качества результатов.
@темы: цинизм, прагматизм, логика, заумь