6.1 KiB
Немного о принятии решений и нейросетях
Мотивация
Сейчас очень распространились нейросети различных форматов: для работы с текстом, видео, аудио, для обработки данных. В твиттере ажиотаж вокруг новой возможности ChatGPT: обработка изображений в стиле студии Ghibli, известной по фильмам "Мой сосед Тоторо", "Унесенные призраками" и пр.
Нейросети применяются не только для "развлечений", но и в весьма ответственных областях, например, анализ снимков ренгена, разработке программ. Для последнего даже был придуман термин Vibe Coding.
Я, в некоторой степени, являюсь луддитом по отношению к нейросетям, которые генерируют тексты. Это обусловленно преимущественно тем, что люди относятся к ним, как к некой "палочке-выручалочке", которая представляет собой кнопку "сделать красиво". Такой подход не только критичное отношение к окружающему миру (зачем придумывать решение, если нейросеть может сгенерировать его за меня, даже если он будет некорректный), но уменьшает общее качество результата.
Но несмотря на это, я не являюсь противником нейросетей просто по существу. У всего есть качественные области применения, иногда не совсем очевидные.
Здесь я хочу рассказать об анализе конкурирующих гипотез и попытке использования нейросетей для его применения.
Большие языковые модели
Должен признать, что у меня весьма смутное представление о работе таких нейросетей под капотом.
В моем понимании, суть их работы заключается в том, при анализе текста любого толка, они "начинают" понимать, в каком контексте уместны какие слова (получается такая очень сложная "китайская комната").
Результатом же работы нейросети является текст, который я воспринимаю как случайное число, которое параметризовали запросом (примерно как случаное число из нормального распределения параметризуется математическим ожиданием и дисперсией). Хотя, есть и другое мнение.
А если есть случайность, то значит можно её можно использовать.
Суть анализа конкурирующих гипотез
Анализ конкурирующих гипотез - методология, разработанная Ричардом Хоером в 70-х годах. Целью создания метода было уменьшение влияния когнитивных сдвигов (bias) на работу аналитиков при анализе и принятии решений.
Особенность метода заключается в том, что вместо сопоставления каждой гипотизе всех доказательств, наоборот, каждое доказательство противопоставляется всем гипотезам.
Пошаговая инструкция к методу:
- Определить все возможные гипотезы. Лучше использовать команду аналитиков с различным опытом, чтобы реализовать мозговой штурм.
- Создать список всех существенных доказательств и аргументов против и за каждую гипотезу.
- Подготовить матрицу, где номер строки будет отвечать за номер аргумента, а номер столбка за номер гипотезы.
- Проверить матрицу: уточнить формулировку гипотез, удалить аргументы, которые не имеют диагностической ценности.
- Сопоставьте каждое докозательство каждой гипотезе. Двигайтесь по столбцам.
- Проанализируйте, как устойчивы ваши заключение к аргумента. Посмотрите, как изменится вывод в случае, если какие-то аргументы окажутся ложными.
- Составьте отчет. Проверьте правдоподобность каждой гипотезы, не только самой приятной.
- Оцените дальнейшие шаги для улучшения оценки.
Можно долго вдаваться в детали реализации метода. В нашем случае, нас интересует часть про мозговой штурм.