90 lines
6.3 KiB
Markdown
90 lines
6.3 KiB
Markdown
# Немного о принятии решений и нейросетях
|
||
|
||
## Мотивация
|
||
|
||
Сейчас очень распространились нейросети различных форматов: для работы
|
||
с текстом, видео, аудио, для обработки данных. В твиттере ажиотаж
|
||
вокруг новой возможности ChatGPT: обработка изображений в стиле студии
|
||
Ghibli, известной по фильмам "Мой сосед Тоторо", "Унесенные
|
||
призраками" и пр.
|
||
|
||
Нейросети применяются не только для "развлечений", но и в весьма
|
||
ответственных областях, например, анализ снимков ренгена, разработке
|
||
программ. Для последнего даже был придуман термин [Vibe Coding](https://en.wikipedia.org/wiki/Vibe_coding).
|
||
|
||
Я, в некоторой степени, являюсь луддитом по отношению к нейросетям,
|
||
которые генерируют тексты. Это обусловленно преимущественно тем, что
|
||
люди относятся к ним, как к некой "палочке-выручалочке", которая
|
||
представляет собой кнопку "сделать красиво". Такой подход не только
|
||
*критичное отношение* к окружающему миру (зачем придумывать решение,
|
||
если нейросеть может сгенерировать его за меня, *даже если он будет
|
||
некорректный*), но уменьшает общее качество результата.
|
||
|
||
Но несмотря на это, я не являюсь противником нейросетей *просто по
|
||
существу*. У всего есть качественные области применения, иногда
|
||
не совсем очевидные.
|
||
|
||
Здесь я хочу рассказать об **анализе конкурирующих гипотез** и
|
||
попытке использования нейросетей для его применения.
|
||
|
||
## Большие языковые модели
|
||
|
||
Должен признать, что у меня весьма смутное представление о работе
|
||
таких нейросетей *под капотом*.
|
||
|
||
В моем понимании, суть их работы заключается в том, при анализе текста
|
||
любого толка, они "начинают" понимать, в каком контексте уместны какие
|
||
слова (получается такая очень сложная "китайская комната").
|
||
|
||
Результатом же работы нейросети является текст, который я воспринимаю
|
||
как *случайное число*, которое параметризовали запросом (примерно как
|
||
случаное число из нормального распределения параметризуется
|
||
математическим ожиданием и дисперсией). Хотя, есть и [другое
|
||
мнение](https://x.com/tsoding/status/1896205552415658463).
|
||
|
||
А если есть случайность, то значит можно её можно использовать.
|
||
|
||
## Суть анализа конкурирующих гипотез
|
||
|
||
Анализ конкурирующих гипотез - методология, разработанная Ричардом
|
||
Хоером в 70-х годах. Целью создания метода было уменьшение влияния
|
||
когнитивных сдвигов (bias) на работу аналитиков при анализе и принятии
|
||
решений.
|
||
|
||
Особенность метода заключается в том, что вместо сопоставления каждой
|
||
гипотизе всех доказательств, наоборот, каждое доказательство
|
||
противопоставляется всем гипотезам.
|
||
|
||
Пошаговая инструкция к методу:
|
||
|
||
1. Определить все **возможные** гипотезы. Лучше использовать *команду
|
||
аналитиков* с различным опытом, чтобы реализовать мозговой штурм.
|
||
2. Создать список всех существенных доказательств и аргументов
|
||
против и за каждую гипотезу.
|
||
3. Подготовить матрицу, где номер строки будет отвечать за номер
|
||
аргумента, а номер столбка за номер гипотезы.
|
||
4. Проверить матрицу: уточнить формулировку гипотез, удалить аргументы,
|
||
которые не имеют диагностической ценности.
|
||
5. Сопоставьте каждое докозательство каждой гипотезе. Двигайтесь
|
||
по столбцам.
|
||
6. Проанализируйте, как устойчивы ваши заключение к аргумента.
|
||
Посмотрите, как изменится вывод в случае, если какие-то аргументы
|
||
окажутся ложными.
|
||
7. Составьте отчет. Проверьте правдоподобность каждой гипотезы, *не
|
||
только самой приятной*.
|
||
8. Оцените дальнейшие шаги для улучшения оценки.
|
||
|
||
Можно долго вдаваться в детали реализации метода. В нашем случае, нас
|
||
интересует часть про **мозговой штурм**.
|
||
|
||
### Применение нейросетей
|
||
|
||
Когда нет большого аналитического отдела, можно попробовать заменить
|
||
его нейросетью. В данном слу
|
||
|
||
## Пример
|
||
|
||
## Вывод
|
||
|
||
## Источники
|