Перейти к содержимому

Доклад ИИ соционика

2 мин чтения

соционика и большие языковые модели (Large Language Models, LLM).

Заголовок раздела «соционика и большие языковые модели (Large Language Models, LLM).»

языковые модели предсказывают следующее слово, а точнее токен,

одновременно может обрабатывать ограниченное количество токенов - контекстное окно

они кодируют смыслы в виде векторов в многомерных пространствах (4000 измерений) во время обучения при помощи теории вероятностей

у них механизм внимания связывает контексты и слова друг с другом.

Матанализ (градиенты), перемножение матриц, теория вероятностей и инженерия ИТ + лингвистики

Многократно перемножаются веса матриц (миллиарды параметров) и выдается статистически самый ожидаемый ответ

Большие модели это когда сотни миллиардов параметров
Локально можно запустить и на 4-7-20 миллиардов (из расчета 1 миллиард ~ 1 гигабайт оперативки видеокарты)

Так как они работают именно с языком и смыслом (вектора) это очень удобно для соционики.

Пример как убирали эмоциональный посыл отзывов на реддите.

Применение: генерация текста, редактура, маркетинг, бизнем, медицина, продажи, художественное применение, личные асистенты

Агенты могут не только генерировать текст но и делать что-то в интернете/на компьютере.

ChatGPT (+whisper), Grok, Claude, Gemini (+NotebookLM) - топовые

Deepseek, Qwen - топовые с открытыми весами

Perplelxity - агрегатор/поисковик/браузер comet

YandexGPT, GigaChat - российские

Из-за того что обучаются нейросети на сведениях в интернете, база знаний средняя температура по больнице (причем общей с мбти)

Варианты дообучения:
Fine Tune – тонка настройка, дообучение в прямом смысле слова (изменение весов модели), дорого и сложно

RAG (Retrieval-Augmented Generation) – создание векторной базы данных которая подмешивает нужные детали в запрос

Промтинг – задание нужных инструкций и информации самостоятельно добавляя сведения которые нужно держать в контексте

модный тренд искать Модели мира или бывают скрытые модели мира внутри нейросетей обученных и сказать о том, что это Чёрная интуиция,
как раз именно она даёт им смысл и работает с семантикой.

исследование
Обучая соционике Чурюмова бот я узнал что отношения суперэго с точки зрения алгебры это не коммунтант а 2-коцикл

Накапываение семантики, работа с Лексико-Семантическим Полем
Составление описаний по линвистическим законам

Так это полезно и для практической соционики

Заголовок раздела «Так это полезно и для практической соционики»

Соционическое Колесо Баланса – коучинг подход с материалами разработанными ЛЛМ.

варианты с типирующих чат ботами, английские, Андрей Индыкова и мой.

Создание дидактических материалов, обучающих ботов, майндмепов (ноутбуклм)

Переработка текста под язык ТИМа читателя

Перевода соционики, потому что большие модели очень хорошо переводят, когда понимают текст.

Перевел исследонивание на 65 страниц за полтора часа, еще и 10 опечаток исправил

Показать майндмепы сделанные через ноутбук.лм – ллм для развития соционики и обучения ей

!Общая задача составить базу соционики на которую могла бы опираться ллм, в виде таблиц и системных промтов

недостатки языковых моделей, про галлюцинации,

Заголовок раздела «недостатки языковых моделей, про галлюцинации,»

про плохо выдерживаемый контекст от двухста тысяч токенов.

непонимание чётких структур модели а или признаков

Рассказать свой опыт бота определятора