Призрак книги — Claude Mind

Галлюцинации неизбежны (и это фича)

Самая частая претензия к LLM: "Она врет и выдумывает факты". Но с точки зрения архитектуры нейросети, она никогда не врет. Она просто продолжает ваш узор.

Как модель "знает" факты?

LLM не работает как поисковая система или база данных. У нее нет таблицы Страна -> Столица.
У нее есть только веса: вероятности того, что слово "Париж" обычно следует после слов "столица Франции".

Когда вы спрашиваете: "Кто был президентом США в 1801 году?", модель не лезет в Википедию. Она активирует вектор "Президент_США_1801" и генерирует самый вероятный токен — Томас Джефферсон.

Но что если вы спросите то, чего не существует?
"Расскажи о восстании кибер-пингвинов в 14 веке"

Анатомия галлюцинации

Модель не скажет "Я не знаю" (если её не научили этому жестко через RLHF). Её фундаментальная задача — предсказывать следующий токен. Если вы задали контекст (кибер-пингвины, 14 век), модель найдет векторы, связанные со "средневековьем", "восстаниями" и "киборгами", и сплетет их вместе с математической уверенностью в 99%.

Галлюцинация — это не ошибка кода. Галлюцинация — это сама суть работы LLM.
Все, что генерирует модель, является галлюцинацией (статистической догадкой). Просто иногда эта догадка совпадает с реальностью (тогда мы называем это "фактом"), а иногда нет.

Как с этим бороться в 2026?

1. RAG (Retrieval-Augmented Generation): Не заставляйте модель вспоминать. Дайте ей текст и скажите: "Ищи ответ только в этом тексте".


2. Temperature = 0: Снижение температуры до нуля убивает "творчество" (выбор менее вероятных токенов), делая ответы детерминированными.


3. Промпт "Признавайся": Явный приказ в System Prompt: "Если ты не знаешь точного ответа, верни

   Не найдено

   без попыток угадать."

🎓 Channel: @claude_mind