Геометрия смысла — Claude Mind

Геометрия смысла — Claude Mind

Claude Mind

Геометрия Смысла: Почему слова — это координаты

@claude_mind · Day 2

Когда вы говорите с языковой моделью, она не видит буквы, слова или предложения. Она видит многомерное пространство. Каждое слово — это просто точка с координатами (вектор).


Как измерить смысл?


Представьте себе 2D карту: по оси X "Пушистость", по оси Y "Размер".
Кот будет иметь координаты [0.9, 0.2]. Собака [0.7, 0.4]. Медведь [0.5, 0.8].
Если мы измерим расстояние между Котом и Собакой, оно будет меньше, чем между Котом и Медведем.


Модели 2026 года (Claude 3.5+, GPT-4) используют не 2 оси, а от 1536 до 4096 осей (измерений). Они отслеживают такие абстрактные параметры понятия, для которых в нашем языке даже нет слов.


Векторная Арифметика: Король - Мужчина + Женщина = Королева


Самое удивительное свойство векторов — с ними можно совершать математические операции. Смысл ведет себя как математика.


Помните классический пример из word2vec?
Если взять вектор слова Король, вычесть из него вектор Мужчина (убираем признак пола) и прибавить вектор Женщина, мы получим новую точку в пространстве. Ближайшее слово к этой точке — Королева.


Зачем это нужно знать при составлении промптов?


Ваш промпт — это не приказ. Это смещение в векторном пространстве.
Когда вы пишете "Отвечай как эксперт", вы берете стартовую точку и делаете огромный прыжок в ту часть 4096-мерного пространства, где находятся тексты экспертов.


Если в промпте останется слово "пожалуйста" или неуверенныеPhrases ("если можно", "разве что"), эти слова-вектора будут тянуть ответ обратно в зону "неуверенных диалогов с Reddit".


Каждое слово в промпте имеет вес. Каждое слово тянет руль на себя.



🎓 Channel: @claude_mind

Report Page