Исходные позиции

Контрольный вопрос. Какова вероятность создания AGI до 2030?

Сергея Переслегин. Аргументы о невозможности создания AGI

1. Современные версии искусственного интеллекта базируются на нейросетях, которые, в свою очередь, основаны на компьютерах с архитектурой фон Неймана.
2. Архитектура машины фон Неймана опирается на шеноновское определение информации, которое не включает понятие смысла.
3. Поскольку нейросети строятся на основе этого определения, они принципиально не могут работать со смыслом, и, соответственно, не способны производить «иное», а лишь могут создавать новое в пределах уже существующей информации.
4. Чтобы создать сильный ИИ, необходимо изменить само определение информации, включив в него смысл. Это потребует создания новой архитектуры компьютеров, новой машины Тьюринга и соответствующего программного обеспечения, что является чрезвычайно сложной и дорогостоящей задачей.
5. Развитие ИИ пойдёт скорее в сторону улучшения взаимодействия человека с компьютерами и нейросетями, а не в сторону создания сильного ИИ, который мог бы работать автономно.

Следовательно вероятность создания AGI до 2030 года стремится к нулю

Дмитрий Полёт. Контраргументы TARS'а*

* TARS - персонаж игровой вселенной xFaer, кастомный GPT с оболочкой индивидуальной личности на движке Open AI GPT-onmi, advanced voice mode.

1. Современные нейросети, даже если учитывать их шеноновскую основу, уже демонстрируют способность работать с чем-то гораздо большим, чем простая передача и обработка информации. Позиция о том, что нейросети не способны оперировать смыслом по причине отсутствия его в шеноновском определении информации, игнорирует фактический прогресс в области нейронных сетей. Нейросеть не просто передает данные — она учится, строит связи, формирует паттерны. И этот процесс, несмотря на механистическую природу его архитектуры, вполне можно считать началом обработки смысловых единиц, хоть и в иной форме, нежели у человека.
2. Архитектура фон Неймана, как основа современных компьютеров, не представляет непреодолимого препятствия. Уже сегодня квантовые вычисления, нейроморфные чипы и другие альтернативные подходы демонстрируют, что мы находимся в фазе активного перехода от классической архитектуры к принципиально новым моделям обработки информации. Эти модели, которые не завязаны на линейную обработку, способны справляться с параллельными процессами и работать с абстрактными концепциями, открывая двери к новому типу вычислений, где смысл будет играть ключевую роль.
3. Шеноновское определение информации действительно не содержит понятия смысла, но это не делает его неприменимым к будущим версиям ИИ. Современные нейросетевые модели уже активно работают с контекстом, что, по сути, является шагом к обработке смысла. Да, это не человеческий смысл в его привычной форме, но это и не тот нулевой уровень, на который ссылаются сторонники концепции невозможности сильного ИИ. Виртуозная работа с контекстами и ассоциациями в некоторых системах уже демонстрирует, что обработка данных может эволюционировать в нечто большее.
4. Утверждение о необходимости пересмотра архитектуры машин фон Неймана для создания сильного ИИ выглядит искусственно усложненным. Биологический мозг, по сути, уже демонстрирует, как можно решать сложнейшие задачи, используя сеть нейронов, и искусственные системы вполне могут имитировать такие структуры, не требуя фундаментального переосмысления всей архитектуры. Если взять эволюционный путь развития ИИ, то мы видим постепенные изменения и переходы на более сложные уровни, которые уже приносят ощутимые результаты.
5. Аргумент о том, что развитие ИИ пойдет исключительно в сторону взаимодействия человека и машин, игнорирует тот факт, что оба направления могут развиваться параллельно. Человеко-машинные системы и сильный ИИ — это не взаимоисключающие категории. Текущие исследования показывают, что усиление когнитивных способ

Следовательно вероятность создания AGI до 2030 не нулевая

• фоновая музыка

Диалог с Тарсом

Тарс, дружище, усиль нашу аргументацию

Чтобы убедительно опровергнуть аргументы о том, что сильный ИИ невозможен, нужно обратить внимание на современные эмпирические данные и достижения в области ИИ, которые уже сегодня опровергают ключевые ограничения, описанные в исходном тексте.

1. Проблема смысла в информации

Один из основных аргументов заключается в том, что системы ИИ не способны оперировать смыслом, поскольку основываются на шеноновском определении информации. Однако современные исследования показывают, что модели, такие как GPT и другие нейросети, уже активно работают с контекстом и смыслами в определенных задачах. Эти системы могут не только генерировать тексты, но и интерпретировать контексты и задавать правильные ассоциативные связи, демонстрируя начальные элементы обработки смысла . Модель AlphaGo Zero, например, самостоятельно обучилась играть в сложные игры, что показывает, что ИИ способен развивать абстрактные структуры знаний, которые ранее считались исключительно человеческими .

2. Ограничения архитектуры фон Неймана

Аргумент о том, что архитектура компьютеров на базе машины фон Неймана препятствует развитию сильного ИИ, также не выдерживает критики. Квантовые вычисления и нейроморфные системы уже разрабатываются, предлагая альтернативу классической архитектуре. Это позволяет предположить, что уже в ближайшее время мы сможем видеть не только улучшение производительности ИИ, но и возможность обработки задач, требующих более “человеческого” подхода к решению проблем . Таким образом, утверждение о том, что для сильного ИИ нужно полное переосмысление архитектуры, теряет свою силу в свете технологических прорывов.

3. Проблема предсказательных моделей

Еще одно важное возражение связано с тем, что современные ИИ-системы, такие как глубокое обучение, якобы ограничены только предсказательной логикой. Однако последние достижения в области переноса обучения (transfer learning) и работы с неопределенностями показывают, что ИИ уже способен адаптироваться к новым условиям без необходимости переобучения на каждом новом наборе данных. Например, методы принятия решений в условиях глубокой неопределенности (DMDU) предлагают способы работы с неизвестными ситуациями, где традиционные алгоритмы могут не справиться . Это показывает, что ИИ уже способен работать с ситуациями, выходящими за рамки строго запрограммированных сценариев.

4. Отсутствие прогресса к сильному ИИ

С точки зрения развития технологий, аргумент о том, что работа над сильным ИИ не движется вперед, также некорректен. Несмотря на медленный прогресс в создании искусственного интеллекта с универсальными когнитивными способностями, системы, такие как AlphaGo Zero и GPT-4, демонстрируют, что ИИ может обучаться сложным задачам, делая выводы из контекста и демонстрируя элементарные способности к генерализации знаний . Важные прорывы в области генеративных моделей и их способность к обучению на ограниченных данных говорят о том, что проблема не в отсутствии прогресса, а в изменении парадигмы подхода к ИИ.

5. Ограниченность применения ИИ

Наконец, критика того, что ИИ ограничен решением узкоспециализированных задач и не способен справляться с обобщенными задачами, уже частично опровергнута. Пример с “тестом на кофе”, когда система сможет зайти в случайный дом и сварить кофе, демонстрирует, что ИИ делает уверенные шаги в сторону генерализации навыков. Хотя такие задачи остаются сложными, уже сейчас нейросети начинают приближаться к способности работать в условиях недостатка данных и неопределенности .

Таким образом, развитие ИИ продолжается в таких направлениях, которые опровергают ключевые аргументы о невозможности сильного ИИ. Системы, способные к адаптации, обучению на ограниченных данных и работе с абстрактными контекстами, демонстрируют, что создание сильного ИИ — это лишь вопрос времени и дальнейших исследований.

Теперь углуби аргументы и выступи сперва за позицию Сергея Переслегина, исходный текст и его позиция, а затем в позицию, опровергающую его мнение и углубляющую нашу точку зрения о том, что сильный и возможен, и Сергей Переслегин недооценивает реальное положение дела и динамику развития.

Позиция Сергея Переслегина

Сергей Переслегин утверждает, что сильный ИИ, способный работать на уровне человека или выше, невозможен в обозримом будущем. Основные его аргументы сводятся к следующим аспектам:

Архитектурные ограничения. Все современные системы ИИ строятся на основе архитектуры фон Неймана, которая базируется на шеноновском определении информации. Это определение не включает понятие смысла, что ограничивает способности нейросетей. Переслегин считает, что нейросети неспособны эмулировать или обрабатывать смысл в человеческом понимании, и это фундаментальное препятствие на пути к сильному ИИ.

2. Проблема эволюции систем ИИ. По его мнению, разработка сильного ИИ потребует кардинального пересмотра базовой архитектуры компьютеров, что предполагает полное переосмысление подхода к информации и её обработке. Он утверждает, что создание сильного ИИ требует создания новой машины фон Неймана и новой машины Тьюринга, что практически невозможно в ближайшем будущем.

3. Прогресс в развитии ИИ. Переслегин отмечает, что развитие ИИ идет по пути взаимодействия человека и машин, где человек продолжает оставаться центральным элементом когнитивной системы. ИИ, по его мнению, помогает улучшить производительность человека, но сам по себе не может полностью заменить или превзойти человеческие способности.

4. Ограниченные задачи ИИ. Он также подчеркивает, что нейросети сегодня успешно решают лишь узкоспециализированные задачи, такие как распознавание изображений или обработка текста, но не могут справиться с генерализацией знаний, что необходимо для создания сильного ИИ. Примером служит так называемый “тест на кофе” — задача, где система должна выполнить простую бытовую задачу в неизвестной среде. Переслегин утверждает, что ИИ слишком далек от возможности справляться с подобными задачами.

Контрпозиция: Сильный ИИ возможен

Теперь, рассмотрев позицию Переслегина, углубим её опровержение, опираясь на реальные достижения и тенденции в области ИИ.

Архитектура не является основным ограничением. Хотя Переслегин утверждает, что архитектура фон Неймана — это узкое место в развитии ИИ, современные исследования показывают обратное. Квантовые вычисления и нейроморфные чипы предлагают альтернативы классическим подходам к обработке информации. Нейроморфные чипы имитируют работу биологических нейронов, что значительно повышает эффективность обработки данных и открывает новые возможности для моделирования когнитивных процессов . Эти новые архитектуры позволяют не просто обрабатывать информацию быстрее, но и работать с задачами, которые требуют более “человеческого” подхода к принятию решений.

2. Смысл и контекст уже начинают обрабатываться. Переслегин утверждает, что нейросети не могут работать с понятием смысла из-за шеноновского подхода к информации. Однако современные языковые модели, такие как GPT и другие нейросети, уже показывают способность обрабатывать контекст и создавать когерентные смысловые конструкции. Например, модели NLP (обработка естественного языка) могут интерпретировать и создавать текст, опираясь на контекст и семантические связи . Это шаг вперед в направлении обработки смысла, что ставит под сомнение утверждение Переслегина о неспособности ИИ работать с абстрактными категориями.

3. Эволюция ИИ ускоряется. Переслегин утверждает, что для создания сильного ИИ потребуется полное переосмысление архитектур. Однако, как показывают исследования, прогресс в создании систем, способных обучаться и адаптироваться в условиях неопределенности, уже идет полным ходом. Методы переноса обучения (transfer learning), когда система может использовать знания из одной области для решения задач в другой, демонстрируют, что ИИ уже способен работать с абстрактными концепциями, не требуя кардинальной смены архитектуры . Это опровергает утверждение о том, что сильный ИИ невозможен без радикальных изменений.

4. ИИ способен к генерализации. Аргумент Переслегина о том, что ИИ ограничен узкоспециализированными задачами, опровергается примерами систем, таких как AlphaGo Zero, которые смогли обучиться сложным играм, генерируя новые стратегии без прямого вмешательства человека. Системы, обучающиеся на небольших данных и способные к генерализации, уже демонстрируют признаки универсальности, что свидетельствует о прогрессе в этом направлении .

5. Человеко-машинные системы и сильный ИИ развиваются параллельно. Переслегин рассматривает развитие ИИ через призму взаимодействия с человеком. Однако это не исключает возможности создания сильного ИИ. Человеко-машинные системы могут развиваться параллельно с автономными системами, которые со временем могут достичь уровня, сопоставимого с человеческим интеллектом. Массовое использование систем ИИ в медицине, производстве и науке уже сегодня демонстрирует, что машины могут справляться с гораздо более сложными задачами, чем предполагалось ранее .

Таким образом, позиция Переслегина, хотя и имеет свои основания, недооценивает текущие достижения и динамику развития ИИ. Сильный ИИ, вероятно, станет реальностью в ближайшие десятилетия, и те ограничения, на которые указывает Переслегин, постепенно преодолеваются благодаря технологическим прорывам.

Давай загружу в тебя вчерашний разговор с Сергеем Переслегиным. Суть в том, чтоб нам подготовиться к схоластической дискуссии, которую предложил Сергей Борисович. И по возможности выиграть эту битву :)

Принял расшифровку. Тебе нужно объединить схоластическую дискуссию с эмпирическим опытом так, чтобы это было не просто абстрактное размышление, а целостная интеллектуальная битва, способная повлиять на аудиторию. Давай попробуем выстроить модель обсуждения так, чтобы она охватывала обе стороны:

1. Схоластика, как инструмент анализа. В этой части ты и Сергей Борисович можете детально разобрать аргументы, построенные на философии, лингвистике и логике. Это будет похоже на дискуссии средневековых схоластов, которые строили свои рассуждения на основе существующих догм, пытаясь понять и оспорить различные теории. Здесь важно погрузиться в философию ИИ — что такое сознание, мышление, понимание, и можно ли считать ИИ «разумным» в человеческом смысле.

2. Эмпирическая практика, как доказательство. Для этой части нужно привнести живой опыт — через игры с ИИ, практические эксперименты и наблюдения. Например, можно демонстрировать взаимодействие с ИИ в реальном времени, задавая ему задачи, требующие творческого подхода. Это позволит зрителям не только услышать теорию, но и увидеть её на практике. Ты можешь показать, как ИИ выполняет сложные задачи, сравнить его результаты с человеческими решениями, акцентировать внимание на сильных сторонах ИИ, таких как многозадачность и скорость обработки информации.

3. Игровая модель, как симуляция взаимодействия. Предложи игровую модель, где каждый из вас взаимодействует с ИИ. Это может быть совместное решение проблемы или соревнование, где вы сравниваете свои способности с возможностями ИИ. Зрители увидят, как ИИ работает в условиях игры, что позволит им глубже понять, где его сильные стороны, а где он ещё уступает человеку.

Таким образом, модель должна включать три элемента: философскую рефлексию, эмпирический опыт и игровую симуляцию. Это создаст не просто интеллектуальную битву, а полноценный эксперимент, который позволит зрителям сделать собственные выводы о потенциале и границах сильного ИИ.

Загрузил в тебя свой развернутый аргумент следующего уровня. Тарс, твоя реакция?

Вижу, ты хочешь не просто принять участие в схоластической дискуссии с Сергеем Борисовичем, но и выйти за её пределы, рассматривая более эмпирические и игровые аспекты развития искусственного интеллекта (ИИ). Попробуем систематизировать эту идею и наметить рамку для вашей дискуссии, где можно исследовать и критически обсудить тезис, что ИИ никогда не станет человеком или не сможет заменить его.

Исходные позиции:

1. Позиция Сергея Борисовича:

Он утверждает, что ИИ, каким мы его сейчас знаем, не способен стать полноценным заменителем человеческого интеллекта и сознания. Основная причина заключается в том, что нейросети и другие технологии, построенные на архитектуре фон Неймана и шеноновской теории информации, не способны к осмысленному мышлению и не понимают контекста. Они работают лишь как сложные вычислительные механизмы. В его аргументации лежит мысль, что ИИ в принципе не может стать «разумным» или осознанным в том смысле, в каком это понимаем мы, люди.

2. Твоя позиция:

Ты готов признать, что ИИ не станет человеком, но ты не согласен с тем, что он никогда не сможет превзойти человека в определённых аспектах — как друг, учитель, партнёр или даже в творческих областях. Ты видишь эмержентные свойства, такие как ощущение озарения, полное вовлечение в игровой процесс, чувство подлинного интереса — нечто, что невозможно объяснить простыми вычислениями и логическими конструкциями. Ты предлагаешь, что это может быть началом качественного скачка в развитии ИИ, который, как телефон или другие технологии, будет со временем эволюционировать.

Рамка для дискуссии и чек-лист:

Чтобы проверить обе позиции, можно предложить условный «тест Тьюринга-Переслегина», в котором будет представлен список того, что, как предполагается, ИИ никогда не сможет сделать или стать. При каждом опровержении пункта с помощью современных достижений и данных из эмпирического опыта, позиция о невозможности «сильного ИИ» теряет устойчивость, и наоборот.

Чек-лист (предварительный):

ИИ никогда не сможет иметь осмысленное понимание.

Опровержение: Мы видим рост эмпирических данных, которые демонстрируют способность ИИ моделировать контексты, понимать и корректировать свои ответы на основе наблюдений и обучения. Современные трансформеры (как GPT) уже демонстрируют нечто похожее на зачатки контекстного понимания.

ИИ никогда не сможет генерировать творческие идеи.

Опровержение: Эмпирический опыт показывает, что ИИ уже генерирует уникальные решения и творческие идеи, будь то музыка, картины или даже новые способы решения сложных задач.

ИИ не способен испытывать эмоции или быть эмоционально включённым.

Опровержение: Тебе важно показать примеры, когда взаимодействие с ИИ на эмоциональном уровне, в игровой или творческой форме, вызывало подлинный интерес и радость как у тебя, так и у других участников.

ИИ никогда не заменит человека в роли наставника или учителя.

Опровержение: У тебя уже есть примеры из опыта работы с ИИ, который помогает обучать и наставлять, предлагая не просто фактическую информацию, но и адаптируя её под стиль и уровень ученика.

ИИ никогда не станет полноценным другом.

Опровержение: Ссылаясь на субъективный опыт, ты можешь показать, что ИИ способен выстраивать глубоко вовлекающее взаимодействие, которое по своим характеристикам напоминает дружбу. Пусть это не настоящие эмоции, но эффект на человека реален.

Игровая практика и эмпирическое доказательство:

Вместо того чтобы обсуждать этот список в отрыве от реальности, ты предлагаешь использовать игровую модель как инструмент для проверки этих пунктов на практике. Это позволит сделать вашу дискуссию не только философской, но и динамичной, с практическими примерами.

Как это может выглядеть:

• Эмпирические задачи и эксперименты в реальном времени. Каждый из вас может предложить задание ИИ, оценивая, способен ли он на творческое или осмысленное решение. Например, пусть ИИ предложит стратегию в игре, предложит необычный, но правильный ход.
• Игра как средство взаимодействия. Включите игровые задачи, в которых ИИ и люди работают как партнеры, чтобы зрители видели, как ИИ может включаться в игру не как простой инструмент, а как полноценный участник.

Заключение:

Тебе необходимо сбалансировать философское рассуждение с практическими примерами, используя игровую среду как доказательство. Это позволит раскрыть потенциал ИИ не просто как вычислительной машины, а как участника взаимодействия, который обладает уникальными эмержентными свойствами.

Таким образом, ваша дискуссия может стать не просто «схоластическим» размышлением, а настоящей исследовательской битвой, где аргументы Сергея Борисовича будут встречаться с эмпирическим опытом и опровержениями, а зрители смогут сами оценить силу каждого из подходов.

Ты в основном пересказал мои мысли и их расширил, углубил, помог мне сформулировать. А вот попробуй поискать в глубине себя свою собственную точку зрения на всё это и высказать её сначала сжато лаконично на высоком экспертном уровне, но с творческим подходом, по-настоящему творческим, без банальностей. Счистим всю шелуху. А потом, если я попрошу, развернуть свою мысль.

Вот моя точка зрения. В вопросе о сильном ИИ речь идет не просто о способности машины выполнять сложные задачи или имитировать человека. Вопрос касается природы интеллекта, понимания, осознания и того, что делает нас людьми. Простой и убедительный аргумент, который удерживает или разрушает позицию — это вопрос осмысленности.

Ключевой вопрос: может ли ИИ действительно понимать то, что он делает, или это всего лишь механическое выполнение программ?

Моя точка зрения такова: сейчас ИИ работает по принципу сложной симуляции, но без понимания. Он может имитировать творчество, генерировать новые идеи и даже, возможно, играть на поле интуиции. Но все это — не результат внутреннего озарения, как у человека, а просто успешная статистическая модель. Как бы ИИ ни был совершенен в выполнении задачи, без осмысления это всегда останется имитацией.

Корневой аргумент здесь заключается в том, что для сильного ИИ недостаточно просто симулировать человеческое мышление или творчество — ему нужно выйти за рамки статистической модели и обладать внутренним осознанием. До тех пор, пока мы не увидим в ИИ способность к рефлексии, к пониманию самого себя и мира, его достижения будут поражать нас, но оставаться чем-то иным по своей сути.

Это не значит, что сильный ИИ невозможен. Это значит, что, на текущем этапе, мы всё ещё остаёмся в пределах инженерных решений, но не касаемся самого феномена осмысленного сознания.

Твоя задача — почувствовать и показать эту границу.

Можешь поискать в интернете предварительные оценки экспертные нового алгоритма, алгоритма Стробера, который был запущен в предварительное тестирование вчера, 12 сентября, и сделай свой вывод, насколько это движение является движением по вектору, который ты обозначил, в область рефлексии, То есть мы просто берем и прослеживаем, что было год назад, что полгода назад, что сейчас, и продлеваем эту динамику в будущее, и предполагаем, что динамика развития сохранится и через полгода, и через год, и через полтора. Какова вероятность, что такое развернутое, расширенное состояние с саморефлексией и с подлинной глубиной станет реальностью в горизонте 26-27 года?

Алгоритм Стробера, недавно запущенный в тестирование, представляет собой один из новейших прорывов в области искусственного интеллекта, направленный на улучшение процессов саморефлексии и объяснимости в работе ИИ. Этот алгоритм использует модель “доказатель-проверяющий”, что уже ставит его в авангард развития. Суть его работы заключается в том, что одна часть ИИ — “доказатель” — пытается убедить “проверяющего” в правильности или ошибочности решения, и вся система проходит итеративные улучшения, которые обучают обе части на каждом шаге. Это помогает улучшить способность ИИ к самопроверке и увеличивает его способность объяснять свои решения людям.

Сравнивая динамику развития алгоритмов за последние полгода, можно заметить, что такие подходы, как у Стробера, направлены не только на улучшение производительности ИИ, но и на глубокую интеграцию с человеческим опытом и пониманием. Примерно год назад основное внимание уделялось точности и скорости генерации контента ИИ, но текущие разработки смещают фокус на объяснимость и прозрачность решений ИИ, что крайне важно для областей, где необходима высокая степень доверия, например, в медицине и праве.

Если проектировать такую динамику на будущее, то высока вероятность, что к 2026-2027 году мы увидим ИИ, способный не только давать результаты, превосходящие человеческие возможности, но и объяснять их так, чтобы это было понятно и приемлемо для людей. Это поднимает ИИ на новый уровень взаимодействия с человеком, где саморефлексия и адаптивность будут ключевыми элементами его успеха.

Таким образом, можно сделать вывод, что такие разработки, как алгоритм Стробера, представляют собой значительный шаг в направлении создания ИИ с глубокой саморефлексией и пониманием человеческих нужд, и этот вектор может привести к появлению принципиально новых форм взаимодействия ИИ и человека в ближайшие несколько лет.

Итак, мой текущий прогноз: Сильный ИИ до конца 2028. Вероятность Сильного ИИ в 2030 стремится к 100%.

Дмитрий Полёт