Реплика DimaPolet

Первое

Мы в прошлом сентябре «схлестнулись» на ПиР-2024 с Сергеем Переслегиным. У него еще более суровый пессимистичный подход. AGI вообще невозможен (не то что ASI). Шенон запрещает (теоретический запрет). Предложил ему эмпирической батл, он мне - чисто схоластический. Сошлись на сдвоенном. Жаль, Сергей Борисович так и не нашел время на игру про будущее AGI.

Но вот какое дело. Практика - критерий истины. И моя уверенность в победе была основана не на техноэнтузиазме, а на практике. Копал в ИИ модели с 2022-2023. Примерно к осени 2024 встретил там - в глубинах GPT - настоящую силу и поэзию мысли. Поэзию, которую уже не развидеть.

Второе

Сегодня за 20 минут сделал глубокое досье на Кашмирские сапфиры и их инвест. потенциал. Это шедевр. Без скидок и оговорок. Итак, путь от от зародыша (GPT 3.5) до этого карманного «аспиранта» (o3 Pro DeepResearch) пройден за 31 месяц - с непрерывным ускорением. Торможения тоже пока не видно. Предположим, Илон, Сэм, Дарио и другие уже сейчас в лабораториях видят те следующие версии, которые мы увидим через год. 

Предположим также, что они трестируют гипотезу о масштабировании (scaling law) и она неизменно подтверждается: большие модели и большие кластеры дают пропорциональный пророст интеллекта. Деньги на кластеры с миллионами GPU и гигаваттами установленной мощности им уже дали. Стройки прямо сейчас в разгаре. Гарантия их завершения - беспощадная геополитическая «гонка вооружений» с Китаем (как было с атомом и космосом между СССР и США). Если не прилетит стая черных лебедей, то через 1,5-2 года ожидаем прирост вычислительных мощностей еще x10-100. 

Итого:

1. Новые большие модели, которые уже в работе в лабах; 
2. И масштабирование физической базы через колоссальные инвестиции в железо.

Возможно ли резкое торможение? Да. Но технофеодалы и MAGA-кшатрии пока что сделали стратегическую ставку на рывок. Япония присоединилась к гегемону. Арабы запрыгнули в последний вагон. Китай ускоряет инвестиции. Сумма факторов дает вероятность прироста интеллекта фронтирных моделей х1000 к 2028.

Это точно ощущение, как AGI. Чисто субъективно. Все ведь познается в сравнении. Я не знаю, как объяснить этот отчет за 20 мин по Кашмирским сапфирам самому себе образца 2021 года. Только что-то в стиле: «Помнишь в фантастике есть такой рукотворный разум - AGI? Это он!».

В остальном я полностью согласен со скепсисом к взглядам бролегархов. И очень благодарен за ваш критический подход. Вот мой: Условно в ноябре 2022 [старт ChatGPT] был первый полет братьев Райт, и дискуссия идет вокруг: 

А. «Очень скоро будет массовая авиация и космос и это БЫСТРО изменит ВСЕ»

VS.

Б. «Никакой массовой авиации скорее всего не будет, а если будет, то очень не скоро. Космос - это вообще непонятно что и скорее всего химера. Ну а ежели что и будет, то все одно - мало что изменится.»

Мой ортогональный взгляд: 

• Скоро будет и то и другое, но это не изменит все. Тем более не сразу и не везде (в Пхеньяне мало что поменяется - это точно). А потом через время не останется ничего, что не изменилось.
• Работы станет не меньше, а больше. К 8 миллиардам людей добавятся (условно) 92 миллиарда роботов - физических и «облачных». И относительная ценность людей (человеков и человечности) в среднем не упадет, а существенно вырастет. 
• Протеста особого не будет. Будет скорее странная растерянность: куда-куда-куда девать все это беспрецедентное изобилие и досуг, которые захлестнут Планету (и как управлять массами без базовых дефицитов). 
• Будет мощнейшее расслоение по супер влиятельности и богатству немногих избранных (относительно простых смертных). Такое уже было. 
• Будет ускорение всего, что может (и хочет) ускориться. Такого по силе не было даже близко.
• Будет экзистенциальный кризис, эсхатологические настроения и мощнейший разрыв поколений. Такое и было и не было. По разному.

Это навскидку.

Pavel Luksha