The Gentle Singularity

📖 Источник: blog.samaltman.com

Мягкая сингулярность

Введение

Человечество уже перешло «горизонт событий» — технологический взлёт начался. Мы находимся на пороге создания цифрового сверхинтеллекта, и пока этот процесс протекает гораздо менее странно, чем можно было бы ожидать. Хотя роботы ещё не ходят по улицам, а люди по-прежнему умирают от болезней, мы уже создали системы, превосходящие человека по многим параметрам и способные значительно усиливать продуктивность людей. Саммари статьи Сэма Альтмана (CEO OpenAI) о том, чего ждать от развития искусственного интеллекта в ближайшее десятилетие.

Текущее состояние и ближайшие горизонты

Научные прорывы, приведшие к созданию систем вроде GPT-4 и o3, дались нелегко, но теперь они открывают путь к ещё более масштабным достижениям. Уже сегодня ChatGPT пользуются сотни миллионов людей, и эти системы справляются с всё более ответственными задачами. При этом новые возможности появляются с каждым днём: то, что вчера казалось чудом, сегодня становится нормой.

Прогнозируемая хронология:

2025 год — появление агентов, способных выполнять реальную когнитивную работу; написание программного кода уже никогда не будет прежним
2026 год — вероятное появление систем, способных делать принципиально новые открытия
2027 год — возможное появление роботов, способных выполнять задачи в реальном мире

К 2030 году один человек сможет сделать гораздо больше, чем мог в 2020-м — и многие научатся этим пользоваться. Уже сейчас учёные сообщают о двукратном-трёхкратном росте продуктивности благодаря ИИ.

Экономика и технологическая динамика

Ключевой фактор прогресса — научные открытия, и ИИ способен ускорить их темп. GPT-4 уже превосходит любого человека в истории по некоторым параметрам. Но, пожалуй, важнее всего то, что мы можем использовать ИИ для ускорения исследований в области самого ИИ. Если мы можем провести десятилетие исследований за год или месяц — скорость прогресса будет принципиально иной.

Энергопотребление ChatGPT на один запрос:

~0,34 Вт·ч (столько же, сколько потребляет духовка чуть более секунды или энергоэффективная лампочка за пару минут)
~0,000085 галлона воды (примерно 1/15 чайной ложки)

По мере автоматизации производства в дата-центрах стоимость интеллекта теоретически должна приблизиться к стоимости электричества. Уже запущен самоподдерживающийся цикл: экономическая ценность создаёт инфраструктуру для всё более мощных систем, а роботы, способные создавать других роботов, уже не за горами.

Изобилие интеллекта и энергии

В 2030-х годах интеллект и энергия — идеи и способность их реализовать — станут «дико изобильными». Эти два ресурса долгое время были фундаментальными ограничителями человеческого прогресса; при их изобилии (и хорошем управлении) мы теоретически можем получить что угодно.

К 2035 году сложно даже представить, что мы откроем: возможно, решение задач высокоэнергетической физики одним годом и начало колонизации космоса следующим; прорыв в материаловедении и создание высокополосных нейроинтерфейсов.

При этом в самых важных отношениях 2030-е могут быть не так уж сильно отличаться. Люди по-прежнему будут любить семьи, выражать творчество, играть в игры и плавать в озёрах. Но в других, всё ещё очень важных отношениях, мир изменится так, как никогда раньше.

Социальные вызовы и адаптация

Технологический прогресс будет ускоряться, и люди способны адаптироваться почти к чему угодно. Будут очень сложные периоды — например, исчезновение целых классов профессий. Но мир будет богатеть так быстро, что мы сможем всерьёз рассматривать новые политические идеи, которые раньше были невозможны.

Как показывает история (переход к промышленному обществу), люди быстро находят новые занятия и желания. Ожидания будут расти, но возможности — не менее быстро, и все получат лучшие условия.

Важное преимущество людей перед ИИ: мы запрограммированы заботиться о других людях и думать о них, а не о машинах. Фермер из тысячного года, глядя на нашу работу, сказал бы, что у нас «ненастоящие» jobs — просто игры для развлечения. Возможно, мы точно так же отнесёмся к работам через тысячу лет.

Путь вперёд: безопасность и доступность

Главные вызовы, которые нужно решить:

Проблема согласования (alignment) — необходимо гарантировать, что ИИ будет учиться и действовать в соответствии с тем, чего мы действительно хотим в долгосрочной перспективе (соцсети — пример несогласованного ИИ: алгоритмы отлично увеличивают время просмотра, но эксплуатируют механизмы, подавляющие наши долгосрочные интересы)
Концентрация власти — сверхинтеллект должен быть дешёвым, широкодоступным и не слишком сосредоточенным в руках одного человека, компании или страны
Социальные границы — нужно определить коллективное согласование и границы допустимого

Общество устойчиво, креативно и быстро адаптируется. Если мы сможем объединить коллективную волю и мудрость, то, хотя мы и совершим ошибки и что-то пойдёт не так, мы быстро научимся и адаптируемся.

Заключение

Путь к сверхинтеллекту освещён, тёмные области быстро отступают. Интеллект, слишком дешёвый для измерения, уже в пределах досягаемости. Если в 2020 году предсказание о возможностях 2025 года казалось безумием, то и сешние прогнозы на 2030 могут казаться таковыми — но история показывает, что реальность часто опережает ожидания.

Ключевой вывод: «мягкая сингулярность» происходит постепенно, слияние с новыми технологиями протекает медленно. Мы взбираемся по длинной дуге экспоненциального прогресса — она всегда выглядит вертикальной вперёд и плоской назад, но это одна плавная кривая. Чем раньше мир начнёт разговор о границах и коллективном согласовании — тем лучше.

📢 Информация предоставлена телеграм-каналом: Data&AI Insights

🤖 Data&AI Insights - Ваш источник инсайтов о данных и ИИ