К определению AGI

Что такое искусственный общий интеллект? Автор предлагает практическое определение: AGI наступит, когда станет экономически выгодно держать агента работающим постоянно.

Это AI-перевод статьи, сделанный каналом Про AI: Лучшие Статьи и Исследования.

К определению AGI

Toward a Definition of AGI Автор: Dan Shipper Оригинальный текст

Когда младенец рождается, он полностью зависит от своих опекунов для выживания. Он не может есть, двигаться или играть самостоятельно. По мере взросления ребёнок учится переносить всё более длительные периоды разлуки.

Постепенно опекун время от времени намеренно не удовлетворяет его потребности: младенец плачет ночью в кроватке, но родитель ждёт, успокоится ли он сам. Малыш хочет внимания, но родитель разговаривает по телефону. Эти небольшие, контролируемые разочарования — то, что психолог Д. У. Винникотт называл «достаточно хорошим воспитанием» — учат ребёнка тому, что он может пережить краткие периоды самостоятельности.

На протяжении месяцев и лет эти периоды удлиняются от секунд до минут и часов, пока в конечном счёте ребёнок не становится способным функционировать независимо.

ИИ следует той же модели.

Сегодня мы относимся к ИИ как к статичному инструменту, который берём, когда нужно, и откладываем, когда закончили. Мы включаем его для конкретных задач — написать письмо, проанализировать данные, ответить на вопросы — а затем закрываем вкладку. Но по мере того как эти системы становятся более способными, мы обнаруживаем, что возвращаемся к ним всё чаще, держим сессии открытыми дольше и доверяем им всё более непрерывные рабочие процессы. Это уже происходит.

Итак, вот моё определение AGI:

AGI (искусственный общий интеллект) достигнут, когда становится экономически выгодно держать вашего агента работающим постоянно.

Другими словами, у нас будет AGI, когда появятся постоянно работающие агенты, которые продолжают думать, учиться и действовать автономно между вашими взаимодействиями с ними — как это делает человек.

Мне нравится это определение, потому что оно эмпирически наблюдаемо: либо люди решают, что лучше никогда не выключать своих агентов, либо нет. Оно избегает философских сложностей, связанных с попыткой определить, что такое настоящий общий интеллект. И оно избегает проблем теста Тьюринга и определения AGI от OpenAI.

В тесте Тьюринга система считается AGI, когда может обмануть человека-судью, заставив его думать, что она — человек. Проблема теста Тьюринга в том, что он устанавливает подвижные критерии: если бы я взаимодействовал с GPT-4 десять лет назад, я бы подумал, что это человек. Сегодня я бы просто попросил его создать для меня сайт с нуля, и сразу понял бы, что это не человек.

Определение AGI от OpenAI — ИИ, который превосходит людей в большинстве экономически ценных работ — страдает от той же проблемы. То, что составляет экономически ценную работу, постоянно меняется. Мы будем изобретать новую экономически ценную работу, которую выполняем совместно с ИИ. Эти гибридные роли затем становятся новым эталоном, которому ИИ должен будет научиться соответствовать, прежде чем его признают AGI. Так что определение — это постоянно удаляющаяся цель.

Напротив, предложенное мной определение — AGI достигнут, когда становится экономически выгодно держать вашего агента работающим постоянно — это бинарный, необратимый и неподвижный порог: как только мы запустим наших агентов круглосуточно, мы его достигнем, и пути назад не будет. (В конце концов, мы не можем это «изобрести обратно».)

Мне нравится это определение, потому что для его выполнения нужно развить множество необходимых, но трудно определяемых компонентов AGI:

1. Непрерывное обучение: Агент должен учиться на опыте без явных подсказок пользователя.
2. Управление памятью: Агенту нужны сложные способы хранения, извлечения и забывания информации эффективно на протяжении длительных периодов.
3. Генерация, исследование и достижение целей: Агенту требуется открытая способность определять новые полезные цели и поддерживать их на протяжении дней, недель или месяцев, адаптируясь к меняющимся обстоятельствам.
4. Проактивная коммуникация: Агент должен выходить на связь, когда у него есть обновления, вопросы или требуется ввод, а не только отвечать, когда его вызывают. Он также должен уметь быть прерван и перенаправлен пользователем.
5. Доверие и надёжность: Агент должен быть безопасным и надёжным. Пользователи не будут держать агентов работающими, если не уверены, что система не причинит вреда и не совершит дорогостоящих ошибок автономно.

Описав эти способности, я намеренно избегаю ловушки попытки указать точные технические критерии для каждой из них. Что именно составляет «непрерывное обучение» или «доверие», трудно определить.

Вместо этого моё определение AGI подразумевает, что все эти способности присутствуют в какой-то степени.

И эти способности уже присутствуют в ограниченных формах: ChatGPT, например, имеет зачаточные формы памяти и проактивной коммуникации.

Продолжительность времени, в течение которого ИИ может работать самостоятельно, увеличивается постепенно и последовательно. Когда GPT-3 только вышел, основным вариантом использования ИИ был GitHub Copilot — лучшее, что он мог сделать, это дописать строку кода, которую вы уже писали.

ChatGPT увеличил время работы ИИ от нажатия «Tab» для завершения строки кода до времени, необходимого для полного ответа в чате. Теперь агентные (agentic) инструменты вроде Claude Code, deep research и Codex могут работать от 5 до 20 минут непрерывно.

Траектория ясна: от секунд к минутам, к часам, дням и далее.

В конечном счёте когнитивные и экономические затраты на то, чтобы каждый раз начинать заново, перевесят преимущества выключения ИИ.

Подпишитесь на канал и каждый день читайте лучшие материалы про AI переведенные на русский!

Нашли интересную статью для перевода? Пришлите нашему боту: @ailongreadsbot