Пределы ИИ
Амджад Масад, фаундер стартапа Repl.it с оценкой $1+ млрд недавно в ходе подкаста заявил следующее:
«...Я думаю, что существуют пределы того, насколько разумными могут стать компьютеры. Я думаю, что они могут быть развиты до уровня некоего сырого интеллекта, но я думаю, что мы не сможем перейти пропасть к человекоподобному интеллекту, пока мы не поймем природу сознания как такового и пока не сможем переносить на компьютеры понимание конкретно человеческого сознания. Это почти как если бы вы рассчитывали получить пресс, не посещая спортзал: то есть если бы вы сидели и ждали, пока сам собой не образуется пресс. Как можно ожидать создания человекоподобного искусственного интеллекта, если для начала мы не понимаем природу человеческого интеллекта. Мы не понимаем природу сознания. Мы едва понимаем мозг. Поэтому я чувствую, что мы так далеки от этого вопроса, что для меня немыслимо создавать вещи, которые ведут себя в мире как люди, пока мы не поймем, а что такое люди...»
Есть и другие мнения к вопросу о том, просто так ли накачивается данными тупой ИИ и похоже ли это на ожидания появления чудесного пресса или все же есть и шансы на другое развитие событий?
Быть может, нам не нужно понимать природу сознания или знать все, что можно знать о человеческом мозге, чтобы создать высокоинтеллектуальный, даже в конечном итоге более умный, чем человек, ИИ.
Эволюция, вероятно, создала человеческий интеллект без какого-либо предварительного плана и понимания чувств, сознания или человеческого мозга.
Простые процессы могут создавать очень сложные конечные результаты, если они имеют хороший механизм оптимизации/обратной связи. Для эволюции это был естественный отбор, очень медленный, но очень эффективный, если он может работать несколько миллиардов лет.
Мы можем проводить итерации и добиваться улучшений гораздо быстрее — мы параллельно совершенствуем наши алгоритмы, обучающие данные и наше оборудование (больше вычислений, больше памяти, больше хранилищ, больше пропускной способности между узлами и т.д.). Мы также можем оказывать более тонкое селективное давление, чем просто отбирать тех, кто выживает и размножается.
Так что даже если все, что у нас есть, это относительно тупой процесс, есть ли причины, по которым мы не могли бы создать что-то очень умное? И мы уже видим, что в больших языковых моделях (LLM) можно найти первые признаки обобщения. Другими словами, модели могут выполнять все виды задач, для которых они никогда не были предназначены. Эти навыки появляются после того, как в эти достаточно сложные алгоритмы вбрасывается достаточное количество данных и вычислений.
Если мы продолжим совершенствовать каждый из этих элементов — триединство алгоритмов, данных и аппаратного обеспечения, — кто знает, как далеко это может зайти?
Возможно, что нам удастся продвинуться очень далеко без глубокого понимания человеческого мозга той причине, что человеческий разум — это не единственный возможный разум с таким уровнем интеллекта.
Пространство дизайна всех возможных разумов может быть очень велико, и подход, который мы используем, скорее всего, приведет к созданию очень нечеловеческого интеллекта. Иначе единственным способом прогресса в области ИИ было бы лишь сканирование человеческого мозга, его программное моделирование и попытка более тесной имитации биологии... но мы делаем не только это.
Если интеллект будет построен на архитектуре, отличной от архитектуры человеческого мозга, то это не будет автоматически означать, что по своей природе ограничен в том, насколько умным он может стать.
Обязательно ли нам нужно возвращаться назад и разгадывать именно человеческое сознание и тайны мозга, чтобы не застрять на плато на недочеловеческом уровне общего интеллекта?
Все это возвращает нас к упомянутой эмергентности. Что такое эмергентность? Эмерджентность или эмергентность (от англ. emergent «возникающий, неожиданно появляющийся») в теории систем — наличие у какой-либо системы особых свойств, не присущих её элементам, а также сумме элементов, не связанных особыми системообразующими связями; несводимость свойств системы к сумме свойств её компонентов.
То есть, текущие модели ИИ — это тупой плагиатор человеческих вводных данных или уже нечто большее?»
Конец цитаты .
А ссылка на курс «Футуропия» тут