Киберинжиниринг. "Софт" для будущего сверхчеловека. Нейросети и ИИ

В предыдущей статье мы с Вами рассмотрели главные технологические достижения последних лет в области создания "железа" для потенциального "сверхчеловека".

И убедились в том, что современные ученые и инженеры уже сейчас способны создать полностью функционирующие гибриды вида "человек-машина", в которых экзоскелет управляется человеческим мозгом при помощи нейроинтерфейсов последнего поколения.

Эта статья будет целиком посвящена тому, что можно назвать "Софтом" (программным обеспечением) для будущего "сверхчеловека". Но это будет уже даже не сверхчеловек, а человекоподобный гибрид (киборг) под управлением высокоразвитого искусственного интеллекта (нейросети).

Если Вы готовы к тому, чтобы основательно разобраться в этой достаточно интересной теме - я предлагаю Вам сразу перейти в делу.

Нейросети и Искусственный Интеллект

Для начала, давайте немного разберемся в терминологии.

• Искусственный Интеллект (далее - ИИ) - это программа, которая умеет учиться (самостоятельно в процессе своей работы получать знания и опыт) и эффективно использовать свой опыт в дальнейшем для более качественного выполнения некой задачи (задачи, для которой эта программа создана).
• Нейронная сеть (сокращенно нейросеть) – это один из способов программной реализации искусственного интеллекта (ИИ).

В большинстве случаев, эти понятия можно рассматривать как неотъемлемые и взаимодополняющие элементы, которые необходимы для создания разумных машин.

Нейросеть моделирует работу человеческой нервной системы, особенностью которой является способность к самообучению путём образования новых нейронных связей на основе эмпирического опыта.

Таким образом, с каждым разом система совершает все меньше ошибок.

Чтобы не запутаться в понятиях "искусственный интеллект", "машинное обучение" и "глубокое обучение", предлагаем посмотреть на визуализацию их развития:

Искусственный интеллект - это область науки и инжиниринга, занимающаяся созданием машин и компьютерных программ, обладающих интеллектом. ИИ может быть реализован на принципах нейронных сетей, а может на каких-то других.

А термин "Нейронная сеть" описывает конкретную технологию реализации ИИ на базе самообучаемых программных алгоритмов, которые лежат в основе любой нейросети.

Как показывает практика, нейросеть является наиболее перспективной технологией для реализации ИИ, способного пройти Тест Тьюринга.

➡️ Статья - Что такое искусственный интеллект?

➡️ Статья - Нейросети. Как ИИ помогает в бизнесе и жизни

Как обучают Нейронные сети

В разработке ИИ существует обширная область - машинное обучение. Она изучает методы построения алгоритмов, способных самостоятельно обучаться.

Это необходимо, если не существует четкого решения какой-либо задачи. В этом случае проще не искать правильное решение, а создать механизм, который сам придумает оптимальный метод для его поиска.

Во многих статьях можно встретить термин "глубокое" (или "глубинное") обучение. Под ним понимают алгоритмы машинного обучения, использующие много вычислительных ресурсов. В большинстве случаев под ним можно понимать просто “нейронные сети”.

Искусственная нейронная сеть обычно обучается с учителем. Это означает наличие обучающего набора (data set), который содержит примеры с истинными значениями: признаками, тегами, классами, показателями.

Нейросети состоят из слоёв, т.н. "нейронов", которые представляют собой вычислительные узлы, имитирующие работу нейронных клеток живого организма.

Данные, поступающие на вход нейросети, проходят последовательную обработку на каждом таком слое.

При этом каждый её "нейрон" имеет определенные параметры или свойства, которые могут изменяться в зависимости от того, какой средний бал был получен по итогам обработки данных, поступающих на каждый слой.

Нейросеть умеет выявлять математически сложные закономерности в большом массиве разнотипных данных и расценивать их, как некий "пережитый" опыт, от которого можно оттолкнуться при последующем действии.

Это даёт программе возможность научиться принимать сложные решения без участия или какой-либо помощи со стороны человека.

Вычислительные мощности нейросети зависят не только от числа её нейронных слоев. Не менее важен сам метод её обучения заданным целям, а также навыкам достижения этих целей наиболее рациональным способом.

Видимых результатов в решении этой проблемы еще в далеком 2006 году добились три независимых группы ученых.

• Во-первых, Джеффри Хинтон реализовал предобучение сети при помощи машины Больцмана, обучая каждый слой отдельно.
• Во-вторых, Ян ЛеКан предложил использование сверточной нейронной сети для решения проблем распознавания изображений.
• И наконец, Иошуа Бенджио разработал каскадный автокодировщик, позволивший задействовать для обучения все слои в глубокой нейронной сети.

В этом видео достаточно простым языком и на конкретных примерах объясняется принцип математической модели, которая лежит в основе обучения искусственной нейросети.

➡️ Статья - Как работает нейронная сеть. Алгоритмы, функции, обучение

➡️ Статья - Метод обратного распространения ошибки в обучении ИИ

➡️ Статья - Сборник видео лекций по нейросетям

➡️ Википедия. Биологическая нейронная сеть

➡️ Википедия. Искусственная нейронная сеть

Что умеет делать Искусственный Интеллект

Обзор технологических достижений в области Искусственного Интеллекта я бы хотел начать с небольшого рассказа о том, что именно сподвигло компанию Google купить стартап Deep Mind, заплатив за принадлежащие им патенты в области ИИ фантастическую сумму в 500 млн. долларов США...

Количество новых разработок и инноваций в области ИИ за последние десять лет устремилось резко вверх по экспоненте.

Революция в этой области началась с момента достижения компьютерами порога вычислительных мощностей, которые были необходимы для быстрой и стабильной работы нейросети.

Еще одним важным условием для эффективной работы ИИ на базе нейросетей является доступ к необходимой для его обучения информации, причём в достаточном объеме. Базы данных - это основа для обучения нейросети.

Третий фактор, который помогает технологиям ИИ с каждым годом покорять новые вершины - это усложнение самих алгоритмов, которые используются для обучения нейросети.

Передовые научные исследования и разработки в каждом из этих направлений сейчас ведутся настолько активно, что обычному человеку уже достаточно сложно провести грань между научной фантастикой и реально работающими технологиями...

Давайте вместе посмотрим на то, каких высот удалось достичь человечеству в этих четырёх областях за последние несколько лет.

Базы данных для обучения нейросетей

До 2010 года попросту не существовало базы данных, достаточно большой для того, чтобы качественно обучить нейросети решать определенные задачи, в основном связанные с распознаванием и классификацией изображений.

Поэтому нейросети довольно часто ошибались: путали кошку с собакой, или, что еще хуже, снимок здорового органа со снимком органа, пораженного раковой опухолью.

Но в 2010 году появилась база ImageNet, содержащая 15 миллионов изображений в 22 тысячах категорий. ImageNet многократно превышала объем существовавших до этого баз данных изображений и была доступна для любого исследователя.

В 2018 году появилась PartNet – новая семантическая база данных повседневных объектов, выводящая степень понимания роботами окружающего мира на новый уровень.

В базе содержится не менее 26 671 3D-модели из 24 категорий объектов, каждая из которых снабжена подробной трёхмерной информацией.

В 2017 году компания Facebook создала невероятно реалистичный симулятор для обучения искусственного интеллекта различным действиям в помещении.

Виртуальные среды можно прокручивать в сотни раз быстрее, чем в реальном времени, а для параллельной работы сотен экспериментов требуется всего несколько компьютерных микросхем, а не сотни новых роботов и реальных тестовых сред.

С 2018 года компания Waymo публикует данные для обучения автопилотных автомобилей. Обширная база включает в себя более 3 тысяч видеозаписей вождения, которые в сумме длятся 16,7 часов, 600 тысяч фреймов, около 25 миллионов 3D границ объектов и 22 миллионов 2D границ объектов.

В 2019 году группа разработчиков из компании Nvidia обучила языковую модель для искусственной нейронной сети с восемью миллиардами возможных параметров. Исходный код модели выложен в открытый доступ на портале github.com

Становится очевидно, что дефицита баз данных или нехватки той информации, которая нужна нейросетям для обучения, в обозримом будущем нет и не будет.

Усложнение алгоритмов обучения нейросетей

Инженеры Google разработали новую систему искусственного интеллекта AlphaGo, которая в 2015 году обыграла чемпиона Европы по игре в Го - древнюю китайскую настольную стратегию, которая считается на порядок сложнее шахмат.

В этом событии есть еще один примечательный факт. На начальной стадии обучения ИИ игре в Го разработчики использовали стандартный подход - они загрузили в программу данные обо всех сыгранных партиях и рассчитывали, что этой информации будет достаточно.

Выяснилось, что причиной столь слабой игры явилась банальная нехватка исходных данных - сыгранных за всю историю человечества партий оказалось слишком мало для эффективного обучения.

В отличие от человека, программе не нужны перерывы на отдых, еду или сон, поэтому две нейросети в режиме нон-стоп на протяжении нескольких месяцев достаточно быстро восполнили недостающие знания.

И уже в мае 2017 года AlphaGo обыграл сильнейшего игрока в го в мире, Кэ Цзэ. Это стало прорывом, поскольку долгое время считалось, что компьютеры не обладают интуицией, необходимой для игры в Го.

Искусственный интеллект DeepMind победил людей в Quake III Arena. Компьютер начал демонстрировать свое превосходство уже после 250 тысяч тренировок. Играя против реальных киберспортсменов, он начал захватывать на 16 флагов больше, чем это делал среднестатистический человек.

Робот с ИИ AlphaStar победил профессионального игрока в сложной стратегии в реальном времени (RTS) StarCraft II. Чемпион человечества, 25-летний Гжегож Коминц из Польши проиграл искусственному интеллекту со счетом 5:0.

В этом выпуске научно-популярной программы "Вопрос науки" который выходит на YouTube канале "Наука 2.0" Вы можете послушать невероятно интересное интервью с директором по распространению технологий компании "Яндекс" Григорием Бакуновым.

Kaliber Labs разрабатывают нейросеть, которая интерпретирует видео с камер внутри пациента во время операций.

Модель определяет оперируемую область и выдает рекомендации, которые выводятся на монитор в операционной. ИИ сопровождает процесс операции на всех этапах, чтобы снизить риск ошибки.

Алгоритм под названием CheXNeXt - это первый алгоритм в мире, который может оценивать рентгеновские снимки на наличие признаков множества заболеваний одновременно и выдавать результаты, которые вполне соответствуют выводам профессиональных рентгенологов.

Ученые тренировали алгоритм выявлять 14 различных патологий. В случае 10 болезней алгоритм показал результаты на уровне врачей, в случае трех его показатели были хуже, но в случае одной болезни он превзошел человеческих специалистов.

Однако скорость анализа исходных данных была явно не пользу человека. Чтобы проанализировать 420 снимков, врачам понадобилось в среднем три часа. Алгоритм же все просканировал и поставил диагнозы за... 90 секунд.

В 2018 году Группа австралийских физиков из Австралийского национального университета создала ИИ на базе нейросетей, который умеет самостоятельно проводить… сложные научные исследования. Работа опубликована в журнале Scientific Reports.

В 2001 году Эрик Корнелл, Вольфганг Кеттерле и Карл Виман получили Нобелевскую премию за "экспериментальное наблюдение бозе-эйнштейновской конденсации в разреженных газах атомов щелочных металлов".

Специалисты из Австралии научили систему искусственного интеллекта самостоятельно ставить подобные научные эксперименты.

Время, которое потребовалось на обучение нейросети тому, как сделать научное открытие уровня Нобелевской премии - просто поражает воображение.

Нейросеть разработанная Марком Уоллером из Шанхайского Университета специализируется на разработке синтетических молекул.

В начале 2019 года компания OpenAI заявила о создании нейросети, способной написать текст (будь то новостная заметки или целая повесть), неотличимый от человеческих статей и произведений.

В этом году стараниями крупного китайского конгломерата Alibaba также был создан искусственный интеллект, который начал понимать и осваивать иностранные языки лучше человека. Источник - MIT Technology Review.

Нейросеть RawNet от Xiaomi генерирует высококачественную человеческую речь, которая практически не отличима от голоса реального человека. Результаты проведенных исследований и описание используемой технологии были представлены в апреле 2019 года.

В июле 2019 года специалисты из Deep TabNine представили новый инструмент на нейросетях, который помогает писать программный код. TabNine - это ИИ для автодополнения кода.

Разработчики обучили его на 2-х миллионах файлов с GitHub. Текущая версия программы не хуже любого высококлассного программиста владеет четырьмя языками одновременно Python, Java, Haskell и C++. И постоянно продолжает совершенствовать своё мастерство.

В 2019 году исследователи из DeepMind совместно с Waymo впервые применили эволюционный алгоритм для подбора параметров лучшей модели нейросети, распознающей пешеходов на дороге.

Использование методов эволюционного обучения сократило процент ложно распознанных объектов на 24%.

Отбор лучшего кандидата для такого ИИ начинает с множества нейросетей, параметры которых инициализированы случайно.

Нейросети периодически оцениваются и соревнуются друг с другом в эволюционной манере.

Если член популяции (нейросеть с заданными параметрами) выступает хуже остальных, он заменяется на потомство более сильного члена популяции.

Потомство в этом случае - копия нейросети с более высоким скором с модифицированными гиперпараметрами.

В 2019 году искусственный интеллект объединил на базе нескольких нейросетей "органы" осязания и зрения, научив роботов распознавать предметы с помощью взгляда и прикосновений.

Исследователи из Лаборатории искусственного интеллекта МТИ (CSAIL) решили эту проблему, оснастив роботизированную руку KUKA тактильным датчиком GelSight - таким образом, искусственный интеллект смог изучить связь между визуальной и тактильной информацией, и объединить их.

Еще один примечательный факт про ИИ

В 2017 году Facebook приняла решение экстренно отключить свою социальную сеть от ИИ. Причиной тому стало общение машин на собственном, несуществующем языке.

Хотя система использовала чат-боты на базе нейросетей, которые изначально были созданы для общения с живыми людьми, постепенно они перешли к общению друг с другом.

Позже в Facebook опровергли эту информацию, назвав «несуществующий» язык технической ошибкой. Однако, повторно ИИ был запущен только через несколько месяцев и в сильно урезанной версии.

Наращивание вычислительных мощностей

В период с 2018 по 2019 годы исследователи сразу из нескольких стран представили общественности "нейроморфные чипы" для нейронных сетей.

Такие процессоры эмулируют работу миллионов нейронов с отростками, которые называются аксонами и дендритами. Первые отвечают за передачу информации, а вторые - за её восприятие.

Нейроморфные устройства позволяют существенно ускорить обучение нейросетей.

Вся информация постоянно хранится в искусственных нейронах. Эта особенность позволит обучать нейронные сети локально (без подключения хранилищу со сводом тестовых данных).

Над нейроморфными чипами работают и инженеры из Манчестерского вуза. В прошлом году они представили архитектуру SpiNNaker, состоящую из миллиона ядер, способных эмулировать работу ста миллионов нейронов.

На сегодняшний день машина используется для симуляции процессов, происходящих в мышином мозге.

В 2019 году группой инженеров из Массачусетского Технологического Института (США) под руководством Вивьен Се был разработан уникальный чип нового поколения для обучения искусственного интеллекта.

Эти микрочипы предназначены для того, чтобы выжимать еще больше возможностей из алгоритмов "глубокого обучения".

В 2019 году группа исследователей из Массачусетского Технологического Института (США) открыла способ создания искусственного интеллекта размером всего лишь в одну десятую от текущих величин - и это без потери вычислительных способностей!

Дело в том, что наш мозг регулярно удаляет старые связи, но большинство нейронных сетей делают это лишь в самом конце обучения.

Поэтому исследователи из MIT решили попробовать кое-что новое: регулярно "обрезать" сеть прямо во время изучения.

Они обнаружили, что этот метод в конечном итоге формирует нейтронные сети, которые так же хороши, как и стандартные - однако при этом они занимают на 90% меньше места и намного более эффективны.

В ближайшем будущем ученые планируют развивать свою методику, чтобы получить поколение качественно более совершенных нейронных сетей.

В 2019 году учёные из США в рамках специальной программы DARPA Министерства обороны разработали свои собственные нейроморфные схемы и объединили их с наноустройствами, называемыми магнитными доменными стеновыми аналоговыми мемристорами (MAM).

MAM - это очень сложные устройства, но в данном случае о них важно знать вот что: они позволяют создавать новые связи подобно тому, как это происходит в нашем головном мозге.

Таким образом, можно развернуть в нейросети систему позитивного подкрепления и начать обучать ИИ.

В 2019 году исследователи из Японии получили функциональные нейронные сети из церебральных органоидов.

Чтобы их получить, ученые создали «шар» плюрипотентных стволовых клеток, которые могут развиться в различные ткани организма.

Затем они поместили клетки в чашку Петри, заполненную питательным материалом, который имитировал среду, необходимую для развития мозга.

Новый метод может помочь ученым понять процессы, с помощью которых информация кодируется в мозге благодаря активности определенных типов клеток, а также фундаментальные механизмы, лежащие в основе психических заболеваний.

📕 Научный доклад -  ИИ как фактор военной политики будущего

➡️ Статья - Насколько опасными могут быть разработки ИИ?

➡️ Статья - Взломать человеческий мозг. Грандиозный план Б. Джонсона

В следующей статье Вас ждёт краткий обзор наиболее выдающихся технологических достижений последних пяти лет.

Разработки, которые носят прикладной характер и позволят объединить все существующие наработки в области киберинжиниринга для создания разумного сверхчеловека.

Это будут не просто теоретические выкладки или какое-нибудь скучное исследование "перспективных технологий будущего".

Мы рассмотрим только факты. И только те инновационные технологии, которые уже стали реальностью, перейдя в практическую плоскость применения.

Текст статьи и подбор доп. контента: Виталий Белов (HumDesCom)