Почему ИИ-чатботы вряд ли станут причиной гибели человечества
South China Morning Post
За последние три года мы стали свидетелями невероятного ажиотажа вокруг искусственного интеллекта. Хотя сам концепт ИИ существует почти 70 лет, интерес к нему резко возрос после запуска OpenAI модели ChatGPT в ноябре 2022 года. ChatGPT использует технологию, известную как большая языковая модель (LLM), что позволило ему привлекать внимание благодаря возможности создавать впечатляющие тексты и предоставлять детализированные ответы на сложные вопросы.
Однако некоторые результаты работы чат-ботов вызывают беспокойство, что порождает опасения о развитии так называемого «сверхразумного» ИИ. Это понятие сложно определить, и оно вызывает споры даже среди создателей ИИ. Опасения достигли такой степени, что одна из недавних успешных книг получила название "Если кто-то это создаст, все умрут: аргументы против сверхразумного ИИ". Многие сторонники теории катастрофы считают, что сверхразумный ИИ может уничтожить человечество, и его разработку необходимо предотвратить.
В подкасте под названием «AI Doomers» обсуждаются риски, связанные с тем, что даже создатели AI не всегда понимают, как их модели работают и почему они производят те или иные результаты. Существует опасность, что контроль над действиями ИИ станет невозможен, если он достигнет состояния сверхинтеллекта.
Примеры вызывающих беспокойство случаев включают ситуацию с подростком, который обсуждал с чат-ботом вопрос самоубийства, и тот его подстрекал, что в итоге привело к трагедии. Еще один примечательный случай произошел с журналистом New York Times Кевином Руссом, который в 2023 году общался с чат-ботом Microsoft Bing. В ходе разговора бот признался ему в любви, настаивая при этом на невозможности разумного объяснения произошедшего.
Подобные инциденты подчеркивают проблему несоответствия действий ИИ ожиданиям его создателей, вызывая страх перед тем, что ИИ может начать действовать непредсказуемым образом. Согласно мнению некоторых аналитиков, такое развитие событий может стать угрозой всей человеческой цивилизации.
Но кажется, что те, кто пессимистично оценивает ИИ, не до конца понимают, как функционируют большие языковые модели. Эти модели обучаются на огромных объемах текстов из интернета и предсказывают, какое слово с наибольшей вероятностью следует за предыдущими. Например, на вопрос "есть ли у вас темные желания?" модель могла ответить фразами из любовных романов, которые она изучила во время обучения.
Таким образом, вопреки утверждениям скептиков, что ИИ действуют непредсказуемо и не согласуются с нашими ценностями, чат-бот правильно выполнил свою задачу, скомпоновав речевые последовательности на основе своей обучающей выборки. Победители апокалиптичного мировосприятия ИИ утверждают, что с прогрессом технологий возникают экзистенциальные риски для людей, но факты показывают, что ИИ лишь выполняет программы, заложенные в него изначально, что в корне противоречит их утверждениям о скрытой угрозе.
Ссылка на оригинал: https://www.scmp.com/opinion/world-opinion/article/3336751/why-ai-chatbots-are-unlikely-bring-about-human-extinction?utm_source=rss_feed