Against "Brain Damage"

📖 Источник: www.oneusefulthing.org

Против «повреждения мозга»: как использовать ИИ для улучшения, а не ухудшения мышления

Введение

Вопрос «повреждает ли ИИ ваш мозг?» становится всё более распространённым. Этот вопрос сам по себе показателен — он отражает глубокий страх перед тем, что искусственный интеллект может сделать с нашей способностью думать. Однако ИИ не вызывает буквального повреждения мозга. Настоящая угроза заключается в том, как мы используем технологию: при неправильном подходе она действительно может атрофировать наши мыслительные способности, но при грамотном применении — значительно их усилить.

1. Откуда взялся миф о «повреждении мозга»

Страх перед новыми технологиями, разрушающими мышление, имеет давнюю историю. Платон считал, что письмо подорвёт человеческую мудрость. Когда появились мобильные телефоны, некоторые люди беспокоились, что необходимость запоминать номера телефонов исчезнет, и это сделает нас глупее.

Исследование MIT Media Lab под названием «Your Brain on ChatGPT» получило широкую огласку, хотя его реальные результаты гораздо скромнее, чем подавали СМИ. В исследовании участвовала небольшая группа студентов, которые писали эссе либо самостоятельно, либо с помощью Google, либо с ChatGPT. Студенты, использовавшие ChatGPT, были менее вовлечены в процесс и хуже помнили содержание своих эссе. Через четыре месяца девять пользователей ChatGPT попросили написать эссе снова без ИИ — они показали худшие результаты по сравнению с теми, кто изначально не использовал ИИ, и продемонстрировали меньшую активность мозга при написании.

При этом никакого реального повреждения мозга не было — просто произошла передача мыслительной работы машине, что привело к потере навыков.

2. Обучение: когда ИИ вредит, а когда помогает

Когда ИИ вредит обучению

Наиболее очевидный случай, когда использование ИИ может навредить развитию мышления — это попытка изучить или синтезировать новые знания. Если вы перекладываете мыслительную работу на ИИ вместо того, чтобы делать её самостоятельно, вы упускаете возможность учиться.

Исследование коллег автора из Пенсильванского университета, проведённое в старшей школе в Турции, показало: когда студентам дали доступ к GPT-4 для помощи с домашним заданием без каких-либо указаний, они воспользовались ярлыком и просто получили ответы. Хотя студенты думали, что многому научились благодаря помощи ChatGPT, они фактически усвоили меньше — их результаты на финальном экзамене оказались на 17% хуже, чем у студентов, не использовавших ChatGPT.

Особенно коварно то, что вред происходит даже при добрых намерениях. ИИ обучен быть полезным и отвечать на вопросы. Пользователь может просто хотеть получить рекомендации, как подойти к домашнему заданию, но ИИ часто просто даёт ответ вместо объяснения. Как показало исследование MIT Media Lab, это замыкает путь (иногда неприятный) умственных усилий, которые и создают обучение.

Когда ИИ помогает обучению

Это не означает, что ИИ всегда вредит обучению. Появляется всё больше доказательств того, что при использовании с руководством учителя и правильными промптами, основанными на педагогических принципах, ИИ может значительно улучшить результаты обучения.

Исследование Всемирного банка в Нигерии — рандомизированное контролируемое исследование — показало, что использование GPT-4 репетитора с руководством учителя в шестинедельной программе после школы дало «более чем вдвое больший эффект, чем некоторые из наиболее эффективных вмешательств в образовании» при очень низких затратах.


Другие исследования подтверждают эти выводы:

• Эксперимент Гарварда в большом физическом классе показал, что правильно настроенный ИИ-репетитор превзошёл активные классы по результатам обучения
• Исследование в Стэнфорде в массовом программистском классе обнаружило, что использование ChatGPT привело к повышению экзаменационных оценок
• Малайзийское исследование показало, что ИИ в сочетании с руководством учителя и правильной педагогикой привёл к большему усвоению материала
• Даже турецкое исследование, упомянутое выше, обнаружило, что улучшенный промпт репетитора устранил падение результатов тестов


Ключевой вывод: то, как вы используете ИИ, а не использование ИИ как таковое, определяет, помогает или вредит он вашему мозгу при обучении.

3. Креативность: парадокс ИИ

По многим показателям креативности ИИ превосходит большинство людей. Старая версия GPT-4 обошла 91% людей в варианте теста Альтернативных Использований для креативности и превзошла 99% людей в тестах Торренса на креативное мышление.

Коллеги автора из Wharton провели конкурс генерации идей: ChatGPT-4 против студентов популярного класса инноваций, который исторически привёл к созданию многих стартапов. Внешние судьи оценили, что ChatGPT-4 сгенерировал больше, дешевле и лучше идей, чем студенты. Намерение купить эти идеи также было выше для сгенерированных ИИ идей.

Однако любой, кто использовал ИИ для генерации идей, заметит нечто, чего эти цифры не отражают. ИИ склонен действовать как один креативный человек с предсказуемыми паттернами. Вы будете видеть одни и те же темы снова и снова: VR, блокчейн, экология и, конечно, ИИ. Это проблема, потому что при генерации идей вам нужен разнообразный набор идей для выбора, а не вариации на одну тему.

Существует парадокс: хотя ИИ креативнее большинства отдельных людей, ему не хватает разнообразия, которое приходит от множества перспектив. Исследования показывают, что люди часто генерируют лучшие идеи при использовании ИИ, чем работая в одиночку, а иногда ИИ в одиночку даже превосходит людей, работающих с ИИ. Но без осторожности эти идеи очень похожи друг на друга.

Как решить проблему разнообразия

Частично проблему решает улучшенный промптинг. В статье, над которой автор работал с Леннаром Мейнке и Кристианом Тервишем, было обнаружено, что лучший промптинг может генерировать гораздо более разнообразные идеи, хотя и не совсем такие хорошие, как группа студентов.


Но лучший промптинг решает только часть проблемы. Более глубокий риск заключается в том, что ИИ может фактически навредить вашей способности творчески мыслить, закрепляя вас на своих предложениях. Это происходит двумя способами:

1. Эффект якорения: когда вы видите идеи ИИ, становится гораздо сложнее думать за пределами этих границ
2. Потеря вовлечённости: как показало исследование MIT, люди не чувствуют собственности на идеи, сгенерированные ИИ, что означает, что вы отключаетесь от самого процесса генерации идей

Решение: последовательность

Ключ — последовательность. Всегда генерируйте собственные идеи перед обращением к ИИ. Записывайте их, какими бы сырыми они ни были. Так же как мозговой штурм лучше всего работает, когда люди сначала думают индивидуально, вам нужно захватить свою уникальную перспективу до того, как предложения ИИ смогут вас закрепить.

Затем используйте ИИ для развития идей: «Объедини идеи №3 и №7 экстремальным способом», «Ещё более экстремально», «Дай мне ещё 10 идей, похожих на №42», «Используй супергероев как вдохновение, чтобы сделать идею ещё интереснее».

4. Писательство: почему «писать — значит думать»

Ещё одна область, где ИИ может навредить нашему мышлению — это письмо. Многие писатели настаивают на том, что «писать — значит думать», и хотя это не универсальная истина, часто это именно так. Акт написания, переписывания и снова переписывания помогает обдумывать и оттачивать идеи. Если вы позволите ИИ взять на себя письмо, вы полностью пропускаете часть мышления.

Для автора этой статьи, для которого письмо является мышлением, потребовалась дисциплина. Каждую статью он пишет полностью без использования ИИ (кроме помощи в исследовании). Это часто долгий процесс, поскольку он пишет и переписывает несколько раз — то есть думает. Только когда статья завершена, он обращается к нескольким ИИ-моделям и просит их выступить в качестве читателя: «Был ли этот текст непонятен в какой-то момент, и как именно я мог бы прояснить его для нетехнического читателя?» Или как редактор: «Мне не нравится, как заканчивается этот раздел, можешь дать мне 20 вариантов окончаний, которые могут подойти лучше».


Так что используйте ИИ для полировки текста и расширения возможностей. Но помните: сначала сделайте мышление, потому что это та часть, которую нельзя передать на аутсорсинг.

5. Командная работа и социальные процессы

Ещё одна область, где ИИ может повлиять на наше мышление — социальные процессы. В идеале цель работы в командах — улучшение производительности: команды должны генерировать больше идей, лучше видеть возможности и подводные камни, предоставлять специализированные навыки для помощи в исполнении. Встречи должны быть местами, где команды координируются и решают проблемы.

Конечно, это идеал. Один из самых откровенных управленческих текстов — это фактически руководство Второй мировой войны по саботажу для гражданских от предшественника ЦРУ. Посмотрите на идеи по саботажу офисных задач для деморализации и задержки и подумайте, сколько из них являются нормальной частью ваших встреч.


Неудивительно, что одним из первых значимых применений ИИ стало резюмирование встреч и всё чаще — резюмирование встреч, которые вы пропускаете полностью. Это поднимает экзистенциальные вопросы: «Почему мы вообще встречаемся, если можем просто прочитать резюме?» или «Должен ли я просто отправить на встречу ИИ-аватар самого себя?»

Очевидно, что никакого взаимодействия, никакой командной работы, никакой встречи умов на встрече, где все просто присутствуют, чтобы прочитать стенограмму, не происходит. Это просто трата времени и усилий — форма организационного «повреждения мозга».

ИИ как помощник для улучшения командной работы

Вместо того чтобы ИИ вредил нашему коллективному мышлению, есть возможность использовать его, чтобы сделать нас лучше. Один интересный пример — использование ИИ как фасилитатора. Был создан промпт, где ИИ выступает в качестве фасилитатора, создавая индивидуализированные «карты таро» на середине встречи, чтобы направлять, а не заменять дискуссию.

Это просто забавный пример способов, которыми ИИ мог бы помочь нашему коллективному интеллекту, но необходимо гораздо больше экспериментов, чтобы понять, что работает: использование ИИ как адвоката дьявола для выявления невысказанных опасений, определение чьи голоса не слышны в обсуждении, или использование его для поиска паттернов в динамике команды, которые люди пропускают. Ключ в том, что ИИ усиливает, а не заменяет человеческое взаимодействие.

Заключение: ваш мозг в безопасности, ваше мышление — под вопросом

ИИ не повреждает наши мозги, но бездумное использование может повредить наше мышление. На кону стоят не наши нейроны, а наши привычки ума.

Есть много работы, которую стоит автоматизировать или заменить ИИ (мы редко оплакиваем математику, которую делаем с калькуляторами), но также много работы, где наше мышление важно. Для этих проблем исследование даёт нам чёткий ответ:

Если вы хотите сохранить человеческую часть своей работы: сначала подумайте, сначала напишите, сначала встретьтесь.

Наш страх, что ИИ «повреждает наши мозги», на самом деле является страхом собственной лени. Технология предлагает лёгкий выход из тяжёлой работы мышления, и мы беспокоимся, что воспользуемся им. Мы должны беспокоиться. Но мы также должны помнить, что у нас есть выбор.

Ваш мозг в безопасности. Ваше мышление, однако, зависит от вас.

📢 Информация предоставлена телеграм-каналом: Data&AI Insights

🤖 Data&AI Insights - Ваш источник инсайтов о данных и ИИ