Как создать LLM?

мой телеграмм канал: https://t.me/workshop_on_Grisha

Ссылки которые я использовал для предоставленного материала:

Статьи:

Every Reason Why I Hate AI and You Should Too. Marcus Hutchins - https://malwaretech.com/2025/08/every-reason-why-i-hate-ai.html - это довольно интересное мнение почему ИИ это хайп. Блок с заголовком "LLM — не путь к AGI" очень хорошо характеризирует поведение LLM. Автор проводит очень интересные аналогии.

Почему я ненавижу ИИ и вам советую делать так же - https://vc.ru/ai/2141774-pochemu-ya-protiv-ii - это перевод на русский статьи Маркуса

Экс-хакер заявил, что LLM не умеют рассуждать и не станут AGI - https://tproger.ru/news/--eks-haker-zayavil--chto-llm-ne-umeyut-rassuzhdat-i-ne-stanut-agi - эта статья, от куда я узнал про статью Маркуса. По факту является пересказом.

Приведет ли масштабирование LLM к появлению AGI - https://www.computerra.ru/292679/privedet-li-masshtabirovanie-llm-k-dostizheniyu-agi/ - интересная статья в виде дебатов о масштабируемости LLM.

AGI математически невозможен, но хайп уже не остановить - https://habr.com/ru/companies/ruvds/articles/928170/ - еще одна статья, которая ссылается на множественные исследования, о том, что AGI невозможен. Мне более всего интересна статья профессора университета прикладных наук Макса Щлерет (https://philpapers.org/archive/SCHAII-17.pdf) о том, что AGI математически невозможен. Так же интересно было посмотреть на анализ трендов от Мэри Микер. Тут в целом очень много интересных ссылок на статьи.

Почему LLM — это не AGI: Иллюзия разума и новая архитектура будущего - https://dzen.ru/a/aPtN1ZVt6kOFvWyV - простая статья, где собранны очевидные и не очень тезисы, и есть очень любопытное заключение.

Создание универсального искусственного интеллекта (AGI): краткое пособие для начинающих - https://habr.com/ru/articles/877560/ - занимательная статья о альтернативном подходе к реализации AGI.

Yann LeCun против «LLM магии»: почему путь к AGI через наращивание моделей — тупик - https://vc.ru/id5552543/2654099-yann-lecun-o-llm-i-agi-kritika-meinstrima-v-iskusstvennom-intellekte - пересказ интервью с Лекуном, про то, что LLM как AGI - тупик.

Про fine-tuning моделей простыми словами - https://habr.com/ru/companies/raft/articles/785616/ - тут расписано стоит ли игра свеч. Как и что работает. Конкретного гайда нет.

Видео:

Neural networks - https://www.youtube.com/playlist?list=PLZHQObOWTQDNU6R1_67000Dx_ZCJB-3pi - ну это лютая база по реализации трансформеров.

Книги:

Python и машинное обучение. 3-е издание. Машинное и глубокое обучение с использованием Python, scikit-learn и TensorFlow. Себастьян Рашка и Вахид Мирджалили. - Немного старая но все таки хорошая книга