Нейросети — не ИИ. Почему ChatGPT на самом деле не думает
Когда ChatGPT пишет связный абзац про квантовую физику или помогает составить письмо об увольнении, возникает ощущение: вот оно, мышление. Машина поняла задачу, обдумала, ответила.
Не поняла. Не обдумала. И в этом важно разобраться — особенно если вы используете нейросети в работе с текстом.
Что нейросеть делает на самом деле
Большие языковые модели — ChatGPT, Claude, Gemini и другие — построены на одном принципе: предсказание следующего слова.
Модель получает текст и отвечает на вопрос: какой токен (слово или его часть) с наибольшей вероятностью идёт следующим? Потом ещё один. Потом ещё. Так набирается ответ — слово за словом, по цепочке вероятностей.
Эта вероятность взята из данных. Модель обучена на огромном массиве текстов — книги, статьи, форумы, сайты. Она выучила, какие слова обычно идут после каких слов, в каких контекстах. Это статистика, пусть и невероятно сложная.
Когда вы набираете сообщение в телефоне, он предлагает следующее слово. ChatGPT делает то же самое — просто с несравнимо большим словарём контекстов и несравнимо лучшими предсказаниями.
Почему это не мышление
Мышление — это не подбор вероятных слов. Мышление предполагает понимание того, что слова значат.
Нейросеть не понимает смысл. Она работает с формой — с паттернами, которые встречались в обучающих данных. Поэтому она может написать убедительный текст про то, чего не существует. Поэтому она уверенно цитирует несуществующие книги. Поэтому она иногда выдаёт правдоподобную чушь — и не замечает этого, потому что замечать нечем.
У неё нет цели. Она не хочет вам помочь или навредить — она просто продолжает текст. У неё нет намерения. Когда она «извиняется» за ошибку — это не раскаяние, это паттерн из обучающих данных, где за ошибкой обычно шло извинение.
Опыта реального мира у неё тоже нет. Она никогда не обжигалась, не держала ребёнка на руках, не теряла работу. Всё, что она знает про эти переживания — из текстов про них. Поэтому тексты убедительны по форме, но пусты по существу.
Что нейросеть не умеет — простой тест
Дайте нейросети задачу, которой не было в её обучающих данных. Попросите решить принципиально новую логическую головоломку без прецедентов. Попросите понять контекст, который требует жизненного опыта, недоступного из текстов.
Там, где нужно рассуждение с нуля — без опоры на паттерн — модель начинает ошибаться, путаться или уверенно врать. Не потому что «сломалась». Потому что рассуждать она не умеет — она умеет имитировать рассуждение по форме.
Что нужно, чтобы получился настоящий ИИ
Искусственный интеллект в полном смысле — это AGI, artificial general intelligence, общий ИИ. Он пока не создан. Что для него нужно:
Понимание, а не паттерн — не «какое слово идёт дальше», а «что эти слова значат и зачем». Это требует другой архитектуры — или чего-то принципиально нового.
Рассуждение с нуля — способность решать задачи, которых раньше не было, не подбором похожего из памяти, а логикой. Нынешние модели с трудом делают это даже в математике, если задача сформулирована необычно.
Обучение в реальном времени. Нынешние модели обучены один раз на фиксированных данных. Настоящий интеллект учится постоянно — из взаимодействия с миром, а не из архива текстов.
Понимание причинности — не «после этого обычно следует то», а «это произошло, потому что». Нейросети плохо справляются с причинно-следственными цепочками, если они нестандартные.
Ян Лекун из Meta считает, что сознание AGI не нужно — достаточно перечисленного. Гэри Маркус настаивает: без чего-то вроде субъективного опыта система не выйдет за пределы имитации. Но в одном они сходятся: то, что у нас есть сейчас, до AGI не дотягивает.
Зачем это знать тем, кто пишет
Если вы используете нейросети в работе — понимание их природы меняет то, как вы с ними работаете.
Для паттерна она хороша: структура текста, черновик по знакомой схеме, перефразировка, поиск синонимов — там она быстра и предсказуема.
Там, где нужен смысл — фактчекинг, нестандартные суждения, понимание контекста, который не объяснён явно, — она имитирует понимание. Убедительно, но ненастоящее.
Хороший автор использует её как мощный инструмент с известными ограничениями — а не как разумного коллегу, которому можно доверять без проверки.
Коротко
- Нейросети не думают — они предсказывают следующий токен по статистике из обучающих данных.
- Они работают с формой, а не со смыслом: поэтому могут уверенно цитировать несуществующие книги.
- AGI — настоящий ИИ с пониманием причинности и обучением в реальном времени — пока не создан.
- Нейросеть надёжна там, где нужен паттерн (черновик, перефразировка); ненадёжна там, где нужен смысл (фактчекинг, нестандартные суждения).
