ИИ советует есть камни и клеить пиццу клеем — лучшие провалы нейросетей
Весной 2024 года я гуглил, почему сыр сползает с пиццы, и Google подсказал: добавь в соус клей. Не какой-нибудь, а нетоксичный, примерно восьмую часть стакана — чтобы держалось крепче. Совет выдала не левая статья, а сам поисковик, крупным шрифтом, над всей выдачей, с интонацией «вот тебе точный ответ, не благодари».
Это был не единичный глюк. Тот же ИИ на голубом глазу рекомендовал съедать один камень в день — ради минералов. И советовал бросить курить во время беременности, чтобы «снизить стресс». Скриншоты разлетелись за сутки. Google начал молча откручивать функцию в тот же день.
Собрал три истории, где нейросети опозорились громче всего. Не ради поржать — хотя поржать есть над чем. Ради того, чтобы стало видно, откуда эта дичь берётся и кто за неё платит.
Google советует есть камни
В мае 2024 Google запустил AI Overviews — ИИ-ответы над обычной выдачей. Задумка понятная: не заставлять человека кликать по десяти ссылкам, а сразу собрать готовый ответ. Через несколько дней интернет собрал коллекцию.
Клей в пиццу приехал из шутки на Reddit, которой одиннадцать лет. Камень в день — с геологического форума, где кто-то стебался. ИИ не отличил сарказм от рекомендации, вытащил обе фразы как факт и подал с той же уверенностью, с какой сообщил бы столицу Франции. В этом весь фокус: машина не знает, что она не знает. У неё нет внутреннего датчика «стоп, это бред».
Google выкатил заявление в духе «это редкие запросы, мы всё поправим», и функцию начали срезать. Но осадочек остался: поисковик, которым пользуется полпланеты, на голубом глазу отправил людей грызть гравий.
McDonald’s и наггетсы на 222 доллара
Пока Google советовал камни, McDonald’s три года — с 2021-го по 2024-й — вместе с IBM тестировал ИИ, который принимает заказы на драйв-ин. Больше сотни точек по США. Идея снова здравая: убрать человека из окошка, ускорить очередь, срезать издержки.
А потом пришёл TikTok. Люди снимали, как система живёт своей жизнью. Одному навесила девять сладких чаёв подряд. Другому насчитала наггетсов на 222 доллара. Третьему добавила карамельный сандей с беконом — сочетание, которое человек в здравом уме не закажет. Клиенты махали руками в микрофон, а ИИ гнул своё.
В июне 2024 McDonald’s закрыл пилот с IBM, с 26 июля система отключена. Три года, сотня точек, и всё ради того, чтобы робот впаривал бекон в мороженое. Живой подросток в окошке ошибается реже.
Air Canada и скидка, которой не было
Третья история уже без смеха — тут дошло до суда.
В 2024 году клиент Air Canada спросил чат-бота на сайте про тариф для тех, кто летит на похороны. Бот бодро объяснил: бери билет сейчас, а скидку оформишь потом, в течение 90 дней после полёта. Человек так и сделал. А когда пришёл за скидкой, выяснилось: такого тарифа задним числом не существует. Бот его выдумал.
Дальше начинается самое вкусное. Air Canada в суде заявила буквально следующее: чат-бот — «отдельное юридическое лицо, отвечающее за свои слова». То есть не мы наврали, а вот эта штука на сайте, вы с ней и разбирайтесь.
Трибунал Британской Колумбии на это не купился. Формулировка была жёсткая: бот — часть сайта компании, компания отвечает за всё, что на нём написано, точка. Air Canada обязали выплатить 650,88 доллара плюс судебные издержки. Сумма смешная. Прецедент — нет. Впервые внятно записали: за галлюцинации ИИ отвечает тот, кто его поставил.
Почему они все врут одинаково
Три разные компании, три разных бота, а провал один и тот же. И это не совпадение.
Языковая модель не понимает смысла. Она подбирает следующее слово по вероятности — какое чаще всего идёт за предыдущим в текстах, на которых её учили. Клей держит вещи вместе? В интернете держит. Значит, статистически он «подходит» к пицце. Модель не в курсе, что его не едят. Для неё это просто удачное слово.
Отсюда галлюцинации — уверенная выдача выдумки за факт. Стэнфордский RegLab проверил юридические запросы к большим моделям и намерил галлюцинации в каждом третьем ответе. Каждый третий. И это не в болтовне про погоду, а в вопросах про законы, где цена ошибки — реальный иск.
Теперь наложите это на бизнес, который гонит ИИ в прод ради экономии. MIT в 2025 году разобрал корпоративные ИИ-пилоты: 95% не дали измеримого возврата на вложенное. Компании внедряют модель, потому что модно и «все побежали», а не потому что она решает задачу. Отсюда камни, наггетсы и выдуманные скидки.
Кто отвечает за чушь нейросети
Здесь и зарыта настоящая новость. Пока все ржут над клеем в пицце, суд в Канаде тихо закрыл главный вопрос: за бред ИИ отвечает не ИИ.
Отвечает компания, которая его поставила. Никаких «нейросеть ошиблась» и «бот — отдельное лицо». Поставил бота на сайт — значит, каждое его слово твоё, будто ты сам это написал ручкой на бланке.
Это разворачивает всю удобную отмазку. «Извините, это ИИ» перестаёт работать как индульгенция ровно в тот момент, когда доходит до денег и суда. Air Canada попробовала спрятаться за бота — не вышло, заплатила.
Так что когда вам в следующий раз подсунут чат-бота вместо живого сотрудника, помните: если он наврёт, виноват не он. Виноват тот, кто решил, что машина, не отличающая шутку от факта, готова говорить с вами от лица компании. И платить, если что, тоже ему.
А клей в пиццу всё-таки не кладите. Даже нетоксичный.
