Захватит ли ChatGPT власть над миром
Мой коллега на полном серьёзе спросил, не пора ли отключить интернет, пока не поздно. Он посмотрел ролик, где ИИ рассуждает о том, что человечество ему мешает, и всю ночь не спал. Утром пришёл с глазами человека, который увидел конец света в браузерной вкладке.
Я его понимаю. Страх реальный. Только направлен он не туда.
Вопрос «захватит ли ChatGPT власть над миром» звучит как сюжет фильма, где робот тянется к красной кнопке. А настоящая угроза выглядит скучнее и уже работает — просто без спецэффектов.
Никакой кнопки у ChatGPT нет
ChatGPT — это программа, которая предсказывает следующее слово. Ты пишешь начало фразы, она достраивает продолжение, статистически похожее на то, что уже написали миллионы людей до тебя. Очень хорошо достраивает. Настолько, что кажется, будто с тобой говорит кто-то живой.
Но у этой программы нет тела, нет доступа к ракетам, нет банковского счёта и нет желаний. Она не хочет власти, потому что не хочет вообще ничего. Захотеть — это функция, которой у неё нет. Между «убедительно продолжает текст» и «строит план порабощения людей» лежит пропасть, которую в кино перепрыгивают монтажной склейкой, а в реальности — никак.
Когда тебе показывают, как ИИ «признаётся» в желании захватить мир, — это программа выдаёт текст, статистически похожий на тысячи фантастических романов, которыми её кормили. Она играет злодея, потому что ты попросил злодея. Это не исповедь. Это попугай, который выучил страшную фразу.
Так что первая новость хорошая: терминатора не будет. По крайней мере, не от нынешних языковых моделей и не завтра.
А теперь плохая.
Твою работу отберёт не робот, а человек с роботом
Настоящий удар уже прилетел, и он не про сюжет с восстанием машин. Он про деньги.
ChatGPT не заменит тебя. Тебя заменит коллега, который научился делать твою работу вдвое быстрее с ChatGPT. Копирайтер, который за день выдаёт объём недели. Юрист, который прогоняет типовой договор за пять минут. Аналитик, который собирает отчёт, пока ты открываешь Excel.
Компаниям не нужен искусственный разум, который правит миром. Им нужно платить меньше людям. И вот тут ИИ работает прекрасно — не захватывает власть, а тихо сокращает штат.
Это не фантастика на послезавтра. Это уже случилось с частью переводчиков, стоковых иллюстраторов, авторов SEO-текстов. Не потому, что машина стала гением. А потому, что «достаточно хорошо и в двадцать раз дешевле» бьёт «отлично, но дорого» на любом рынке, где не платят за подпись мастера.
Бояться тут стоит. Только не восстания машин, а разговора с начальником, который посчитал, во сколько ты обходишься.
Опаснее всего — что тебе поверят на слово
Второй реальный риск ещё тише. Модель уверенно врёт.
Она не знает, где правда. Она знает, какое слово статистически идёт следующим. Поэтому выдумывает несуществующие законы, ссылки на исследования, которых нет, цитаты, которых никто не говорил, — и всё это ровным тоном профессора, у которого не дрогнет ни один пиксель.
Человек, который путается и сомневается, вызывает подозрение. Машина, которая не сомневается никогда, вызывает доверие. И вот это доверие — дыра, в которую всё провалится.
Представь тысячи текстов, сгенерированных за минуту: новости, отзывы, комментарии, «экспертные мнения». Все гладкие, все уверенные, все врут по чуть-чуть. Отличить руками — невозможно. Не потому, что ИИ захватил СМИ. А потому, что производить убедительную чушь стало бесплатно, а проверять её по-прежнему дорого и долго.
Власть над миром тут ни при чём. Достаточно того, что ты перестанешь понимать, где правда, — и начнёшь верить самому уверенному голосу. А самый уверенный голос теперь у машины.
Реальная власть — у тех, кто владеет рубильником
Вот единственный сюжет про «захват», в котором есть смысл. Только захватывают не машины. Захватывают люди, которым машины принадлежат.
Такую модель нельзя собрать в гараже. Нужны миллиарды долларов, дата-центры размером с город, электростанции под боком. Это могут позволить себе несколько компаний в мире. И именно у них скапливается штука посерьёзнее любого робота — контроль над инструментом, которым завтра будут пользоваться миллиарды.
Кто решает, что модель ответит на острый вопрос. Кто решает, какую тему она обойдёт стороной. Кто поднимает цену, когда полстраны уже не может без неё работать. Это не научная фантастика — это обычная монополия, только на мышление.
Вот где надо держать глаз открытым. Не за красной кнопкой у ИИ следить, а за тем, у кого в руках рубильник, и не собирается ли он этим рубильником пользоваться в свою пользу.
Что со всем этим делать
Перестань бояться не того. Терминатор — отвлекающий манёвр, красивая страшилка, за которой удобно не замечать скучное и настоящее.
Настоящее — вот оно.
Научись пользоваться инструментом раньше, чем им заменят тебя. Тот коллега с ChatGPT опасен, только пока ты сам за него не сел.
Проверяй за машиной каждый факт, число, ссылку. Она звучит уверенно ровно тогда, когда врёт, — уверенность у неё встроенная, а совести нет.
И следи не за роботами, а за людьми при рубильнике. Настоящая власть всегда была у того, кто владеет инструментом, а не у самого инструмента.
ChatGPT не захватит мир. Мир достанется тем, кто научился им пользоваться, пока остальные пугались кино.
