Что такое AI на самом деле: почему это не «живой сверхразум», а просто очень большая математика

В прошлую среду я сидел в офисе, правил код, и меня накрыло. Одной ногой я в IT уже двадцать лет, а в новостях с утра очередной заголовок: «ИИ начал чувствовать эмоции», «Нейросеть обманула журналиста». Я смотрел на это и думал: боже, люди правда верят, что внутри серверов сидит Скайнет и хмурится?

Я закрыл новости и открыл документацию. Обычную, скучную документацию на пятисотый раз. В этот момент я понял, что не хочу писать очередной популярный текст про страшилки. Хочу просто объяснить, как эта штука работает. Без магии. Без тайны.

Только математика. И немного здравого смысла.

Т9, который качает железо

Знаете, что лучше всего объясняет работу ИИ? Автоподстановка в телефоне.

Когда я пишу «Привет, как...», телефон предлагает «дела». Он не думает, он просто проанализировал тысячи сообщений и знает: после «как» чаще всего идет именно «дела». Всё.

Теперь представьте: этот же принцип, только не на тысяче сообщений, а на всех текстах интернета. На терабайтах. И не на слабеньком процессоре телефона, а на ферме из тысяч видеокарт, которые гудят так, что стены трясутся.

Нейросеть не размышляет. У нее нет мнения, позиции, понимания. Когда я прошу ее написать код или сочинить стих, она делает одно: считает, какое следующее слово должно появиться. Только на основе вероятностей. Она смотрит на мой запрос, ищет в памяти похожие куски текста и просто продолжает статистически наиболее правдоподобное предложение.

Я проверял это на себе. Запросил какую-то редкую библиотеку, которой нет в открытых источниках. Нейросеть сгенерировала мне код с функциями, которые вообще не существуют. Убедительно, красиво, с комментариями на английском. Я потратил час, чтобы понять, что всё это - выдумка. Просто потому, что в распределении вероятностей у нейросети не было правильного ответа, но была потребность выдать что-то похожее на правду.

Кирпичи и ползунки. Как это выглядит внутри

Я всегда думал, что нейросеть - это что-то сложное. Оказалось, нет. Там всего два понятия.

Первое - токены. Это кусочки текста. Могут быть слоги, слова, знаки. Нейросеть не читает буквы - ей всё равно. Она превращает каждый токен в число. И весь ваш запрос становится просто массивом цифр.

Второе - веса. Представьте звукорежиссерский пульт, но не на десять ползунков, а на сотни миллиардов. Эти ползунки - настройки нейросети. Во время обучения их крутят до тех пор, пока ответы не становятся связными. И когда модель обучена - всё, это просто застывший снимок этих настроек. Файл. Статичный файл.

Когда я отправляю запрос, мои числа-токены пролетают через эти миллиарды настроек, перемножаются по формулам, и на выходе получается новое число - код следующего слова. И так до конца. Просто триллионы умножений в секунду. Мои видеокарты в сервере просто молотят эту математику.

Никакой мысли. Только вычисления.

Галлюцинации - не баг, а особенность

Почему нейросети так убедительно врут? Это вопрос, который я слышу постоянно. Даже от коллег.

Я объясняю это так. Для математики не существует правды или вымысла. Есть только вероятности. Если в обучающих данных много раз встречалась фраза «биткоин вырос на десять процентов», нейросеть запомнит этот паттерн. И когда спросишь её про криптовалюту - она выдаст что-то похожее. Даже если на самом деле биткоин упал.

Она не сверяется с реальностью. Она просто подбирает слова, которые звучат гладко и правдоподобно. Как актёр, который играет роль, но ничего не знает о персонаже.

Я помню, как в 2018 году мы пытались обучить сеть распознавать ошибки в коде. Она находила их с высокой вероятностью. Но иногда выдавала ошибки там, где их не было. Потому что паттерн совпал. И мы до сих пор не можем это исправить полностью. Это природа вероятностных моделей.

Иллюзия живого разговора

Почему люди одушевляют ИИ? Просто психология.

Мы ругаем холодильник, когда он шумит. Даём имена машинам. И конечно, видим личность в чат-боте, который отвечает вежливо и структурированно. Это наша особенность - искать разум во всём.

Но за красивыми ответами нет мыслящего собеседника. Есть огромное зеркало. Человечество написало миллионы книг, статей, кода. Нейросеть оцифровала и переварила это. Она просто отражает то, что мы сами создали.

ИИ - это великолепный инструмент. Он экономит часы, автоматизирует рутину, ищет паттерны. Но он не опасен. Он вообще ничего не хочет. Как калькулятор. И бояться, что он уничтожит человечество - это как бояться, что Excel решит объявить войну.

Я до сих пор использую его каждый день. Для черновиков, для поиска идей, для сложных запросов к документации. Но я знаю, как он работает. И это перестает пугать. Начинаешь просто пользоваться. Как молотком. Как экселем. Как гуглом.

Мне иногда кажется, что страх перед ИИ - это просто страх перед неизвестным. А когда узнаёшь, как всё устроено, становится немного скучно. Потому что там нет магии. Только числа. Миллиарды чисел, которые перемножаются быстрее, чем я успеваю моргнуть. Но всё равно просто числа.