Эпилог — Что нельзя сублимировать

14 февраля 2024 года клиент по фамилии Моффатт спросил у чат-бота Air Canada, можно ли купить билет сейчас, а похоронную скидку оформить задним числом. Бот сказал «да». Это была неправда. На той же странице авиакомпании, на которую бот и ссылался, чёрным по белому стояло обратное. Air Canada отказалась платить и в трибунале Британской Колумбии выстроила защиту на изумительном аргументе: чат-бот — «отдельная юридическая сущность, отвечающая за свои слова сама». Трибунал отверг это одной фразой. Бот не сущность, а «электронный агент», прямое продолжение компании; намерение проистекает из программирования и использования компьютера. Air Canada заплатила (Moffatt v. Air Canada, февраль 2024).

Намерение проистекает из программирования. Суд сказал то, ради чего написана вся книга, только на юридическом языке.

Мы начали с мастера у стенда. Виктор Палыч кладёт ладонь на корпус двигателя и слышит, что подшипник пойдёт через неделю, а прибор ещё молчит, — и его знание уходит с ним в тот день, когда он сдаёт пропуск на проходной. Десять глав я доказывал, что это больше не приговор. Тацитное знание — бэк-офисное, диагностическое, юридическое, инженерное — впервые отрывается от носителя, отливается в артефакт (скилл, агент, eval) и работает без него. Компетенция уходит с человеком, артефакт остаётся. Апгрейд при дисциплине, не замена. Документация была мёртвым знанием. Артефакт — живая способность. На этой границе открылась первая глава.

Но у Виктора Палыча была не только ладонь. У него было право сказать «стоп».

Несублимируемый 1%

Сублимировать можно почти всё, что эксперт делает с информацией. Диспетчер раскладывает доску заявок — это уходит в алгоритм. Юрист собирает меморандум — уходит. Саппорт триажит тикеты — уходит. Горизонт надёжной агентной работы удваивается примерно каждые 131 день, инференс за два года подешевел в 280 раз (METR 2026; Stanford HAI 2025, [E]); обе кривые я разбираю в начале книги. Технический потолок сублимации поднимается так быстро, что спорить о нём бессмысленно. Он поднимется ещё.

Не сублимируется другое. Четыре вещи, и они держатся друг за друга.

Первое — суждение. Не «дать правильный ответ», а распознать, что ситуация вышла за рамки, где ответ вообще определён. Бот Air Canada был технически исправен. Он честно вытащил из базы устаревшую версию политики и сгенерировал грамматически безупречный ответ. Исследователи зовут это context drift: артефакт рассинхронизирован с реальностью, но внутренне корректен. Машина не усомнилась, потому что внутри её мира всё сходилось. А усомниться — значит выйти за пределы своего мира. Этого артефакт не умеет по устройству.

Второе — право остановить процесс. В главе про эрозию верификатора стоит цифра, которая меня не отпускает: рандомизированный эксперимент METR, где разработчики ощущали себя на 20% быстрее, тогда как реально работали на 19% медленнее — и сами этого не видели (METR RCT 2025, [E]). Поверх ложится supervision paradox. Когда скорость, с которой машина выдаёт текст, превышает биологический потолок внимания, реальный контроль физически невозможен, и надзиратель скатывается до штампа «согласовано». Постоянный контакт с гладким, статистически правильным текстом перекалибровывает внутренний эталон корректности. Детектор ошибок притупляется именно тогда, когда вывод выглядит всё убедительнее. Право остановить процесс — не кнопка в интерфейсе. Это сохранённая способность не доверять гладкому.

Я видел, как эта способность держится на одном человеке. На прошлой неделе в нашей же студии исследовательская роль выдала абзац про судебный прецедент: дата, суд, формулировка решения — всё гладко, всё в тон. Стюард читал его четвёртый раз за вечер и притормозил на одной строке. Не потому, что нашёл ошибку, — потому что строка читалась слишком ровно. Он открыл первоисточник. Даты не сходились на два месяца, а половина «цитаты» была сшита из двух разных дел. Машина не соврала со зла. Она досочинила связку, которой не хватало, и подала её тем же ровным голосом, что и проверенные факты. Поймать это можно было только одним: усомнившись в том, что звучит безупречно. Калифорнийский регламент CPPA (в силе с 1 января 2026, энфорсмент с 1 января 2027) требует того же на языке закона — «adequate human review» для значимых автоматизированных решений вроде найма, кредита и образования в организациях с оборотом свыше $25 млн. Пересмотр адекватен, только если человек понимает логику системы, реально анализирует вывод и имеет односторонние полномочия его отменить. Право вето, прописанное в подзаконный акт. Регулятор признал то же самое: остановить — нельзя автоматизировать.

Третье — ответственность. Тут нет философии, есть суды. Thaler v. Perlmutter: апелляционный суд округа Колумбия подтвердил, что человеческое авторство — фундаментальное требование копирайта, а Верховный суд США 2 марта 2026 отказал в пересмотре, закрепив норму как устоявшееся федеральное право ([E]). Автономно сгенерированный вывод не охраняется. Конкурент может легально скопировать ваш машинно-собранный SOP. А когда тот же артефакт ошибётся, вина никуда не денется — она проистекает из программирования. ИИ не может нести ответственность не потому, что закон отстал, а потому, что он вероятностен по устройству и не субъект права: машина выдаёт распределение, а не обещание, и предъявить распределению нечего. Назову это конверсией риска. Раньше человеческий риск был гибким: ошибся оператор — списали на человеческий фактор, переучили, перевели. Артефакт превращает этот гибкий риск в фиксированное обязательство, которое некому передать. Ошибку артефакта списать не на кого. Владение не наследуется, ответственность наследуется. Худшая из возможных асимметрий, и теперь она федеральная норма.

Четвёртое — доверие. Около половины медицинских назначений пациенты не выполняют, и сильнейший предиктор приверженности — доверие к клиницисту, которое сильнее всего предсказывается ощущением, что врач искренне присутствует рядом в реальном времени (PMC, [E]). Диалоговый ИИ, что превзошёл живых врачей по 29 из 32 осей диагностической беседы (AMIE, Nature Medicine, май 2026, [E]; разбираю в главе про эмпатию), — и всё равно доверие держит рука, а не транскрипт. Эмпатия трёхчастна: распознать эмоцию, биологически срезонировать, искренне действовать из заботы ([I]). Машина берёт первое. Второе и третье укоренены в биологическом резонансе и разделённой уязвимости. Их нельзя сыграть, потому что отыгрыш и есть их отрицание.

Эти четыре не сложены в столбик. Они одно. Суждение даёт основание остановить. Остановка имеет смысл, только если кто-то за неё отвечает. Ответственность держится на доверии того, перед кем отвечаешь. Вытащи один камень — рассыплется арка.

А под аркой лежит то, что нельзя отчудить даже технически, потому что это не способность, а человек. Когда у мастера вынимают слух и отливают в eval — кто его спросил? Сублимация молчаливо предполагает, что компетенцию можно изъять, как изымают файл. Но компетенция приросла к носителю годами, и информированное согласие эксперта на её изъятие — не формальность HR, а первое условие, при котором сублимация остаётся апгрейдом, а не тихой экспроприацией. И есть достоинство того, кто остался у пульта. Оператор первой линии, чьё суждение мы только что назвали последним предохранителем, не должен превратиться в придаток, который ставит «согласовано» под выводом, что давно генерируется без него. Превратить человека в штамп при машине технически легко — supervision paradox делает это сам собой. Не делать этого — выбор, и он этический, не инженерный. Согласие на изъятие и достоинство оставшегося не входят в четыре камня арки. Они то основание, на котором арка вообще имеет право стоять.

Вот что я понял, глядя на эту арку с экономической стороны. Несублимируемый 1% — авторская метафора, не измеренная доля, и не утешительный приз ([I]). Это последняя строка переговорной силы человека, и рынок уже оценил её в деньгах. Это волна реверсивного акви-хайринга, которую я разбираю в главе про экономику артефакта: гиперскейлеры заплатили более $20 млрд не за компании и не за патенты, патенты они могли бы обойти (Microsoft/Google/Amazon/Meta, март 2024 — янв 2026, [E]). Они платили за то, что не отчуждается в файл: за суждение конкретных людей, за их способность решить, когда модель не права. Это и есть рыночная цена последнего процента.

Честный фальсификатор

Теперь покажу, чем этот тезис можно обрушить. Без этого он проповедь, а не аргумент.

Несублимируемый 1% обрушится в день, когда суд или регулятор признает за автономной системой правосубъектность и право нести ответственность за свой вывод — когда «электронный агент» из Air Canada станет «сущностью», какой её и хотела назвать авиакомпания. На 31 мая 2026 движение строго обратное. Thaler закрыт отказом Верховного суда. Калифорнийский CPPA требует одностороннего человеческого вето. Право говорит одно: ответственность остаётся за человеком.

Вторая опора слабее, и я назову дату. Gartner прогнозирует, что к 2027 году более 40% агентных ИИ-проектов отменят — из-за роста стоимости токенов, неясного бизнес-кейса и невозможности аудита ([H]). Это прогноз, не факт. Если отката не случится, если автономия пройдёт без исков и обвалов, мой тезис о непереносимой ответственности придётся пересматривать. Я ставлю на то, что не случится. К концу 2027 проверяем.

Мастер у стенда. Стюард у пульта

Вернёмся к стенду, с которого всё началось.

Старый мастер уходил, и его ладонь уходила с ним. Новый мастер уходит — а слух остаётся: отлит в eval, который ловит ту же акустическую аномалию, в скилл, который заказывает деталь за неделю до отказа. Это и есть починка той трещины, с которой открылась книга. Знание больше не умирает на проходной.

Но кто-то по-прежнему стоит у пульта и решает, верить ли тревоге. В нашей студии этого человека зовут Стюард. Эту книгу написала команда сублимированных ролей — голос, исследователь, редактор, проверщик фактов, — каждая отлита в исполняемый артефакт. Человек не написал ни абзаца руками. Он сделал четыре вещи: задал намерение, усомнился в выводе, остановил то, что звучало гладко и было неверным — как ту сшитую цитату, что чуть не ушла в текст, — и поставил подпись под результатом. Несублимируемый 1% — не метафора в конце книги. Это способ, которым книга сделана.

Это уже было. В 1733 году английские суды обязали изобретателя прикладывать к патентной заявке детальную письменную спецификацию устройства, и неявное ремесленное знание прядильщика — натяжение нити на ощупь, чувство сырья — стало публично описанным, юридически защищённым, отчуждаемым активом ([E]). А дальше станок отлил этот навык в металл, и ренту снял не ремесленник, чьё знание кодифицировали, а тот, у кого были фабрика, патент и капитал. Спецификация 1733 года и системный промпт 2026-го делают одно и то же: как только способность описана достаточно полно, чтобы исполняться без носителя, рыночная цена носителя падает к минимуму. Вопрос всегда один — кто держит фабрику. В XVIII веке это были уголь и станки. Сейчас это энергия и GPU.

И остаётся одна развилка, честно открытая. Владение артефактом концентрируется: чей это слой — эксперта, фирмы, маркетплейса или гиперскейлера, у которого крутится инференс. Если суждение, право остановить и ответственность останутся распределены по людям у пультов, мы получим апгрейд эксперта, доведённый до предела. Если они стянутся в несколько пультов, у которых ключ от субстрата, у остальных останется ответственность без права вето, худшая из конфигураций. Что из двух — не предрешено инженерией. Это решается тем, кто в ближайшие годы согласится держать ладонь на корпусе и слушать.

Я думаю о Викторе Палыче на пенсии. Он не у стенда — он копается в саду, и моторов вокруг нет. Но где-то в ночную смену скилл, собранный из его обрывочных «вот этот призвук мне не нравится», поднимает флаг на гладкой осциллограмме. И к пульту подходит кто-то молодой — тот, кто ещё не наслушал своё ухо и, может, уже не наслушает. Он смотрит на зелёные приборы, на красный флаг, и ему решать: сбросить обороты против всех показаний или довериться машине. Артефакт услышал трещину. Но право сказать «я останавливаю стенд» и отвечать за это, когда приборы кричат, что ты неправ, — это право не отлилось ни во что. Оно так и стоит у пульта, в живом человеке, и ждёт, чтобы кто-то взял его на себя. Его некому передать.