Чужиезубы

Стивен Шварц проработал юристом тридцать лет и ни разу не встречал инструмент, который делает работу и одновременно её выдумывает.

Дело было заурядное: пассажир судился с авиакомпанией Avianca из-за разбитого колена. Готовя возражение, Шварц попросил ChatGPT подобрать подходящие прецеденты. Тот подобрал шесть. Пяти из них не существовало. Ни дел, ни решений, ни судей, которые их выносили. Шварц вставил ссылки в документ и подал его в суд.

22 июня 2023 года судья Кевин Кастел оштрафовал Шварца, его коллегу Питера ЛоДуку и их фирму на пять тысяч долларов. Отдельным пунктом он обязал их разослать письма настоящим судьям, чьи имена машина поставила под выдуманными решениями.

Интереснее штрафа то, как выглядела ошибка. Ссылки были оформлены безупречно: названия сторон, номера томов, годы, всё на своих местах. Ничто в них не намекало, что за ними пустота. Шварц потом объяснял суду, что просто не предполагал такой возможности, и ему, в общем, можно верить. До сих пор инструменты так себя не вели.

Чтобы понять, откуда взялся инструмент, который врёт с уверенным лицом, придётся отойти примерно на миллион восемьсот тысяч лет.

Откройте кран. Из него пойдёт чистая вода нужной температуры, и на это уйдёт полсекунды внимания.

Полсекунды стоят вот чего.

Смена большинства из них закончилась задолго до вашего рождения, а работа осталась и повторяется каждый раз, когда кто-то поворачивает вентиль. За инструмент платят один раз, а получают труд, растянутый на поколения. Отсюда и ощущение, что цивилизация работает как магия: сложность спрятана в стены, в трубы, в корпус, в интерфейс, и наружу торчит только ручка.

Разница между первобытным человеком и современным не в сообразительности. Чтобы сварить кашу, первому надо было знать, где вода, как добыть огонь, из чего сделать посуду, где взять зерно и чем его смолоть. Второму достаточно знать, где кнопка. Между ними лежат тысячелетия, уже упакованные в его кухню.

У этой сделки есть цена, и она измерима.

Ничего трагического в этом нет. Никто не тоскует по устному делению в столбик и мало кто помнит наизусть больше трёх телефонных номеров. Обмен навыка на инструмент идёт непрерывно и почти всегда в нашу пользу. Важно другое: у каждого такого обмена есть предмет, и стоит понимать, что именно вы отдаёте.

У технологии есть простой признак взрослости: люди перестали произносить её название.

15 июня 2006 года глагол to google появился в Оксфордском словаре, а через месяц в Merriam-Webster. К тому моменту им пользовались уже лет восемь, и словари просто зафиксировали то, что произошло само: название компании стёрлось до действия. Никто не говорит «я воспользуюсь поисковой системой», все говорят «загуглю». Так же никто не говорит «применю высокоточное режущее устройство», когда просит передать нож.

Молоток вообще заметен только в двух случаях: когда его нет под рукой и когда он сломался. Пока он работает, его как бы не существует, существует только забиваемый гвоздь. Хороший инструмент исчезает в действии, и это высшая форма признания, которой технология может добиться.

По этой шкале нынешний ИИ находится в подростковом возрасте. Мы всё ещё говорим «я спросил у нейросети» и «закинул в модель», сравниваем версии, обсуждаем формулировки запросов. Технология, про которую столько говорят, ещё не села в руку. Взрослой она станет не когда поумнеет, а когда про неё перестанут разговаривать.

Несколько миллионов лет инструменты работали с веществом. Потом появился компьютер и начал работать с информацией. Третье поколение отличается не тем, о чём обычно говорят.

Тупой нож честен. Он режет плохо, и вы понимаете это на первом же помидоре.

Молоток не притворяется. Сломанный кран не делает вид, что вода идёт. За полтора миллиона лет ни один инструмент не сообщал хозяину с достоинством, что помидор нарезан, когда тот лежал целый. Брак был виден в самом результате, и проверка ничего не стоила, потому что была встроена в действие.

Здесь и появляется Стивен Шварц с шестью прецедентами, из которых пять никогда не существовали. Его ошибка выглядела как хорошо сделанная работа: правильный формат ссылок, правдоподобные названия, номера томов. Проверить это можно было только одним способом, открыв каждое дело по отдельности, то есть проделав ровно ту работу, которую он поручил машине.

Справедливости ради, машина тут не первопроходец. В 2010 году гарвардские экономисты Кармен Райнхарт и Кеннет Рогофф опубликовали работу, из которой следовало, что при госдолге выше 90 процентов ВВП рост становится отрицательным. На неё ссылались Пол Райан в Конгрессе, Джордж Осборн в британском казначействе и Еврокомиссия, обосновывая политику жёсткой экономии.

В 2013 году аспирант Массачусетского университета Томас Херндон вместе с двумя профессорами попробовал повторить расчёт и не смог. Выяснилось, что в таблице формула была растянута не на все строки: из выборки выпали Дания, Канада, Бельгия, Австрия и Австралия. После исправления средний рост при том же уровне долга оказался положительным, 2,2 процента вместо минус 0,1.

Пять непротянутых ячеек несколько лет работали аргументом в пользу сокращения бюджетов. Excel тоже умеет выдавать безупречно оформленную ошибку. Разница в том, что таблица ошибается там, куда её направила рука, а модель делает это самостоятельно и в местах, которые вы не выбирали.

Отсюда следует довольно неприятная вещь про навык.

Подписка на сорок сервисов означает ровно одно: у вас сорок подписок.

Сам по себе инструмент не производит ничего. Результат появляется на стыке четырёх вещей: понятой задачи, выбранного под неё инструмента, выстроенного порядка работы и проверки на выходе. Уберите любое звено, и оставшиеся три превращаются в дорогое хобби.

Поэтому учить «нейросети» бессмысленно, они обновляются быстрее, чем успевает выйти курс. Полезнее другое: научиться видеть свою работу как набор глаголов.

Глаголы не менялись тысячи лет, а инструменты под них сменились десятки раз. Кто держит в голове список глаголов, тот спокойно переживает смену поколений софта. Кто держит список сервисов, тот каждый год начинает сначала.

И раз уж речь зашла о сервисах, стоит разобраться с обещанием, которое к ним обычно прилагается.

В 1865 году английский экономист Уильям Джевонс изучал угольную промышленность и заметил неожиданное. Паровые машины становились экономичнее, угля на единицу работы требовалось меньше, а общее потребление угля росло. Дешевизна не сократила расход, она расширила применение: машины стали ставить туда, где раньше это не окупалось.

С таблицами вышло так же. До электронных таблиц никто не пересчитывал финансовую модель двадцать раз за день, потому что каждый пересчёт стоил недели. Как только это подешевело, двадцать пересчётов стали нормой, а освободившееся время немедленно съела выросшая планка требований.

С текстами и анализом произойдёт ровно то же. Дешёвый текст означает не меньше текста, а больше текста и более высокие требования к нему. Дешёвый анализ означает, что теперь его ждут по любому поводу. Инструмент не возвращает время, он передвигает узкое место дальше по трубе.

Остаётся понять, куда именно оно переезжает. Судя по всему, туда, где машиной не схалтуришь: в постановку задачи, во вкус и в подпись под результатом.

Поручить машине можно почти всё. Кроме одного, и дело тут не в морали, а в устройстве самой затеи.

Нельзя поручить машине понимание того, хорошо получилось или плохо. Если вы перестали это различать, вы не передали работу помощнику, а просто её потеряли. На выходе появляется нечто, и остаётся надеяться, что оно годится, потому что проверить нечем.

Редактор, который перестал чувствовать текст, не превращается в редактора со ста помощниками. Он превращается в человека, который нажимает «одобрить» по внешним признакам: гладко написано, абзацы ровные, ссылки на месте. Примерно так выглядела папка Шварца в марте 2023 года.

Работает это и в обратную сторону. Хирург, оперирующий роботом, не теряет квалификацию оттого, что инструментами двигает машина: он по-прежнему единственный, кто понимает, правильно ли идёт операция. Инструментами двигает машина, а понимает происходящее по-прежнему он. Разница между редактором и хирургом не в количестве техники вокруг, а в том, кто из двоих ещё способен сказать, что работа сделана плохо.

Отсюда рабочее правило, довольно скучное на вид. Исполнение отдавайте, а вкус, суждение и ответственность за результат держите при себе. У рычага должна быть точка опоры, иначе он не рычаг, а палка.

Дальше обещают среду: вы больше не приходите к инструменту, инструмент приходит к вам. Замечает событие, решает, что нужно сделать, делает и приносит готовое.

Обещание звучит футуристично, но такая среда давно работает, и не в виде корпоративного агента. Это лента рекомендаций. Она изучила вас, приходит без спроса и приносит ровно то, что вы, по её мнению, хотели. Человек открывает приложение посмотреть одно видео и закрывает через полтора часа. Формально всё исполнено безупречно: он же смотрел, значит хотел.

Разница между полезной средой и вредной проходит по одному вопросу: кто ставит цель. Пока цель ваша, среда работает протезом и продолжает вашу волю дальше, чем дотягиваются руки. Как только среда начинает предлагать цели, а вы соглашаетесь, потому что так удобнее, устройство остаётся тем же, а вы меняетесь ролями.

Поэтому вопрос «какие ИИ-инструменты выбрать» стоит вторым. Первый скучнее и неудобнее: чего я, собственно, хочу и откуда я знаю, что хочу именно этого.