Есть старый анекдот. Машинистка устраивается на работу и на вопрос, с какой скоростью она набирает текст, уверенно отвечает. «Две тысячи знаков в минуту, — и тихо, в сторону, добавляет: Но такая фигня получается». Анекдот в чем‑то опередил время. Современные алгоритмы обрабатывают данные и принимают решение с куда большей скоростью, но порой получается самая настоящая фигня. Не вдаваясь в сложные математические подробности типа понятия Big O, можно принять за основу утверждение о том, что скорость обработки данных ограничена исключительно мощностью вычислительной инфраструктуры, а значит, каждый новый технологический прорыв приближает ее к бесконечности. Для тех, кто не застал эпоху машбюро: хорошая машинистка считывала с листа и набивала на электрической «Ятрани» максимум 400 знаков в минуту. Машинная обработка данных, прошедшая путь от суперкомпьютеров (один из которых по старой московской легенде упрятан где‑то глубоко под зданием физтеха МГУ) до распределенных облачных сетей — не такая уж и новая технология. Вообще первый прогноз погоды был составлен с помощью вычислительной машины ENIAC в США еще в 1950 году. Спустя 76 лет уже 100 петабайт данных метеоспутников NASA были загружены специалистами Высшей технической школы Цюриха в свой ЦОД для обучения системы ИИ, специализирующейся на долгосрочных климатических прогнозах. Прогноз погоды — это фактически первый пример (не считая военного применения) использования алгоритмов для принятия решения на основе анализа большого массива данных. Начиная с 90‑х годов, прорывного периода для мировой индустрии микроэлектроники, алгоритмизация процессов отвоевывала себе плацдармы так же стремительно, как Красная армия во время Висло-Одерской операции 1945 года: медицина, фондовый рынок, логистические схемы — не осталось, пожалуй, уже сферы применения, где голова специалиста не попала бы под удар, или, по крайней мере, под помощь алгоритма. Если сперва у машины было право «совещательного голоса», она лишь подсказывала человеку правильное решение, то со временем роли поменялись и теперь уже человек стал наблюдателем за машиной, хотя и с правом иногда вносить корректировки в ее работу. Да, иногда машина ошибалась, но не чаще человека, и в целом — в пределах разумного процента ошибок. Первый серьезный крах произошел в мае 2010 года, когда алгоритмический трейдинг по всему миру не распознал уловку брокера Навиндера Сингха, решившего сыграть на понижение индекса S&P500 и буквально в считанные минуты обрушил фондовый рынок США на триллион долларов. Роль в крахе именно этой заявки до сих пор подвергается сомнению, но факт есть факт: автоматизированный трейдинг едва не разрушил десятки компаний без всякого участия человека. Вопрос, можно ли доверять машине принятие решений, на мой взгляд, куда сложнее той же «дилеммы вагонетки». С одной стороны — машине свойственно безупречное исполнение заложенных в нее правил (хотя все чаще приходится слышать про попытки моделей ИИ создать собственные правила своей работы), с другой — безусловное следование инструкции важно для исполнителей, а не для руководителей, задача которых — как раз уметь вовремя отступать от предписаний. Очевидно, этот подход актуален для всех сфер, где уже внедрена автоматизация процессов. Что делает робот, если подвернулась бракованная деталь или сломался инструмент? Останавливается все производство. Человек же мгновенно анализирует: «Ага, тут заусенец, сейчас я его подправлю напильником и продолжу», или «Этот болт не лезет, поменяю головку». Человек может импровизировать и находить обходные пути там, где алгоритм робота заходит в тупик. Кстати, новый тренд в роботизации производств — не строительство полностью автоматизированных линий, а насыщение конвейера роботами-коллаборантами, способными работать с человеком буквально рука об руку. Еще одна отрасль, где автоматизация принятия решений идет ударными темпами — это медицина. Причем движение это, как ни парадоксально, не только со стороны медиков. Врачи рассказывают о появлении нового типа пациентов, которые еще до визита к специалисту сдали все необходимые, по их мнению, анализы, загрузили результаты в одну из публичных LLM моделей и пришли на прием с уже готовым диагнозом и протоколом терапии. Врачу же предлагается лишь взять на себя юридическую ответственность за это решение, выписав соответствующие рецепты. Если посмотреть на все эти процессы сверху, можно предположить, что период романтической влюбленности в алгоритмы и искренняя вера в их безупречность меняется на разумный, прагматичный подход к ним. Нет более иллюзий о тотальной замене человека машиной. Если автопилот может поднять самолет в воздух, то сажать его все равно будет пилот.