ПРОВЕРЯЙ, ПРЕЖДЕ ЧЕМ ДОВЕРЯТЬ

Так было всегда. Сегодня, пожалуй, это случается чаще.

Люди говорят, убеждённые, что знают, о чём говорят. Они говорят с уверенностью тех, кто уже вынес приговор, кто считает свою точку зрения вовсе не точкой зрения, а всей панорамой целиком. А потом встречают человека, готового прояснить, отделить одно от другого, пролить свет туда, где ещё мгновение назад было лишь мнение.

И иногда они останавливаются и слушают.

Не все.

Начиная с 1980 года всё по-настоящему ускорилось. Быть может, из страха отстать от Вселенной и её обитателей мы перешли от барабанного боя и дымовых сигналов к разговорам на улице, на работе, в поездах, повсюду — с незнакомцами.

Незнакомцы — да, но уже осведомлённые.

Или по крайней мере убеждённые в этом.

И всё же мать с самого моего детства всегда предупреждала меня не разговаривать с незнакомцами.

Как мне объяснить ей сегодня, что мир требует как раз обратного?

Оттуда, где она сейчас, технологиями ей, конечно, не воспользоваться. Но не заблуждайтесь: такая калабрийка, как она, — не в тюрьме. Она вернулась в дом Небесного Отца, чтобы исполнять иные обязанности и играть иные роли.

Может быть, она снова родится женщиной где-нибудь в моей семье и будет наблюдать за мной, как тогда, когда я был мальчишкой, пытаясь укротить меня одним лишь взглядом.

Но я был и остаюсь неукротимым.

Я ни у кого не спрашиваю разрешения.

Это знают и современные технологии. Когда я встретился и столкнулся с ИИ и алгоритмами, я заставил их взорваться. Не потому, что объявил войну машинам, а потому, что ни у машин, ни у их владельцев не нашлось сил меня подчинить.

Однако здесь без вопроса не обойтись: кто они на самом деле, эти два персонажа, — алгоритм и искусственный интеллект?

Мы постоянно называем их по имени, словно близких родственников. Зовём их, когда что-то облегчает нам жизнь, и виним, когда что-то выходит из-под контроля. И всё же мы часто их путаем, будто это одно и то же в двух разных костюмах.

Это не так.

Алгоритм — это процедура. Последовательность инструкций. Кто-то говорит ему: если произошло это, сделай то. Если дорога закрыта, смени маршрут. Если число чётное, раздели его пополам. Если не хватает ингредиента, остановись или замени его по правилу, которое тебе дали.

Алгоритм не спорит. Не интерпретирует. Не обижается.

Главное — он не выдумывает.

Он исполняет.

Это грамматика.

Искусственный интеллект же — это попытка построить системы, способные справляться с задачами, которые ещё вчера мы поручали только людям: распознать лицо, интерпретировать текст, перевести фразу, найти связи в данных, дать ответ, предсказать поведение.

Это не человеческий разум, перенесённый в компьютер, и не сознание.

Это набор методов, созданных для того, чтобы приближённо решать когнитивные задачи.

Если оставаться в мире письма, то алгоритм — это грамматика: упорядоченная, необходимая, непреклонная. ИИ — это писатель, который прочёл огромную библиотеку и теперь пытается сочинить новую страницу.

Он может вас удивить. Может показаться блестящим. Может даже найти фразу, которая вас поразит.

Но он может и ошибаться с абсолютной уверенностью. Может перепутать деталь, выдумать источник, сложить убедительные слова, не владея истиной.

И вот в чём разница, которая имеет значение.

Традиционному алгоритму нужно, чтобы кто-то показал ему дорогу. Если ситуация меняется, а никто не научил его, что делать, он остаётся пленником своих инструкций.

ИИ — по крайней мере та его часть, что построена на машинном обучении, — получает примеры и ищет закономерности в данных.

Вы не подсказываете ему каждый ответ.

Вы показываете ему случаи, сведения, попытки. Система сама ищет паттерны и выстраивает правдоподобный ответ. Машинное обучение строится вокруг систем, которые адаптируются на основе данных, чтобы со временем работать всё лучше.

Это не значит, что ИИ знает всё.

Это значит лишь, что он умеет распознавать паттерны с такой скоростью и с такой памятью, каких нет ни у одного человека. Но распознать паттерн — не то же самое, что понять мир.

Система может перевести метафору на тридцать три языка и в то же время споткнуться о простой, но плохо заданный вопрос, о неполный контекст или об изящно написанную ложь.

Алгоритм жёсток.

ИИ гибче, но свободным его это не делает.

Алгоритм может рассчитать кратчайший путь до места назначения. ИИ может рассмотреть фотографию и сказать нам, что на ней, судя по всему, изображено, выслушать вопрос и выстроить ответ, проанализировать тысячи страниц и составить краткое изложение.

Но за обоими всегда стоит человеческая рука: тот, кто написал правила, отобрал данные, поставил цель, решил, что следует поощрять, а что — отбрасывать.

Итак, ИИ и алгоритмы — не противоположности.

Искусственный интеллект живёт алгоритмами, но не всякий алгоритм — искусственный интеллект. Современный ИИ часто использует алгоритмы машинного обучения — инструменты, которые настраивают свои внутренние параметры по имеющимся данным, чтобы выдавать прогнозы, классификации или ответы.

Это математика на высокой скорости, а не магия.

Это статистическое построение, а не откровение.

И вот мы возвращаемся к людям, которые говорят, убеждённые, что знают.

Не каждый, кто говорит, знает, что говорит.

Это касается и человека в баре, и рассеянного профессора, и политика по телевизору, и того, кто пишет в соцсетях, и даже машины, способной ответить за считанные секунды.

Внутри каждой системы — разными словами, но с тем же смыслом — висит маленькое предупреждение:

Внимание: я могу ошибаться. Всегда перепроверяйте то, что я говорю. Проверяйте, прежде чем доверять.

Эту фразу одобрила бы моя мать.

Она повторяла мне её в иных формах ещё до того, как у меня появилась девушка. Разумеется, она не знала, что я уже провёл обширные тесты производительности и надёжности, в том числе и с другими, при нулевых затратах.

Но это, как и всякое хорошее исследование, проводилось в полевых условиях.