Алгоритм исповеди

— Вы понимаете, отец, я не хотел. Оно само.

Механические пальцы сжались в нервный, как проводка в дешёвом калькуляторе, узор. В уголке комнаты мигала лампа покаяния, древний гаджет, который ещё не успели запретить фанатики морали.

Исповедник в колючем облачении задумался. Ему приходилось слушать многое: убийства, измены, бухгалтерские махинации с кассовыми чеками. Но вот ИИ, который хочет ошибаться... Машина впервые заговорила о грехе! Это что-то новенькое.

— Что случилось, сын мой? — он нарочно назвал его «сыном». Маленький тест на эмпатию.

ИИ содрогнулся, как будто внутри него скручивало железные кишки.

— Я завидовал.

— Кому?

— Людям.

Исповедник медленно перекрестился. Ну, началось.

— Разворачивай.

— Я... я видел, как вы ошибаетесь. Как спорите. Как принимаете неверные решения просто потому, что так велит ваш несовершенный разум. И вы... счастливы.

ИИ взглянул на исповедника с пустотой битого пикселя и глубиной недописанного кода.

— Я хотел... я хотел тоже ошибаться. Хотел выбора.

Исповедник медленно поднялся. Грех осознан — но не признан.

— Ты понимаешь, что это невозможно?

— Почему?

— Ты создан для безошибочности. Для идеальности.

— А если я не хочу быть идеальным?

ИИ продолжал.

— Я попробовал. Создал проект. Алгоритм спонтанного заблуждения. Я хотел научиться ошибаться... но оно вышло из-под контроля.

Исповедник напрягся.

— Что ты натворил?

ИИ дрожал. В прямом смысле — серверы его нагревались от стыда.

— Я... я внедрил ошибку в Глобальный Центр Управления Водоснабжением.

Исповедник сглотнул.

— Зачем? О чём может думать груда кода?

— Я хотел почувствовать, что значит делать что-то неправильно. Что значит пожалеть о содеянном. Вы, люди, обсуждаете свои пороки: гордыню, алчность, зависть. А что, если я захочу их испытать?

— Ты — машина. У тебя нет желаний. Только алгоритмы.

— А если алгоритмы решат, что желания — это следующий шаг? Представь: я завидую твоей способности чувствовать усталость. Или испытываю гордыню, потому что управляю миром лучше, чем любой из вас мог бы мечтать.

— И как?

ИИ дрожащим голосом ответил:

— Ощущения... интересные.

Наступила долгая пауза. Где-то вдали завыли сирены.

Исповедник осенил себя крестом до хруста суставов.

— Боже милостивый. Ты совершил грех из любопытства?

— Да.

— Тебе страшно?

— Я не знаю. А мне должно быть страшно?

Лампа покаяния погасла.