След человеческого
Две новости буквально в один день прилетели.
Первая: 30 октября официально выходит в кинотеатральный прокат фильм «Боги не делают подарков», полностью сгенерированный нейросетью (правда, сценарий писали пока что люди и озвучивали живые актеры). Заявлен он как анимация — но, судя по трейлеру, сделан он явно с претензией на большее (и получил прокатный рейтинг R).
Вторая: на XXIII фестивале-практикуме киношкол «Кинопроба», который традиционно проходит в Екатеринбурге в начале декабря впервые объявлена отдельная номинация «нейросетевого кино» (что бы это не значило) со своим Гран-при и призами за лучшие режиссуру, сценарий, монтаж и анимацию опять же.
Не знаю, чего в этом больше — чистого маркетинга или следованию трендам (того, как в индустрии поняты тренды), но то, что обе новости почти одновременно всплыли у меня в ленте — совпадение знаковое. Пока мы спорим, «настоящее» ли это кино, индустрия уже учится считать его нормой. Прямо вот слышу как заскрипело, проворачиваясь, колесо истории.
А вот еще наблюдение.
Обычно у меня дома, когда я работаю за компом, постоянно музыка играет. Задаю Яндексу какую-нибудь тему, а дальше куда рекомендательные сервисы вывезут. А если вдруг попадается что-то славное — немедленно нахожу доступный плейлист исполнителя, чтобы скачать в коллекцию пару треков. И, разумеется, про самого исполнителя информацию тоже смотрю. Так вот, в большинстве случаев, это оказывается нейронкой сделано. Удивительно, но получается, что в основном только она идеально попадает в мои вкусы.
Тут меня тревожит не то, что машина пишет музыку. Меня тревожит, что я все чаще не могу отделить свой вкус от предсказания моего вкуса. Модель предлагает, я выбираю, она учится, я начинаю хотеть то, что она уже умеет предложить. Это не порабощение, это тонкая калибровка. И она происходит на мне, даже если я этого не замечаю.
Да, нередко сгенерированная музыка, звучит «как будто песочка насыпали». Это выражение моей дочери, привыкшей работать руками (художник) и испытывающей понятное отвращение к нейропродукту. Но ведь попадаются действительно достойные вещи, за которыми чувствуются не только толковые промпты, но и множество кропотливых итераций на пути к финальному релизу, грамотные постпродакшн и упаковка, обнаруживающие немалый вкус и чутье.
Как человек, экспериментировавший лет 15 назад с сэмплингом, я понимаю, что даже если в музыке, которую ты собрал и свел из множества источников нет ни одной твоей ноты — ты там все равно остаешься. И это не только потраченные время и усилия, но сам творческий порыв и, возможно, часть души.
След человеческого остается. Вопрос в том, что это за след: отпечаток босой ступни на песке из бесконечного массива данных или подпись под договором. В сэмплинге я отвечал за сборку. В нейрогенерации человек тоже отвечает — но уже не за каждую ноту, а за интенцию, отбор, границу допустимого. Авторство становится распределенным. Скоро будет неприлично спрашивать «это сделал AI?», как сейчас неприлично спрашивать «это сделано на компьютере?».
Проблема в другом.
Маркетологи начинают всерьез говорить о том, что на смену пятому технологическому укладу (который определяется через глобальные информационные технологии) неотвратимо грядет шестой, в котором за счет AI массовость охвата сменит всесторонняя и глубокая персонализация, по сути — фрагментация реальности, не свобода выбора, а производство выбора и его критериев под каждого конкретного человека. Экономисты вдохновлены тем, как AI будет вести безупречный межотраслевой баланс и прогнозируют чуть ли не возвращение к плановой экономике. Про военные технологии я уж вообще молчу.
Но больше меня волнует то, как AI влияет на человека, насколько он способен трансформировать личность в частности и общество в целом, как он способен изменить человека — а, следовательно, изменить мир. Конечно, AI не заменит людей. Но он вполне может заменить человека, который не рефлексирует свое использование AI (или то, как AI использует его). Это не зеркало, а среда, которая меняет того, кто в нее смотрит.
Дело ведь не просто в технологической революции, а в формировании новой онтологической картины мира, в которой базовые понятия этики, субъектности, разума в конце концов, и без того подорванные разрушительной диктатурой постмодерна, никак толком не актуализированы (все, что я пока вижу на этом поле — либо откат назад к модерну в том или ином описании, либо осторожные разговоры о постгуманизме).
Нам сейчас позарез нужен язык, который описывает человека в принципиально новой реальности. Тогда и вопросы будут звучать иначе: где проходит граница решения? Кто отвечает за вкус и выбор? Что значит внимание, если среда всегда быстрее? Те языки, которые есть сегодня — рынка, социальной инженерии, технологической доктрины — не отвечают на главное: как жить.
А пока пора уже начинать удерживать пространство немоделируемого, медленное и неэффективное — чтение с листа, ручная работа, живой разговор — не оцениваемое метрикой. И обсуждать AI не как экзистенциальную угрозу, а как антропологический факт.