Тень цифрового согласия. Пролог: когда реклама ИИ пугает больше, чем сам ИИ
Сегодня, 16 июля, примечательная дата — День искусственного интеллекта.
Это неофициальный праздник. Его учредила компания A.I. Heart LLC в 2021 году, чтобы люди чаще задумывались о том, как ИИ уже меняет нашу жизнь — от рекомендаций музыки до помощи врачам.
А за несколько дней до этой даты произошло событие, которое сегодня воспринимается почти символично.
Одна из ведущих мировых компаний в области искусственного интеллекта — Anthropic — выпустила рекламный ролик "There's Hope in Hard Questions" («Есть надежда в трудных вопросах»).
Вместо привычных обещаний о будущем — кладбище, камеры наблюдения, пожар и вопрос:
«Кто нажмёт на тормоз, если это понадобится?»
Идея была понятная и даже благородная: показать, что компания не прячется от опасных тем, а смотрит им прямо в лицо. Горящий дом. Толпа под камерами распознавания лиц. Бездомный на улице. Ряды могил. Шахтеры где-то в темноте — там, где добывают сырье для наших смартфонов. Голос за кадром спрашивает: «Можно ли доверять ИИ?», «Кто нажмет на тормоз, если понадобится?»
Получилось не «мы честно смотрим в бездну», а «зачем вы показываете мне кладбище, когда я просто хотел спросить у чат-бота рецепт борща».
Реакция была почти единодушной. Пользователи писали, что ролик выглядит как пародия, а не как реклама. Даже Сэм Альтман, глава конкурирующей OpenAI, не удержался и написал в X, что принял видео за сатиру и всё искал, не написан ли адрес аккаунта с ошибкой — как будто это какой-то фейковый, пародийный профиль.
Это симптом.
Разные представления об одной опасности
Anthropic — компания, которая действительно годами говорит о рисках сильного ИИ на полном серьезе, вплоть до сценариев экзистенциальной угрозы человечеству. Внутри этой корпоративной культуры разговор о кладбищах и «тормозах цивилизации» — рутина, часть ежедневного дискурса.
Проблема в том, что зритель ролика этой рутины не разделяет. Для него реклама технологического продукта, которая монтирует кадры настоящего военного кладбища с закадровым вопросом «кто нажмет на тормоз» — это не смелость. Это или чёрный юмор, или тревожный сигнал о том, что сама компания не до конца понимает границу между внутренним языком служебных дискуссий про AI safety и языком, на котором стоит разговаривать с обычным человеком, листающим ленту.
Здесь и кроется главный урок этой истории — причём урок не про маркетинг, а про восприятие. Компания, которая каждый день варится в разговорах об экзистенциальных рисках, рискует потерять контакт с тем, как эти образы звучат для человека, который в эти разговоры не вовлечён.
Что для одних — честность, для других — паника без предложенного выхода.
А если завтра заговорят все
Допустим, ролик Anthropic — неудачный частный случай. Допустим, через полгода все крупные ИИ-компании начнут снимать похожую рекламу, чуть более аккуратную, без кладбищ, но с тем же посылом: «мы знаем, что это опасно, доверьтесь нам». Изменится ли что-то принципиально?
Нет. Потому что сам вопрос, который якобы поднимает эта реклама — «можно ли доверять ИИ» — не самый интересный вопрос из всех возможных. Он слишком общий и слишком удобный: на него можно бесконечно отвечать пресс-релизами, обещаниями и красивыми роликами про ответственность. Гораздо интереснее и гораздо ближе к реальной жизни другой вопрос, который реклама вообще не задаёт:
Что происходит с человеком, когда он добровольно передаёт алгоритмам всё больше собственных решений?
Не «опасен ли ИИ вообще», а что происходит с конкретным мной, когда я в шестой раз за день спрашиваю у алгоритма, что мне поесть, что мне ответить коллеге, какой фильм посмотреть, о чём подумать перед сном. Никто не заставляет меня это делать. Я делаю это сам, добровольно, шаг за шагом, каждый раз чуть-чуть удобнее предыдущего.
Тень цифрового согласия
Anthropic предлагает начать разговор с вопроса об опасностях ИИ. Это позиция, у которой есть смысл, и она в чём-то честная — компания правда годами вкладывается в тему безопасности ИИ, и провал одной рекламной кампании этого не отменяет.
Но я хочу сказать другое.
ИИ может быть очень полезен. По-настоящему полезен — избавляет от рутины, помогает думать, экономит часы жизни. Проблема не в самом инструменте. Проблема в том, что часть решений мы отдаём ему не потому, что нас заставили, а потому что так проще. И именно эта добровольность — самое незаметное, что происходит с нами прямо сейчас.
Это и есть тема серии статей, которую я начинаю здесь, на «После логина» — «Тень цифрового согласия». Не про восстание машин и не про кнопку «стоп», в которую упирается реклама Anthropic.
Про куда более тихий процесс: как мы, клик за кликом, соглашаемся на всё большее делегирование — сначала маршрута, потом покупки, потом мнения, потом, может быть, решения о том, с кем дружить и во что верить.
Никто не снимает об этом рекламу с кладбищем, потому что это не выглядит страшно. Это выглядит как обычная среда.
А обычная среда — самое опасное место для наблюдения, потому что в ней не хочется искать проблему.
Ролик Anthropic провалился не потому, что был слишком честным. Он провалился, потому что предложил зрителю готовый страх вместо приглашения посмотреть на себя. Страх заканчивается, как только выключаешь видео. Наблюдение — нет.
Возможно, именно поэтому мне кажется важным начать этот разговор сейчас.
Не потому, что я боюсь искусственного интеллекта.
А потому, что я не хочу однажды обнаружить, что самые важные решения моей жизни стали приниматься настолько удобно, что я перестал замечать сам момент согласия.
Где именно проходит граница между удобством и делегированием.
И можно ли вообще заметить момент, когда решение перестаёт быть твоим.
Что-то в статье вас затронуло?
Если эта статья заставила вас о чём-то задуматься, вспомнить свой опыт или не согласиться с автором — напишите об этом в комментариях или мне на почту.
📧 E-mail: pm@milenin.pro
Мне интересны не только совпадения во взглядах. Иногда самый интересный разговор начинается именно с несогласия. А в тот момент, когда мы делимся своими мыслями, они становятся яснее, а тишина — осмысленнее.
Проект «После логина» существует не только для чтения, но и для разговора.
После логина всё только начинается.
