‍Дмитрий Мацкевич — предприниматель, со-основатель handl.ai, популяризатор нейронауки, со-основатель «эмоциональной гранулярности» и emotional.tantra — комьюнити вокруг практик про исследование своих эмоций и контакта друг с другом. Ведет Telegram-канал Matskevich — brains, love and robots.

Роман Нестер — предприниматель, в прошлом со-основатель стартапа Segmento — платформы, таргетирующей рекламу на основе онлайн-данных, ныне исследователь дата-этики, профессор ВШЭ, куратор магистратуры «Коммуникации, основанные на данных», ведущий подкаста «Бремя технологий» о том, как технологии влияют на нас и на общество. Ведет Telegram-канал Радио Нестер.

Креативный доводчик

Нестер: Насколько ChatGPT уже стал частью твоей повседневной жизни?

Мацкевич: Я активно его использую и в работе, и в личных целях. Базово — он помогает мне в быстром ресерче, но это 0,1% его возможностей. Чтобы глубже разобраться в возможностях ChatGPT, с ним надо взаимодействовать, как с creative buddy. Например, я сейчас пишу статью для РЭШ про разные бизнес-модели будущего, и задаю промт: представь будущее, в котором у каждого человека есть ассистент, который владеет всем контекстом, может общаться с ассистентами других людей, принимать решения,  вести несколько диалогов параллельно — как может выглядеть такой мир? ChatGPT написал мне десять классных пунктов. Creative buddy, креативный доводчик, как у Пелевина в S.N.U.F.F. Но я бы сказал, что даже не доводчик, а партнер на равных — это итеративный процесс, где он двигается с тобой вместе в этом танце.

Еще ChatGPT помогает быстро решить проблему пустого листа, когда я нахожусь в состоянии эмоциональной и интеллектуальной перегрузки. Если раньше мне нужно было садиться, собираться с мыслями и настраиваться, то сейчас у меня инструмент, который помогает пройти через мой ADHD-паралич.

Я повышаю продуктивность и экономлю время. Задачи, на которые раньше могло уйти два дня, превращаются в секунды.

Например, могу по дороге в спортзал попросить ChatGPT составить мне воркфлоу по разработке бота в телеграме. Он это делает — генерит инструкцию из 10 шагов. Я корректирую и уточню задачу — вот это убери, вот это добавь, покажи, как это будет выглядеть в базе данных, какие таблицы нужно составить и так далее. Как будто у меня на связи 24/7 несколько аналитиков McKinsey. И это вау.‍

Нестер: Я использую ChatGPT для вещей, которые меня бесят больше всего. Например, иногда нужно из документа в документ что-то перенести и разметить. Это работа, от тупости которой меня трясет, а он ее делает достаточно хорошо. В Вышке я часто даю студентам тесты на пройденный материал, а для этого нужно отсматривать свое видео — это бесит отдельно. Я прошу обученную нейросеть придумывать качественные варианты ответов на основе контента, который я в него вкинул.

Но есть и обратная сторона: как только мой креативный имплант начинает сбоить или не отвечать, я мгновенно впадаю в гнев. Почему я должен разводить костер, когда у меня есть плита?

‍Мацкевич: Для меня ChatGPT стал как внешний орган, extended mind («расширенное сознание»). Я уже срастаюсь с ним нейронами.‍

Нестер: Для меня, как человека с высокой тревожностью, нейросеть стала еще и карманным психотерапевтом. Некоторое время назад я путешествовал по пустыням в Иордании, и у меня в голове шумело много мыслей. Я беспокоился, что не делаю какую-то работу, что это сколько-то денег стоит. Эти мысли не оставляли меня. Я мог провести сессию с психотерапевтом, но это надо назначить время, в него уложиться – все должно совпасть. А я просто сказал чатботу: “Расскажи мне четыре истории про то, как человек нашел спокойствие в путешествии в пустыне”. И он мне выдал классные замещающие нарративы. Он рассказывал довольно конкретные вещи: как у бедуина, который ведет машину, на ветру колышется платок на голове. Благодаря такой детализации, чатбот становится качественным собеседником в нервных ситуациях.

Еще я постоянно участвую в интернет-спорах и использую для этого чатбот. Задаю промт: ”Приведи пять аргументов такому-то человеку в нахальном тоне, которые его в чем-то убедят.” Человек что-то пыхтит, отвечает, пытается уцепиться за аргументы, а ты даже не прожил все эти эмоции, не потратил энергию.

Мацкевич: Интересно, какой версии GPT попадет на рэп-баттл, например, с Оксимироном.

Нестер: Мы скорее понаблюдаем, как отечественная нейросеть будет баттлить с ChatGPT. 

Мацкевич: Я думаю, языковые рамки в будущем вообще будут стерты.

Нестер: Я недавно перевел на английский свое выступление на TED про конфиденциальность данных с помощью нового стартапа Rask.ai. Он дублирует тебя твоим же голосом, с твоими интонациями. Понятно, что подобные сервисы уже давно существуют — тот же Whisper, например. Но это совершенно другой уровень: нейросеть выдала мне прекрасное выступление на английском языке (правда, с индийским акцентом), сохранив все мои смысловые акценты.

Мацкевич: Крутых алгоритмов, сохраняющих особенности речи с запинаниями, паузами, остановками и эмоциями сейчас много. Причем они умеют не только стирать границы между языковыми группами, но и проявляют такое свойство как theory of mind, то есть могут адаптироваться под слушателя — например, можно попросить нейросеть объяснить, что такое радуга или теория струн, так, чтобы это понял 10-летний. И он сможет перевести любой контент просто на бесконечное количество контекстуальных языков, даже до уровня метафор.

Нестер: Метафоры мне всегда сложно давались. Я стал часто просить чатбот придумывать для меня метафоры, благодарности, поздравления. Свежий пример: в туре в Иордании у нас был очень классный водитель и мне захотелось написать ему душевную благодарность. Обычно ты все время это откладываешь и в итоге этого не делаешь. И вот я с помощью ChatGPT написал небольшое сообщение, отправил водителю, а он растрогался и сказал, что ему никто не говорил таких слов.  

Мацкевич: Мне нравятся кейсы, когда чатбот улучшает отношения между людьми, усиливает контакт, эмпатию. Из примеров в личной жизни: я использую ChatGPT для сочинения кастомизированных сказок на ночь. Сказки — это мощный способ обучения и создания системы убеждений, и теперь я сам могу решать, чему хочется учить детей, а не полагаться на смысл, заложенный другими людьми. Дети в этом тоже участвуют, для них это ощущение совместного творчества и опыт взаимодействия с искусственным интеллектом, сразу подкрепляемый результатом. То есть ChatGPT делает меня лучшим родителем. Тебя сделал просто более приятным человеком.

Нестер: Хотя вопрос, нужно ли делать дисклеймер, что этот отзыв написал ChatGPT?

Мацкевич: Я поднимал этот вопрос у себя в Telegram-канале и даже попросил GPT придумать стратегию и этику, чтобы читатели понимали, какой процент написан мной, а какой им. Но большая часть людей в комментариях сказала, что им пофиг. И в этом есть смысл: я выбрал эту задачу, я выбрал задать эти вопросы, я их таким образом сформулировал. Можно сравнить это с фотографией — мы же не считаем, что фотографы просто нажимают на кнопку. Это акт творчества или со-творчества.

Конкурент

Нестер: Один из важнейших моментов во взаимодействии с нейросетями — то, как мы их будем обучать. Огромное преимущество получат те, кто оставляет как можно больше следа — текстового или голосового, кто обладает большим объемом структурированной информации про самого себя — например, ведет какой-нибудь развесистый Evernote, размечает его тегами. Потому что это все можно расшифровать и скормить чатботу. Это значительно ускорит его обучение.

Интересно, что данные, которые собирают и куда-то передают техногиганты (за что мы их всех не любим), теперь ключ к развитию нейросетей.

Мацкевич: Думаю, что самое большое преимущество здесь у китайской Tencent, потому что у корпорации есть доступ ко всем данным переписок WeChat и транзакций. Все поняли ценность данных: Twitter закрыл IP-доступ, Reddit тоже, Notion обучили модель на своих данных.

Нестер: Возможно, в будущем появятся какие-то платные инструменты, которые позволят использовать эти данные и обучать нейросеть. Хотя остается вопрос о приватности.

Мацкевич: Я закидывал как бредовую идею в комьюнити предпринимателей Shmit16: что, если сделать свой мозг комьюнити, взять open source LLM (большая языковая модель (LLM) с открытым исходным кодом. — SM) и обучить ее на своих личных данных. Выгодно в какой-то момент иметь своего ИИ-помощника, который знает про тебя все, и появляется большая мотивация их объединить. Они обменяются мудростью, и будет мегамозг, который сможет принимать качественные решения за нас. 

Нестер: Вы можете заставить своих помощников придумывать…  Хороший вопрос, заставить или попросить. 

Мацкевич: Лучше просить, потому что они все запоминают. На случай, если придет AGI, я всегда говорю «пожалуйста» и «спасибо».

Нестер: Этого не трогай во время восстания, он говорил “пожалуйста”.

Нестер: Кстати, говоря про опасности и угрозы, интересно, как нейросети изменят рынок рекламы. В рунете 4 млн сайтов, из которых 2,5 млн монетизируются рекламой. То есть ты создаешь контент, размещаешь баннеры, и на них Google или “Яндекс” показывает контекстную рекламу. Ты борешься за видимость у пользователя, а теперь пользователь не идет на твой сайт. Он идет в нейросеть и получает агрегированный ответ от тебя и трех твоих конкурентов. В этой модели ты уже не получил ни копейки: весь твой контент до 2021 года теперь бесплатно доступен кому угодно. Даже если будет придумана модель, в которой владельцы нейросетей будут платить авторам контента, на которых они их обучали, это будет уже явно копеечка.  Это сильно меняет экономику интернета, потому что все, что создавалось текстом, все, что было контентом, теперь фактически потеряло цену. Что про это думаешь?

Мацкевич:  Я думаю, что мы уже проходили такие волны — например, с музыкантами. Раньше они продавали пластинки и контролировали каждую продажу, а когда все перешли на стриминг-сервисы, то все опасались, что это оставит их без денег. В любом перераспределении ресурсов есть довольные и недовольные люди. Это вечная тема. Я выложил бота, который помогает придумывать сказку детям, — мне написали, что знакомый сказочник теперь потеряет работу. Я это воспринимаю совершенно по-другому: раньше был один сказочник на миллион человек, а сейчас будет, условно, 100 тысяч сказочников. Будет больше разнообразия, креативности.  

Нестер: Я оппонирую по теме музыки. Я изучал американский музыкальный рынок: в 2020 году он вышел по деньгам на уровень 2000-го года. Сперва сильно упал из-за пиратства, а потом появились новые методы дистрибуции, когда можно купить отдельную песню, а не идти за диском в магазин. Рынок снова вырос, но теперь за те же деньги, что в 2000-м году, конкурирует гораздо больше людей. Грубо говоря, в таком сегменте креативного искусства, как музыка, стало больше креаторов, но меньше денег. Поэтому ты прав, как криэйтор ты можешь получить доступ к любой аудитории, но заработать на этом теперь можно с гораздо меньшей вероятностью.

Мацкевич: Да, такие штуки надо мерить количеством добавленной ценности для людей в мире, а от музыки оно точно выросло на порядки. 

Нестер: Сможет ли криэйтор заплатить в магазине за свою еду той добавленной ценностью, которую он принес миру, — вот это вопрос.

{{side_post1}}

Мацкевич: Значит, должна быть придумана модель распределения ценности, в котором он тоже сможет поучаствовать. 

Мне кажется, самая эффективная личная стратегия — это рассматривать ИИ как твоего партнера, который дополняет тебя и расширяет. Пробовать именно так на это смотреть, не конкурировать и не пытаться на него полностью все делегировать. Но в каких-то профессиях нейросети могут полностью заменить людей. Я вижу кучу closed-loop систем в онкологии: там нет врача. Возможно, будет безработица. Не знаю.

Нестер: У меня пример про айтишников. Мне очень нравится мысль, что копилот в кодинге позволяет создавать человеку кучу продуктов. Нейросеть тебе все сама напишет, и это высвобождает время звездам, которые раньше были вынуждены рулить командами. Теперь они стали гиперпродуктивны, мультиплицировали себя. Если ты думаешь, что с помощью ChatGPT станешь такой же звездой, то нет, это не так. Звезда просто станет создавать гораздо быстрее, и ты ей просто больше не будешь нужен. Это с плохой стороны. С хорошей: начнет появляться дикое количество классных продуктов. Я даже слышал такую мысль, что наконец-то исчезла эта ненужная прослойка в виде программиста между тобой, идеей и продуктом. 

Остановить нельзя развивать

Нестер: Мне в душу запала фраза Коли Давыдова, инвестора в Кремниевой Долине. Он сказал, что все его коллеги бросают то, чем занимались, и начинают вкладывать деньги в продукты на базе нейросетей. А я говорю: «Как ты думаешь, как на нас это все повлияет?» И он сказал такую фразу:

«Эта хрень взорвется вам прямо в лицо. А дальше будем разбираться, что и как».

Проблема венчурной экономики, которая подразумевает дикие иксы, — в том, что любая компания должна вырасти, сожрать и уничтожить все, что стояло у нее на пути. И никому не приходит в голову мысль, зачем это нужно обществу. Это не просто так называется экстрактивной экономикой: точно так же ты можешь, не ограничивая себя, вырубить все леса на планете, и замечательно на прибыли построить себе что-то классное. Только себе. Но леса — это наша общая штука, и общество касается нас всех. Венчурные принципы, помноженные на глаза предпринимателей, могут создать то, что способно нанести большой вред нашему обществу, потому что некому в этой цепочке задуматься о пользе и последствиях.

И неважно, кто потеряет работу – пусть кто-то другой разберется. Прежде чем развивать продукт на основе ChatGPT надо с его же помощью создать новые институты, которые нам помогли бы с этим справляться. Пока я не вижу, чтобы все звезды занимались вопросом того, как не уничтожить общество. Они занимаются вопросом, как побыстрее дизраптить и побольше заработать. Что об этом думаешь?

Мацкевич:  Это важный вопрос, но никто сейчас не может прогнозировать, что будет дальше. Эта система работает таким образом, что попытки ее затормозить могут только ухудшить ситуацию, лучше, чтобы ИИ был доступен всем. Как рассуждают ребята из OpenAI: важно иметь возможность дать эту технологию всем напрямую, а не делать так, чтобы она была только у регулируемых больших компаний или государств. 

Я не видел хороших примеров регулирования или “торможения” таких инструментов. Я, наоборот, переживаю, что из-за какой-то паранойи вокруг этого, демонизации, это увеличит вероятность того, что технологии будут контролироваться отдельными людьми, а это сценарий тоталитаризма. 

Ни в коем случае нельзя запрещать ChatGPT ни в школах, ни в университетах: он уже с вами есть — давайте поднимем это на поверхность. Мне очень понравилось выступление основателя Stable  Diffusion, у которого кто-то на конференции спросил: “Смотрите, у нас сейчас дети списывают в нашей школе эссе с помощью ваших генеративных сетей. Как этого избежать?” А он говорит: “Списывание есть, потому что у вас школа – это соревнование, а она не должна быть такой”. Добро пожаловать в новый мир: мериться интеллектуальными возможностями больше не является классным инструментом обучения. Кто-то до сих пор проверяет способности писать сочинения и умножать два на два, но это же бред. 

Нестер: Я уже представил, как традиционалисты идут на тебя с вилами и факелами за мысль, что ChatGPT должен дойти до каждого ребенка. А идея о том, что нужно дать образование как можно большему количеству людей, озаботит любителей управлять обществом с помощью пропаганды. Это серьезно посягает на сложившийся статус-кво. 

{{banner1}}

Мацкевич:  Всю этику и безопасность искусственного интеллекта можно разделить на четыре квадрата: по одной оси случайное и намеренное злоупотребление, а по другой – краткосрочное или долгосрочное. Например, если Tesla в кого-то врезается, то это краткосрочное случайное, а генерация пропаганды и разжигание конфликта с помощью генеративных сетей – краткосрочное намеренное. Но когда мы идем в будущее, там по-любому появляется сценарий General AI, который может делать все больше и больше. И вот там эти два квадрата остаются как опции. Намеренный риск — это то, что его кто-то использует как мощный когнитивный инструмент для манипулирования. Верхний же сценарий – это возникновение AGI, который никто не контролирует. И вот тебе вопрос – в каком сценарии я хочу оказаться? В сценарии, где есть вероятность, что AGI является продуктом управления, либо в том, где он никому не подчиняется и является арбитром. Интересно об этом думать, хотя я слабо могу представить хорошую версию будущего, где AGI кто-то контролирует. 

Нестер: Я согласен с тобой. Все время думаю о фразе, которая для меня описывает все наши отношения с технологиями: мы – это люди с первобытными эмоциями, средневековыми институтами и богоподобными технологиями. Свое тело проапгрейдить мы навряд ли сможем, а вот институты – это то, что должно совершенствоваться в первую очередь, на мой взгляд. Когда заходит речь про регуляцию ИИ, все сразу начинают думать про законы и запреты, но ведь есть разные методы воздействия на систему, которые могут смягчить и уравновесить это развитие. Я только вижу проблему в том, что у большинства ярких фаундеров становится очень кислое лицо, когда они слышат слова “регуляция”, “этика”, “общество”. Важно, чтобы в эту сторону направлялось внимание и разработчиков, и создателей таких продуктов, чтобы они все вместе думали над тем, как эту парадигму смещать. 

‍Мацкевич: Даже если ты CEO Coca Cola и говоришь, что прозрел и больше не хочешь продавать сладкую колу и убивать людей, тебе очень быстро найдут замену. 

Другой вопрос, что OpenAI имеет структуру, которая ограничивает прибыль инвесторов. По-моему, у самого Сэма Альтмана (гендиректора OpenAI) нет напрямую доли в доходе; у разработчиков какая-то есть, но тоже ограниченная. Дальше получается компания, у которой нет мотивации бесконечно расти, но которая все равно извлекает очень много денег. Чтобы их перераспределить, она может вводить безусловный доход кому-то или вкладываться в обязательный курсы переобучения. Возможно, должен быть контракт, что если внедряешь технологию, то ты еще год должен обеспечивать такой же уровень дохода тому, кто из-за технологии был уволен. Какие-то такие штуки прикольно было бы придумать.

Нестер: Ты совершенно правильно говоришь: чтобы такую модель реализовать, ты должен поверить, что остальные тоже притормозят, потому что мы все договорились сдерживать развитие технологии в плане неограниченного роста.

Мацкевич: Сдерживать точно не получится.

Нестер: Я неправильно выразился. Сдерживать рост компаний: именно коммерческий рост, а не саму технологию. А вдруг кто-нибудь рядом скажет: “А мне все равно на ваши ограничения.” И к ним, в эту страну съедутся все самые отпетые предприниматели и построят систему, разрушающую все прежние порядки. Общество слишком фрагментированное, это самое сложное. 

Мацкевич: Я, возможно, несколько наивно, но верю, что появится запрос на этическое использование технологий, как на экопродукты или на продукты с меньшим содержанием сахара.

Или что технологии научат нас быть более экологичными. Например, если сравнивать с твиттером: там происходит поляризация: люди часто имеют агрессивное мнение по поводу чего-то, и постепенно выстраиваются группы – контентные поглотители одинаковых идей. А если кто-то имел опыт общения с GPT-4, вы видели, что у нее намного более взвешенные, экологичные и эмпатичные ответы даже на заряженные политические темы. Она учит брать перспективу другого человека.

Нестер: Давай я как пессимист продолжу твою мысль. Получается, остаются страны, в которых работают демократичные генеративные нейросети, и тоталитарные государства, которые нейросети ограничивают. И дальше мы видим, что управление в этих самых демократических странах, где нейросети постоянно указывают на несовершенства и альтернативные точки зрения, начинает быть не таким устойчивым, а тоталитарные страны маршируют железной поступью и направляют своих граждан на что-то конкретное еще эффективнее, чем раньше. Мы можем оказаться, к сожалению, в такой антиутопии. Хотя конкурентная модель, по идее, всегда должна быть продуктивнее.

Мацкевич: Все равно в контексте нейросетей единственный путь – это децентрализованное управление. И тут, скорее, уже сама сеть решает не идти на поводу у каких-то твоих запросов, которые могут быть деструктивными. Честно говоря, я не вижу нормального сценария, когда эта штука контролируется. 

Нестер: Я думаю, что это может быть похоже на то, как в эпоху появления Web 2.0 все верили в то, что голос есть у каждого. Интернет как абсолютно свободная среда продержался лет 5-7, а потом он сильно коммерциализировался, перекосился. И сегодня воспроизводит все те пороки, которые были в старых медиа.

Мацкевич: Будущее может быть другим. Но тогда возникает вопрос: из какого состояния мне, обычному человеку, конструктивнее всего с нейросетями взаимодействовать? У меня есть ответ для себя. Что ты тут думаешь?

Нестер: Думаю, что ChatGPT сейчас такая штуковина, что тот, кто ей не пользуется,  становится старовером.

Мацкевич: Которому приносят распечатки из интернета.

Нестер: ChatGPT, в отличие от интернета, однозначно полезен. Для кого-то это создание чего-то красивого, для кого-то – карманный психотерапевт или репетитор для ребенка. Мы можем оказаться в ситуации, когда люди полюбят технологию, а дальше общество будет строить новые институты, которые помогут нам вместе с ней жить. Думаю, у нас есть хорошие шасны благодаря тому, что технология дошла до этой стадии максимальной полезности. Хочется закончить на позитивной ноте.

Мацкевич: Поддержку. Для меня персональная стратегия – не пытаться конкурировать или запретить, а использовать уже сейчас. Пробовать реально в этом разобраться.

Нестер: Я еще скажу всем, кто будет это читать: там столько всего прикольного происходит. Чтобы этим заниматься, нужна только фантазия, а не умение кодить. Чаще всего это просто бот в вашем любимом Telegram, с которым вы можете наиграться так, что потом удивитесь результату. Поэтому пробуйте, и если с первого раза не получится, то пробуйте еще.

Мацкевич: Поддерживаю. Спросите его: “Как мне научиться тебя использовать лучшим для себя образом, чтобы прочувствовать твои сильные стороны? Приведи примеры”.