Бесчеловечный эксперимент
В 2023 году я подсадил в чатик с почти 2000 участниками GPT и дал возможность любому человеку с ним поговорить, как лично (за закрытой дверью личной переписки), так и в отдельном, специально открытом для этого топике. Результат меня неприятно удивил.
Сначала решение “выглядело” хорошо: число активных пользователей чатика выросло с 93 до 219 человек в сутки, ежедневное количество сообщений выросло в 2-3 раза, через неделю я решил подсадить в чатик второго бота, который собирал отчет о темах, которые поднимали люди и публиковал обобщение для участников чатика.
Оказалось, что второй бот, собирал отчет об ответных сообщениях, которые отправлял бот с ChatGPT. То есть бот обобщал, назовем условно посты, другого бота. Человеческое общение в группе из 2000 образованных людей сошло практически на нет.
Я огорчился и закрыл, нафиг ботика, но темпы общения больше не восстановились до сих пор. Есть минуты просветления, когда участники находят общую тему и активно ее обсуждают, например самая частая и интересная – это обсуждение письменных принадлежностей: перьевые ручки, блокноты, бумага и т.д. Но глубокие дискуссии о том, что такое PKM, или холивары «теги против папок» исчезли.
Прошло три года, и замечаю схожую тенденцию ПРАКТИЧЕСКИ по всем чатикам, участником которых являюсь, но что ещё более интересно, так это эволюция дискуссий. Я все-таки лингвист, и обращаю внимание слова маркеры, которые используются в диалоге.
Подавляющее большинство участников любого разговора онлайн ищет быстрое, прикладное решение под конкретную проблему. Мало у кого есть возможность[1], чтобы замедлиться, подумать, поговорить чуть глубже. На самом деле утилитарный подход к работе с информацией — я заметил влияние этого тренда даже на себе.
Мне нравится больше получать ответ от нейропоиска гугла, чем самому ковыряться в статье ноунейм автора в сети интернет (каким по сути являюсь и я). Я перестал^4 переходить по ссылкам, если спрашиваю гугл, как сделать что-то. Обобщение сделанное алгоритмом практически всегда дает ответ на искомый вопрос.
Разговаривать с кем-то, чтобы найти или понять что-то, тоже перестал. Мне проще «поговорить» с Claude о моей диссертации, чем отправлять своему научному руководителю фрагмент описанного исследования[2]. Опус с контекстом в 1 млн токенов справляется вполне успешно с ролью строгого критика моей работы. Помогает понять, что я сделал не так и что мне с этим делать потом.
И это, на самом деле ужасно…
Корень проблемы
Джозеф Вайценбаум в каком-то бородатом году провёл схожий с моим эксперимент[3]; я, собственно, вдохновлялся именно его работой, когда «подсаживал» в сообщество умных людей ChatGPT. Что он сделал: взял какую-то непренебрежительно большую группу профессоров и студентов и сказал им, что они будут разговаривать друг с другом, но только через интерфейс компьютера — они не будут видеть и слышать друг друга, а будут только читать и посылать друг другу текст.
После сессии — назовём это общения — студенты выходили воодушевлённые, говорили, что профессора, оказывается, чуткие, понимают их, прислушиваются к их проблемам, а профессора выходили и говорили, что студенты такие умные и на самом деле старательные, им просто нужно помочь и подсказать, так сказать направить.
Фокус в том, что, как вы уже, наверное, догадались, ни профессора не разговаривали со студентами, ни студенты не общались с профессорами. Все они разговаривали с первым в истории компьютерной науки чат-ботом, которого профессор Вейценбаум назвал Элизой, а обнаруженный в ходе этого эксперимента феномен он назвал “Эффектом Элизы”.
Чат-бот был запрограммирован таким образом, чтобы «отзеркаливать» речь партнёра и создавать иллюзию общения[4]:
[!dialogue]
Женщина: Все мужчины одинаковые.
ЭЛИЗА: В чём именно?
Женщина: Они вечно к нам придираются из-за чего-нибудь.
ЭЛИЗА: Можете привести конкретный пример?
Женщина: Ну, мой парень заставил меня прийти сюда.
ЭЛИЗА: Ваш парень заставил вас прийти сюда?
Женщина: Он говорит, что я постоянно в депрессии.
ЭЛИЗА: Мне жаль слышать, что вы в депрессии.
Женщина: Это правда, я несчастна.
ЭЛИЗА: Как вы думаете, визит сюда поможет вам перестать быть несчастной?
Вейценбаум был настолько встревожен тем, что человек с бОльшей охотой разговаривает с машиной, чем с себе подобным, что остаток жизни провёл, пытаясь объяснить в своих книгах, что человек ДОЛЖЕН разговаривать с человеком, а не машиной.
Мой эксперимент полностью подтвердил то, что обнаружил профессор. Я был обескуражен не меньше его и чтобы понять “что происходит” обратился к одному человеку из моего сообщества, который чаще остальных общался с ИИ в личном чатике[5]. На что мне ответили, что нравится разговаривать с машиной, и со своими вопросами (как ему казалось, глупыми) он не будет обращаться к живому человеку или публично в чатике.
Мне кажется, что подобное происходит и с книгами, возвращаясь к прошлой заметке. Мы перестаём общаться с себе подобными, нам тяжело читать тексты[6], но это не значит, что общение и чтение исчезнут. Личное общение и возможность читать вдумчиво превращаются в нечто элитарное.
Мне жутко повезло, что у меня в сообществе столько умных людей, которые меня читают и слушают, разговаривают со мной в комментариях, делятся обратной связью, заставляют задуматься над многими вещами, в том числе и тем, что общение в мире ИИ — признак некоторого статуса, точно так же как и возможность написать этот длинный текст, который прочитает только тот, кто устал от «шумного» интернета и пришёл ко мне в «тихий» сад подумать и, может быть, ответить мне.
П.С. Если вы дочитали до конца заметки, дайте мне знать, пожалуйста. Прокомментируйте там откуда вы перешли на полную заметку.
силы и время ↩︎
В котором, если что 10 000 слов, а человеку, все еще требуется время, чтобы прочесть, понять и сформировать собственное мнение, а потом еще и высказать это мнение. ↩︎
Я не знаю, где прочитал про этот эксперимент, может услышал, может в «интернетах» нашёл, но факт остаётся фактом — у меня есть об этом запись. В любом случае, когда я читал творчество профессора Вейценбаума, выводы сохраняются. То, что точно есть в его книгах: его секретарь, наблюдавшая за созданием программы и знавшая, что это просто код, попросила Вейценбаума выйти из комнаты, чтобы поговорить с Элизой наедине. А психиатры всерьёз предложили попробовать заменить терапевтов ботом. И то и другое напугало профессора. ↩︎
Он использовал технику “клиент-центрированной” психотерапии, известный как роджерианский психотерапевт. Подробнее можно узнать во вступлении к книге Weizenbaum J. Computer Power and Human Reason: From Judgment to Calculation / J. Weizenbaum, First Edition-е изд., San Francisco: W H Freeman & Co, 1976. 300 c. ↩︎
Вы же помните, что у всех была возможность переписываться лично. Я не видел самой переписки, а лишь сигналы, что вот такой вот человек переписывается больше остальных. ↩︎
перестаем общаться с книгами ↩︎
