Где-то месяц назад я достаточно резко высказался относительно профессии “переводчик”, сказав, что профессия вымрет и что “делать в ней нечего”. На меня немного косо глянули некоторые родители, а дети огорчились. Один ребенок настолько сильно огорчился, что заплакал. Мне немного стало не по себе. Не от того, что ребенок заплакал, а от того, что лучше плакать сейчас на этапе выбора, чем через 10 лет, когда пора заканчивать учиться, и пора обзаводиться семьей, домом, бытом и вообще заниматься проблемами другого масштаба.
Через какое-то время я решил спросить у своего сообщества, что мои подписчики думают на тему будущего, но не спросил в лоб, а как в анекдоте про “поцелуй меня в плечо”, поинтересовался, каких умственных способностей лишатся наши дети в будущем? Для меня это не праздный вопрос, а вполне себе вопрос со “шкурой на кону”.
Моему сыну сейчас 13 лет, старшей дочери почти 19 и для меня проблема где и как они будут работать через 12-15 лет не пустой звук. Их нужно подготовить к миру Полудня[1], к миру когда условные “нуль-т” путешествия будут возможны, по крайней мере интеллектуальные. Миру, в котором всезнающий оракул[2] знает ответ на любой вопрос. Тогда, когда “думают роботы, а не человек, до чего дошел прогресс[3]”.
Я устал, я ухожу
В 2016 году, Демис Хассабис с командой создали бота AlphaGo[4] и решили попробовать обыграть человека в самой сложной настольной игре в истории – ГО. На тот момент компьютер не мог играть на уровне профессиональных игроков. Как любитель вполне себе, но как профессионал – не способен.
Задача перед командой стояла непосильная, а именно создать условия, при которых машина способна делать интуитивные ходы, то есть по сути я бы назвал задачу, стоявшую перед командой Хассабиса – создание цифровой интуиции.
С задачей они справились блестяще.
Полную версию истории того, как Хассабис и команда победили лучшего игрока на планете, можно узнать, если посмотреть документальный фильм AlphaGo^5; чуть сокращенную версию, но с более широким контекстом — если прочитать мою книгу[5] [6].
В конце фильма AlphaGo оппонент компьютерной программы и на тот момент лучший игрок планеты сказал:
[!quote]
Если на земле есть сущность, с которой как ни играй, невозможно обыграть, в чем смысл игры?
Ли Седоль
С момента, как я посмотрел впервые этот фильм, меня не покидает этот же вопрос, но немного в другой его конфигурации:
“Что человек будет способен самостоятельно (без ИИ) делать в следующие 100 лет?”
То есть, где человек все еще останется человеком и никакая машина у него не сможет забрать способность оставаться человеком и …
… профессионалом.
Блин, вот сейчас написал и понимаю, что в формате этой заметки ответить на вопрос будет невозможно, как бы я ни старался, но у меня есть кое-какие мысли, и, скорее всего, в конце я попробую собрать некоторый список того, где человек все еще останется человеком. С очень высокой вероятностью ответ не понравится ни мне, ни читателю, но это мои соображения.
ИИ умнее и что с того?
Дарио Амодей придумал весьма забавный мысленный эксперимент “Новое государство”, который уместно продублировать в этой заметке тоже:
[!quote]
На дворе 2027 год, мы проснулись первого января и узнали, что «возникло» новое государство со 150 миллионами новых жителей, каждый из которых умнее, чем любой Нобелевский лауреат. Каждый житель этого государства думает в десятки раз быстрее обычного человека, они никогда не спят, они используют интернет, управляют роботами, проектируют эксперименты, создают исследовательские «песочницы» и умеют управлять ВСЕМ, что имеет цифровой интерфейс, от лампочки до атомной станции.
Вопрос: какой совет министр обороны даст президенту соседней страны?[7]
Сколько раз я ни воспроизводил этот вопрос с разными аудиториями слушателей, практически всегда звучал “разбомбить”. Видимо никто не смотрел “Аниматрицу”[8], но я бы не торопился с радикальными решениями, даже если смотрел некоторое множество дистопичных фильмов и сериалов, связанных с бунтом машин.
Несмотря на то, что машина может выполнять 90%[9] задач лучше человека, что с того? Какая в этом проблема? Мы от этого перестаем быть “человеками”? Мне кажется ошибкой думать, что если машина что-то делает лучше, то человеку делать то же самое бессмысленно.
10, 5 или 1%, не имеет никакого значения какие задачи мы все еще делаем лучше машины, в десяти процентах находится огромный пласт “новых профессий”: все что нужно делать руками, там где нужно нести ответственность за другого человека и т.д. Неважно, если машина пишет код на 90% лучше чем любой человек[10], оставшихся 10% будет достаточно, чтобы человеку все еще быть профессионалом. К сожалению, 10% не 100%, что означает автоматически некоторую безработицу и волну сокращений у того же “перегретого” рынка IT специалистов[11].
Мне кажется, что подавляющее большинство алармистов, кричащих, что ИИ всех оставит без работы и всему конец, ярко подсвечивают то, насколько человек чувствителен к ЧСВ[12]. Нам важно достигаторство, важно ощущать некоторое соперничество. Цитата Ли Седоля как раз про соперничество и достигаторство, а еще я ее воспринял не как “оправдание” проигравшего, а как освобождение от необходимости “быть первым” в высоконкурентной среде игроков ГО[13].
Когда ты не можешь “обыграть” машину, сколько ни старайся, а если смог обыграть один раз, то гарантировано не сможешь второй[14], то какой смысл стараться и пыхтеть? В этом, на мой взгляд, кроется фундаментальная ошибка восприятия ИИ.
Да, человеку важно достигаторство, да, важно побеждать в соревнованиях[15], но даже в мире, где ИИ “интеллектуально доминирует”, человек все еще будет способен побеждать и соревноваться, решать сложные задачи, требующие итеративного подхода. Задачи, аналогичные тем, которые человек выполнял в цифровую и доцифровую эпохи. Задачи, требующие умственных усилий, исследования, наблюдения и прочего. Даже если машина может сделать то же самое лучше и быстрее, чтобы остаться человеком, придется делать так, как умеешь, — по той же причине, по которой даже в эпоху ИИ необходимо читать. А возможно, необходимость пытаться делать что-то лучше в эпоху ИИ встанет перед человеком еще острее.
Мне сейчас сложно придумать список интеллектуальных задач, в которых человеку предстоит пробовать себя; ближайшее, что приходит на ум, – быть автором вот таких вот эссе и заметок. Хотя если подумать …
… не становись рабом
Новое государство бомбить на самом деле не нужно, достаточно оставить в датацентре человека с “ведром воды”, чтобы решить проблему сверхинтеллекта раз и навсегда, ведь единственное[16], где человек все еще сохранит преимущество в каком-то обозримом будущем, – это физический мир. Взаимодействие с объектами. И тут мне вспомнился разговор, невольным свидетелем которого я стал.
Чаплыгин Юрий Александрович стал ректором моей альма-матер, за год до моего поступления и пробыл им долгие годы после моего окончания. Я не знал его близко, но пару раз был свидетелем того, как он учил студентов будущего; один из диалогов произвёл на меня неизгладимое впечатление.
[!dialogue]
ЮА: Ты кто?
Студент: Я инженер.
ЮА: А чему ты учишься?
Студент: Я пишу программы.
ЮА: Да? А что за программы?
Студент: Которые запускаются на компьютере.
ЮА: Хорошо, а если не будет компьютера, ты сможешь его сделать?
Студент: Ну… это сложно …
ЮА: Тогда ты не инженер. Инженер может спаять схему, собрать сложное техническое устройство и потом, если нужно, написать программу.
Студент: Тогда кто же я, если не инженер?
ЮА: Ты придаток инженера, элемент производственной цепи; когда-нибудь компьютер за тебя напишет код, а ты, если не умеешь использовать паяльник и собирать сложные технические устройства, будешь не нужен.
Хорошо, правда? Это, если что, был 2003-2004 год.
22 года спустя я могу сказать, что слова Юрия Александровича, сказанные студенту из 2004 года, не то чтобы не потеряли актуальность, а звучат как щелчок хлыстом.
Сегодня Claude Code пишет код лучше и быстрее, чем подавляющее большинство “дипломированных“ специалистов, обучавшихся тому, как написать код, от трех до пяти лет. Вопрос: что станет с этими специалистами на горизонте 10-15 лет? Превратятся ли они в придаток ИИ?
Уважаемые программисты, не думайте, что я умышленно пытаюсь девальвировать ваши компетенции. Я просто размышляю относительно того, по какой траектории направить своего сына, как воспитать его в эпоху всепроникающего ИИ и чему учить, чтобы он оказался в устойчивом положении, когда выйдет из школы. Думаю чему его учить, чтобы когда он закончил университет, он знал, как и чем будет зарабатывать себе на жизнь в мире Полудня, в который мы все устремились. А если бы моя работа была сейчас в IT, то я бы задавал себе точно такие же вопросы и думал, что делать дальше[17].
Кем стать и что делать?
27 мая я задумал для детей однодневный интенсив. Мы вывозим детей на базу отдыха, и там в условиях “закрытости” обучаем детей робототехнике и работе с ИИ. Роботы – это зона ответственности моего коллеги, а вот ИИ моя и вот что я удумал, у нас будут два занятия, на первом мы будем все вместе делать сайт, с помощью opencode и локального qwencode, а на втором занятии программировать текстовую РПГ, которую потом будут играть одноклассники.
Спланировал и спланировал, и мыслями больше к ней не возвращался, но сейчас вот задумался[18], а что если …
[!notify]
Все дальнейшее полет фантазии, но с очень высокой вероятностью я смогу реализовать задуманное в следующем году. На текущий момент – это лишь мысли, которые предстоит обдумать, однако в контексте идеи описанной в этой заметке мне они кажутся очень важными, потому что именно они “запустили” размышления “Кем стать, если …”
… создать учебную программу для школьника, скажем из 20-30 занятий[19], где школьники с помощью ИИ будут проектировать, проводить и анализировать результаты исследований. Мне почему-то хочется начать с биологии. Всегда любил этот предмет и судя по тому, что делает Демис Хассабис с AlphaFold, биология в ближайшие 10 лет будет той областью, в которой человек благодаря машине осуществит качественный научный рывок[20].
Мысли об учебной программе помогли сформулировать принципы с помощью которых стоит готовить своих детей и самого себя к жизни в мире Полудня.
Принцип первый: учить выполнять антропоцентричные задачи, то есть те, которые может только человек, или пока еще может значительно лучше машины. Например, взаимодействовать с миром, проводить эксперименты, требующие физического взаимодействия с объектами физического мира, общаться с другими людьми, ставить задачи так, чтобы было понятно, выражать свои мысли логично. Критически оценивать информацию. Список далеко не полный, главный принцип, это антропоцентричность.
Принцип второй: стать звеном цепи. Кому-то может показаться такая формулировка унизительной, но реальность не стоит отрицать. Например в идее с учебной программой выше, есть элементы и антропоцентричности и того, что дети стали лишь одним из элементов интеллектуальной цепи. В новой конфигурации ИИ и человек – это некоторая логистическая цепь (связка), по которой ходит информация, и человек более не единственный агент, а один из агентов, выполняющих действия для достижения общей с машиной цели[21].
Принцип третий: стань инженером. Не программным, а тем, кто умеет пользоваться паяльником, понимает, что такое проводники и полупроводники, изучал сопромат, знает, как “построить” стул и собрать ДВС[22]. Я очень люблю мысль, что инженер – это не тот, кто пишет код, а тот, кто своими действиями изменяет мир вокруг нас. Написание кода, которое сделал возможным ИИ, тоже своего рода инженерия, но в контексте образа инженера из диалога Чаплыгина Юрия Александровича со студентом программная инженерия является придаточной инженерией. Все-таки ИИ работает на чипах, а не витает где-то в воздухе (эфире).
Заключительная мысль … человеку в мире Полудня придется эволюционировать из придатка в того, кто соединяет машину и мир, а вместе с машиной изменяет мир и среду деятельности обоих.
Пока еще рано говорить как оно будет, но … я смотрю в горизонте 10-15 лет и хотим мы того или нет, планировать собственные изменения необходимо, а еще, если вы родитель, то хорошо бы помочь детям выбрать профессию с учетом грядущих изменений.
Надеяться на то, что изменений не случится, – мне кажется, будет преступной халатностью.
Кто также как и я любит Стругацких, вам привет. ↩︎
Конечно всезнающий оракул – это ИИ агенты ↩︎
Привет любителям Электроника, а те, кто по причине юного возраста еще не смотрел, настоятельно рекомендую. Попробуйте ответить себе на вопрос, что нужно было роботу, чтобы стать человеком в этом фильме, а самое главное стал ли он человеком? ↩︎
Компьютерную программу для игры в ГО ↩︎
Агамалиев Р. От «Энигмы» до ChatGPT / Р. Агамалиев, МИФ-е изд., 2023. 208 c. ↩︎
Как вы заметили книга из 2023 года, а для ИИ – это как средневековье и освоение космоса. То есть в 2023 было как раз средневековье, тогда еще только-только на рынок выходила GPT 4.0, а Claude был не более чем “интересным” и хайповым стартапом. ↩︎
Amodei D. Dario Amodei — The Adolescence of Technology [Электронный ресурс]. URL: https://www.darioamodei.com/essay/the-adolescence-of-technology (дата обращения: 18.02.2026). ↩︎
Серия новелл по мотивам трилогии “Матрица”. Настоятельно рекомендую посмотреть две серии “Ренессанс”, они в самом начале, если память мне не изменяет. Разбомбить — с очень высокой вероятностью худшая стратегия из множества существующих. ↩︎
Некоторые считают, что 95%. ↩︎
Не надо себя успокаивать, что машина пишет код хуже. Не врите себе, иначе будем все плакать как мои дети при выборе профессии, только для взрослого человека простым хныканием все не закончится. ↩︎
Мы не будем сейчас обсуждать технологическое и интеллектуальное неравенство, к которому скорее всего приведет “бум машин”. ↩︎
Чувству собственной важности ↩︎
Эта мысль стоит отдельных размышлений. О том, как ИИ создал условия, в которых быть первым не самое важное, потому что машина будет ВСЕГДА первой. ↩︎
Ли Седоль выиграл один матч из пяти, и это был последний матч, который когда-либо выиграл человек с появлением AlphaGo. ↩︎
Параллельно работаю над серией эссе о развитии научной мысли и, например, несколько команд ученых занимались поиском структуры ДНК и в какой-то степени соревновались в том, кто первый найдет ответ. ↩︎
Хотя тоже спорное утверждение про “единственное” ↩︎
На горизонте 10 лет. Кем становиться, продолжать кодить? Зачем, если есть сущность, которая за меня это делает значительно лучше, и т.д. и т.п. ↩︎
Эти размышления важны в контексте поиска ответа “что делать дальше?” ↩︎
Как раз на год, раз в неделю ↩︎
Модификация генов с помощью CRISPR. Поиск лекарств от вирусов, пилюль от старения и многого другого, о чём Стругацкие написали в своих романах. ↩︎
У меня есть мнение, которое выразил еще в 2023, что человек вместе с машиной может значительно больше чем каждый (машина и человек) по отдельности. ↩︎
Стул и ДВС в этом контексте не более чем образы ↩︎