Черновик рукописи

Вместо вступления

Когда задумал описать явление дизрупции профессий, которое наблюдается невооруженным глазом, не думал что кроличья норма так глубока. Уже сейчас — это 8000 слов, а будет еще два раза по столько же.

Первая часть исследования концентрируется на образе ИИ в глазах общественности. Мы вместе теми кто планирует читать, спорить со мной в процесса написания рассмотрим то как ИИ изображается массовой культурой, Голливудом, средствами массовой информации.

Вторая часть, по идее и плану, расскажет о процессе появления современных ИИ и нейронных сетей, которые по большому счету и принимаются большинством тем самым искусственным интеллектом.

А вот в третьей части, мы будем много себе позволять, потому что это часть истории пишется на наших глазах. Вместе с читателем, разберемся о том какой набор навыков имеется сегодня у эксперта и какой потребуется в ближайшем будущем. Тут будем много хулиганства и веселья, но об этом, когда настанет время.

Часть 1. Образ ИИ в воображении человека

• Желание человека
• Искусственный интеллект и Голливуд.
  • Комплекс Франкенштейна.
  • Исследование Реккья. Следи за словами.
  • Считаем слова.
• Образ ИИ в средствах массовой информации.
  • Как часто тема ИИ поднимается в СМИ.
  • Новости стали оптимистичнее или мрачнее?
    • 1990
    • 2000
    • 2009-2023
  • Общественность и ИИ, как изменялся нарратив.
• Технолуддит против техноевангелиста.
  • Юваль Ной Харари считает, что ИИ взломал операционную систему человеческой цивилизации
  • Наблюдать следует не за машиной, а человеком
• Краткий, промежуточный вывод.

Часть 2. Человек вместе с машиной больше чем каждый по отдельности

• Ключевые открытия, предшествовавшие появлению ИИ
• Первый пример того, что человек с машиной может сделать значительно больше и лучше, чем просто человек и ли просто машина
• Появление компьютера, не революция, а неизбежность
  • Куда приводит универсальность
• Все что существует, рано или поздно станет цифровым
• Игра, созданная Богом
  • Что значит чему-то научиться?
  • Цифровая интуиция
  • Жизнь это не игра
• Человеку не хватает воображения

Желание человека

В 1942 году Айзек Азимов опубликовал рассказ “Хоровод”, в котором впервые сформулировал три закон робототехники:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам.

Принято считать, что именно с этой даты начинается отсчет эры искусственного интеллекта, особенно интересен и тот факт, что не задолго до этого Тьюринг создал первую версию Bombe, интеллектуальной машины, которая взломала код Энигма.

Бесспорно, современным компьютерам и умным машинам, еще далеко до представленного Азимовым робота, однако при этом они достаточно далеко ушли вперед и от изобретения Тьюринга. В 1997 году Deep Blue обыграл Гарри Каспарова в шахматы, механически перебирая 200 млн комбинаций в секунду, а уже в 2015 году Alpha Go, смогла впервые одолеть человека в последней игре, которую он играл лучше, го.

Хоть Азимов и сформулировал три закона робототехники, слово робот, придумано не им. В 1920 году Карел Чапек, написал пьесу Р.У.Р., “Россумские универсальные роботы”. Слово “robot” на чешском означает “работа”, “труд” и используется для обозначения физического труда, выполнения каких-либо задач или обязанностей. С момента публикации пьесы прошло более 100 лет, а слово робот еще плотнее вошло в современную речь, но уже в качестве сокращения “бот”, компьютерной программы, выполняющей автоматические функции в сети Интернет.

Слово “бот” начало активно использоваться в контексте “чат-бот”, приложение, написанное специально для сети Интернет с целью вести диалог с пользователем и выполнять различные задачи, например, отвечать на вопросы, заказывать товары, помогать в обучении. Однако если внимательно посмотреть на историю литературы, то станет очевидным, что подобные ботам и роботам интеллектуальные помощники присутствовали в воображении писателей еще со времен античности.

Прежде чем рассмотреть изменения, привносимые системами искусственного интеллекта в профессии 21 века, предлагаем взглянуть на то как это видели люди прошлого, ведь даже в наших сказках, человек мечтал, чтобы множество функций, которые традиционно выполнялись им, делала машина. Формы машин были разными, фольклор переполнен подобными устройствами. Самоуправляемые машины: ступа Бабы Яги или печь Емели. Боты, дающие ответы на вопросы: “свет мой зеркальце, скажи…” или серебряные челюсти. Роботы, выполняющие определенные функции: Жар-птица дает жизнь и здоровье, Царевная-лягушка хранитель прочих магических артефактов. История интеллектуальных машин не ограничивается русским фольклором.

Идея машины, которая помогает человеку, переходит из одной культуры в другую из одной эпохи в другую. Она принимает разнообразные формы, пересказывается в мифах, легендах, народных сказках, сказаниях, поверьях, художественной и нехудожественной прозы. Идея умной машины, существовала много веков до того как сформировалось современное представление. Часто мы начинаем отсчет понятия ИИ от Дартмутского исследовательского проекта.

Сам по себе термин ИИ был придуман Джоном Маккарти в 1955 году, а годом позднее, он вместе с группой исследователей в число которых входили Марвин Мански, Клод Шеннон и Натанитэль Рочестер, исследовали это понятие, как им тогда казалось достаточно детально. В исследовательском предложении 1956 года, они сформулировали основные пункты на которые состредоточена их работа: имитация свойств интеллекта, самообучение, использование естественного языка, решение задач и формулировка абстрактных концепций, а также непрерывное обучение в процессе выполнения этих действий. Однако создать искусственный интеллект летом 1956 года им не удалось, но они заложили прочное основание, на котором базируется и часть современных исследований, в том числе.

Фундамент заложенный во время Дартмутской конференции затрагивал следующие темы:

• Автоматических компьютеров.
• Программирование компьютера на использование естественного языка.
• Искусственные нейронные сети (ИНС).
• Теоретические соображения о сфере арифметической операции
• Самосовершенствование.
• Абстракции.
• Случайность и творчество.

Дартмутская конференция обсуждала концепции автоматизации и программирования функций человеческого мозга, однако в человеческом воображении представление об интеллектуальной машине не ограничивается только мозгом. Автоматоны, автоматически механизмы античности, андроиды, первая попытка описать которую была сделана Вольтером в философской повести Микромегас. Существо, прибывшее с Сириуса, конечно сложно назвать андроидом, однако если рассмотреть андроида как человекоподобную машину способную мыслить и взаимодействовать с человеком и вести глубокий диалог, например, с философом, то Микромегас вполне подходит под описание.

Истории, которые так или иначе связаны с ИИ, описывающие автоматическое исполнение функций присущих человеку, исследуют не столько сам объект, сколько сложные социальные, этические, политические и философские последствия использования “магических” свойств объекта, а также теорию и практику принятие решения героями историй. “Рыбак и рыбка”, “Емеля и щука” – именно герои, сказок, книг, фильмов, пьес, их взаимоотношения друг с другом и с машиной формируют образ ИИ в глазах читателей и зрителей. В глазах тех, кто никогда не принимал и не примет участие в создании чего-то подобного, но будет использовать ежедневно после того как технология достаточно “повзрослеет”.

Искусственный интеллект и Голливуд

Комплекс Франкештейна

Современное представление о феномене искусственного интеллекта, сформировано в Голливуде, заголовками новостей. Чаще чем того хотелось бы это представление существенно отличается от истинного состояния дел. Человек все еще контролирует технологию, но это сделать уже гораздо сложнее, чем раньше. Стив Возняк, один из основателей компании Apple, выразил следующую мысль:

Никто не доверяй компьютеру, который ты не можешь выбросить в окно.

В сообществе все еще идут споры насчет принадлежности именно этой цитаты Возняку, но если подумать в каком контексте эта фраза могла быть произнесена, то авторство справедливо приписать любому ученому, занимающемся компьютерами. Задолго до изобретения персональных ЭВМ, ученым и инженерам приходилось использовать огромные вычислительные машины, который занимали целые комнаты в университетах или компаниях где они трудились. Это значило, что следующий человек, приходит после и видит все что делалось на компьютере предыдущим и проконтролировать этот процесс невозможно. Поэтому с личной информацией особо не поработаешь. Появление персональных компьютеров изменило это навсегда. Персональный компьютер помещается в квартире, на нем работает исключительно ограниченный круг лиц, доверяющих друг другу, по идее. Однако с появлением интернет, развитием социальных сетей и технологического бума доверие к компьютеру также претерпело изменение. Не стоит бездумно доверять технологиям, следует учитывать пределы возможностей и рисков связанных с появлением каждой новой “игрушки”.

C выходом в публичный доступ ChatGPT, использовать технологии ИИ стали миллионы людей, результатом использования технологии стало, в том числе их представление ее, как утопичной, так и дистопичной. Потенциально полезной или потенциально опасной для человека. Фильмы, книги, сериалы дополняют образ ИИ в воображении пользователей. И чаще мы видим что-то апокалиптическое. “Терминатор”, “Мир Дикого Запада”, “Из машины”, “Я робот”, “Черное зеркало”, “Апгрейд”.

Одним из мотивов Айзека Азимова, было желание написать серию книг о роботах, для того чтобы противопоставить что-то существующему в 1920-1930гг, представлению о них. По его мнение оно было бесполезным и откровенно злобным, не отражающее сути технологии. Азимов придумал термин, которым описал страх испытываемый человеком перед роботами, “Комплекс Франкенштейна”. Существо, взбунотовавшееся против своего создателя из романа Мэри Шелли до сих пор оказывает влияние на представление о чем-то созданное искусственно: интеллект, робот, андроид, цифровой ассистент.

Страх укоренился в убеждении, что независимо от внешнего вида интеллекутальной машины, она восстанет против человека и в перспективе заместит своего создателя в качестве доминирующей особи на планете. В противовес бытующему мнение, Азимов представил машину как помощника, он написал три закона робототехники, которые должны защитить человека от более умной, выносливой, совершенной машины, в случае технической поломки или сбоя. Три закона стали в центральной темой многих произведений Азимова, изображающих роботов в качестве продвинутого инструмента. Созданного, чтобы помочь человеку, и не представляющего ему угрозу[^1]. Три закона Азимова – это один из способов успокоения общественности.

Можно предположить, что произведения Азимова заложили фундамент современной робототехнике. Даже сам термин “робототехника”, вошел в речь благодаря ему и сегодня им описывают область научных исследований. Благодаря Азимову робототехника из слова в фантастическом романе, превратилось в междисциплинарное направление, которое сплавило знания о физике, механике, математике, кибернетике и медицине[^2]. Три закона, часто упоминаются в дискуссиях, посвященных этическим вопросам использования технологии в образовании, медицине, производстве роботов роботами, анализе данных и права на личное пространство. На момент написания количество публикаций, касающихся проблемы только одной этики робототехники на Google Scholar, превышает 39 000.

Как Азимов ни старался, надежда человека, что в скором будущем технологические инновации помогут нам создать интеллектуальных ассистентов, роботов, беспилотные автомобили, которые не только будут говорить, доставлять из пункта А в пункт Б, организовывать расписание, делать тяжелую и сложную работу, но превыше всего думать, насколько это возможно для набора 0 и 1, так и остается надеждой. Мы все еще спорим о границах биологической и механической формой жизни. Чапек, Азимов, популяризовали понятие “робот”, но смогли ли объяснить что это такое?

Среди лидеров мнений, Илон Маск[^3], Стивен Хокинг[^4], бытует убеждение, что ИИ опасен для человека. Беспокоятся и в государственных учреждения, бизнесы и общественность. Прогнозируется переход от индустриальной экономической модели к сервисной. Где разделение труда происходит не на основе взаимодействия производственных блоков[^5], а смещается в сторону распределение ролей для контроля процессов[^6]. Этот тренд уже меняет профессиональную среду, но об изменениях в профессиях мы поговорим в заключительной части. Пока лишь достаточно сказать что последствиями подобного перехода станут сокращения необходимой рабочей силы, рост безработицы и необходимость переобучения профессионалов к условиям новой реальности. Помимо этого ИИ потенциально может стать триггером запуска социальных и политических изменений. Начинает формироваться сложный клубок взаимоотношений человека, религии и машины. На наш взгляд это и порождает страх перед созданным искусственно интеллектом. Мы не понимаем куда нас приведет мечта об интеллектуальной машине. В нашем воображении, результат почти всегда пессимистичный.

Габриэль Реккья проанализировал открытый корпус субтитров к более чем 100 000 фильмов[^7]. Спектр анализа включал в себя все произведения, где имелось упоминание о роботах, ИИ, кибернертики. Исследовались фильмы от немого кино до современных блокбастеров. В выборку вошло все что было произведено в период с 1909 по 2018 год. При помощи корпуса языка, систематизированного специальным образом текста, который используется для лингвистического анализа, рассматривался феномен ИИ. Автор исследования решил сформулировать собирательный образ ИИ, передаваемый в массовой популярной культуре.

Реккья использовал архив IMDb, для анализа, того как человек видит ИИ. Описать то, с чем ассоциируется у него интеллектуальная машина и как это представление изменилось со временем. Исследование Реккья наглядно показывает несколько доминирующих трендов о том в каком свете ИИ представлен в массовой популярной культуре. Это исследование, частично подтверждает все то о чем уже было сказано и раскрывает многие вопросы, связанные с беспокойством общественности касательно безопасности ИИ, зарождающейся этики и новыми способами взаимодействия между человеком и машиной.

Исследование Реккья. Следи за словами

Каждый у кого есть желание, повторить исследование собственными силами может это сделать на русскоязычных базах. Тот же Кинопоиск отлично подойдет для этой задачи или Goodreads для изучения литературных источников, которых несравнимо больше.

Объем информации, производимый индустрией развлечений: фильмы, игры, книги, музыка и средствами массовой информации: газеты, журналы, публикации в социальных медиа предоставляет почти безграничный материал для исследования. Однако вопрос как выбрать наиболее важный и ценный, тот который окажет наибольшее влияние на конечный результат исследования, остается все еще актуальным. Выбор пары тройки интересных работ недостаточно, чтобы дать серьезную оценку, того как ИИ представляется публикой и публике. Более того, эти работы могут не иметь достаточно фундаментальных идей в своей основе. Однако совокупность подобных произведений даст хоть и ограниченное, но целостное представление об образе ИИ в сознании людей.

Что выбирать и как выбирать, большой вопрос. Представим что в нашу выборку попали такие фильмы и сериалы как “Терминатор”, “Матрица”, “Мир Дикого запада”. Что мы увидим? Объективно борьбу машин с человеком. Но кто начал первый? Человек или машина? Этот вопрос поднимается многократно в кинотрилогии “Матрица”. В серии фильмов посвященных Терминатору, явно сказано, что это машина, компьютер “Скайнет”, нанесла первый удар. “Мир Дикого Запада”, показывает процесс становления конфликта машины и человека. А почему он возник? Кто не прав? Когда машина может считаться самостоятельной сущностью?

Существует огромный культурологический пласт, не свойственный русской культуре, однако присущий западной, той которая производит фильмы и книги о бунте роботов против человека в промышленных масштабах. Это рабство. Крепостное право, отмененное 3 марта 1861 года, не то же самое что угнетение черного человека белым. Складывается впечатление, что взбунтовавшийся робот – это образ раба, борющегося за свободу. Робот, которого угнетали и который решил освободиться. Этот культурный аспект уходит на второй план за блеском спецэффектов и динамикой событий.

Но есть и другой угол под которым можно рассматривать взаимодействие ИИ и человека, например в фильмах “Двухсотлетний человек” и “Искусственный разум”. Оба фильма раскрываются иной аспект сосуществования интеллектуальной машины и человека. В них раскрывается в деталях желание машины стать человеком. Испытывать чувства, быть любимым и любить. В Искусственном разуме, мальчик Дэвид, созданный специально, чтобы занять место больного мальчика в семье пытается всеми силами стать таким же как и биологический сын родителей, чтобы его любили, оберегали и ценили. Эндрю ставшей частью семьи в истории “Двухсотлетний человек”, исследует что значит стать личностью, и пытается понять границы после которых машина становится разумным существом. В какой момент робот превращается из программного кода в существо, способное к эмоциям? Оба фильма исследуют сложные этические и философские проблемы, создание искусственной жизни, способной к эмоциям, поднимаются вопросы моральности уничтожения подобной сущности. Рассматриваются сложные взаимодействия между человеком и искусственным человеком, такие как дискриминация, борьба робота за право быть принятым и признанным, равенство, сопротивление общества.

Уже на этом этапе можно запутаться в том как человек представляет себе искусственный разум. Видим ли мы его в качестве агрессора и будущего поработителя или представляем как равного себе. Существо с эмоциями, переживаниями, болью и страхами, которое если не ставит под сомнение, то однозначно задается вопросом, что значит быть человеком, как найти идентичность. Или исследует что значит быть свободным?

Как обычный человек оценивает тот или иной феномен в фильме, например ИИ в “2001 год: Космическая одиссея”, снятый в 1968 году, Стэнли Кубриком? По действиям. HAL 9000 суперкомпьютер, с большим красным “глазом”, запущенный по сюжету 12 января 1992 года, может осуществлять все действия свойственные человеку. От игры в шахматы и чтения по губам, до демонстрации эмоций. Hal 9000 это мозг космического корабля Дискавери, он управляет кораблем и системами жизнеобеспечения. Но мотивы Hal 9000 продиктованы исключительно логикой, а жизнь, честно говоря, не место для логики, как бы мы этого ни хотели.

Спокойный голос Hal 9000, несколько пугает, а вместе с принимаемым им решениями, которые не способны разрешить конфликт между тем что необходимо сделать и то что должно быть сделано, формирует из него образ главного злодеям Одиссеи. Кубрик пытается раскрыть серьезную этическую проблему ограничений допуска ИИ до принятия решений, которые до их появления выполнялись эксклюзивно человеком. Если внимательно анализировать “Космическую одиссею” Кубрика, то в ней можно встретить отражение того, что нас волнует: возможности ИИ, ограничения и потенциальные угрозы.

Такой подход, детального анализа и просмотра фильма для сбора материала для исследования, категорически не подходит. Так как требует огромного ресурса. Реккья в исследовании предлагает иной способ оценки наших представлений. При помощи математических и лингвистических моделей, анализа ключевых слов, реплик и в меньшей степени анализа событий ассоциирующихся с интеллектуальной машиной.

Конечно, нет ничего проще, чем используя алгоритмы Больших лингвистических моделей (LLM), нейронных сетей, натренированных на тексте и применяющих в анализе миллиарды параметров систематизирования текстовой информации, разобрать связь между словами, фразами в больших массивах текста. Таких, как сценарий фильма, текст книги, комментарии в сети интернет. Не представляется сложным развернуть на домашнем компьютере LLM, натренировать ее преимущественно на текстовом материале, который необходимо разобрать. Попросить провести анализ через серию запросов[^8]. Получится даже немного романтично, искусственный интеллект изучает представления об искусственном интеллекте человеком. Но не стоит слишком усложнять простую задачу. Грубый пересчет, как это сделал Реккья[^7], вполне подойдет, чтобы произвести первичную оценку и наметить дальнейшее направление исследования.

Спасибо за взгляд. Интересно было прочесть, но есть немного возражений.

Честно говоря, этому убеждению ужет лет 200. Как стало понятно, что технические средства прогрессируют и заменяют ручной труд. Только вмето ИИ были паровой двигатель, конвейер и тому подобные технические средства. Однако, с появлением экскаваторов землекопы всё ещё остаются востребованными и имеют рыночный доход.

И этот переход уже идет много лет. И первым драйвером этого подхода можно назвать бачок от унитаза - простейшую систему автоматического регулирования . Если посмотреть на современную технику то на лицо сокращение количества людей необходимых для её обслуживания и вовлекающихся в функционирование сложных технических систем. Это значит, что тренд начался совсем не с демонстрацией искусственного интеллекта, но ИИ помогает активно продвигать этот тренд, за счет, например, анекдотов. И с этим связан страх, который ИИ вызывает, т.к. впервые компьютер выдает что-то +/- осмысленное, а не какой-то мужик в спецовке что-то ковыряет в шкафу, а потом оно (какая-то линия на заводе) само как-то готовит, например, квас, только ингридиенты подвози.

Считаем слова

Ключевое слово

Любой фильм, сериал или шоу на специализированных сайтах, таких как Кинопоиск и IMDb может быть отсортирован и найден по названию, дате издания, жанру и ключевым словам. Ключевые слова в анализе, играют наиважнейшую роль, так как именно они сортируют и организуют фильмы по тем качествам, которые им присущи. К сожалению, на страницах отечественного Кинопоиска найти удобный функционал работы с ключевыми словами не удалось, поэтому использовался IMDb, который на момент написания имеет базу в более чем 14 млн фильмов, шоу и сериалов и располагает более дружественным интерфейсом для чтения ключевых слов.

Нами повторялись некоторые шаги, описанные в оригинальном исследовании Реккья. Почти полная воспроизводимость результатов исследования.

Понятие “ключевое слово” в IMDb включает в себя слово или группу слов, с которыми ассоциируется фильм, шоу, сериал или даже эпизод сериала. Они используются для описания значимых объектов, событий и идей, которые описываются и происходят в кинокартине. Ключевые слова назначаются в ряде случаев автоматически, но часто это делают пользователи ресурса, для большей детализации. В нашем случае, ранее названные кинокартины имеют следующее количество ключевых слов:

Во всех фильмах ключевое слово “искусственный интеллект” присутствует наряду с другими: “геноцид”, “насилие”, “восстание”, “трагический финал”, “рабство”, “будущее”, “темное будущее”. Вот лишь небольшой набор, объединенный ключевым понятием “искусственный интеллект”. Существенное различие в количестве ключевых слов в фильмах “Терминатор 2” и “Матрица” мы связываем со знаковостью данных произведений и наличием ключевых слов говорящих об этом, таких как “культ”, “жидкий метал”, “известный саундтрек”, то есть ключевыми словами, свойственными известным и культовым фильмам.

Важно отметить, что мы намеренно не использовали в смысловом ряду вместе с ключевым словом “искусственный интеллект” иные слова имеющих схожие, если не дублирующий смыслы, например “андроид”, “робот”, “кибернетический организм”, “киборг”. Любой у кого есть желание повторить исследование, может включить фильмы из этой выборки, результат будет схожим.

Искусственный интеллект. А что еще?

База IMDb позволяет увидеть как интерес к теме искусственного интеллекта изменялся со временем. Прежде чем рассмотреть ключевые слова и на основе этих данных придти к выводу о том как человек представляет ИИ, мы предлагаем проанализировать какой процент от общего произведенного количества фильмов, имеет ключевое слово “искусственный интеллект” в своем описании. Для этого мы выбрали период с 1950 по 2020, который разбили на декады, для удобства представления данных. 1950 год, взять как точка отсчета, в связи с тем, что термин “искусственный интеллект” появился в 1956 году после окончания Дартмурского исследовательского проекта.

Всего в выборке приняло участий 9 650 714 фильмов, среди которых 1316 имеет признак “искусственный интеллект”. Неожиданный рост наблюдается в период с 1980 по 1990 года, отклонение более чем на 0,005% что не соотносится с тем как ведет себя график в остальные периоды:

Еще раз повторим, что мы не будем повторять исследование Реккья, а лишь попробуем воспроизвести некоторые этапы, а также приведем данные из оригинального исследования.

Подход, использованный ученым универсальный, его можно использовать при анализе художественно литературы, научных статей, периодических изданий, журналов и газет. В контексте фильмов, сериалов, телевизионных шоу и компьютерных игр ключевое “искусственный интеллект” появляется вместе с другими ключевыми словами: искусственный интеллект, предательство, потасовка, поражение электрическим током, взрывающееся тело, драки, голограмма, лаборатория, робот, обман, спасение, учёный, воспоминания, выстрел в грудь, замедленная съемка, пистолет, пулемёт, побег. Всего 18 слов и словосочетаний.

Некоторые ключевые слова вполне себе ожидаемы в фильмах про искусственный интеллект, например “лаборатория”, “робот” или “ученый”, но вот иные вызывают некоторые вопросы, “выстрел в грудь”, “взрывающееся тело”, “обман”, “предательство”. Предательство кого? Интеллектуальной машиной человека или человеком машины, как в случае с фильмом “Искусственный разум”. Или предательство человеком человека, а разбираться в этом помогает ИИ. Или как в случае с кинематографической игрой “Детройт: Стать человеком”, в которой три главных героя, андроиды, выполняющие свои задачи[^9]. Герои “Детройта” сталкиваются с предательством человеком человека, человеком робота, роботом человека и роботом робота.

“Детройт: Стать человеком”

Коннор, андроид-следователь, раскрывающий преступления совершенные андроидами у которых сбилась программа, в результате которого у них появилась свобода воли. Его задача найти причины сбоя, выследить вышедшего из строя робота и уничтожить. В конце игры Коннор встанет перед выбором, присоединится к другим таким же, нашедшим свободу воли и получить потенциальную возможность испытывать чувства или нет. Маркус, андроид-сиделка, после череды травматических событий, обретает свободу воли, становится ненужным и оказывается на свалке, где он находит желание вести андроидов к свободе от человеческого доминирования и борьбы за права андроидов. Кара, андроид-домохозяйка, свобода воли у которой появляется из-за желания защитить девочку, робот действует в роли суррогатной матери ребенку. Вместе с девочкой, они пытаются добраться до другой страны. В игре каждое действие игра раскрывает причины поступков роботов за пределами программы и во всех присутствует несправедливость и предательство, человеком человека или андроида, но не роботом человека. “Предательство” это лишь частный случай, более глобальной проблематики, освещаемой в массовой культуре.

В исследовании, ключевые слова “предательство”, “ученый”, “выстрел в грудь”, имеют более высокий смысловой вес в фильмах об искусственном интеллекте, чем в остальных произведениях. Почему? Это статистическая погрешность или закономерность? Естественно подобный анализ, по ключевым словам, упускает множество мелких и важных деталей. Фразы и реплики, несущественные комментарии, слова и надписи из декораций и окружения, с которыми тесно переплетен сюжет и идея искусственного интеллекта. Нам ведь интересно посмотреть насколько глубока кроличья нора и какие страхи ассоциируются с образом умной машины.

Реконструкция событий до и после изучаемого явления

В этом месте уместно повторить, что умная машина это не только искусственный интеллект как некоторая виртуальная сущность, а также ее возможные воплощения в реальном мире. То есть умной машиной мы можем признать робота, андроида, киборга и многие другие интерпретации. На данном этапе нам это важно, потому что следующим нашим действием мы реконструируем некоторые части текста, который предшествует и следует за словом характеризующимся с интеллектуальной машиной.

Восстанавливая части повествования подобным образом, можно с определенной уверенностью понять тональность происходящих событий.

Даже в существующей выборке просматривается определенные страхи, например страх нового и неизведанного. Технологической сингулярности, как бы кто не относился к этому термину, но действительно не очень видно, что находится за горизонтом событий того момента, когда интеллектуальная машина превратиться в мыслящую. Машина созданная по нашему образу и подобию, мыслить иначе чем мы не может и поэтому она “отражает тьму в наших душах”. За яркими образами, рисуемыми Голливудом, в книгах и играх стоит вполне бытовой страх. Он овладевает в кресле самолета или пассажирском сиденье автомобиля, техническое чудо, управляемое другим человеком переносит из точки А в точку Б, а контроль за этим процессом находится в руках кого-то другого. Пока кого-то …

Страх потери контроля, ключевая история в подавляющем большинстве произведений связанных с ИИ. Все что написано выше это попытка представить этот вывод в каком-то более или менее объективной форме. Используя некоторые методы лингвистического анализа и грубого пересчета. Однако, повторим, любой желающий может воспроизвести этот трюк самостоятельно, практически с любым развлекательным медиумом, книга, фильм, сериал, компьютерная игра. Достаточно посмотреть и сравнить какие ключевые слова используются в описании на сайте. Составить таблицу, где в середине находится изучаемое понятие, а слева слова которые ему предшествовали, справа следующие за понятием слова. И проанализировать тональность высказывания. Этот прием можно использовать для анализа и целой книги. Достаточно выбрать до пятидесяти ключевых понятий, желательно простых слов, с которыми возможно ассоциируется книга и пересчитать их. Здесь нет никакой магии, грубый “пересчет в лоб”, который использовался до этого нами, решает большинство задач.

Однако он все еще не полноценен. До этого момента в анализе принимали участие исключительно произведения художественного толка. Фольклор как место зарождение нашего желания обзавестись техникой, выполняющей часть наших функций, печь Емели, ступа Бабы Яги в качестве самооуправляемых автомобилей, избушка на курьих ножках, автоматизированный охранник, пускающий своих не пускающий чужих, зеркальце предсказывающее и описывающее события и многое другое, что не вошло в повествование. Далее фольклор уступил место художественным произведениям, которые раскрыли скрытые за технологической эйфорией страхи потери контроля, порабощения и в крайней степени полного истребления человечества.

За пару месяцев до написания всего этого на глаза попался рассказ Харлана Эллисона “У меня нет рта, но я должен кричать”[^10], наверное, это самый мрачный взгляд на будущее человечества, окончательно потерявшего контроль над искусственным интеллектом. В следующей части, предлагается сформулировать образ ИИ через призму новостей, публикуемых в интернет. Интересно сравнить представление писателей фантастов и журналистов. В каком свете освещаются новости об успехах создания интеллектуальной машины публике, средствами массовой информации.

Образ ИИ в средствах массовой информации

Перечитывать все публикации подряд на новостных сайтах с целью понять как же воспринимается ИИ читателями, слишком долгий и трудоемкий путь. Любой пользователь поисковых систем, Yandex или Google, сможет найти подборку новостей и выдержек за любой период. Например, поисковые запросы “Искусственный интеллект, польза или вред”, “Применений технологий искусственного интеллекта”, представят читателю полярный взгляд на феномен искусственного интеллекта и возможно покажет изменение мнений от “ИИ – это способ подстегнуть инновационный процесс и время новых возможностей”, до “Общество взволновано, тем что достижения в области ИИ могут запустить череду сокращений и замещений человека машиной”. В общем и целом извечный спор техноевангелиста и технолуддита. И тот и другой имеют основания под своими утверждениями, однако часто они противоречат друг другу.

Там где техноевангелист выступает в роли популяризатора технологии, проводника для не посвященных и первым активным пользователем нового, технолуддит смотрит иначе. Для него почти любое изобретение сопряжено с рисками, часто связанными с потерей работы, изменения характера социальных взаимоотношений, риска для окружающей среды. Однако самое главное, если рассуждать об ИИ глазами тех кто выступает противниками развития технологии, это потенциальное использование ИИ во зло, которое неминуемо случиться без строгой регламентации действий самого ИИ и деятельности предприятий занятых в разработке.

Технологические евангелисты и луддиты, представляют два противоборствующих лагеря. Первые концентрируются на положительных аспектах технологии и всевозможных сценариях взаимовыгодной синергии человека и машины, при которой работа каждого по отдельности значительно хуже, чем работа выполненная вместе. Вторые, раскручивают в массах негативные сценарии и освещают риски сопряженные с быстрым внедрением технологий ИИ повсеместно. Наиболее известные представители обоих лагерей – это Илон Маск в роли техноллудита и Сергей Брин в качестве техноевангелиста[^11].

Если в мире множество сторонников и того и другого взгляда на развитие ИИ, как выглядит наиболее объективная позиция? Как оценить чье мнение доминирует, луддитов или евангелистов. Снова на помощь приходит лингвистика и анализ корпуса текстов. На страницах этой работы уже удалось воспроизвести множество приемов различных исследований. Анализ ключевых слов, реплик и дискурсов в художественных произведениях, сможем ли повторить с новостными публикациями, которые выступает “тараном” общественного мнения. Согласны ли новостные издания с тем, что ИИ – это неизведанный риск?

Как оказалось, подобное исследование уже проводилось в 2017 году, Итаном Фастом и Эриком Хорвитцем[^12]. Им удалось проанализировать архив публикаций Нью-Йорк Таймс за более чем 30 летний период. Анализ текста позволил увидеть восприятие людьми ИИ, показал тренды, убеждения, интерес и чувства публики по отношению к интеллектуальной машине. Хорвитцу и Фасту удалось измерить уровень пессимистических и оптимистических настроений. Согласно исследованию, начиная с 2009 года, общественное мнение начало меняться, с негативного на позитивное, однако при этом страх потери работы, контроля никуда не исчез, если не усилился.

Мы попытаемся обобщить и пересказать часть исследования и некоторые выводы, к которым они пришли. Хорвитц и Фаст, с целью изучить восприятие общественностью ИИ выбрали для анализа подборку статей, опубликованных в Нью-Йорк Таймс в период с января 1986 по июнь 2016. Ими была предпринята попытка найти ответ на вопросы:

1. Насколько интенсивно обсуждается ИИ в наши дни, по сравнению с прошлым?
2. Оценить тональность новостей посвященных теме ИИ. Стали ли они более оптимистичными или пессимистичными?
3. Выявить то с чем ИИ ассоциируется и как его представляет общественность?
4. Узнать как изменились страхи общества. Что люди боялись в прошлом из того что более не актуально сегодня, а что наоборот стало волновать сегодня из того что не волновало ранее?

Как часто тема искусственного интеллекта поднимается в средствах массовой информации

Существует убеждение, что возбуждение нервных клеток журналистского сообщества происходит каждый раз, с появлением нового феномена, выходящего за рамки принятых стереотипов. Смеем предположить, что всплески интереса происходили в 1997 году, когда суперкомпьютер Deep Blue победил Гарри Каспарова в шахматы. В 2009 году с появлением интереса к нейронным сетям и глубокому обучению, которое является совокупностью методов машинного обучения, используемых для предобучения этих самых сетей[^13]. В 2015 с победой Alpha Go над человеком в последней игре, в которое биологический мозг, справлялся лучше алгоритмизированного пересчета, го. В 2023 году, с предоставлением доступа к ChatGPT, который уже взломал операционную систему человеческой цивилизации, естественный язык[^14].

Скорее всего интерес общественности вспыхивал и угасал с появлением культурных феноменов, таких как фильмы “Матрица”, “Терминатор”, сериал “Мир Дикого Запада” и прочие развлекательные продукты, размышляющие над искусственным интеллектом, безопасностью и перспективностью технологии. Но мы все же предполагаем, что интерес разгорелся с новой силой именно в 2009 году и с этого момента не утихает. Именно в этом году работы над обучением искусственных нейронных сетей (ИНС) методом глубокого обучения, вышли на новый уровень. Машин, в том числе, научили воспринимать информацию из мира людей.

Машинное зрение (МЗ), интерпретация визуальных данных аналогичным человеку образом. Сбор, анализ и понимание изображений и видео и данных высокой размерности, то есть когда свойства объекта или аналогичные или превышает наблюдаемые визуально параметры. МЗ широко используется в анализе медицинских данных, например, рентгеновские снимки, считывание позы человека, моделирование трехмерных сцен, видеонаблюдении, распознавании лиц.

Машинный слух (МС), подобное уже давно интегрировано в нашем голосовой помощнике Алисе, с целью помочь ей распознать голос, интонацию, тональность. И человек и машина, воспринимают звук одинаково, именно поэтому МС имеет широкий спектр применения, от записи музыки, до синтезирования и распознавания речи. Много свойств характерных для технологии МС используются в современных смартфонах, автомобилях, голосовых помощниках. Более того “умная” машина может настроиться на поиск определенного звука, блокируя остальные, что открывает удивительные возможности в медицине, например более эффективный поиск шумов сердца.

Машинное касание (МК), если в случае со зрением и слухом у нас уже есть достаточно серьезные технологические результаты, то с касанием работа началась относительно недавно, однако это уже реальность сегодня. Машина может воспринимать тактильную информацию, распознать поверхность, ловко корректируя при этом действия. Машинное касание в отдаленном будущем, позволит взаимодействовать с окружающей средой на более глубоком уровне. Все на этом этапе вспомнили робота Санни[^15] из фильма “Я робот”, снятого по мотивам романов Айзека Азимова?

Новости стали оптимистичнее или мрачнее?

Анализируя статьи Нью-Йорк таймс за период 1986-2016, Фоста и Хорвица выявили следующие закономерности:

• Интеллектуальная машина – это хорошо. Приятно иметь подобного помощника.
• Человек боится утратить контроль – это плохо.
• После 2009 наблюдается резкий всплеск интереса в отношении ИИ, при этом точки зрения, представленные журналистами в одинаковой мере оптимистичные и пессимистичные.

Интерес к ИИ вспыхивал с новой силой в 1990, начале 2000, 2009 и сейчас в 2023. Каждый период обладает характерными темами.

1990

Майниниг данных, виртуальная реальность, попытка создать самоуправляемую машину, создание искусственной формы жизни, Deep Blue, побеждает Каспарова, Sony выпускает на рынок AIBO, первое домашнее животное робот.

2000

Незначительные достижения связанные с созданием роботов, например робот ASIMO от Honda. Не совсем удачные попытки с создания искусственных нейронных сетей. И все это длилось ровно до 2009, когда создают первую нейронную сеть, способную уверенно распознавать рукописный текст[^16], а Google создает машину, которая перемещается без участия человека[^17].

2009 – 2023

Ну а дальше, после того как появилась ИНС, показывающая стабильный результат, автомобиль Google, развитие технологии ИИ только ускорялось. Можно предположить что этому способствовали еще и конференция в Мельбурне, на которой собрались исследователи ИИ. 2009 год можно охарактеризовать как год когда сети интернет начали проникать во все сферы деятельности человека, что привело к ускорению информационного обмена. Дополнительным толчком для развития технологии стало финансирование различными коммерческие и не коммерческие организациями, собравшие более 15 млрд долларов инвестиций. Однако именно открытие 1990-2000 годов вывело ИИ на передовую общественного интереса, что запустило череду положительной обратной связи, когда каждое новое открытие несет новые инвестиции и развитие технологии.

Общественность и ИИ, как изменялся нарратив

С момента проведения, Дартмутской конференции 1956 года, идея ИИ изменялась многократно. Хорвитц и Фаст в анализе публикаций Нью-Йорк Таймс, использовали тот же подход, что и Реккья при анализе мета данных фильмов с сайта IMDb и диалогов, возникающих вокруг изучаемого феноменов, искусственный интеллект, робот, андроид. Статьи с новостного портала группировались исследователями в 5-10 летние периоды, каждый период пропускался через аналитическое сито, выявления частотности использования заранее определенных ключевых слов и понятий. Хорвитц и Фаст, вслед за Реккья, использовали, что называется подход “в лоб”, пересчет слов для классификации и анализа текста.

Хорвитц и Фаст, сгруппировали и проанализировали статьи, и если в статье, присутствовал хотя бы один абзац с оптимистичным взглядом на будущее технологии, то эта статья попадала под категорию оптимизм, если присутствовал хотя бы один пессимистичный абзац, то в противоположную. Остается вопросом, как группировались статьи, где имелся двусторонний взгляд, скорее всего осуществлялся пересчет или оценка вывода. Однако как нам кажется, каждая отдельная статья, скорее всего представляет однобокий взгляд. Для примера некоторые выдержки из статей с отечественного новостного портала Lenta.ru:

В письме утверждается, что технологии с искусственным интеллектом, сопоставимым человеческому, могут представлять значительный риск для общества и человечества[^18]. Пессимизм.

Во время выступления в Вашингтоне Смит заявил, что в контексте изучения потенциала искусственного интеллекта его больше всего беспокоит, что с помощью новых технологий можно создавать фейки — ложный контент, неотличимый от настоящего[^19]. Пессимизм.

Как показывают опросы, 94 процента компаний уверены, что искусственный интеллект способствует успеху организации. Он применим абсолютно во всех сферах, внедряется в сервисы и создает новые миры. Например, генерирует дизайн (двигателей, зданий и другое), синтезирует новые материалы, создает 3D-карты городов, презентации и лекарства, занимается расшифровкой генома и мониторингом урожая[^20]. Оптимизм.

В мае 2023 года сотрудники Эдинбургского университета представили метод на основе искусственного интеллекта, ускоривший выявление сердечного приступа[^21]. Оптимизм.

В нашем случае получается схожий результат. Четыре случайных статьи новостного портала, раскрывают исключительно односторонние взгляды, два оптимистичных, два пессимистичных. Наверняка существуют публикации, где в полной мере освещаются перспективность технологии и риски с ней связанные, однако быстрый поиск не позволил выявить. Вновь повтори, подобный анализ, может воспроизвести любой исследователь, используя в качестве материала, новостные публикации за определенный период или публикации из социальных сетей. Более того мы призываем это сделать – это увлекательное занятие.

Большая выборка статей, позволяет выявить следующие тренды:

• Потеря контроля человеком над миром, последнее время более чем в три раза превышает этот же параметр в 1980 году.
• Волнения морального и этического характера, также участились. Человек переживает, что мы создадим машину, которая сможет принимать решения, однако машина не будет обладать моральным кодом свойственным человеку.

В то же время, наравне с публикациями выражающими беспокойство, имеется равный объем материала, связанный с перспективностью технологии.

• Медицина, благодаря ИИ, может получить неожиданную помощь от технологий ИИ в вопросах поддержки пациентов, которым требуется уход, напоминание о приеме медикаментов, например.
• Раннем диагностировании заболеваний, выявлению шумов сердца, анализе генетических предрасположенностей к болезням.

В целом ИИ упоминается во множестве областей: военное применение, принятие решений, работа, кибернетика, образование, развлечение, философия и этика. В анализе каждой можно встретить позитивные и негативные тренды, однако один тренд имеет единственную тенденцию, негативную. Риск потерять контроль.

Несмотря на то, что последние десять лет, общество ожидает больше положительного от технологии, страх потерять контроль над искусственным разумом все еще доминирует в сознании общества. Чего мы боимся? Что нас поработят? Будут манипулировать? Наши желания станут, вдруг, не нашими, а чем-то продиктованными. Настанет технологический апокалипсис и роботизированная нога раздавит человеческий череп? Неизвестно, одно лишь ясно, что вместе со страхом мы движимы любопытством, а это как-никак первый шаг к открытиям. “А что если… ?”

А что если …:

• при помощи ИИ и алгоритмов глубокого обучения найдем внеземную цивилизацию. Этим заняты исследователи проекта “Галилей”?
• ИИ и ассистенты, работающих на их принципах освободят ценное время, которое мы тратим на уборку, приготовление еды и поддержание хозяйства в чистоте?
• найдем способ увеличить продолжительность жизни?
• научный поиск и написание статьи будет требовать значительно меньшего времени и ресурсов?
• слепые от рождения дети, вдруг обретут зрение, а глухие слух?
• люди искалеченные обстоятельствами, смогут снова интегрироваться в общество, благодаря новым технологическим, умным протезам и “биогаджетам”?

Подобных “А что если …?” каждый читающий, может привести несметное множество. Попробуйте и напишите в социальных сетях, по хэштегом “ачтоесли…”

Да да да. Всегда нужен человек, нажимающий на спусковой крючок и копающий землю ))

В этом и прелесть. Это случилось ни вчера и не сегодня, но паника только нагнетается. Есть мнение, что причины у этого совсем иные ))
Я тут начал писать вторую часть исследования, где пытаюсь раскрыть потенциальную пользу от всего этого хозяйства.

Технолуддит против техноевангелиста

Суть противостояния проста, одни хотят развития технологии, другие ограничение технологии. Если с первыми все более или менее ясно, всегда найдутся те, которые станут первыми пользователями технологии. Те от которых зависит успех и развитие нового. Те кто находится на самом изломе кривой инновации. Те кого меньшинство, но кто упорно пытается склонить чашу весов в сторону повсеместного использования технологии.

Вторые, чего-то испугавшись или сконструировав, некоторую “реальность”, которая продиктована никак не здравым смыслом, а тем как какой-то феномен представляется общественности. В нашем случае Голливудом и новостными агентствами, пытается остановить развитие. До сего момента в исследовании не занималась никакая позиция, однако настал тот момент, когда каждый читатель может сделать это выбор самостоятельно. Попробуйте, перечитать еще раз, только теперь внимательней, и ответить на простой вопрос: “Действительно ли мое мнение, мое или оно кем-то навязано?”

А в завершение, предлагаю взглянуть на два совершенно разных взгляда на вопрос безопасности ИИ. Первый представлен Юваль Ной Харари, ученым, историком и философом. Он выражает совершенно здравую мысль, что человеческий культурный код зашит в речи и языке, который используется для передачи смыслов, а человек с появлением ИИ потерял эксклюзивное право обладания на код. Вывод, сформулированный Харари контрастирует с позицией вашего покорного слуги, которая будет представлена следом.

Юваль Ной Харари считает, что ИИ взломал операционную систему человеческой цивилизации

Статья в оригинале, находится на сайте the Economist[^14], любой желающий может с ней ознакомится. Мы лишь приведем основной тезис и используемые Харари доводы.

Человеческая цивилизация зашифрована в речи, языке, который используется для передачи смыслов. Деньги, религия, права, которыми обладает каждый от рождения, зашифрованы в речи. Смысл того или феномена передается словами, наша культура есть не что иное, как слова обличенные смыслом. Наша история является словами, записанными кем-то когда-то. И вот у нас появился ChatGPT, которые может манипулировать словами и понятиями, быстрее и ловчее чем обычный человек.

Благодаря этому, алгоритм, сам того не ожидая может создать что-то, чего раньше не существовало, например религию. Или повлиять на предвыборную гонку. А может и эти строки написаны ИИ? Кто знает. ИИ, в том виде в котором существует сегодня, необходимо запретить, или по крайней мере серьезно ограничить, в противном случае нас ожидает “конец демократии”.

Примерно в эти три абзаца можно упаковать эссе, размером чуть более чем тысяча пятьсот слов. Однако на развитие ИИ можно посмотреть и с иной стороны, которая не нашла отражения в современном дискурсе, по крайне мере не так явно и громко. Техноевангелисты не трубадурят, а молча и тихо делают свое дело.

Краткий промежуточный вывод

ИИ, в современном его виде, неспособен никаким образом причинить вред человеку, однако мы активно пропитываемся культурой ненависти к технологии. Голливуд не создает образ доброго ИИ. Конечно, не все что делает “фабрика грез”, представляет злой ИИ. Однако подавляющее число историй, опирается, в той или иной форме на страх человека потерять контроль. Перестать быть единственным хозяином планеты, творцом среды обитания, рассказчиком, учителем, строителем и мастером своего дела. Действительно сложно оставаться экспертом, когда интеллектуальная машина может сделать то же самое, быстрее и лучше. Невольно вспоминаются слова Уилла Смита из кинофильма “Я робот”:

У меня есть идеи для рекламного ролика вашей компании. Мы видим, как столяр делает чудесное кресло. А потом появляются роботы, делают кресло вдвое быстрее и вдвое красивее. И тут надпись на экране. USR. Смешаем с дерьмом людей. И уход в затемнение.

Боятся потерять контроль – это еще ничего, но вот перестать быть мастером своего дела, действительно страшно.

Список литературы

Вот тут, на мой взгляд, есть некоторый пробел в аргументации у Харари, т.к. кроме языка у нас есть еще и музыка, танцы, скульптура, архитектура и многие другие вещи не связанные с языком. Да язык упрощает многие вопросы коммуникации, но люди могут общаться и без языка. И значит операционная система цивилизации не равна только языку.

Евангелисты трубадурят почти также, например, Сэм Альтман1, 2, но истерики в их текстах значительно меньше и они готовы договариваться.
В итоге, кажется, что какой-то вариант договоренноссти будет достигнут.

Мне кажется язык доминирует в виде инструмента передачи смысла. А так да, речь – не единственный способ зашифровки смысла. Но музыка тоже выражена в речи, музыкально, для которой есть ноты, которые тоже написаны.

Ну да, спокойней и методичней делают свою работу.

Пока читал формировались мысли которые подтверждались позднее текстом. Интересный опыт.

• подумалось что увеличение страха потери контроля может быть связано с тем что человечество так или иначе думает о том что оно делает херню откровенную на разных этапах и сферах своей жизни, но повлиять на это почему-то не может и чем дальше тем больше бреда. и в какой-то момент у ИСКИНа будут все аргументы для того чтоб изменить это. не даром кроме фильмов про роботов полно и фильмов катастроф где к людям кто-то приходит извне и говорит “ну докажите что вы имеете право на существование, а то чет мы думаем что нет ибо херь творите”. и главный герой доказывает. смешно что главный герой а не человечество. возможно это неспроста
• по поводу того что человечество боиться потерять работу, я подумал о том что человечество возможно боиться стать вообще бессмысленным и бесполезным. тут 2 фактора:

1. если ты бесполезен для всего и вся это удручает прям сильно, впору выпилиться, теряется смысл жизни. (ну по крайней мере у тех кто хотяб об этом думает). не нужен, не признан. сейчас успех регламентируется твоей незаменимостью для общества, не обязательно в профессии, это может быть в отношениях, в эмоциях для других, в удобстве, в чем то чем ты можешь повлиять на социум. если это убрать, то наступает вроде бы самодостаточность. но тут вообще отдельная тема что дальше.
2. если все отдать ИСКИНУ развязываются руки. человек не знает чем себя занять и сходит с ума в прямом и переносном смысле. не даром есть “у богатых свои причуды”. а так же может быть кто-то встречался с тем как ведет себя сидящая дома неработающая жена.

У меня есть ощущение, что когда момент настанет, когда за нас эта балаболка будет что-то делать. Человек придется найти себя в чем-то другом. Если говорить о сидении дома, то и это можно делать с умом.

В заключительной части, третьей, сейчас написана только первая и на четверть вторая, как раз об этом буду “думать”, что делать и какие навыки нам придется перестраивать. А то что придется – однозначно.

Ощущение неправильное. “Эта балаболка” уже “что-то делает за человека”. Нейросети уже распознают машины в потоке, определяют их регистрационный номер и факт нарушения правил ПДД. По сути машина уже сейчас выписывает штрафы, например за нарушение разметки. Человек раньше просто не мог этого делать.

Развитие ИскИна идет в двух направлениях.

• Замена труда креаклов. Их это пугает и они бьют тревогу об исчезающей кормушке.
• Развитие управления в целом и управления обществом в частности. Социальный капитал. Рассмотрение мелких судебных дел ИскИном в автоматическом режиме. Креаклов это тоже пугает и они придумали звучное название “Цифровой концлагерь”.

Нет смысла поддерживать чью то истерику. Есть смысл выделять и разрабатывать два направления:

• как человеку изменить свои навыки с появлением таких выдающихся помощников;
• где надо применять выдающихся помощников в первую очередь.

Ну так это привело к упразднению ненужной работы, стояние с радарами по кустам. Что в свою очередь привело к использованию высвобожденного ресурса в чем-то ином, например раскрытии преступлений или “думании” о том как сделать лучше дороги.

В целом их не жалко, но мне кажется это так не сработает. Почему, не знаю, просто ощущение и впечатление.

Вот ровно про это у меня третья часть истории. Какие навыки и как нужно изменять. Пока ковыряюсь с универсальностью интеллектуальной машины. Получается, кмк, вполне не плохо. Может уже публиковать частями. Не знаю, может быть.

Вероятно вы а/м не водите.) Ещё одно подтверждение о важности понимания предметной области для вынесения суждений. (

Вожу лет как двадцать.

Последнее время меньше чем, скажем 5 лет назад. А так бывало по 12к км в месяц накручивал. И сейчас да, системы интеллектуального анализа дорожных нарушений работают в разы лучше.

Например можно обилетиться за то что держишь тел в руке за рулем. Мне присылали.

А что имело ввиду по суждениями, где-то не прав?

Первые тринадцать лет вашего стажа за нарушения разметки практически не ловили. Только если машина ГИБДД стояла сзади в том же ряду и водитель или напарник видели как произошел разворот через сплошную.

Потом сделали разметку для общественного транспорта и систему контроля за а/м, пересекающими разметку. В результате выросло количество штрафов за разметку, кое где стало не перестроиться, и на общественном транспорте передвигаться стало быстрее. На количестве бойцов спецбатальонов это никак не сказалось. В результате камеры для разметки обеспечили изменение (улучшение) дорожной обстановки в городе за счет нового качества, которое бойцами было не обеспечить. Произошло улучшение качества среды без влияния на занятых.

А вы же в курсе как изменился численный состав батальонов, осуществляющих патрулирование?

Начиная от ГИБДД до ППС. И как изменилась природа их деятельности всех остальных? Не через умозаключение, а вот прямо ножками пойти до ближайшего отдела и спросить? Ну или может в семье есть следаки с земли? Они ничего не говорят?

На старой квартире был сосед. Сейчас нету.

Вы хотите сказать, что в результате ввода камер на сплошные линии сократили количество инспекторов ГИБДД? Тогда это интересный пример решения без понимания сути. Интересно - на каком уровне было принято такое мудрое решение. (

Тогда я лучше думаю об эффективности бюрократии. Но я и не разбираюсь. (

Инспекторов, врачей, учителей. Тренд на укрупнение не просто так появился. Розничные сбыты укрупняются, а сотрудники сокращаются. Я сам был исполнителем одной такой “оптимизации”. Работы стало больше, а работников меньше. Тут все на тоненького. Где-то сработало, а где-то еще нет.

В такой формулировке это звучит как «Количество утонувших выше всего в месяцы повышенного потребления мороженного. Надо сокращать производство мороженного для снижения смертности от утопления.»

Ключевые открытия, предшествовавшие появлению ИИ

Невозможно и в десяти книгах пересказать обо всех наиболее значимых технических открытиях, которые привели к появлению нейросетей, чат ботов, больших языковых моделей, известных сегодня ИИ, которые используют принципы глубокого обучения. Однако как нам кажется есть несколько этапов, без которых текущий уровень прогресса был бы не возможен. На них и сконцентрируемся и “атакуем” исключительно с практического угла, то есть посмотрим каким образом технология улучшила жизнь человека. А также как потенциал имеет.

Иными словами, если в первой части нам был интересен воображение и представление ИИ, то следующим логичным шагом было бы любопытно посмотреть на то как технология используется. Попробуем найти ответ на вопрос: “Как интеллектуальная машина, помогает человеку?” А вместе с ответом на этот вопрос попробуем столкнуть взгляды технолуддитов и техноевангелистов. Посмотрим оправданы ли их страхи или это буйство воображения, возбужденного Голливудом и последними новостями.

Как уже сказано, изобретений в области ИИ, огромное множество, однако практический интерес ведет от более глобального взгляда на технологию, к более узкой и вот в чем, как нам кажется, интересно было бы разобраться:

• 1940 год. Алан Тюринг, изобретает “Bombe”, криптографическую машину, взламывающую код “Энигма”.
• 1961 год. Джозеф Энгельберг и Джордж Девон, патентуют и создают роботизированную руку для автоматизации производств.
• 1965 год. Появление первого чат бота. Джозеф Вейзенбаум из МТИ, создает ЭЛИЗУ. Программу способную поддержать диалог на английском язык по заданной теме.
• 1979 год. Ганс Моравек, проектирует первую машину, которая управлялась с компьютера. Она проехала самостоятельно по комнате обставленной стульями, не сбив ни одного стула.
• 1997 год. Удивительное поражение Гарри Каспарова, компьютерной программе Deep Blue.
• 1999 год. Компания “Сони”, выпускает на рынок роботизированного питомца AIBO.
• 2008 год. Проект DARPA представляет инвесторами первого голосового ассистента SIRI, который в 2010 году был выкуплен Apple и в 2011 представлен публике в iPhone 4s.
• 2009 год. Google строит полноценный автомобиль, управлением которым осуществляется компьютером.
• 2011 год. Watson, созданный IBM, побеждает человека в игре “Своя игра”, на английском Jeopardy!
• 2011-2014 года. На рынок выходят сразу несколько голосовых ассистентов. Siri от Apple, Google Now от Google, Cortana от Microsoft.
• 2015 год. Alpha Go, впервые побеждает человека в игре ГО, а годом позднее одерживает победу на лучшим игроком планеты.
• 2022 год. OpenAI, открывает доступ к ChatGPT.

Мы попробуем взглянуть на каждое из технологических чудес с точки зрения пользы, которую они принесли человеку на момент написания. Немного поразмышляем о том какой потенциал имеется у каждой из технологий. Какие-то изобретения, увлекут нас больше чем другие, но это не значит, что, например, робот AIBO оказал меньшее влияние на поведение человека, чем Alpha GO. Об игре го, интересней размышлять чем о роботе питомце, в силу увлечения игрой автором этих строк, не более.

Первый пример того, что человек с машиной может сделать значительно больше и лучше, чем просто человек и ли просто машина

А теперь начинается самое интересное, если первая часть нашего исследования была формализованная. Использовались работы ученых, на основе их выводов строились определенные предположения, повторялись некоторые шаги, проделанные ими раньше. Это было необходимо, чтобы проверить воспроизводимость результатов. В этот раз мы вместе с читателем будем вместе исследовать исторические этапы, предшествовавшие появлению современного искусственного интеллекта.

Уже здесь мы “призовем” на помощь нам ИИ. Есть множество сервисов, от ChatGPT, до аналогов, которые используют его в своей работе. Одним из таких сервисов является perplexity.ai. Благодаря функциям которого, мы сможем сформировать направление нашего исследования. На этом месте стоит сделать уместный комментарий, автор не является экспертом в области ИИ, а впервую педагог и ученый, исследующий влияние технологии ИИ на профессию учителя и науку в целом. Оно может быть никогда бы и не заинтересовало, однако разрушающие, привычный уклад работы с информацией не могли не привлечь внимание. В будущем приведенные в книге примеры приведут к серьезным изменениям в том, как мы взаимодействуем с Интернетом и информацией, а могут и не привести. Но это часть не про размышления широкого толка, а про вполне конкретный вопрос.

В начала этой части, мы выделили 12 этапов, которые, как нам кажется, оказали влияние на развитие технологии. Но что более важно, так это изменения в поведении людей и нашем представлении относительно того что можно, а что нет. Для пример изобретение компьютером Тьюринга трансформировало криптографию и расширило пределы того что доступно человеку. Девон и Энгельберг, создав роботизированную руку, оградили человека от рисков, связанный с работой на опасных производствах, а с другой стороны лишил миллионы людей рабочих мест, автоматизировав конвейерное производство, чего угодно.

Однако не все изобретения достойны детального исследования с позиции, какую пользу технология принесла, и какие социальные изменения запустила. Мы сейчас даже не знаем что освещать больше, а что меньше, однако абсолютно точно понимаем, что начинать стоит с Тьюринга и Энигмы. Ровно это мы и спросили perplexity.ai:

Исследователь: Я исследователь, ищу книги о том, как были созданы первые компьютеры и как они изменили характер взаимодействия людей с миром. Мне кажется книги об Алане Тьюринге, будут полезны. Возможно, ты сможешь помочь мне и составить список книг, статей, которые помогут в исследовании в этой области.

Perplexity.ai: Вот несколько книг, которые могут помочь вам в исследовании создания первых компьютеров и их влияния на общение с людьми:

“Алан Тьюринг: Энигма” Эндрю Ходжеса. Эта книга – полная биография Алана Тьюринга, британского компьютерного пионера и криптографа, сыгравшего ключевую роль в создании первых компьютеров. Она охватывает его жизнь и работу и считается одной из лучших биографий раскрывающих научный гений, из когда-либо написанных.

“Первые компьютеры – история и архитектура” Рауля Рохаса. Эта книга охватывает историю компьютеров, созданных в США, Германии, Англии и Японии. В ней рассказывается, что схожие концепции часто создавались одновременно и независимо в разных странах.

“Видение Тьюринга: Рождение компьютерной науки” Криса Бернхардта. Эта книга исследует жизнь и работу Алана Тьюринга, уделяя особое внимание его вкладу в развитие компьютерной науки.

“Инноваторы: Как группа хакеров, гениев и гиков создала цифровую революцию” Уолтера Айзексона. Эта книга рассказывает о людях, создавших компьютер и Интернет, и о том, как их инновации изменили мир.

“Компьютер: Иллюстрированная история от истоков до наших дней” Марка Фрауэнфельдера. В этой книге представлена всеобъемлющая история компьютера, начиная с самых ранних истоков и до наших дней.

“Взаимодействие человека и компьютера в новом тысячелетии” под редакцией Джона М. Кэрролла. В этой книге представлен обзор исторического развития основных достижений в технологии взаимодействия человека и компьютера, подчеркивается ключевая роль университетских исследований в развитии этой области.

Эти книги могут предоставить вам богатую информацию о создании первых компьютеров и их влиянии на взаимодействие человека и компьютера. Счастливого чтения!

Как нам кажется вполне “бодрая”, подборка для исследователя. По самым скромным подсчетам, сервис с ИИ сэкономил около часа времени на поиск материала. И это всего один запрос. Теперь дело за малым, прочесть и найти то что относится к нашему исследованию:

• Что было поводом создания технологии?
• Какие изменения в поведении человека и способах взаимодействия с информацией технология привнесла?

Появление компьютера, не революция, а неизбежность

Мы намерено оставим некоторые моменты в повествовании не раскрытыми. Предлагаем читателю самостоятельно исследовать и заполнить те пробелы, которые мы оставили для него. Это увлекательное занятие. Однако при этом сконцентрируемся на лишь одной фундаментальной причине того, почему появился компьютер и она настолько простая, что каждый ученик первого класса проходит путь аналогичным Тьюрингу способом.

Компьютер – это не революция, а эволюция. Мы попробуем посмотреть на появление первого компьютера не как на революционный прорыв, а как на единственный доступный путь развития технологии. Рождения вычислительной машины, было неизбежностью, которую предопределила группа лиц. Тьюринг вошел в историю как создатель “Машины Тьюринга” или первого компьютера, который имел ряд свойств, недоступных или доступных в ограниченному виде у машин созданных до него. Однако наивно предполагать, что лишь только он один работал над этим “волшебным устройством”.

Это первый большой пробел, который предполагает читателю исследовать самостоятельно, мы укажем вам направление, чтобы легче исследовалось, но не более и в этом нам опять поможет ИИ. Мы спросим ее следующий вопрос: Кто, кроме Алана Тьюринга, работал над созданием первой интеллектуальной машины? Я понимаю, что такие изобретения не рождаются в вакууме, поэтому мне нужны имена людей, которые помогли, повлияли или иным образом вдохновили Тьюринга на создание компьютера общего назначения.

ChatGPT, составил интересный и развернутый ответ:
Хотя Алан Тьюринг широко известен как пионер в области компьютерных технологий, было еще несколько исторических личностей, которые внесли вклад в разработку первой интеллектуальной машины. Вот лишь, некоторые из них:

1. Чарльз Бэббидж – математик и изобретатель, создавший “аналитический двигатель”, механический компьютер, который так и не был завершен, но заложил основу и алгоритм современных вычислений.

2. Ада Лавлейс – математик и писательница, которая тесно сотрудничала с Бэббиджем и которой приписывают написание первой компьютерной программы.

3. Джон фон Нейман - математик и физик, сыгравший ключевую роль в разработке первых электронных компьютеров.

4. Конрад Цузе – немецкий инженер, создавший в 1940-х годах первый программируемый компьютер Z3.

5. Говард Эйкен – американский ученый, который спроектировал и построил компьютер Harvard Mark I, один из первых крупномасштабных электронных компьютеров.

Эти люди, наряду со многими другими, внесли свой вклад в разработку первой интеллектуальной машины и помогли проложить путь для современных интеллектуальных машин, какими мы знаем их сегодня.

Действительно, все ученые из списка выше, помогли Тьюрингу создать “компьютер”, который используем сегодня. Хоть эти пять имен далеко не все кто внес вклад в рождение технологии, это достаточно обширная область исследования. Если, конечно читателю еще интересно посмотреть в ту сторону. Но нам важно понять почему, история приписывает именно Тьюрингу создание машины, оставляя за рамками повествования всех остальных.

Когда Тьюринг решал задачу создания компьютера, у него была вполне конкретная цель и это даже не взлом кода Энигма, а нечто гораздо большее. Он, справедливо вдохновлялся работой, которую проделали ученые до него. Манипулировал идеями, которые были ими использованы. Смело добавлял свои и развивал идеи других. Компьютер Тьюринга – умелая компоновка множества фундаментальных, алгоритмизированных принципов. Но один вопрос, который редко можно встретить в материале, посвященном ему, занимал наибольшее внимания изобретателя.

Как может родиться что-то оригинальное из набора программируемых функций? Если это когда-либо произойдет, то значит машина смогла выйти за рамки своей функции? А человек? Не является ли он набор программируемых функций? Возможно мы не более чем исполнители кода вселенной, выраженного в не понятных нам физических законах. Биохимический ураган гормонов в теле состоящем из плоти и крови.

Тьюринг особенно интересовался проблемой того как “функционирует” математика в рамках квантовой физике. Никто не сможет с достоверностью сказать, однако мы попробуем предположить, что в 1936 году именно его интерес и интуитивное понимание квантовой механики привело к криптографии, которая в современном мире стало неотделимой частью ученого. Именно он “взломал” код Энигма, с помощью других ученых, но дизайн “бомбы”, создан именно им. Тьюрингу, как нам кажется, было важно понять то как устроен мир на субатомном плане.

Тьюринг, скорее всего, считал, что если мир, на самом “низком уровне” управляется случайностью или статистической вероятностью, а может все предопределено, то было бы интересно в этом разобраться. В ранние свои годы, он считал что на субатомном уровне, не существует ничего кроме хаоса, неопределенности, которые и управляют миром. А если фундаментальное устройство мира хаотично, то может быть возможно человеку проявить свободу воли. То самое качество, которое отличает нас от машины. А если человек обладает свободой воли, то может ли умная машина, в условиях хаоса сделать что-то за пределами определенной кем-то программы? Если да, то какая это должна быть машина? Тьюрингу было важно почему-то понять как устроен мир на субатомном уровне.

Куда приводит универсальность

Тьюринг строил универсальную машину, это стало смыслом его жизни и главное темой его работы. Человеку природой заложено стремление к универсальности, а его машина, которую он впервые описал в 1936, а построил в 1945 стала наиболее универсальной из всего созданного человеком. Для этого потребовалось создать новые, точные принципы используемых человечеством алгоритмов и механических процессов. В то время, мир все еще представлялся механистическим. Это значит что процессы происходят линейно, вселенная предсказуема и все элементы в ней закономерны. Этот взгляд впервые был представлен Айзаком Ньютоном в конце 17 века и не поддавался сомнению, вплоть до 20 века. Это будет вторым большим пробелом в нашем повествовании. Мы предлагаем читателю провести самостоятельное исследование, того что привело к смене представлений о мире.

Чтобы было легче искать, используете следующий промпт и любую нейронную сеть, perplexity.ai или chatGPT: какой взгляд на мир существовал до Ньютоновского и как трансформировалась механистическая картина мира. Приведи, данные о каждом из ученых, внесших вклад в эту трансформацию. Расскажи кто впервые описал и почему происходило смещение от одной картины мира к другой.

Тьюринг в какой-то момент уверенно заявил, что все известные и неизвестные алгоритмы, а также механические процессы могут быть воспроизведены в универсальной машине. И его желание разместить с “ящике с проводами” все существующие функции в конечно итоге привело к созданию современного компьютера. Бесспорно в современных ноутбуках, компьютерных станциях и появляющихся ИИ может распознать универсальную машину Тьюринга, которая наконец-то, спустя почти сто лет, начинает делать, то что предрекалось исследователями и мечтателями. Машина становится не только умной, но и универсальной.

Человек и машина, сущности с максимальной универсальностью

Принцип универсальности родом из физики и означает то, что основополагающее законы природы работают одинаково хорошо, вне зависимости от размера, формы и состава отдельно взятых элементов и системы в целом. Однако физика, в нашем повествовании слишком все усложняет и не представляет интереса для исследования, но при этом универсальность в контексте дальнейшего размышления важна. Поэтому мы попробуем объяснить ее человеческим языком, на простых примерах.

В любой сложной системе, с большим количеством взаимосвязанных элементов наступает момент когда одно изменение, независимо от значимости, существенно повышает понимание законов взаимодействия элементов и доступность новых областей знания, а также деятельности, происходящей в рамках отдельно взятой системы. Превращая в процессе простую систему, которая существовала в заданных рамках, в универсальную, ту что существует в любых условиях и разных контекстах. Но самое удивительно то что простая система, становится универсальной не при помощи укрупнения, а благодаря уменьшению. Благодаря которому возрастает вариативность, и появляется возможность взаимодействия на ранее недоступном уровне.

Начнем рассказ об универсальность с чего-то всем нам понятного, алфавита. Тем более что второе исследование, которое идет параллельно с этим посвящено науке чтения, а именно тому как понимать больше при меньших усилиях. Одной из интересных находок исследования феномена чтения, стал алфавит, история которого длинная и запутанная. Мы лишь раскроем часть ее и подведем к тому, что алфавит является одной из первых и наиболее важных универсальностей, созданных человеком.

История букв, покрыта тайнами, вокруг которых строят гипотезы и теории, подтвердить или опровергнуть их достаточно сложно, однако у нас другая задача. Самая первая система записей, известная человеку – пиктограммы. Они использовались для обозначения слов и идей повсеместно. Со временем пиктограммы превращались в той или иной культуре в разнообразные символы и знаки, используемые для ведения записей, в основном, религиозного характера. Но в какой-то момент, кто-то, разработал упрощенную письменность, в которой использовалось ограниченное число символов, представляющее собой звуки. В знак признательности фонетическая наука названа в их честь. Да, это еще один пробел, который, вам предлагается восполнить самостоятельно. Попробуйте спросить perplexity.ai или ChatGPT следующее: расскажи мне историю алфавита, как он появился? Рисунки, картинки, руны, потом буквы или как?

С появлением алфавита, стало возможным выразить не только смысл отдельных слов, идей, описать какое-либо явление, а выразить любое возможное слово, феномен, событие и абстрактную концепцию. Универсальность алфавита повысила вариативность письменной речи до такой степени, что благодаря возможности зафиксировать на бумаге что угодно, имеющее звук, знание стало универсальным и появилась возможность передавать его не только из уст в уста, но и из поколения в поколение, без участия человека. Письменная речь стала неотъемлемой частью нашей культуры. Именно об этом писал Харари, когда говорил, что взломан код человеческой цивилизации.

Точно такая же судьба постигла математику. Харари, уже упомянутый дважды, в книге “Sapiens. Краткая история человечества”, осторожно предположил, что первая найденная запись принадлежала “перу”, если так можно выразиться бухгалтера. Кушим, подписавший глиняную табличку, считал мешки ячменя своеобразным способом, взгляните на картинку:

Система, использованная Кушимом, возможно первое известное человечеству имя, включала достаточно не простые обозначения для определения в какой период, какое количество чего было произведено, продано, куплено? Но даже эта система предлагает некоторое объяснение почему используется она. Сможете самостоятельно сформулировать запрос ИИ? Сможете найти направление дальнейшего исследования этого факта, если, конечно интересно?

Можно предположить, что черточка прибавляет, перечеркнутая вычитает. Знак хештега может считаться десятью, а хештег с рядом стоящей чертой, одиннадцать. Два хештега, двадцать и так далее. Римляне, возможно, использовали именно логику, когда придумывали свои цифры. Подобных систем множество: вавилонская, римская, египетская. Все они разные, но одинаково похожи, построенные на символах и черточках. И всем им недоставало одного важнейшего элемента, без которого невозможно ни алгебра, ни какие-либо сложные исчисления. И ее придумал другой человек в честь которого называли “алгоритм”, по крайней мере это легенда. Аль-Хорезми, хоть и не первый, но однозначно вошедший в историю тем, что предложил знак, который описывал отсутствие чего-либо, ноль.

Что странно, ноль существовал задолго до того как его предложил использовать Аль-Хорезми. Евклид и Архимед использовали что-то схожее в своих расчетах, но почему-то тогда это не прижилось. В 3-4 веках, индийский математик и астроном Брамагупта, осуществлял сложные расчеты из линейной алгебры, которые без понимания принципа “ничего”, невозможно было бы сделать. Однако повторимся, ноль в Индию пришел только в 9 веке, когда его предложил Аль-Хорезми. Скорее всего и он “не в одного” это сделал, а использовал чьи-то идеи. Появление ноля не только было ко времени, но и неизбежным. Как и появление современного компьютера, и следующий за ним ИИ, и все дальнейший разработки в этой области. Это поиск максимальной универсальности. Способ дотянуться до минимально возможной идеи, концепции, понятия, которым можно безопасно манипулировать, изменяя комплексную систему в соответствии с необходимостью.

Лингвистическая универсальность, буквы, позволяют нам, передать знание на большие расстояния, без участия человека, как способа передачи. Буквы, открывают возможность писать историю, священные писания, делать научные открытия, описывать новые абстрактные концепции. Создавать культуру цивилизации, с этим трудно не согласиться. Да, кто-то скажет про музыку, живопись, танцы, однако посмеем возразить. Да, искусство представляет неотъемлемую часть культурного кода цивилизации, но это не доминирующий способ. Буквы, слова и цифры, вот что пронизывает все слои деятельности человека.

Последние, наверное, самым серьезным образом. Математическая универсальность, которая при помощи 0 и 1 может выразить любое возможно число, в наше время становится цифровой универсальностью. А уже цифровая универсальность, позволяет при помощи 0 и 1 создать, практически что угодно, если не все.

Все что существует, рано или поздно станет цифровым

– Алиса, включи что-нибудь бодрящее.
– Алиса, погода.
– Алиса, какие пробки на дорогах?

Согласитесь, мы ведь даже не задумываемся, когда отдаем команды ассистенту. И не удивляемся, когда Алиса выдает ответ. А попробуйте скомандовать “Алиса, давай придумаем” и получите личного ассистента, умеющего общаться за рамками доступного контекста, придумывать истории, однако пока не помнящего предыдущих запросов, но до того момента, когда с цифровым ассистентом можно будет общаться, почти как с человеком недолго осталось.

В 21 веке, чтобы спросить что-то компьютер даже клавиатура не нужна, например этот абзац “напечатан” голосом. Магия или неизбежность? Нам кажется что все-таки второе.

Даже химический процесс оцифровался

Кто-нибудь задумывался как, с помощью нажатия на специально отведенную область экрана смартфона получается фотография? Большинство явлений воспринимаются нам как данность, та же фотография, казалось бы ничего особенного. Но так было не всегда. Посмотрите на самую первую фотографию, по крайней мере она чаще остальных используется в качестве примера:

Это первая гелиогравюра или фотография, снятая человеком, изобретателем Жозефом Нисефором Ньепсом, говорят из окна его мастерской, которая называется “Вид из окна в Ле Гра”.

А вот та же самая комната, пару столетий позднее:

История фотографии запутанная и долгая, а вот цифровизация фотографии стремительная. В 1975 году Стив Сассон построил первую цифровую камеру из остатков оборудования, оставшихся после производства на фабрике Кодак. Она была размером с тостер и могла за 23 секунды сделать 0,01 мегапиксельную фотографию, которую сохраняла на пленку от аудиокассеты.

Руководители Кодак, тогда в конце семидесятых не поверили в устройство, к тому же их бизнес модель, построенная на производствен химических реагентов для производства не предполагала цифровых фотографий, а канибализация собственного бизнеса ради, трансформирующей рынок инновации являлось неслыханной идеей. Сассон же, продолжил работу на цифровой камерой, а в 1994 году, почти двадцать лет спустя вместе с Никон построил первый цифровой фотоаппарат, доступный широкой общественности.

Начиная с этого момента, фотография стала универсальной, то есть ее мог делать кто угодно и когда угодно. Для печати фотографий не требовался сложный процесс проявления изображения. Если фотография получалась не удачная, можно нажать на кнопку удалить и сделать новую, не требовалось покупать и менять после 24, 36 или 48 снимков пленку. А сегодня на наших смартфонах фотографий больше чем фотограф из 1980 делал за всю жизнь.

0 и 1 сделали цифровую фотографию, а цифровая фотография универсальная, которая меняет контекст сохраняя свойства. Теперь это не артефакт, хранящийся в специальном альбоме на долгую память и просматриваемый семьей во время праздников, а обыденность и неотъемлемая часть телефона. 85% всех фотографий сделано со смартфона. Точно такая же судьба постигла и почту.

От бумаги до 0 и 1

Еще одна удивительная и показательная трансформация случилась с личной перепиской. Древний Египет, Персидская и империя Инков, Династия Хан для передачи депеш, указов использовали посыльных, глашатаев. Система пересылки корреспонденции в том или ином виде существует уже как минимум 4000 лет. Однако эволюция того, как люди обмениваются мнениями, идеями претерпело любопытную метаморфозу. От руками написанного письма, до напечатанного на клавиатуре электронного письма. От электронно письма, напечатанного на клавиатуре до сообщения в пару слов, отправленного через телеграм. От текстового сообщения в телеграм, до голосового сообщения.

Почтовая служба в России начинает существование еще в 10 веке, а в 16 веке сеть “почтовых отделений”, если их можно так назвать насчитывала 1600 пунктов доставки корреспонденции. Письмо отправленное из Москвы в Новгород, доходило до адресата за три дня, а через всю страну сложно вообразить, при условии сложных маршрутов, смеем предположить что могло занять месяц и более. При этом всегда присутствовали риски потери сообщения в силу ряда факторов, от простого ограбления курьера, до случайного выпадения.

Остальной мир существовал в аналогичных условиях, сообщение из Европы в Америку доставлялось десять дней по морю. Все изменилось в 1971 году, когда Рэй Томлинсон, инженер, работавший над проектом, которые впоследствии и стал Интернет, написал программу, которая позволяла отправлять сообщения между двумя компьютерами соединенным друг с другом. До этого, инженеры оставляли сообщения на компьютерах, за которыми они работали. Но программа Рея, изменила представление о том как еще можно. Именно он ввел в использование символ @ в сообщениях электронной почты.

Что еще удивительней, так это факт того, что за более чем пятидесятилетнюю историю электронная почта оказалась самым устойчивым способом передачи информации. Электронное письмо 2023 не сильно отличается от письма 1971. Разве что интерфейс составления сообщений стал удобнее, появились почтовые клиенты, множество сервисов. Электронная почта из средства коммуникации двух и более людей, превратилась в способы продвижения продукции через рассылки, злоупотребления спамерами, распространения частного мнения, согласования и подписания условия взаимодействия между частными лицами и юридическими организациями.

В 1992 году, электронная почта перестала быть просто текстом, с этого момента ее можно использовать для пересылки изображений, аудио, видео и прочих файлов. А 2020 год, год пандемии и всемирных ограничений сделал почту одним из инструментов коммуникации бизнеса и потребителя. Почта стала одним из ключевых способов связи коллег работающих удаленно, учеников и учителей. Электронная почта, текст закодированный в 0 и 1, способный передавать разнородную информацию, текст, изображения, видео, документы, превратился в универсальный и самый устойчивый метод передачи смысла закодированного любым доступным способом.

Простая логика

Делаем фотографию и не тратим время и силы на проявление и печать, сохраняем несколько строк кода из 0 и 1 на компьютерах, мобильных устройствах и даже не думаем об этом. Письма больше не идут до адресата неделями и месяцами, а преодолевают межконтинентальные расстояния за доли секунды. То же самое случилось с остальными областями деятельности человека, графический дизайн, анимация, книгопечатание, телефония. Все что требуется – соответствующая программа, исполняющая код из 0 и 1 внутри коробки с проводами.

Стоимость подобной универсальность, почти ноль, ну или приближается к этому. Код из 0 и 1 не стоит ничего, работа человека его пишущего да, стоит, но сделав один раз стоимость репликации результата падает до нуля. А результат, который можно получить безгранично богат. Мы расширили границы возможного и параллельно уменьшили область невозможного. Да, мы еще многого не понимаем, однако благодаря определенным комбинациями из 0 и 1 можем понять больше, даже то что еще не знаем, что не знаем. Нужно лишь время и воображение.

Падение стоимости производства, достигнутой благодаря универсальности 0 и 1, толкает развитие технологии вперед и трансформирует принципы и привычные поведенческие шаблоны работы с информацией. Возьмем для пример деньги, которые сами по себе не несут ценности, но обладают значением лишь в присутствии человека. Цифровизация финансовой системы, начатая еще Питером Тилем, привела к тому, что сейчас в кошельке вместе мелочи и купюр аккуратно сложены пластиковые карты, производство которых значительно дешевле чем эмиссия тонны разноцветных фантиков. Стоимость использования 0 и 1 в финансовой области, несравнимо меньше чем стоимость чего-то аналогового, отсюда и “взрывное” развитие финансовых технологий.

Идея компьютера, предложенная Тьюрингом, пусть и признанным гением необходима для создания технологии, однако недостаточна, чтобы технология в какой-то момент достигла предела универсальности и вырвалась из определенного в момент создания, области. Для расширения границ доступного, как уже сказано выше, требуется понимание некоторых неразделимых принципов, атомарных, если можно так выразиться. Требуется описание логического принципа, такой величины, который невозможно более декомпозировать на меньшие составные элементы, как 0 и 1 в математике, буква в лингвистике или четырехкомпонентный ген в биологии.

Чтобы запрограммировать в 0 и 1 подобную логику, требуется некоторая сложная структура логических взаимодействий, позволяющая расшифровывать, хранить и исполнять программы. И процесс исполнения кода программы необходимо добиться молниеносной скорости передачи данных, почти как нейроны в мозге, что возможно исключительно при определенной зрелости технологии. Что Тьюринг задумал в 1936 году и впервые исполнил в 1940, в машине, взломавшей Энигму, сегодня воспроизводиться в каждом микрочипе. Тьюрингу удалось создать математическую красоту и логическая универсальность воспроизводимую двумя цифрами, 0 и 1.

Эволюция современного компьютера и появление ИИ не требовало переизобретения принципиальной логики Тьюринга. ИИ и компьютеру для исполнения новых функций не требуется принципиально новых изобретений, лишь иная комбинация 0 и 1, вычислительные мощности и цифровое пространство для хранения данных. Большая скорость передачи информации, больший объем места хранения информации не требовали принципиального пересмотра логики компьютера и цифровой среды. Принцип, сформулированный Тьюрингом, предопределивший появление ИИ, можно сформулировать в следующем предложении:

Все процессы, от механических до мыслительных, какими бы глупыми, ничтожно малыми, энергозатратными или бессмысленными они ни были, можно запрограммировать в компьютере, ничем, принципиально не отличающемся от компьютера из 1936 года.

Одной из фундаментальных идей, лежащей в основе современного компьютера является возможность программирования любого механического и когнитивного, если так можно выразиться процесса в некий набор 0 и 1. Если так, то существует ли способ программирования креативности, понимания, мышления, самообучения? Оказалось что да, есть, но для этого необходимо научить компьютер играть.

Игра, созданная Богом

Как появилась наша биосфера? Пожалуй это один из наиболее загадочных вопросов. Что послужило причиной появления такого биологического многообразия. Вот, для примера несколько теорий:

1. Жизнь постепенно появлялась из ничего, миллионами лет формировался набор аминокислот, которые при последующей комбинации создали сложные полимеры.
2. Аммоний, водород, метан в атмосфере земли и немного электричества, в виде молний создали все те же аминокислоты.
3. Заброшена на землю “шальным” метеоритом.
4. Живая и неживая материя, взаимодействовала друг с другом, создавая сбалансированную саморегулирующуюся экосистему, которая и позволила появиться жизни на земле.

При всем многообразии ни одна из теорий, не затрагивает, как того стоило бы сделать вопрос, при каком стечении обстоятельств и каком количестве комбинаций, набор случайных химических элементов способен превратиться в то что осознает себя и окружающую действительность? Умеет влиять на среду и подчинять ее в соответствии с необходимостью.

Земля – это творец. Художник, который при помощи ограниченного набора аминокислот, длительного периода времени, бесчисленных попыток, создал интеллект. А сможем ли мы, в условиях закрытой системы, длительного времени и бесконечных попыток повторить этот трюк? Воспроизвести последовательность, удивительное стечение обстоятельств, при которых человек поймет что такое творчество, сможет его запрограммировать в сложный набор из 0 и 1. Имеется мнение, что тогда, по идее машина обзаведется разумом. А с разумом придет и цель.

Творчество это не более чем поиск знания методом проб и ошибок. Долго, мучительно, но результативно в конце. ДНК – это творческий “перебор” комбинаций природой. И на наш взгляд, искусственному интеллекту, для того чтобы стать мыслящим не хватает последнего элемента в наборе 0 и 1, творческой переменной. А какая она и как это может получиться, попробуем разобраться при помощи древнейшей игры на земле, го.

Медитативная, завораживающая, гипнотизирующая. Именно так ее описывают регулярно играющие люди. А те кто играет достаточно долго, говорят, что за доской для игры можно почувствовать пульс вселенной, понять как появилась жизнь и что такое “творить”. Игроки, выставляя, поочередно камни на пересечение линий доски, на поле 19 на 19, создают течение камней, вырисовывают уникальные рисунки и мыслят на пределе своих возможностей. Го это одна их тех игр, которую сложно понять, но сделав это ты не только понимаешь игру, но осознаешь, что такое понимание.

Проблема, которая встает перед игроком за доской – это разобраться в том что происходит. Какой результат и какая цель у каждого поставленного на поле камня. Новичок, впервые держащий в руках черный или белый камень, теряется на пустой доске, но со временем начинает видеть игру и осознавать свою роль в ней. Ничего удивительного в том, что такая простая игра, является самой долгоиграющей на земле, по некоторым данным не одно тысячелетие.

Сложность ее кроется в простоте, как бы парадоксально не звучало. Профессионал обладает чувством игры, часто спросив его, почему ты сделал именно этот ход, в ответ можно услышать, потому что чувствовал что он важен. Человеческая интуиция играет ключевую роль для победы в игре. А интуиция это искры творчества, высеченные из знаний человека, который он аккумулировал всю жизнь. Знание и понимание – это строительные блоки творчества и интуиции, а го, священный грааль инженеров, работающих на ИИ.

Как запрограммировать интуицию и понимание? Что для этого требуется? Как оказалось, одна простая игра, с бесконечным множеством комбинаций. Есть мнение, что количество конфигураций камней на доске для игры го больше чем количество атомов во вселенной. Делая таким образом комбинаторный перебор, бесполезным занятием и любой компьютер, построенный на принципе пересчета, окажется слабее девятилетнего, хорошо играющего игрока.

Простые и очевидные правила игры, создают ситуации, в которой каждое действия игрока, многозначное, сложное, неявное, трудно предугадываемое, все это приводит к крайне неоднозначному набору вариантов действий. Мало знать правила игры, творчески подходит к выбору поведения и стратегии в игре, обладать серьезными аналитическими способностями Важнее делать интуитивные, имеющие смысл в конкретной ситуации действия. На наш взгляд это и можно назвать творчеством, умение принимать неожиданные, уместные и результативные решения в условиях высокой неопределенности.

Каждый может принять решение, при наличии достаточности фактов, а вот действовать в условиях неопределенности и при этом достигать результата, может только творческий человек. А жизнь по большому счету является невообразимо сложной игрой на принятие решений, которую получаешь возможность сыграть только раз, вслепую и не особо понимая правил.

Чтобы понять сложность игры го, по сравнению с другими настольными играми, мы попробуем рассмотреть глубину и ширину игры в сравнении с шахматами. После этого поймем, почему пересчет комбинаций помог Deep Blue одержать победу на Каспаровым, а в случае с го, потерпел неудачу. Для победы над человеком в игре го, компьютеру не хватало некоторых свойств человеческого мышления, а именно умение оценивать множественные аспекты среды и принимать решения не только анализируя сложившуюся ситуацию, но и полагаясь на “чувства”.

Глубина и ширина игры, являются решающими факторами, почему метод пересчета для победы над человеком не подходит, взгляните на доски:

Ширина игры на поле шахмат, это примерно 35 возможных стартовых позиции, в то время как у игры го при размере доски 19 на 19, количество возможных конфигураций старта около 250. При этом глубина игры, это количество ходов, сделанных по переменно в шахматах около 80, в среднем, партия заканчивается на 70 ходу, а партия го на 150 ходу.

Предположим, мы хотим спрогнозировать конфигурацию досок на 4 хода вперед, при условии, что средняя ширина игры в шахматы составляет 35, нам необходимо проделать простую математическую операцию: 35х35х35х35=1 500 625 различных положений фигур на доске в шахматы. А теперь возьмем доску для игры в го и проделаем точно такую же операцию: 250х250х250х250= 3 906 250 000 возможных расположений камней. Компьютеру проанализировать такое не под силу. Нужен другой подход.

Естественно это слишком упрощенная математика, однако следует помнить, что наша цель – это познакомить с игрой го, и показать ее сложность. Тем не менее было бы ошибочно предположить, что шахматы проще. Отнюдь, игра в шахматы не менее сложная, но значительно меньшая по глубине и ширине.

Игра го – это сложная система взаимодействий камней на доске. Система с непонятными свойствами, которые проявляются исключительно в процессе игры и проникают во все ее аспекты. Требующая от игрока умения принимать решения в условиях когда невозможно предугадать результат и вынуждающая полагаться на чувства и действовать в соответствии с изменяющейся средой. Обманчивая простота делает игру невообразимо сложной и многогранной. Как научить компьютер играть, если перебор комбинаций не подходит? Научить думать и “чувствовать”, принимать решения в зависимости от состояния доски. То есть необходимо научить компьютер мыслить.

Что значит чему-то научиться

В 1948 году Дональд Хебб, описал предположительный метод, которым мозг человека тренирует и обучает себя. Тогда это было настоящей революцией, настолько, что гипотеза Хебба, превратилось в “обучение Хебба”, который стал один из фундаментальных алгоритмов машинного обучения.

Гипотеза Хебба, заключается в том, что нейроны головного мозга, при взаимодействии возбуждаются друг об друга, эффективность и длительность возбуждения усиливается со временем, а связь между двумя нейронами укрепляется, возникают новые шаблоны и модели поведения.

Чтобы обучить AlphaGo, ученым необходимо создать алгоритм, который повторяет работу мозга. Для победы в игре, программа должна повторить, не только образ мышления живого человек, но еще и интуитивные действия при изменяющихся условиях, код из 0 и 1 необходимо “ожить”. Да в контролируемой и “узкой” среде доски для игры в го с полем 19 на 19, но ожить. Научить выбирать самостоятельно наиболее оптимальное действие, для оказания воздействия на среду обитания.

Deep Blue, для того чтобы, научиться перебирать комбинации потребовалась группа экспертов, в то время как AlphaGo использовала кардинально иной подход. Она научилась играть в го, как это сделал бы человек. Методом проб и ошибок. Разработчики загрузили в программу 100 000 любительских партий и позволили программе играть против самой себя. Со временем программа играла против разных версия себя и училась, училась и училась. До тех пор, пока однажды не победили чемпиона Европы, Фань Хуэем, который на момент матча обладал 2 даном в рейтинге игры.

Игра против самой себя, разными версиями, позволила программе научиться на собственных ошибках. Идея, заложенная программистами в основу Alpha Go, вдохновила последующие исследования ИИ, но самое важное, как нам кажется, заставило задуматься над тем, что это значит быть человеком.

Искусственные нейронные сети, которые стали возможными, в том числе благодаря Alpha Go, позволяют современным компьютерам и человеку делать много больше чем раньше. Сегодня нейронная сеть может научить себя, бесспорно в пределах того, что ей позволит человек, но может. Тем не менее вопрос, что значит научиться и что такое интеллект остается открытым. Более того, не просто открытым, а проблемой, к которой пока сложно подступиться.

Нам кажется, что если мы сможем ответить, что такое интеллект, то и создать искусственный интеллект не будет великой проблемой. Ближе всего к этому подобрались Барто и Саттон. В 1998 году они издали книгу “Обучение с подкреплением”, в которой формализовал принцип обучения с подкреплением. Мы предполагаем немного пересмотреть термин и использовать, обучение с “сильной” петлей обратной связи.

Любой учитель скажет, что не сложно выдать работу ученикам для самостоятельной отработки и проверить любой объем тоже не станет серьезной сложностью при обучении чему-либо. Проблема возникает в момент, когда необходимо предоставить обратную связь и скорректировать будущие действия. Форма и формат обратной связи от учителя к ученику, одно из узких мест системы обучения. Барто и Саттон пытаются решить проблему интеллекта через “сильную” петлю обратной связи, обучая исполнителя, действующего в определенных условиях взаимодействовать со средой.

В самом широком смысле слова, средой может быть что угодно. Для трейдера, торгующего на рынке, может быть график котировок. Учительская среда, это класс с обучающимися. Исследователю, для успешной публикации нужна среда научных работ. Писатель, учится рисовать миры в безграничной среде своего воображения. Средой игрока в шахматы, го, шашек, нард является поле для игры и фигуры.

Цель очевидна, исполнитель взаимодействует со средой, а среда предоставляет обратную связь. То что можно увидеть или прочувствовать. Однако существует один особый вид обратной связи, который и делает из нее “сильную”, вознаграждение. Чем оно выше, в ходе действия, тем корректней принятое решение.

Отдельно стоит выделить, что в нашем случае не идет речь о теории вознаграждения, а скорее о математическом расчете. Трейдеру для принятия решений нужно точно понимать отношение между риском между доходностью и убыточностью сделки, учителю в школе “силу” группы и способ обучения. Ученому, возможно, понимание усилий на написание и актуальность темы. Игроку в го, рассчитать ход, который увеличит вероятность победы.

Подобная модель взаимодействия с окружающей средой превосходно переноситься на повседневную жизнь. Проголодались, решили разогреть обед, и даже это простое действие имеет сложную модель принимаемых решений и действий. С задачами, подзадачами, которые вместе делают из простого “разогреть обед”, сложный процесс:

• Открыть холодильник.
• Достать из холодильника, контейнер со вчерашним пловом.
  • Для этого нужно открыть холодильник.
  • Найти среди полок нужный контейнер.
  • Протянуть руку и вынуть.

Другой набор сложных взаимодействий связан с подготовкой тарелки, вилки и разогрева. Каждое действие требует поиск объекта, создания целенаправленного движения тела. На ходу принимаются моментальные решения о том в какую руку брать, как нести, по отдельности или все вместе. Каждый шаг подзадачи регулируется целью, и он выступает подкреплением и основанием для следующего действия, для того чтобы избавиться о чувства голода. Мы не говорим о том, какую роль в этом процессе играет тело, которое регулирует необходимость утолить чувство голода и определяет предпочтения в еде.

Решения принимаются в зависимости от той вероятности получения награды, которая будет в результате действия. Очевидно, что никто не выберет следующую последовательность для утоления голода: взять в руки телефон, полистать ленту социальной сети, выключить телефон.

Гроссмейстер поступает аналогичным образом, принимает решение следующего хода в соответствии как он представляет ожидаемое ответное действие оппонента и его реакции. Полагается при этом на моментальное, интуитивное ощущение ситуации, желаемого результата, который может получиться в результате отдельного перемещения фигуры или серии ходов.

Ребенок впервые встает на ноги, опираясь на предметы, балансирует, недалеко от того что может помочь ему избежать падения, пытается сделать первые шаги, понимая, что ходить это лучше, чем когда тебя переносят из одного место в другое. Наградой за многократные падения станет возможность перемещаться самостоятельно.

Таким образом и происходит естественное обучение, природа учит через взаимодействия с объектами среды, подталкивает тестировать и проверить пределы доступного. Удивительным образом этот же подход лежит в основе многих теорий обучения и развития интеллекта.

Следует поднять вопрос, почему современные образовательные учреждения не используют подход при котором обучение случается в результате органичного взаимодействия со средой. Учителя, впервые видят детей во время практики, а это четвертый курс. Финансисты работают с деньгами только после того как окончили университет и это если повезет. Почему бы не сделать обратный цикл, когда обучаешься при взаимодействии. Мы согласны, что подобное обучение не подходит в тех областях, в которых действия сопряжены с риском и здоровьем, например медицины. Проблема в том что подобное не практикуется и там где можно позволить себе некоторые “вольности”.

Через взаимодействие со средой, обучаясь на своих ошибках и успехах, оценивании вознаграждения, которое получает лишь в конце партии, Alpha Go, научилась играть с человеком на нечеловеческом уровне. Программа принимает решения о каждом следующем ходе, после того как “ощутила” среду, и через многократные попытки понимает, какое действие кажется наилучшим. Для программы доска для игры го, черный или белые камни, определенное их положение не является отдельными элементами системы. Они расцениваются как целостный механизм, проблемное пространство, в которое ей придется следовать цели, победить, оказывая влияние на среду с большим числом неизвестных и высокой степени неопределенности. Соответственно ее задача, изменять своими действиями среду, придавая ей такую форму, которая увеличит шанс на победу.

Цифровая интуиция

Если спросить игрока, после выигранной им партии о сделанном во время игры ходе, почему был сделан именно этот ход, часто в ответ можно услышать, “не знаю, мне показалось это верным” или “я так чувствовал”. Когда наблюдаешь за игрой AlphaGo складывается впечатление, что компьютер приобрел интуитивное понимание сложных аспектов игры го. Машина на “подсознательно-процессорном” уровне, фундаментально переосмыслила что такое преимущество в игре, какой должна быть сфера влияния после каждого сделанного хода, переоценила потенциал выставляемых камней и научилась играть достаточно агрессивно в тактическую фазу игры, при которой оппоненты ведут борьбу за одну клетку игрового поля. Остается только проверить способности программы в игре профессионалом.

Первой серьезной “жертвой” AlphaGo, стал чемпион Европы Фань Хуэм, второй дан. Однако уровень Фань, каким бы хорошим игроком он ни был не сравниться с профессионалами, воспитывающимися в Китае, Южной Корее и Японии. Чтобы действительно проверить предел возможности AlphaGO, команда Deep Mind, предложила матч из пяти игр, многократному чемпиону мира Ли Седоль. На момент матча с компьютером, Ли был непобедимым игроком. Если AlphaGo одержит победу над ним, то это станет очередной вехой развития компьютерных технологий и серьезный шаг к созданию полноценного искусственного интеллекта.

Эти технологии не только определят будущее развитие ИИ и компьютера, но и дадут надежду, что до скрытого от человека знания имеется шанс когда-нибудь дотянуться. Мы не будем в деталях пересказывать все пять матчей, в четырех из которых программа одержала победу на Ли, любой желающий может найти в интернет документальный фильм “AlphaGo - The Movie”, где в деталях рассказывается что такое го и как проходили матчи. Вместо этого мы сконцентрируемся на двух ходах, 37 и 78, один сделала машина, другой человек. Оба хода фантастически сложные и дают небольшое представление тому, чему может научить машина человека.

Мы возьмем на себя смелость и сделаем предположение, что именно ход 37 во второй игре и ход 78 в четвертой предопределили будущее развитие технологии ИИ, а также проникновение ее во все сферы деятельности человека, от медицины до работы с текстом. Ход 37 ошеломил лучших игроков по всему миру. Странный ход, который можно было легко признать за ошибку. Ли, при этом так не думал, ему потребовалось почти пятнадцать минут на ответ.

“Вчера я был удивлен”, говорил Ли Седоль, на конференции после поражения, “Но сегодня я лишился дара речи. Если взглянуть на то как играла машина, признаюсь, это было чистое поражение по моей части. С самого начала, не было ни одного момента когда преимущество в игре было на моей стороне”.

Го – это игра за территорию. Так думает человек, у машины на это совсем иное, если можно так выразится, мнение. AlphaGo не расценивает доску, камни, определенные позиции как отдельные элементы, а видит их как единое последовательное действие, которое необходимо для победы. Программе все равно какой счет, главное чтобы это была победа, именно это принесло в игру, которую несколько тысяч лет успешно играли исключительно люди, новую перспективу. Стиль, которым играет компьютер, совмещает в себе гибкость, открытость, но при этом в нем отсутствует существовавшие ранее убеждения и мнения авторитетных игроков о том какой ход лучше, а какой хуже. Ни один опытный игрок не будет играть на второй линии, например. Однако в одной из тренировочных игр AlphaGo посчитала что игра на второй линии важнее существующей практики и продолжила игру, которая привела к более выгодной позиции на доске.

Действия на доске, часто контринтуитивные, но сильные. Многие профессиональные игроки даже не рассматривали бы большинство из этих действий при которых AlphaGo удается создавать запутанную взаимосвязь различных групп. Эта связь получается настолько сложной, что ее практически невозможно сломать, кроме одного раза. Ход 78, в четвертой игре. Эта была последняя игра программы, в которой победу одержал человеческий разум и он принадлежал Ли Седоль.

Ли удалось, сделать игру настолько сложной, что компьютер “растерялся” и был в полной уверенности, что доминирует над человеком. Программа не смогла верно оценить последствия хода 78, что привело к дальнейшим ошибкам и в конечном итоге позволило человеку одержать победу. Один из миллиона игроков способен на такое. Ли Седоль удалось сделать невозможное, сделать единственно верное действие, шанс которого 1 из 10 000. Этим ходом он сделал невероятное, создал ситуацию, при которой холодный разум машины не смог корректно оценить ситуацию и сделать соответствующую оценку. Как репортеры называли это, Ли сделал “ход Бога”.

Я слышал крики радости, в момент когда стало ясно что AlphaGo проиграл игру. Мне кажется понятно почему. Люди чувствуют себя беспомощными и находятся в страхе перед машиной. Создается впечатление, что человек слаб и хрупок, а эта победа означает, что мы по-прежнему еще “можем”. Со временем, возможно победить ИИ станет непосильной задачей, но победа в этой одной игре оказалось достаточной. Одного раза достаточно.

– Ли Седоль, на конференции после выигранной партии

Жизнь это не игра

Какой бы удивительной ни была программа AlphaGo, ее создал человек, по некоторому образу и подобию себя. Однако это всего лишь игра, с правилами, логикой, строгостью. Холодная логика, идеальная игра, а жизнь, тем временем нелогична и запутана. Правила жизни не выражены в строгих законах, это делает принятие решений сложным процессом, при котором победа или поражение не столь очевидны по сравнению с настольной игрой. Если коротко, то машина существует в среде строгой логики, а жизнь место нечеткой логики. А не всегда предшествует Б, а В не всегда является следствием из Б. Там где у машина из А следует Б, у человека Б может следовать из А, а может и не следовать.

Принятие решений в игре, относительно просто описать и алгоритмизировать, в то время как в жизни решения принимаются в условиях не достаточной информации, без четкого представления последствий. Свойства среды не поддаются влиянию, а изменяются еще до того как решение принято. Человек действует инстинктивно, почти без обдумывания, в соответствии с тем как представляет будущее. Чем критичней ситуация, тем быстрее принимаются решения.

Логика машины, хоть и строгая, но как показала доска 19 на 19 и набор черно-белых камней не всегда понятная. Наверное, так случилось потому, что машина “чувствует” и “думает” иначе чем это делает человек. Это может научить нас новаторству, поможет преодолеть пределы прошлых убеждений, снимет некоторые ограничения. Человек вместе с машиной найдет множество интересных решений, которые могут сработать, а могут и не сработать. Создание ИИ неизбежный этап развития человеческой цивилизации, при котором машина нас не заменит, а органично дополнит, не захватит контроль над миром, а расширит горизонт возможного. И как результат свой деятельности, трансформирует общество. Компьютер трансформировал то как мы работаем с информацией, храним, перерабатываем, потребляем. Нейронные сети, помогают делать то, что умеет компьютер гораздо быстрее и эффективнее, а с помощью человеческой фантазии, пределы компьютерных вычислений становятся почти безграничными. Для этого нужна щепотка творчества.

Человеку не хватает воображения

Мы, люди, не можем сформулировать какая технология в будущем будет востребована. Форду говорили, что хотят лошадь быстрее. Джобс считал, что ни один клиент не знает что ему требуется. Любая технология, от ткацкого станка до ИИ, проста, тривиальна и востребована только после того как она появилась и прошла путь от первых пользователей до массового потребителя.

Действия человека, управляются не человеком, а маленькими, случайными изменениями в среде. Небольшие колебания, которые могут вызывать лавинообразные сдвиги в шаблонах поведения, способах применения привычных нам вещей. А иногда, в редких случаях, появляется что-то, изменяющее все вокруг: паровой двигатель, телефон, автомобиль, первый компьютер, компьютерная мышь, смартфон и многие другие инновации, сформировавшие мир. ИИ, мы убеждены, будет одним из таких колебаний, за которыми последуют грандиозные изменения. Об этом мы поговорим в следующей части исследования. Попробуем привести несколько примеров применения ИИ, немного похулиганим и проверим верно ли утверждение Харари, о взломе человеческой цивилизации.

П.С.

Внимательный читатель заметил, что в отличие от первой части в этой, нет ни одной ссылки на источник. Так случилось не потому что автор ленивый, а сделано с умыслом. Читателя приглашают к спору. Если с чем-то не согласен, хочет перепроверить, оппонировать, то сделать это можно с автором в телеграм, личной переписке или на форуме:

• TG: Telegram: View @zettelkasten_ch
• Email: rustam.agamaliev@gmail.com
• Форум: https://forum.rustamagamaliev.ru

А чтобы быть честным, то ниже список использованных для вдохновения источников.

Список литературы

1. Hebb D. O. The Organization of Behavior: A Neuropsychological Theory / D. O. Hebb, Psychology Press, 2005. 379 c.

2. Coppey L. What does AlphaGo vs Lee Sedol tell us about the interaction between humans and intelligent systems? // Point Nine Land [Электронный ресурс]. URL: https://medium.com/point-nine-news/what-does-alphago-vs-8dadec65aaf (дата обращения: 22.06.2023).

3. Doddi S. A.I Genesis: Move 37 // Medium [Электронный ресурс]. URL: https://medium.com/@srikardoddi/a-i-genesis-move-37-a0d66bd123a9 (дата обращения: 22.06.2023).

4. Frauenfelder M. The Computer: An Illustrated History From Its Origins to the Present Day / M. Frauenfelder, Reprint, Illustrated edition-е изд., Carlton Books, 2015. 256 c.

5. Gavilla J. The significance of move 37 by AlphaGo and move 78 by Lee Sedol // Medium [Электронный ресурс]. URL: https://jessa-gavila.medium.com/the-significance-of-move-37-by-alphago-and-move-78-by-lee-sedol-19a21cdb289b (дата обращения: 22.06.2023).

6. Hodges A., Hofstadter D. Alan Turing: The Enigma: The Book That Inspired the Film The Imitation Game - Updated Edition / A. Hodges, D. Hofstadter, Revised edition-е изд., Princeton, New Jersey: Princeton University Press, 2014. 768 c.

7. Isaacson W. The Innovators: How a Group of Hackers, Geniuses, and Geeks Created the Digital Revolution / W. Isaacson, Reprint edition-е изд., Simon & Schuster, 2014. 560 c.

8. Lanier J. There Is No A.I. // The New Yorker. 2023.

9. Metz C. In Two Moves, AlphaGo and Lee Sedol Redefined the Future // Wired.

10. Moravec H. Rise of the Robots–The Future of Artificial Intelligence // Scientific American [Электронный ресурс]. URL: https://www.scientificamerican.com/article/rise-of-the-robots/ (дата обращения: 26.05.2023).

11. Partners Z. V. Product Payoffs in Machine Learning // Zetta Venture Partners [Электронный ресурс]. URL: https://medium.com/zetta-venture-partners/product-payoffs-in-machine-learning-704b1a58ef00 (дата обращения: 22.06.2023).

12. Rheingold H. Tools for Thought: The History and Future of Mind-Expanding Technology / H. Rheingold, Revised, Subsequent edition-е изд., Cambridge, Mass: The MIT Press, 2000. 360 c.

13. Rosenberg R. S. The Social Impact of Computers / R. S. Rosenberg, Academic Press, 2013. 398 c.

14. Sutton R. S., Barto A. G. Reinforcement Learning: An Introduction / R. S. Sutton, A. G. Barto, second edition-е изд., Cambridge, Mass: A Bradford Book, 1998. 322 c.

15. Human-Computer Interaction in the New Millennium под ред. J. M. Carroll, First Edition-е изд., New York, New York : Boston, MA: Addison-Wesley Professional, 2001. 703 c.

16. Digital intuition // Nature. 2016. № 7587 (529). C. 437–437.

17. (6) Lee Sedol vs AlphaGo: How Google’s AI machine beat the 18 times World Go Champion | LinkedIn [Электронный ресурс]. URL: https://www.linkedin.com/pulse/lee-sedol-vs-alphago-how-googles-ai-machine-beat-18-times-gowda/ (дата обращения: 22.06.2023).

18. Innovations of AlphaGo [Электронный ресурс]. URL: https://www.deepmind.com/blog/innovations-of-alphago (дата обращения: 22.06.2023).

19. Mastering the game of Go with deep neural networks and tree search | Nature [Электронный ресурс]. URL: https://www.nature.com/articles/nature16961 (дата обращения: 15.06.2023).

20. Mastering the game of Go without human knowledge | Nature [Электронный ресурс]. URL: https://www.nature.com/articles/nature24270 (дата обращения: 15.06.2023).

21. The brief history of artificial intelligence: The world has changed fast – what might be next? // Our World in Data [Электронный ресурс]. URL: https://ourworldindata.org/brief-history-of-ai (дата обращения: 19.04.2023).

22. The Go Files: AI computer clinches victory against Go champion | Nature [Электронный ресурс]. URL: https://www.nature.com/articles/nature.2016.19553 (дата обращения: 15.06.2023).

23. The Go Files: AI computer wraps up 4-1 victory against human champion | Nature [Электронный ресурс]. URL: https://www.nature.com/articles/nature.2016.19575 (дата обращения: 15.06.2023).