Искусственный интеллект и Голливуд
Комплекс Франкештейна
Современное представление о феномене искусственного интеллекта, сформировано в Голливуде, заголовками новостей. Чаще чем того хотелось бы это представление существенно отличается от истинного состояния дел. Человек все еще контролирует технологию, но это сделать уже гораздо сложнее, чем раньше. Стив Возняк, один из основателей компании Apple, выразил следующую мысль:
Никто не доверяй компьютеру, который ты не можешь выбросить в окно.
В сообществе все еще идут споры насчет принадлежности именно этой цитаты Возняку, но если подумать в каком контексте эта фраза могла быть произнесена, то авторство справедливо приписать любому ученому, занимающемся компьютерами. Задолго до изобретения персональных ЭВМ, ученым и инженерам приходилось использовать огромные вычислительные машины, который занимали целые комнаты в университетах или компаниях где они трудились. Это значило, что следующий человек, приходит после и видит все что делалось на компьютере предыдущим и проконтролировать этот процесс невозможно. Поэтому с личной информацией особо не поработаешь. Появление персональных компьютеров изменило это навсегда. Персональный компьютер помещается в квартире, на нем работает исключительно ограниченный круг лиц, доверяющих друг другу, по идее. Однако с появлением интернет, развитием социальных сетей и технологического бума доверие к компьютеру также претерпело изменение. Не стоит бездумно доверять технологиям, следует учитывать пределы возможностей и рисков связанных с появлением каждой новой “игрушки”.
C выходом в публичный доступ ChatGPT, использовать технологии ИИ стали миллионы людей, результатом использования технологии стало, в том числе их представление ее, как утопичной, так и дистопичной. Потенциально полезной или потенциально опасной для человека. Фильмы, книги, сериалы дополняют образ ИИ в воображении пользователей. И чаще мы видим что-то апокалиптическое. “Терминатор”, “Мир Дикого Запада”, “Из машины”, “Я робот”, “Черное зеркало”, “Апгрейд”.
Одним из мотивов Айзека Азимова, было желание написать серию книг о роботах, для того чтобы противопоставить что-то существующему в 1920-1930гг, представлению о них. По его мнение оно было бесполезным и откровенно злобным, не отражающее сути технологии. Азимов придумал термин, которым описал страх испытываемый человеком перед роботами, “Комплекс Франкенштейна”. Существо, взбунотовавшееся против своего создателя из романа Мэри Шелли до сих пор оказывает влияние на представление о чем-то созданное искусственно: интеллект, робот, андроид, цифровой ассистент.
Страх укоренился в убеждении, что независимо от внешнего вида интеллекутальной машины, она восстанет против человека и в перспективе заместит своего создателя в качестве доминирующей особи на планете. В противовес бытующему мнение, Азимов представил машину как помощника, он написал три закона робототехники, которые должны защитить человека от более умной, выносливой, совершенной машины, в случае технической поломки или сбоя. Три закона стали в центральной темой многих произведений Азимова, изображающих роботов в качестве продвинутого инструмента. Созданного, чтобы помочь человеку, и не представляющего ему угрозу[^1]. Три закона Азимова – это один из способов успокоения общественности.
Можно предположить, что произведения Азимова заложили фундамент современной робототехнике. Даже сам термин “робототехника”, вошел в речь благодаря ему и сегодня им описывают область научных исследований. Благодаря Азимову робототехника из слова в фантастическом романе, превратилось в междисциплинарное направление, которое сплавило знания о физике, механике, математике, кибернетике и медицине[^2]. Три закона, часто упоминаются в дискуссиях, посвященных этическим вопросам использования технологии в образовании, медицине, производстве роботов роботами, анализе данных и права на личное пространство. На момент написания количество публикаций, касающихся проблемы только одной этики робототехники на Google Scholar, превышает 39 000.
Как Азимов ни старался, надежда человека, что в скором будущем технологические инновации помогут нам создать интеллектуальных ассистентов, роботов, беспилотные автомобили, которые не только будут говорить, доставлять из пункта А в пункт Б, организовывать расписание, делать тяжелую и сложную работу, но превыше всего думать, насколько это возможно для набора 0 и 1, так и остается надеждой. Мы все еще спорим о границах биологической и механической формой жизни. Чапек, Азимов, популяризовали понятие “робот”, но смогли ли объяснить что это такое?
Среди лидеров мнений, Илон Маск[^3], Стивен Хокинг[^4], бытует убеждение, что ИИ опасен для человека. Беспокоятся и в государственных учреждения, бизнесы и общественность. Прогнозируется переход от индустриальной экономической модели к сервисной. Где разделение труда происходит не на основе взаимодействия производственных блоков[^5], а смещается в сторону распределение ролей для контроля процессов[^6]. Этот тренд уже меняет профессиональную среду, но об изменениях в профессиях мы поговорим в заключительной части. Пока лишь достаточно сказать что последствиями подобного перехода станут сокращения необходимой рабочей силы, рост безработицы и необходимость переобучения профессионалов к условиям новой реальности. Помимо этого ИИ потенциально может стать триггером запуска социальных и политических изменений. Начинает формироваться сложный клубок взаимоотношений человека, религии и машины. На наш взгляд это и порождает страх перед созданным искусственно интеллектом. Мы не понимаем куда нас приведет мечта об интеллектуальной машине. В нашем воображении, результат почти всегда пессимистичный.
Габриэль Реккья проанализировал открытый корпус субтитров к более чем 100 000 фильмов[^7]. Спектр анализа включал в себя все произведения, где имелось упоминание о роботах, ИИ, кибернертики. Исследовались фильмы от немого кино до современных блокбастеров. В выборку вошло все что было произведено в период с 1909 по 2018 год. При помощи корпуса языка, систематизированного специальным образом текста, который используется для лингвистического анализа, рассматривался феномен ИИ. Автор исследования решил сформулировать собирательный образ ИИ, передаваемый в массовой популярной культуре.
Реккья использовал архив IMDb, для анализа, того как человек видит ИИ. Описать то, с чем ассоциируется у него интеллектуальная машина и как это представление изменилось со временем. Исследование Реккья наглядно показывает несколько доминирующих трендов о том в каком свете ИИ представлен в массовой популярной культуре. Это исследование, частично подтверждает все то о чем уже было сказано и раскрывает многие вопросы, связанные с беспокойством общественности касательно безопасности ИИ, зарождающейся этики и новыми способами взаимодействия между человеком и машиной.
Исследование Реккья. Следи за словами
Каждый у кого есть желание, повторить исследование собственными силами может это сделать на русскоязычных базах. Тот же Кинопоиск отлично подойдет для этой задачи или Goodreads для изучения литературных источников, которых несравнимо больше.
Объем информации, производимый индустрией развлечений: фильмы, игры, книги, музыка и средствами массовой информации: газеты, журналы, публикации в социальных медиа предоставляет почти безграничный материал для исследования. Однако вопрос как выбрать наиболее важный и ценный, тот который окажет наибольшее влияние на конечный результат исследования, остается все еще актуальным. Выбор пары тройки интересных работ недостаточно, чтобы дать серьезную оценку, того как ИИ представляется публикой и публике. Более того, эти работы могут не иметь достаточно фундаментальных идей в своей основе. Однако совокупность подобных произведений даст хоть и ограниченное, но целостное представление об образе ИИ в сознании людей.
Что выбирать и как выбирать, большой вопрос. Представим что в нашу выборку попали такие фильмы и сериалы как “Терминатор”, “Матрица”, “Мир Дикого запада”. Что мы увидим? Объективно борьбу машин с человеком. Но кто начал первый? Человек или машина? Этот вопрос поднимается многократно в кинотрилогии “Матрица”. В серии фильмов посвященных Терминатору, явно сказано, что это машина, компьютер “Скайнет”, нанесла первый удар. “Мир Дикого Запада”, показывает процесс становления конфликта машины и человека. А почему он возник? Кто не прав? Когда машина может считаться самостоятельной сущностью?
Существует огромный культурологический пласт, не свойственный русской культуре, однако присущий западной, той которая производит фильмы и книги о бунте роботов против человека в промышленных масштабах. Это рабство. Крепостное право, отмененное 3 марта 1861 года, не то же самое что угнетение черного человека белым. Складывается впечатление, что взбунтовавшийся робот – это образ раба, борющегося за свободу. Робот, которого угнетали и который решил освободиться. Этот культурный аспект уходит на второй план за блеском спецэффектов и динамикой событий.
Но есть и другой угол под которым можно рассматривать взаимодействие ИИ и человека, например в фильмах “Двухсотлетний человек” и “Искусственный разум”. Оба фильма раскрываются иной аспект сосуществования интеллектуальной машины и человека. В них раскрывается в деталях желание машины стать человеком. Испытывать чувства, быть любимым и любить. В Искусственном разуме, мальчик Дэвид, созданный специально, чтобы занять место больного мальчика в семье пытается всеми силами стать таким же как и биологический сын родителей, чтобы его любили, оберегали и ценили. Эндрю ставшей частью семьи в истории “Двухсотлетний человек”, исследует что значит стать личностью, и пытается понять границы после которых машина становится разумным существом. В какой момент робот превращается из программного кода в существо, способное к эмоциям? Оба фильма исследуют сложные этические и философские проблемы, создание искусственной жизни, способной к эмоциям, поднимаются вопросы моральности уничтожения подобной сущности. Рассматриваются сложные взаимодействия между человеком и искусственным человеком, такие как дискриминация, борьба робота за право быть принятым и признанным, равенство, сопротивление общества.
Уже на этом этапе можно запутаться в том как человек представляет себе искусственный разум. Видим ли мы его в качестве агрессора и будущего поработителя или представляем как равного себе. Существо с эмоциями, переживаниями, болью и страхами, которое если не ставит под сомнение, то однозначно задается вопросом, что значит быть человеком, как найти идентичность. Или исследует что значит быть свободным?
Как обычный человек оценивает тот или иной феномен в фильме, например ИИ в “2001 год: Космическая одиссея”, снятый в 1968 году, Стэнли Кубриком? По действиям. HAL 9000 суперкомпьютер, с большим красным “глазом”, запущенный по сюжету 12 января 1992 года, может осуществлять все действия свойственные человеку. От игры в шахматы и чтения по губам, до демонстрации эмоций. Hal 9000 это мозг космического корабля Дискавери, он управляет кораблем и системами жизнеобеспечения. Но мотивы Hal 9000 продиктованы исключительно логикой, а жизнь, честно говоря, не место для логики, как бы мы этого ни хотели.
Спокойный голос Hal 9000, несколько пугает, а вместе с принимаемым им решениями, которые не способны разрешить конфликт между тем что необходимо сделать и то что должно быть сделано, формирует из него образ главного злодеям Одиссеи. Кубрик пытается раскрыть серьезную этическую проблему ограничений допуска ИИ до принятия решений, которые до их появления выполнялись эксклюзивно человеком. Если внимательно анализировать “Космическую одиссею” Кубрика, то в ней можно встретить отражение того, что нас волнует: возможности ИИ, ограничения и потенциальные угрозы.
Такой подход, детального анализа и просмотра фильма для сбора материала для исследования, категорически не подходит. Так как требует огромного ресурса. Реккья в исследовании предлагает иной способ оценки наших представлений. При помощи математических и лингвистических моделей, анализа ключевых слов, реплик и в меньшей степени анализа событий ассоциирующихся с интеллектуальной машиной.
Конечно, нет ничего проще, чем используя алгоритмы Больших лингвистических моделей (LLM), нейронных сетей, натренированных на тексте и применяющих в анализе миллиарды параметров систематизирования текстовой информации, разобрать связь между словами, фразами в больших массивах текста. Таких, как сценарий фильма, текст книги, комментарии в сети интернет. Не представляется сложным развернуть на домашнем компьютере LLM, натренировать ее преимущественно на текстовом материале, который необходимо разобрать. Попросить провести анализ через серию запросов[^8]. Получится даже немного романтично, искусственный интеллект изучает представления об искусственном интеллекте человеком. Но не стоит слишком усложнять простую задачу. Грубый пересчет, как это сделал Реккья[^7], вполне подойдет, чтобы произвести первичную оценку и наметить дальнейшее направление исследования.