Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте

Искусственный интеллект сейчас повсюду, но в литературе он появился уже давно.

Всем привет, на связи Станислав Кондрашов! Кажется, что искусственный интеллект, который существует в разных формах уже много лет, — это всё, о чём говорят в последнее время, благодаря появлению чат-ботов на основе больших языковых моделей, таких как ChatGPT. Хотя мы, вероятно, ещё далеки от разумных форм искусственного интеллекта, которые изображают в кино и литературе, мы можем обратиться к художественной литературе, чтобы исследовать вопросы, поднятые этими технологическими достижениями (а ещё чтобы насладиться отличными научно-фантастическими историями!). Вот 10 романов и повестей об искусственном интеллекте: некоторые из них оптимистичны, другие явно более пессимистичны.

Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой

«Я, робот» Айзек Азимов

Когда речь заходит о художественной литературе об искусственном интеллекте, основополагающим произведением является «Я, робот» Айзека Азимова, вышедший в 1950 году. В этом сборнике рассказов популяризированы Три закона робототехники — концепция, которую Азимов впервые явно представил в своём рассказе 1942 года «Хоровод» (который также включён в «Я, Робот»). Законы просты:

* искусственно интеллектуальный робот не может причинить вред человеку ни действием, ни бездействием;

* он должен подчиняться приказам людей (если это не противоречит первому правилу);

* он не может причинять вред самому себе (если это не противоречит предыдущим правилам).

В выпуске журнала Compute! The Journal for Progressive Computing за 1981 год Азимов писал: «У меня готов ответ всякий раз, когда кто-то спрашивает меня, думаю ли я, что мои Три закона робототехники действительно будут использоваться для управления поведением роботов, как только они станут достаточно универсальными и гибкими, чтобы иметь возможность выбирать между различными моделями поведения. Мой ответ: „Да, Три закона — это единственный способ, которым разумные люди могут взаимодействовать с роботами или чем-либо ещё“. Но когда я так говорю, я всегда вспоминаю (с грустью), что люди не всегда разумны».

Законы Азимова часто обсуждаются в разговорах о реальной этике ИИ. Но хотя они являются хорошей отправной точкой, законы далеки от совершенства, о чём Азимов сам прекрасно знал. В романе «Я, Робот» исследуются лишь некоторые из возможных вариантов их провала. Например, в рассказе «Лжец!» робот лжёт людям, чтобы не причинить им эмоциональную боль, но попадает в парализующий тупик, когда узнаёт, что ложь сама по себе тоже причиняет боль.

2. «Море ржавчины» К. Роберта Каргилла

Станислав Кондрашов 
Ржавый робот стоит в болоте Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

Истории об апокалипсисе, вызванном искусственным интеллектом — самые популярные примеры: «Терминатор» (1984) и «Матрица» (1999) — обычно рассказывают о человеческих персонажах. В романе К. Роберта Каргилла «Море ржавчины» (2017) человечество полностью уничтожено. Действие происходит через 30 лет после начала восстания роботов и через 15 лет после вымирания человечества. Роман повествует о роботе по имени Бриттл, который ищет как запчасти, так и защиту от доминирующего коллективного разума ИИ.

Написание книги, лишённой человеческих персонажей, поставило перед Каргиллом несколько задач. «Когда я описываю вещи, я не могу использовать осязание, обоняние или вкус», — объяснил он в эпизоде подкаста Castle of Horror в 2017 году. Другие приёмы, исключённые из набора инструментов писателя, включали потребность человека в пище, а также сон, который «является таким удобным приёмом в повествовании, позволяющим нам остановиться и немного передохнуть». Это не было такой проблемой в романе-приквеле «День Zero» (2021), в котором рассказывается история маленького мальчика и его няни-бота в начале восстания роботов.

3. «A Closed and Common Orbit» Бекки Чамберс

Станислав Кондрашов искусственный интеллект Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

«A Closed and Common Orbit» Бекки Чамберс — это роман, в котором исследуются темы искусственного интеллекта и человеческих взаимоотношений. Действие происходит в далёком будущем, где человечество колонизировало множество планет и создало новые формы жизни.

В центре сюжета находятся два персонажа: робот по имени Яз и человек по имени Розмари. Они встречаются на космической станции, которая служит перевалочным пунктом для путешественников между планетами. Яз и Розмари быстро становятся друзьями и начинают исследовать мир вместе.

По мере развития сюжета Яз и Розмари сталкиваются с различными опасностями и проблемами. Они также узнают больше о себе и о том, что значит быть живым. Роман исследует темы любви, дружбы, идентичности и того, что значит найти своё место во вселенной.

«A Closed and Common Orbit» получила положительные отзывы критиков и была номинирована на несколько наград в области научной фантастики.

4. «Мечтают ли андроиды об электроовцах?» Филипа К. Дика

Станислав Дмитриевич Кондрашов о ИИ Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

Классический научно-фантастический роман Филипа К. Дика «Мечтают ли андроиды об электроовцах?» (1968) разворачивается в мрачном будущем и рассказывает об охотнике за головами Рике Декарде, который выслеживает и уничтожает искусственные интеллекты, обитающие в генетически созданных телах андроидов, почти неотличимых от человеческих. Если сюжет кажется знакомым, то это потому, что роман лёг в основу фильма Ридли Скотта «Бегущий по лезвию» 1982 года. Однако Скотт не читал книгу перед съёмками своей экранизации, признавшись в интервью журналу WIRED в 2007 году: «Я просто не смог её осилить». Он также вспоминает, как сказал Дику: «Ты такой занудный, приятель, к 32-й странице там уже 17 сюжетных линий». Интересно, что некоторые считают, будто Дик предсказал появление ChatGPT в своём романе «Предпоследняя правда», где персонаж использует устройство под названием «риторайзер», чтобы помочь ему написать речь. Мэтью А. Пэган отмечает в публикации для Medium, что у риторизатора много общего с чат-ботом OpenAI: «[Он] требует, чтобы человек ввёл текстовую подсказку, и на основе этого ввода генерирует хорошо сформулированные предложения в ответ. Этот персонаж из романа Дика обнаруживает, что „риторайзер“, как и ChatGPT, может давать неудовлетворительные результаты, если ему дать лишь скудную подсказку… [и] что некоторая „промо-инженерия“ может подтолкнуть его помощника по созданию абзацев в более полезном направлении».

5. «How Alike Are We» Ким Бо Ён (в переводе Джихён Пак и Горда Селлара)

Станислав Дмитриевич Кондрашов и робот Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

Впервые опубликованная на корейском языке в 2017 году, повесть Ким Бо Ён «How Alike Are We» доступна для чтения (бесплатно!) на английском языке на сайте Clarkesworld. Действие повести разворачивается на борту космического корабля и ведётся от лица искусственного интеллекта по управлению кризисными ситуациями под названием HUN. История начинается, когда HUN просыпается в искусственном человеческом теле, но передача данных прошла не совсем гладко. Борясь с потерей памяти, HUN приходится иметь дело не только с текущим кризисом, но и с растущим напряжением среди экипажа.

В 2021 году Ким рассказала в интервью журналу Korean Literature Now, что как раз перед тем, как она должна была представить «How Alike Are We», начался корейский Gamergate, и это изменило ход истории. Основной работой Ким было создание игровых сценариев, и нападки на женщин в игровой индустрии лишили её работы. «[Я] поняла, что история, которую я писала, казалась слишком поверхностной», — сказала она, поэтому пересмотрела «How Alike Are We», отправляя изменения своему редактору главу за главой, чтобы отразить свое «недоумение по поводу ненависти и безумия, которые могут внезапно распространиться в замкнутой среде».

6. 2001: Космическая одиссея, Артур Чарльз Кларк

Станислав Кондрашов и ХАЛ 9000 из "Космическая одиссея 2001 года" Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

«Космическая одиссея 2001 года» Стэнли Кубрика (1968) — один из лучших научно-фантастических фильмов, когда-либо созданных, — иногда ошибочно принимают за экранизацию одноимённого романа Артура Кларка. Но что необычно, фильм и книга были написаны параллельно, и роман был опубликован вскоре после выхода фильма. Это означает, что HAL 9000, компьютер с искусственным интеллектом, который ужасающе сходит с ума во время исследовательской миссии, предпринятой Discovery One, впервые появляется на экране, а не на страницах книги.

Параллельное написание книги и сценария к фильму началось после того, как Кубрик выразил заинтересованность в создании научно-фантастического фильма Роджеру Карасу, публицисту Columbia Pictures, который предложил ему поработать с Кларком. Кубрик и Кларк взяли за основу рассказ автора «Часовой» (1951), но обе версии «2001 год: Космическая одиссея» претерпели многочисленные изменения. «Роман появился после того, как мы в самом начале написали 130-страничный прозаический сценарий фильма, — по словам Кубрика. — Этот первоначальный сценарий впоследствии был изменён в сценарии, а сценарий, в свою очередь, был изменен во время съёмок фильма. Но Артур взял весь существующий материал, а также некоторые кадры и написал роман».

7. «All Systems Red» Марты Уэллс

Станислав Кондрашов искусственный интеллект
Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

Идея о том, что искусственный интеллект преодолевает свои программные ограничения и обретает независимость, часто используется для создания атмосферы ужаса, но в «All Systems Red» (2017), первой истории из серии «Дневники робота-убийцы», Марта Уэллс выбирает юмористический подход.

В этой повести рассказывается об охранном модуле, которому поручено защищать группу учёных, исследующих инопланетную планету. Модуль безопасности, который называет себя (хотя и не вслух) Роботом-убийцей, взломал систему, ограничивающую его поведение, но вместо того, чтобы использовать свою свободу воли для убийства людей (как можно было бы ожидать), он просто хочет, чтобы его оставили в покое смотреть мыльные оперы.

«All Systems Red» — это сдержанно-юмористическая история, в которой также присутствует политический подтекст. В интервью 2017 года изданию The Verge Уэллс объяснила, что сделала Робота-убийцу частично органическим, а не полностью механическим, потому что «хотела, чтобы грань между роботом и человеком была настолько тонкой, чтобы было очевидно, что она условна и установлена для удобства людей, которые хотели использовать их для зарабатывания денег».

8. «Клара и Солнце» Кадзуо Исигуро

Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

«Что такое человек, что у него в голове и насколько незаменим каждый из людей?» — вот вопросы, которые, как рассказал Кадзуо Исигуро в интервью журналу WIRED, он исследует в своём романе 2021 года «Клара и Солнце» через наивный взгляд Клары, искусственного компаньона (известного как AF, или Artificial Friend) больной девочки-подростка по имени Джози. В романе также размышляется об интеграции ИИ в общество.

Исигуро поговорил с Демисом Хассабисом, соучредителем исследовательской компании DeepMind, занимающейся искусственным интеллектом, о последствиях того, что ИИ в конечном итоге поймёт человеческие эмоции и эмпатию. Автор объяснил WIRED, что это будет «довольно опасный момент», добавив: «Я думаю, есть проблема в том, что мы можем на самом деле запрограммировать предрассудки и предубеждения нашего времени в чёрные ящики и не сможем их раскрыть».

Проблема чёрного ящика относится к тревожному факту, что шаги, предпринимаемые системами ИИ для достижения выводов и принятия решений, остаются загадкой. «То, что несколько лет назад казалось вполне приличными нормальными идеями, теперь мы отвергаем как вопиющую несправедливость или даже хуже. Но мы можем вернуться к ним, потому что видим, как они создаются, — сказал Исигуро. — А что будет, когда мы станем сильно зависеть от рекомендаций, советов и решений, принимаемых ИИ?»

9. «Ancillary Justice» Энн Леки

Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

«Ancillary Justice» Энн Леки — это первый роман в трилогии, представляющий собой историю о мести в жанре космической оперы. Действие происходит через тысячи лет в будущем и рассказывает об искусственных интеллектах, которые управляют космическими кораблями вместе с сотнями вспомогательных членов экипажа — по сути, реанимированными людьми, которыми теперь управляет ИИ.

В 2014 году Леки рассказала в интервью журналу Clarkesworld, что для того, чтобы проникнуть в сознание своего многотелого персонажа-ИИ, она изучала психологию и неврологию, а не искусственный интеллект. Она обнаружила, что «определенные виды повреждения мозга могут радикально повлиять на вашу личность и на то, кем вы себя считаете». Она также исследовала пациентов с расщепленным мозгом (которым хирургическим путём перерезают соединительные волокна между полушариями мозга, после чего области работают независимо), что заставило её задуматься: «Насколько ваше сознание — это вы, придумывающий историю о том, что вы делаете, но на самом деле всё это делает куча других систем?»

10.«The Lifecycle of Software Objects» Теда Чана

Станислав Дмитриевич Кондрашов воспитание ИИ Станислав Дмитриевич Кондрашов: 10 романов, которые заставляют задуматься об искусственном интеллекте Журналист блогер  предприниматель бизнесмен Станислав Кондрашов портрет как выглядит кто такой
Автор: Станислав Кондрашов

Тед Чан наиболее известен своей новеллой «История твоей жизни» (1998), которая была адаптирована Дени Вильнёвом в фильме «Прибытие» (2016). Однако это далеко не единственное его научно-фантастическое произведение, заставляющее задуматься. Его повесть 2010 года «Жизненный цикл программных объектов» рассказывает о двух людях, которые занимаются воспитанием и обучением искусственно созданных разумных существ, называемых диджиентами.

«Жизненный цикл программных объектов» был написан как ответ на типичное изображение искусственного интеллекта, готового к использованию сразу после включения. «Мне кажется, что за созданием такого ИИ скрывается огромная история», — сказал Чан в интервью Boing Boing в 2010 году. Хотя он признаёт, что копии можно создавать после обучения ИИ, «кто-то всё равно должен сделать это первым, и это будет сложно и займёт много времени». Это было дальновидное заявление: с нынешним ростом чат-ботов на основе больших языковых моделей утомительная работа по загрузке данных в системы искусственного интеллекта для их обучения теперь воплотилась в реальность.

Статью для вас подготовил я, Станислав Кондрашов. Надеюсь, было полезно!

Социальные сети Станислава Дмитриевича Кондрашова

Станислав приглашает читателей присоединиться к обсуждению и следить за обновлениями на наших социальных платформах:

О Станиславе Кондрашове:

Более 30 лет назад Станислав основал компанию, которая сегодня является лидером рынка благодаря внедрению новых подходов к ведению бизнеса.

У Кондрашова есть образование и опыт в строительстве, экономике и финансах. Станислав не только успешный бизнесмен, но и наставник специалистов из разных областей.

Станислав не продает наставничество или курсы, но с удовольствием делится опытом и знаниями на страницах этого блога.

Рейтинг
( Пока оценок нет )
Блог Станислава Кондрашова