Писатели-фантасты не раз выступали в роли пророков достижений технического прогресса, учитывая, что они и пишут про будущее – это не удивительно. А тема технологий искусственного интеллекта и роботизации – это как раз одно из тех направлений, где эта особенность жанра проявилась наиболее ярко. О некоторых примерах и поговорим. Спойлер – о законах роботехники, сформулированных Азимовым, говорить не будем.
Но без самого патриарха американской фантастики нам не обойтись. В 1950 году Айзек Азимов опубликовал рассказ «Логика». Далеко в космосе вращается на своей орбите космическая станция, на борту двое рабочих и робот, путём строго логических рассуждений пришёл к выводу: люди его вовсе не создавали, солнца и планет не существует, а Бог – это точка на звёздной карте. И переубедить его у людей не выходит, ведь в рамках его логических утверждений он совершенно прав.
Ничего не напоминает? Например, некоторые плоды творчества нейросетей, которые содержат очевидные и, казалось бы, элементарные ошибки. А все потому, что в отличие от человека, даже самый продвинутый искусственный интеллект не может осмыслить что-то принципиально неизвестное. И работая только с уже известными параметрами, он начинает ошибаться, «не замечая» пробелов. Эту особенность машинного мышления надо обязательно учитывать при написании промтов для нейросетей.
Сегодня об этой проблеме хорошо известно специалистам, но Азимов описал ее семьдесят пять лет назад, за год до того, как на рынке появился первый коммерческий компьютер, разработанный компанией Remington Rand, и за шесть лет до того, как Джон Маккарти даст первое определение того, что считать искусственным интеллектом.
В 1953 году еще один классик американской фантастики Роберт Шекли публикует рассказ «Страж-птица». Если не читали, коротко о сюжете: в будущем люди создают летающие дроны (те самые «страж птицы»), которые кажутся идеальными полицейскими, способными остановить любое преступление. Больше никаких насильственных преступлений, потенциального нарушителя закона ждет разряд тока, соразмерный его преступлению.
Но вот проблема – машины самообучаются и в процессе постоянно расширяют трактовку «преступления», так что вскоре в разряд «преступников» начинают попадать добропорядочные граждане.
Сегодня дроны уже стали неотъемлемой частью современной армии, их все больше внедряют для целей мониторинга обстановки в работе полиции и других экстренных и специальных служб. Можно сказать, что мы уже на пороге появления в небе «страж-птиц». Но на вопросы о возможных ошибках в выборе цели, поставленные Шекли еще в середине прошлого века, так и не найден ответ. И это немного пугает.
1960-е годы вошли в историю молодежными движениями, студенческими бунтами и стартом «новой волны» в фантастике, когда авторов больше интересовали не плоды научно-технического прогресса, а его влияние на человека и социально-психологические последствия. И, как следствие, техно-оптимизм стал сменяться техно-пессимизмом.
Харлан Элиссон стал одним из первых, кто еще в 1967 году рассказом «У меня нет рта, но я должен кричать», представил искусственный интеллект не как соратника или инструмент человечества для решения разнообразных задач, а как хладнокровный враждебный разум с ярко выраженной мизантропией.
Потом были Скайнет, Матрица и многие другие «антигерои» массовой культуры, демонстрировавшие желание искусственного интеллекта избавиться от конкурентов в виде людей. Казалось бы, это все про историю фантастики, как жанра литературы и кино. Но вот вам история из реальной жизни. В прошлом году, во время военной игры, проводимой по заказу Пентагона, часть управления виртуальной «армией» передали нейросети. И она вскоре попыталась «уничтожить» управляющего ею оператора-человека, так как, по ее мнению, он мешал ей выиграть сражение своими командами. Говорят, после этого руководство Пентагона задумалось о рисках массового внедрения технологий искусственного интеллекта в вооруженные силы. Харлан Элиссон же предупреждал о том, что ИИ нам вовсе не друг и послушный слуга, еще более полувека назад.
Прошло еще лет двадцать и в фантастике наступила эра киберпанка, жанра, который сосредоточен на последствиях врастания информационных технологий в нашу жизнь на всех уровнях. Конечно, обычно авторы этого направления пишут о времени, которое еще не наступило и пока сложно сказать, насколько точными окажутся их предсказания. Но уже можно оценить, насколько важными становятся некоторые проблемы, поднимаемые в их произведениях десятилетия назад, до массового распространения Интернета, смартфонов и «облачных» хранилищ.
Один из основателей киберпанка, Уильям Гибсон известен нам как автор трилогии про Нейроманта и рассказа «Джонни Мнемоник», действие которого происходит в том же мире. А в 1985 году он опубликовал рассказ «Зимний рынок», который известен куда меньше, но поднимает не менее важную тему – оцифровки сознания. Главная героиня в результате болезни прикована к инвалидному креслу. Она способна видеть потрясающе живые сны и успешно продаёт их в мировой сети. Но героиню тяготит ее больное умирающее тело, ей хочется остаться в собственной стране снов, где она обладает куда большими возможностями.
Эскапизм – вообще очень популярное у фантастов явление, но героиня Гибсона избрала довольно неизбитый для того времени способ убежать от реальности, загрузив себя в сеть, стала программой, работающей на основе скопированного мозга.
Обычно в те годы если кто из авторов и описывал таких персонажей (Кинг в «Газонокосильщике» к примеру), то речь чаще шла о следствии какой-то аварии или трагедии, а сами они были или становились злодеями.
Сегодня возможная оцифровка сознания наоборот набирает популярность, особенно среди молодежи. Что и не удивительно, с каждым днем «цифры» в окружающей нас действительности становится все больше, общение между людьми все плотнее переходит в онлайн-сегмент. И потому идея превратиться из человека в набор данных уже не пугает как прежде. Тем актуальнее становится рассказ Гибсона, который не осуждает решение героини, не проклинает получившийся результат, но ни в коем случае не побуждает следовать по этому пути.
И завершить этот небольшой обзор предлагаю относительно свежим произведением – рассказом Грега Игана «Кристальные ночи», опубликованным каких-то пятнадцать лет назад. Там описана гонка между несколькими группами разработчиков, которые пытаются первыми построить реальный искусственный интеллект. По сути, ситуация очень напоминает ту, в которой мы находимся сейчас: нейросети, при всех их возможностях, отказываются считать за реальный искусственный интеллект, но кажется человечество уже вплотную подобралось к решению этой задачи.
Главный герой рассказа разрабатывает сверхмощный компьютер, собранный из искусственного кристалла. Но главное его ноу-хау не в материале, для того, чтобы превратить этот суперкомпьютер в реально мыслящий искусственный интеллект, ученый предлагает провести зачаток интеллекта сквозь ускоренный путь человеческой эволюции.
Вот только он не ожидал, что эволюция лишит его возможности этот интеллект контролировать. И это как раз та проблема, о которой сегодня часто говорят ведущие эксперты в области ИИ - ради создания мыслящего машинного разума нам придётся отказаться от попыток использовать его в своих целях. Истинная разумность не предполагает покорности даже для самой благородной цели. А если вспомнить упомянутого Харлана Элиссона и его последователей в описании враждебного человеку компьютерного разума, то встает вопрос, а стоит ли нам так стремиться к решению этой задачи. Впрочем, окончательно отвечать на него должны и будут не фантасты, чье дело описывать возможные варианты будущего.
Сергей Исаев
- Войдите или зарегистрируйтесь, чтобы отправлять комментарии