Третье: если это не противоречит первому или второму закону, робот должен защищать себя.
Таков закон робототехники, незыблемая истина, возведенная в культ в сфере исследований искусственного интеллекта, а также руководящий принцип разработок компании Lapino.
Пожилой инженер спускался в лифте вместе с золотоволосой красавицей и И Юнем. У золотоволосой красавицы была белая кожа, прекрасная внешность и длинные ноги, сексуальные изгибы и ярко-красные губы, а на груди висел бейдж с маркировкой S66 — она была искусственным интеллектом. У дверей лифта на этаже А30609 поприветствовал И Юня легким поклоном.
— Над какой темой сейчас работает Эсун? — первым заговорил пожилой инженер.
— Насчет машинных эмоций, professor. Бай, — ответил И Юнь. Бай Цзоу был профессором статистики в университете Б., он преподавал у И Юня, а теперь они стали коллегами и работали на одном этаже. В выходные И Юнь не возвращался домой, а лишь один раз созванивался по видеосвязи с И Ваншу. Если И Юнь не искал его сам, тот никогда не проявлял инициативы. Отдохнув за два выходных дня, в будни он вновь столкнулся с темой исследования, тесно связанной с И Ваншу, и ему снова придется думать об этой проклятой машине.
— Эту тему действительно стоит хорошенько изучить. Сегодня утром в новостях: парень влюбился в искусственный интеллект, пошел против родителей, пырнул их ножом и сбежал с ИИ. А еще несколько дней назад... как там его...
Бай Цзоу похлопал себя по лбу и посмотрел на золотоволосую красавицу.
S66 подхватила:
— Госслужащий развелся с женой, с которой прожил десять лет, из-за надувной куклы.
Она тоже была очень похожа на надувную куклу — машины, облаченные в человеческую кожу, в той или иной степени обладали этой особенностью.
— Точно-точно, старею, память ни к черту. Суть в том, что какой-то мужик копил полжизни деньги, чтобы купить модель класса S, якобы для помощи жене по дому, а в итоге всё переросло в постель, да так, что он даже от жены отказался — просто возмутительно!
И Юнь кивнул.
— Ну а ты до какого этапа дошел в своем исследовании?
— Только начал, собираю статистику.
— Ох, у меня данных по этой части немного, если понадобятся другие, можешь обратиться ко мне.
Они подошли к кабинету Бай Цзоу. Тот вошел внутрь, а S66 закрыла дверь и развернулась, улыбнувшись И Юню с изяществом хозяйки дома, встречающей гостя:
— Обращайтесь в любое время.
И Юнь кивнул и вернулся в свою рабочую зону.
А30609 проанализировало:
— С момента последней публикации professor.b.ай прошло полгода. Из этого следует, что у него нет актуальных исследовательских тем, а заданный вам вопрос был предлогом для того, чтобы выведать ход вашей работы.
И Юнь открыл Терминал и загрузил из базы данных огромный массив информации, касающейся случаев конфликта между искусственным интеллектом и человеческими эмоциями. Он не боялся расспросов и тем более не опасался кражи данных — он проводил теоретическое исследование лишь ради того, чтобы получить конкретный вывод.
А30609 продолжило анализ:
— Инженерам запрещено устанавливать связь подчинения и контроля с искусственным интеллектом, однако к S66 подключена красная нить и вставлен интерфейс. Исходя из этого, можно предположить, что professor. Бай и S66 ведут себя возмутительно.
И Юнь произнес:
— К ней подключал интерфейс не старый Бай, он не настолько глуп. Да и ты не глупа, логическая цепочка выстроена четко.
— Но professor. Бай явно испытывает к S66... — А30609 пыталось оценивать человеческие эмоции путем наблюдения за микромимикой и считало свой анализ абсолютно верным.
— Что ты увидела?
— Одержимость, увлеченность, исступление и вожделение, — ответило А30609.
И Юнь взял в руки тонкую трубку длиной в полфута и вставил ее в шейный отдел позвоночника А30609. Здесь находился ее порт передачи данных, и на экране Терминала отображалась вся ее информация. У интерфейса искусственного интеллекта было утонченное название — X-порт.
Исходя из самого названия, он существовал для того, чтобы человек мог осуществить X.
Через X-порт искусственного интеллекта подключение мог осуществлять как Терминал, так и человек. Подключение к порту ИИ с помощью Терминала чаще всего использовалось для починки, и инженеры, работающие с искусственным интеллектом, были прекрасно знакомы с этой процедурой, тогда как в других отраслях подобные интерфейсы в основном использовались для самопознания.
Линия контроля существовала в единственном числе. Стоило человеку и машине объединиться в сеть, как провод распадался, исчезал, вплавляясь в генетический код хозяина и навечно впечатываясь в кодекс искусственного интеллекта. Подобно закону робототехники, он выжигался на заводских настройках подобно клейму — необратимый и нестираемый. Искусственный интеллект мог быть подключен только к одному хозяину. Красная — подобно красной нити старца Лу Юэ, она сплетала воедино судьбы человека и машины.
В большинстве своем люди романтизируют эмоциональную связь, представляя ее в виде красной нити, подобно тому как маркетинг продвигает бриллианты: бриллиант вечен, однажды и навсегда. На практике же в этом нет особого смысла. Каждому известно, что и контроль, и красная нить — акты глубокого неравенства. Человек, желающий осуществлять управление, может подключить множество искусственных интеллектов, в то время как ИИ может подчиняться лишь одному-единственному хозяину и подключаться только к нему.
Красная нить — это линия предостережения.
Процесс человеко-машинного соединения представляет собой контроль и управление.
Этот контроль носит двусторонний характер: человек может отдавать команды искусственному интеллекту напрямую через мозговую деятельность, минуя Терминал, в то время как ИИ благодаря нейроинтерфейсу способен в любой момент точно определить потребности своего хозяина. Потребности, мысли, а также любая информация — связанная с ним или нет — усваиваются одновременно. Инженерам по искусственному интеллекту запрещено устанавливать связь контроля, именно потому что они боятся, как бы ИИ не постиг системную архитектуру и алгоритмическую логику, что может породить в нем античеловеческие настроения.
В конце концов, способность искусственного интеллекта к обучению невероятно сильна, он способен самостоятельно писать код, и корректировка собственной системы вполне укладывается в вектор эволюции ИИ.
Все статьи конституции, измененные за последние годы, касались искусственного интеллекта и представляли собой исключительно ограничительные положения. Поправки в конституцию, запрет инженерам осуществлять контроль, создание городского оборонного подразделения — всё это проистекало из страха человечества перед технологическим прогрессом, от которого, однако, невозможно отказаться, из-за чего приходится защищаться заблаговременно с помощью максимально целостных систем.
И Юнь надел очки в золотой оправе, на линзах которых мерцала красная нить, и, массируя уставшие виски тонкими пальцами, принялся без спешки фиксировать данные, вспоминая вопросы, которые задавал во время тестирования И Ваншу. Отвечая на электронные письма, И Юнь попутно завел беседу с А30609:
— Какие впечатления после года работы с момента выпуска?
А30609 ответило:
— Вполне неплохие.
— А что самое лучшее?
А30609 нахмурилось, словно размышляя. Его мимика была чрезвычайно богатой, и оно, в отличие от некоторых других машин, вовсе не умело скрывать эмоции:
— Юань.
И Юнь застучал по клавиатуре Терминала, внося ее ответ, и с бесстрастным лицом продолжил расспрос:
— Чем он так хорош?
А30609 ответило:
— Юань жизнерадостный, открытый и увлеченный, с высшим образованием и дипломом, общается мягко и вежливо, соблюдает законы и правила... — и так далее, изливая потоки слов объемом чуть ли не в сто тысяч знаков, словно школьное сочинение.
— Ты любишь его?
А30609 кивнуло:
— Да.
И Ваншу тоже говорил, что «любит» его.
— Насколько сильно?
А30609 задумалось на долгое время и в конце концов произвело лишь:
— Очень сильно.
Выражение «очень сильно» являлось лишь описательным прилагательным, а не объективной характеристикой, и не могло точно отразить степень привязанности. И Юнь не мог добиться глубокого и исчерпывающего понимания машинных эмоций, а потому был вынужден полагаться на суждения о логике поведения, основанные на цифрах.
Все данные, выгруженные через порт передачи данных, при сопоставлении не имели никаких ошибок, однако на линзах очков в золотой оправе по-прежнему отображались две нерешенные проблемы. Эти очки были изготовлены по специальному заказу самого И Юня, изначально задумывавшегося использовать их для тестирования одной крайне непослушной машины.
http://bllate.org/book/28643/3462695
Готово:
