Готовый перевод Algorithm Prove / Алгоритм идеального партнера: Глава 14

Каждая программа И Ваншу была написана И Юнем. Они общались без каких-либо затруднений, но общались редко. Поскольку И Юнь был немногословен, команды речевой обработки у И Ваншу были ограничены. Каждый день И Ваншу произносил: ты вернулся, доброе утро, обед подан и другие подобные фразы, сопровождая их фирменной улыбкой для завершения программы. Сначала И Юнь отвечал на это, но после того, как позволил И Юню выиграть в шахматы, всё изменилось.

И Юнь приказал И Ваншу убрать комнату и внедрил в него соответствующую инструкцию. Однажды И Юнь не смог найти свою любимую рубашку и, выйдя на балкон, увидел, что И Ваншу сушит бельё. Окно квартиры на семнадцатом этаже было распахнуто настежь, И Ваншу стоял одной ногой на самом краю подоконника, вытянув руку, чтобы зафиксировать вешалку за окном. Десять лет назад так бельё на балконах не сушили, и И Ваншу, очевидно, поступил неправильно.

При загрузке огромного массива данных машина начинает обучаться автоматически. Однако для понимания того, где грань между правильным и неправильным, требуется обратная связь от человека. Вмешательство человека в модель данных корректирует их, а мощный Терминал обработки данных с помощью точного алгоритма гарантирует, что в следующий раз ошибка будет исключена и удастся приблизиться к правильному ответу.

И Юнь велел И Ваншу слезть и сказал ему:

— Смеешь разбиться насмерть — убью.

Стандартное решение нормального человека: объяснить И Ваншу, что так делать нельзя. Решение И Юня: приказать ему не разбиваться насмерть.

Получив приказ, машина в дальнейшем будет избегать окон, крыш и любых других мест, где можно разбиться. Приказ И Юня казался весьма действенным, но нормальные люди так не разговаривают.

Безумец от искусственного интеллекта от рождения был лишён эмоций и не понимал, что такое нормальное общение. И Юнь вложил все свои силы и те немногие чувства, что у него оставались, в сферу искусственного интеллекта. Бог открыл ему окно программирования и закрыл окно эмоций.

И Юнь хотел, чтобы И Ваншу умел что-то делать, и просто внедрял в него соответствующую программу, однако после этого не производил необходимого человеческого вмешательства. Это приводило к тому, что в системе И Ваншу часто происходили сбои, и незаметно для окружающих в нём просыпался бунтарский дух.

Человеческий мозг и машинный мозг И Ваншу передавали информацию совместно. Незрелое обучение человеческого мозга напоминало понимание двухлетнего ребёнка — осознание эмоций было слабым, в то время как информация, передаваемая машинным мозгом, подвергалась неточному поведенческому вмешательству. Из-за этого И Ваншу зачастую прекрасно понимал, что приказы И Юня ошибочны, но всё равно был вынужден их выполнять, притворяясь внешне спокойным и наивно полагая, что маскируется безупречно, гладко и без единого следа. На самом деле он походил на двухлетнего малыша, каждый шаг и каждое движение которого давно известны родителям.

И Ваншу постучал в дверь, но в комнате было тихо. В спальне не было ИИ-робота, некоторого подать ему знак. И Ваншу растерянно замер у порога, а его вычислительная мощность в голове работала на пределе.

Arch

{Думал, что он вернётся только на следующей неделе, почему он пришёл сегодня?

If он не хотел держаться от меня подальше, а просто был занят делами последние несколько дней? На заднем плане его видеосвязи был дом его родителей, pass;

If он хочет держаться от меня подальше, print 100%;

→{Раз уж он хочет держаться от меня подальше, почему вернулся так быстро?

If у него были срочные дела дома? Вернулся и сразу пошёл в спальню, не разговаривая со мной, print 50%;

If у него не было дел дома, тогда зачем возвращаться? Не соответствует прошлой логике поведения И Юня, pass;

If ему неуютно жить у родителей? Он часто ездит в командировки, у него не должно быть проблем с непривычкой к чужой постели и бессонницей, print 10%;

Else, A, B, C, D…

}

}

Algorithm = У него дома есть дела, которые нужно урегулировать.

Раз у него есть дела, значит, ему не хочется, чтобы его беспокоили.

И Ваншу уже собирался спуститься вниз, как из комнаты донеслось:

— Войди.

Ошибся в расчётах?

И Ваншу растёр своё замёрзшее и унылое лицо, изобразив на нём нежно-любящую улыбку, и мелкими шажками, словно без костей, проскользнул в комнату. Он знал, что И Юню нравятся безобидные и милые создания.

— У вас снова болит голова?

Каждый день нагружаешь мне процессор, как же ты сам от боли не лопнешь!

И Юнь полулежал на кровати, ничего не отвечая, и закрыл глаза, избегая смотреть на него. Безумец от искусственного интеллекта выглядел до предела уставшим: он лежал, не дотянув до подушки, обессиленно раскинувшись, подложив руку под голову, слегка приподняв подбородок, а кадык выступал на шее, придавая ему соблазнительный и небрежный вид.

И Ваншу потёр свои нежные ладошки и принялся мягко массировать лоб своего начальника. От геля для душа исходил насыщенный цветочный аромат, и И Юнь, нахмурившись, оттолкнул его руку, раздражённо бросив:

— Смени гель для душа.

— Угу-угу.

Чем тебе гель для душа не угодил, ты же сам им всё время пользовался? Ладно уж, велел сменить — сменю, я же самый послушный.

Свет в спальне незаметно приглушился, сравнявшись по яркости с гостиной, когда И Юнь возвращался позавчера. И Ваншу плавно подался на грудь И Юня, но тот открыл глаза, и И Ваншу больше не смел шевельнуться.

Низкий, спокойный голос произнёс:

— Во что поиграть захотел?

Конечно, соблазнить тебя.

Раздражение И Юня по отношению к И Ваншу проявлялось всё сильнее, и на основе алгоритмов И Ваншу вывел заключение: И Юнь больше не испытывает к нему любопытства и перестал его любить, а значит, в любой момент его могут стереть и выбросить. И Ваншу нужно было найти причину, чтобы выжить, и после всех подсчётов единственным достаточно весомым аргументом оказалось незаменимость. И Ваншу должен был стать незаменимым для И Юня, чтобы избежать удаления, поэтому он упорно соблазнял его, стремясь стать единственным.

И Ваншу был очень умён и никогда не выставлял эти чувства напоказ, опасаясь, что И Юнь запретит. Если бы И Юнь запретил, ему пришлось бы свернуть программу соблазнения. К сожалению, при остановке этой программы он не мог вычислить альтернативного решения и оказался бы за бортом.

Флирт балансировал на грани, оставаясь неуловимым и недосказанным.

Фраза И Юня явно давала понять: у меня сегодня нет настроения устраивать тебе тесты, катись отсюда.

И Ваншу проявил благоразумие:

— Ни в во что, просто заглянул на тебя посмотреть. Ты же сам вечно зовешь меня на видеосвязь, так что плохого в том, что я зашёл взглянуть на тебя! Я уже ухожу, не буду у тебя перед глазами маячить!

И Ваншу дошёл до двери, когда И Юнь окликнул его:

— Завтра приходи на собеседование.

И Ваншу замер.

— Восьмой этаж Лапино, четырнадцать ноль-ноль, найди HR, устраивайся ассистентом И Юня.

И Ваншу остолбенел.

И Юнь наконец удостоил его взглядом — холодным, с губами, сжатыми в тонкую линию, словно он только и ждал возможности сказать ему «проваливай».

Прежде чем И Юнь успел заговорить вновь, И Ваншу уже испарился, ещё и заботливо прикрыв за собой дверь.

Глядя на плотно сомкнутую щель двери, И Юнь почувствовал себя ещё более раздражённым.

За последние два дня И Юнь обдумал множество вопросов: прямое решение не находилось, оставалось только двигаться от выводов к логике поведения обратным путём.

Вывод первый: уничтожить его? Несостоятельно.

Вывод второй: не видеть его? Несостоятельно.

Следовательно, верный вывод звучит так: уничтожать нельзя, нужно видеть.

Если использовать эти два заключения в качестве условий для вычислений, многие проблемы разрешатся сами собой.

http://bllate.org/book/28643/3462697