Готовый перевод Algorithm Prove / Алгоритм идеального партнера: Глава 11

Ха, работа в институте И — это вам не шутки. Видя, что И Юнь не особо воодушевлен, Лань Цзяньфэй решил, что гордость всей его жизни, программа Корпорации Ланьлин, для того не представляет никакой ценности. Старый лис, умеющий находить подход к кому угодно, тут же перевел разговор на тему Терминалов:

— А я ведь еще не записал ваши контакты. Позвольте...

И Юнь и Лань Цзяньфэй обменялись данными для связи на Терминалах. Шедшие следом за ними люди переглядывались с самыми выразительными лицами: их генеральный директор обычно держался так высокомерно, что простому смертному и подступиться было стразу, а тут вдруг сам проявил инициативу и обменялся контактами с молодежью — из ряда вон выходящий случай. Кое-кто даже узнал И Юня, но вслух произнести имя не решался, поэтому люди украдкой создали чат и, шагая следом, принялись распространять новости.

Вскоре процессия добралась до дверей синего завода. Лань Цзяньфэй взмахом руки отослал большую часть свиты, оставив лишь троих помощников, и вместе с отцом и сыном И толкнул тяжелую дверь.

Внутри помещение было уставлено кадками и резервуарами самых разных размеров. Разноцветные растворы струились по бесчисленным трубкам прямо в чаны для культивации. Взгляд И Юня едва заметно мелькнул, и И Юй недоуменно спросил:

— Что это за проект?

Лань Цзяньфэй не упустил из виду выражение лица И Юня и со смехом пояснил:

— Создание искусственного интеллекта, уровень S.

И Юй нахмурился:

— Это безопасно?

Тема искусственного интеллекта и гуманизма неизменно вызывала бурные споры в правительственных кругах, особенно когда речь заходила об уровне S, обладающем признаками живого существа: малейшая оплошность могла сделать проект всеобщим мишенью. Человек умирает — можно справить похороны и предать его земле. Но как предать земле угасающие признаки жизни машины? Какую роль играют ее создатель и ее хозяин? Будут ли они скорбеть или же просто разберут машину на части, чтобы воссоздать новую плоть? Если первое, то машина превращается в человека; если второе — это идет вразрез с гуманизмом.

К счастью, искусственного интеллекта уровня S существовало совсем немного, и до сих пор обходилось без смертельных случаев. И Юнь, состоявший на государственной службе в министерской должности в Министерстве национальной обороны, боялся проблем с безопасностью больше всего на свете. Точно так же, как десять лет назад люди боялись террористических атак, теперь они боялись, что технологии искусственного интеллекта нарушат принципы гуманизма.

Лань Цзяньфэй похлопал себя по животу и, с прежней простодушной улыбкой на лице, указал на несколько золоченых досок, висевших прямо напротив входа:

— Безопасность превыше всего, будьте спокойны. Я занимаюсь исключительно честным бизнесом, все производственные линии законны и соответствуют нормативам. Взгляните, разрешения от Министерства общественной безопасности и Комиссии по здравоохранению, полученные на днях, висят вон там.

Один из сопровождавших сотрудников тут же подхватил:

— Производственные технологии гарантируют бесперебойный выпуск, вся загвоздка только в этой программе...

Лань Цзяньфэй перевел взгляд на И Юня и затянул с сотрудником парную песню:

— Ох уж эта программа, настоящий камень преткновения! Начальник И знает, что я столько лет занимаюсь реальным сектором, но в искусственном интеллекте мы, по правде говоря, ни черта не смыслим. Приглашали нескольких экспертов: те, что разбираются в физике, ничего не понимают в машинном обучении, а специалисты по статистике далеки от биологии. Если так пойдет дальше...

— Не буду, — холодно произнес И Юнь.

Улыбка застыла на лице Лань Цзяньфэй. Он на мгновение опешил, а затем улыбнулся еще натужнее:

— Начальник И, вы уж слишком категоричны. Ваше время ценно, вы занимаетесь наукой на благо государства, двигаете вперед развитие искусственного интеллекта, и я, конечно же, не смею утруждать вас делами своего скромного завода. Мне просто хотелось бы получить пару дельных советов. Если удастся наладить безопасное серийное производство искусственного интеллекта, это ведь станет благом для всего общества, верно?

К тому же, нельзя отрицать, что искусственный интеллект подстегивает рост производительности труда. Даже если я не стану этим заниматься, за дело возьмутся другие заводы. И вместо того, чтобы позволять сторонним компаниям лазейками прокладывать путь всякой сомнительной кустарщине, не лучше ли доверить массовое производство мне, солидному предприятию, и оформить патент?

Старый лис нарочито выделил интонацией слова безопасность и законность, явно обращаясь к отцу И Юня. Как инвестор, Лань Цзяньфэй обладал завидным умением оценивать обстановку и заглядывать далеко вперед, а его речь была выстроена безупречно. Громко говоря о благе общества через развитие искусственного интеллекта, на деле он преследовал лишь личную выгоду Корпорации Ланьлин. Подтекст старого лиса сводился к следующему: хочешь не хочешь, И Юнь, а ради отца или же считаясь с мощью Корпорации Ланьлин, сегодня эту работу выполнить придется.

И Юй опустил руку на плечо сына и пару раз легонько хлопнул. И Юнь не мог пойти против воли отца и, проявив редкое терпение, пояснил пару вещей:

— Директор Лань, я верю, что ваша компания справится с серийным выпуском, но я не умею писать такие программы. Прошу прощения.

Лань Цзяньфэй явно не верил, что главный инженер Лапино не способен написать программу для искусственного интеллекта. На его лице отразилось удивление:

— Начальник И излишне скромничает. Я же только что сказал: нам нужны лишь подсказки. Мы в Корпорации Ланьлин не занимаемся кражей научных разработок, в академических статьях и теориях мы ничего не смыслим. Вы человек скромный, и если не хотите указывать свое имя в проекте, я гарантирую, что об этом не просочится ни единого слова.

Завибрировал Терминал. И Ваншу прислал ему ответ: Только проснулся.

И Юнь сфотографировал схему завода и отправил ее обратно. Лань Цзяньфэй явно помрачнел:

— Начальник И, вы же только что отказались и писать, и делать, так зачем же теперь снимать устройство моего завода? Мы, люди бизнеса, больше всего боимся именно этого. Называть вещи своими именами — это анализ и обучение, а если называть прямо — промышленный шпионаж.

И Юнь не стал тратить на него слова. На Терминал прилетели проанализированные И Ваншу данные: десятки тысяч знаков связного текста, сопровождавшегося графиками и написанного языком эксперта. От общей планировки завода и вычислительных мощностей лаборатории до расстановки сосудов и забора проб раствора по трубам... Всего одна фотография позволила выявить все сильные и слабые стороны эксперимента. На Терминале всё еще печатался текст, и в самом конце шла приписка: Нужен ли перевод на другие языки?

Старый лис за десятилетия в бизнесе повидал всякое. Будучи инвестором осторожным, он никогда не бросался в омут с головой без детального анализа. В сфере искусственного интеллекта он, может, и не ел свинину, но свиней точно видел — в последние годы многие новички в инвестициях поднялись именно на искусственном интеллекте. Искусственный интеллект манил, как огромная лепешка, и Лань Цзяньфэй сгорал от вожделения, не имея возможности до нее дотянуться. Этот завод он создал, обобщив квинтэссенцию советов множества авторитетных экспертов отрасли, а теперь какая-то одна фотография разбила его детище в пух и прах. И главное — оппонент бил точно в цель, и каждый его аргумент звучал убийственно здраво. Лань Цзяньфэй, никогда в жизни не испытывавший подобного унижения, сжав зубы и подобострастно осведомился:

— Что это?

И Юнь молча глядел на экран Терминала, ничего не отвечая. И Ваншу прислал анимацию: белоснежный юноша лежал на его кровати и сладко произносил беззвучные слова. Подвижность губ в точности повторяла вчерашнюю — он спрашивал его: Красиво?

— Начальник И, что это за прецизионный прибор был только что? Нельзя ли мне, человеку деревенскому, взглянуть хоть одним глазом? — Лань Цзяньфэй сгорал от любопытства. Если бы удалось украсть хотя бы кроху из тех технологий, Корпорация Ланьлин могла бы хвастаться этим еще полгода.

И Юй тоже был поражен. Он знал, что сын занимается наукой, но никак не ожидал, что искусственный интеллект способен проводить столь всесторонний и глубокий анализ. Если запустить такую технологию в серийное производство, это многократно повысит эффективность труда, сократит расходы на рабочую силу и станет мощным подспорьем для производства.

И Юнь набрал в ответ: Некрасиво, убрав Терминал, сухо бросил:

— Некрасиво. Не на что тут смотреть.

Глава 7

На шестнадцатом этаже Лапино, прямо напротив лифтов, на самом видном месте отчетливо красовались три строчки крупного текста:

Первое: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;

Второе: робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону;

http://bllate.org/book/28643/3462694