— Да, это так. Но сваливать ответственность на него я не буду. Он только давал мне информацию по различным вопросам, а решения всегда принимал я.

— Боюсь, Николай Сергеевич, так было только в самом начале вашего тесного общения. С течением времени вы просто начали воспринимать логику ИПАМа как свою. Расскажите мне все, с самого начала, и, быть может, мы вместе сможем понять, что именно сформировало образ мышления его искусственной нейросети — логика обстоятельств или все-таки внешнее воздействие, полученное при атаке на «Тандем»?

Астафьев судорожно сглотнул.

— Хорошо. Я расскажу вам все, — ответил он после недолгой внутренней борьбы.

В техническую лабораторию, где на специальном стенде был закреплен ИПАМ, Логинов попал только к вечеру, когда с поверхности Ксеноба уже пришло сообщение о благополучной посадке крейсера.

Накоротко переговорив с Лозиным, он подошел к стенду.

Включив аппаратуру тестирования, изолированную от основной сети корабля, Дима сел в кресло, внимательно глядя на невзрачный шар, который едва не инициировал первый виток человеческой инволюции…

Что это, внедренная извне чуждая воля, навязанный путь, или закономерность развития искусственного разума?

Если нейроподобные системы двух цивилизаций подвержены одной и той же логике, то здесь можно говорить о закономерности, не оглядываясь при этом на аспекты теории вероятностей.

Импланты Логинова уже установили связь с комплексом тестирующей аппаратуры.

Блоки долгосрочной памяти. Подать питание, без активации нейросети, — сформулировал он мысленный приказ.

Два часа спустя Логинов устало откинулся в кресле.

Скрупулезный анализ «хода мыслей» нейросети, особенно в критические моменты функционирования, такие, например, как первый контакт с Астафьевым, не вызвали сомнения в логичности рассуждений ИПАМа и последовавших вслед за этим действий.

Дима закурил.

Итак, маленький кибернетический помощник действительно имел перед собой единственную цель — помогать людям, а если уточнить текущий приоритет, то конкретно взятой личности.

Он развивался, подчиняясь логике обстоятельств, и лишь одна ошибка, которую можно назвать недочетом разработчиков, прослеживалась в рассуждениях искусственной нейросети — стремясь во что бы то ни стало исполнить свой программный долг, о котором ему постоянно напоминали постулаты, поступающие из ПЗУ, он не имел запрета на совершение определенных действий, а именно — ИПАМу следовало запретить не только причинять вред человеку, но и видоизменять биологическую структуру живого существа.

Одна-единственная строка, добавленная в блок долгосрочной памяти, ежесекундно проверяющий логику нейросети, и ничего бы не произошло — Астафьев не подвергся бы процедуре принудительного имплантирования, а нейросеть ИПАМа не сформулировала бы в дальнейшем идею о полной замене биологических органов человека более прочными и совершенными, на его взгляд, конструкциями.

Введение такого запрета навсегда обезопасит людей от попыток искусственного рассудка «усовершенствовать» своих создателей.

Логинов устало усмехнулся.