"Фантастика 2024-61"! Компиляция. Книги 1-23 (СИ) - Бобров Всеволод Михайлович - Страница 9

— А вот с моей стороны с самой нейросетью не все так радужно, как расписал Алексей. — взял слово упомянутый Влад, нос которого уже давно зажил. — Она напрочь игнорирует прямые команды и не поддается управлению. Если пытаться пробиться силовыми методами, то она переходит в активную защиту и атакует программную оболочку аппаратуры, выводя ту из строя. Если действовать не напрямую, то вот тогда можно чего–то от нее добиться, но… не всегда получается задуманное, слишком много надо внести косвенных изменений и не всегда удается до конца просчитать все факторы. И важно — итоговые изменения не должны нести вреда ей или ее хозяину, тогда в девяносто девяти из ста случаев она не заблокирует их.

— Проще говоря — вы не можете контролировать нейросеть и урезать ее возможности не получится. — подал голос особист из своего угла.

— Не совсем так. Как раз вот с урезанием возможностей мы нашли выход. Уже несколько дней мы проводим точечные изменения, которые в итоге должны будут привести к нужному для нас результату. Еще неделя максимум в таком темпе, и мы сможем практически полностью заблокировать ее.

— И тогда получится подключиться к ней? — задал вопрос особист.

— Сомневаюсь. Мы урежем ей почти все внешние возможности, но вот ее защита никуда не денется. — разведя руками ответил ему ученый. — Здесь мы бессильны, никто даже не мог предположить, что такое случится, ведь управляющий доступ прописан у нее на уровне ядра.

— Выяснили почему так получилось? — спросил у Влада уже Андрей Владимирович.

— Нет, не понятно, что именно привело к такому результату. Мы проверили все записи экспериментов. Ничего выходящего за рамки. А выяснить у нее самой не получается, как вы уже поняли.

— Понятно. — кивнул ему Андрей Владимирович. — Кто–то еще что–нибудь хочет добавить?

В ответ ему была тишина.

— Тогда все свободны. — отпустил он своих подчиненных.

Все то что они рассказали он и так знал, но это нужно было обсудить, вдруг всплыли бы какие–нибудь упущенные детали или вдруг родились гениальные идеи.

— Что будешь делать? — спросил особист, когда все вышли из кабинета.

— Как и думал: урежем ему нейросеть, только придется оставить его еще на какое–то время, чтобы проверить как получится. А потом пусть живет себе.

— Ты уверен? Может проще оформить все как неудачный эксперимент?

— Зачем? Пусть себе живет, нам он ничем не помешает. А вытащить или взломать нейросеть ни у кого не получится. Особенно взломать, если этого даже мы не смогли сделать, те кто создали ее и знали все слабые места. Да и с вытащить не все так просто, она же теперь одно целое с его мозгом: умрет он уничтожится и нейросеть, а в мозге ее изучить практически не реально.

— Я не совсем понял, как вам удастся урезать ее функционал, если она блокирует негативные изменения?

— Там все хитро, изменения по отдельности не несут вреда, но стоит произойти последнему, кстати тоже в целом безвредному, как все вместе они просто положат нейросеть, обрезав ее функционал.

— Так может таким образом кто–то сможет ее взломать?

— Ага, это нужно еще знать, что и где искать. Ну и во второй раз провернуть все это не получится — сеть уже научится и не допустит. Так что после блокировки она станет совершенно неуправляемой извне.

— Ясно. Отчет готов?

— Разумеется. Сегодня вечером отправлю его, а завтра жди бурю.

— Будешь сообщать о возникшей проблеме?

— Пока что нет. Попробуем исправить ее в следующей версии, есть парочка идей.

— Хорошо. Кстати, давно хотел спросить. А что это за саморазвитие у нее? Вы туда, что, искин впихнули? На что оно способно — это я уже увидел, впечатлило, но хотелось бы хоть примерно понимать, что за оно такое.

— Все сложно, если честно. Можно сказать, что там урезанный искин с кучей наших доработок. По идее — отдельный урезанный блок с реагированием на внешние угрозы и адаптацией к ним. А вот что получилось в итоге — это хороший вопрос. Уже сейчас понятно, что мы где–то ошиблись, но к чему это приведет, помимо потери возможности внешнего управления нейросетью, неизвестно. Если так подумать, то может это не так уж и плохо. Подключились в первый раз, пока она не вышла на полную мощность, настроили все что нужно, зато потом никто уже не сможет больше управлять ею, особенно потенциальные противники, которые захотят исследовать нашу новинку.

— Может быть ты и прав. Я тебя понял. Пожалуй, пока ничего докладывать не буду, но ты долго не тяни. Если не получится исправить возникшую проблему в новой версии, сообщи мне и я преподнесу своему начальству в нужном свете.

Целые две недели меня здесь уже мурыжат, все проводя и проводя различные тесты. Не сказать, что мне так уж и надоело тут, особенно учитывая, что в нейросеть они почти не лезли, только в первые дни попробовали, но та сразу среагировала, и больше не пытались.

Но чем дальше, тем сильнее у меня ощущение, что они тянут зачем–то время: новых экспериментов уже как несколько дней нет, даже весь местный арсенал освоил, постреляв со всего чего можно и нельзя. Да и в самих них энтузиазм заметно под угас, видно, что они заняты уже чем–то другим. Ну, это не касается только тех что работают непосредственно с нейросетью, те наоборот что–то упорно считывают и пытаются понять, как получилось то что получилось.

В целом, не жалуюсь на произошедшую задержку, ведь это время не прошло даром и для меня: с каждым новым днем получается все лучше и лучше взаимодействовать с нейросетью. Если раньше нужно было напрягаться чтобы активировать какую–нибудь ее функцию, то теперь все получается при малейшем осмысленном усилии. Правда функций этих не так уж и много, для большинства теоретически возможных нужны модификации тела, которые разумеется никто проводить со мной не стал, я же не военный все же.

Еще что странно немного, но на мне никак произошедшие с ней изменения не сказались. С одной стороны, логично ведь они были программные, а с другой, кто ее знает… я уже вообще не знаю, чего от нее можно ожидать. Но чем дольше я с ней, тем грустнее становится что ее урежут. Сейчас она стала уже почти чем–то родным, своим. Не уверен, но почему–то есть ощущение, что и она привыкла ко мне, как бы дико это не звучало.

— Сергей, хватит дрыхнуть. — открылась дверь в мою комнату и в ней появился Алексей, который помощник самого главного здесь начальника.

— А? — удивленно смотрю на него. По стандартному графику у меня еще целый час должен быть чтобы отлежать бока.

— Вставай и пошли. Нужно внести последние изменения в нейросеть, и ты будешь свободен.

Вскакиваю с кровати, не зная радоваться или грустить. С одной стороны, наконец выйду отсюда, а с другой… Почему–то при мысли о предстоящем становится грустно. Задавливаю в себе эту непонятную печаль. Ну что мне от этой нейросети? Главное, что я жив и буду жить дальше.

Быстро одевшись выхожу в коридор, где меня терпеливо ждал Алексей, который просто Алексей без всякой фамилии или отчества. Несколько минут по коридорам, и мы пришли в уже знакомую лабораторию. Вижу, что там уже все готово: мое место свободно и рядом сидит Влад, явно в нетерпении ожидая меня.

Прохожу и лажусь на кушетку. Пара секунд, и на мою голову оказался водружен шлем с датчиками и кучей еще разной хрени. Замечаю, как Влад бросил взгляд на Алексея и тот кивнул в ответ. Сразу же раздался стук по клавиатуре.

Прислушиваюсь к своим ощущениям, но ничего неприятного нет, не то что было в первые разы, когда они в наглую копались в нейросети.

— Готово! — довольно произнес Влад и оглушительно громко нажал клавишу на клавиатуре.

Мгновение, и мне на голову словно мешок надели. В первый момент показалось что оглох: слух стал непривычно плохим. В придачу к этому, сразу появилось ощущение какого–то одиночества, будто у меня забрали что–то очень важное. Меня предупреждали об этом: урежут все что можно, оставив самый минимум в виде немного улучшенного контроля над организмом и собственно рабочей нанофабрики, которая по команде нейросети сможет чинить как ее, так и меня латать.