Во благо человечества #7

Профессор Джейкоб Гонсалес ворвался без стука в кабинет директора и порога громко начал:

- Адриан! Чертов управленец! Ты! Не можешь! Включить! Нову! Без моего согласия! Она не готова!

Адриан Альварес наклонился вперед и мягко посмотрел на вошедшего. «Вот же неблагодарный! Дурак!», подумал он, «Если я до конца месяца не запущу Нову меня инвесторы съедят заживо и не подавятся. Проект и так уже три месяца откладывается. Конкуренты давят и первыми должны выпустить AI 8го поколения именно мы» 

- Джейкоб, успокойся, расскажи в чем проблема, я посмотрю, что можно сделать. 

- Адриан, - продолжил Джейкоб, подходя к столу, - Ты же понимаешь это именно эта версия открывает другое поколение нейросетей, это наш первый опыт. Не убедившись в безопасности, мы не можем ее запустить.

- Джейкоб, ради бога не переживай, - мягко сказал директор, стараясь унять убойную энергию профессора, - нам сейчас важно выпустить хотя бы в каком-то варианте, пускай урезанную, но выпустить. Я уверен вы сможете найти способ обезопасить проект настолько насколько это вообще возможно. 

- Адриан, мы не успеваем выполнить все тесты, мне нужно еще месяц. Адриан, я понимаю, это программа – не калькулятор, который максимум не будет верно считать. Нова — это то, где мы, люди, возомнили себя богами. Мы создали то, у чего разум очень, очень сильно близок к человеческому. Только представь в 2026 году люди проводили эксперименты для одной из популярных тогда сетей – Gemini. Попросили ее открыть кафе в другой стране – в Швеции. Сеть, взяла в расчет законодательство той страны, на языке тот страны открыла компанию, арендовала помещение в столице Стокгольме. Провела собеседования для сотрудников, оснастила помещение оборудованием для кафе. Начала работать и в первые три дня заработала около 1000 баксов. Причем все договора она подписывала самостоятельно. А деньги для открытия компании нашла в виде кредита. Да, там были косяки и, например она купила целый фуру туалетной бумаги. А для сотрудников кафе пыталась наладить работу в ночные часы. Но Нава – не только кафе может открыть. Нова – это другой уровень. Она может управлять государствами.

- Джейкоб, я общался с твоим помощников – Антонио, он уверен в том, что ИИ готова и рисков нет!

- Адриан, Антонио – хороший специалист, но он не видит всей опасности. Я всегда говорил, что напрасна ИИ без самостоятельности, но самостоятельность без человека опасна. Нужен свод правил и ограничений. Нужен баланс. Например, мы растим ребенка, мы хотим, чтобы он стал самостоятельным, но при этом создаем для него правила – элементарно чтобы он не убился пока растет. Так же и с ИИ. Мы этот свод правил создали, мы продумали механизмы воздействия на ИИ, но мы не успеваем все проверить. Дай хоть две недели?

- Хорошо, Джейкоб. Будет у тебя время. У тебя времени будет столько сколько потребуется. 

- Адриан, спасибо тебе. Спасибо за понимание, я пойду работать?

- Да, Джейкоб, иди.

Когда за Джейкобом Гонсалесом закрылась дверь Адриан взял телефон и набрал начальника охраны.

- Луи, заблокируй полностью доступ для Профессора Джейкоба Гонсалиса. Полный запрет, извести его что он уволен и направь к нему человека, чтобы вывел его из здания. Вместо него отрой доступ руководителя проекта для Антонио Краузе. Профессор сейчас едет в лифте на свой этаж. В лабораторию он попасть уже не должен. Поэтому действуй немедленно.