Страшилки судного дня или что может быть за риторикой угроз от ИИ

После того как написал "3i/Atlas. Булыжник раздора" и скрестил Левина не только с Айкой и Галей свет Сергеевной, но и с американскими боевыми вычислительными модулями почему-то стал на регулярной основе отслеживать ещё и новости с фронтира ИИ. Нет, я и раньше как бы в теме был. В силу специфики профессии. А тут... Короче то ли фича, то ли фобия...

Итак, на днях Демис Хассабис (сооснователь и CEO Google DeepMind, нобелевский лауреат) призвал к созданию глобального ИИ-регулятора.

Демис опубликовал личный манифест "Основа для передового искусственного интеллекта и наступление новой эры" (в оригинале конечно "A Framework for Frontier AI and the Dawning of a New Age") с предложением создать ИИ-регулятор. Наделенный правом проверять любую передовую модель в мире за 30 дней до её релиза.

Им предполагается, что новый орган будет финансироваться самой ИИ-индустрией, укомплектован мировыми техническими экспертами (включая лауреатов Премии Тьюринга) и, самое главное, подотчётен правительству США!

Не знаю как вам, а мне американцы в этом прям нравятся. Незамутненные сомнениями. Прям как дети!

По его замыслу все мировые центры и лаборатории будут добровольно передавать модели для проверки за 30 дней до релиза (ну или сливать американцам все свои передовые наработки). 

По его предположениям тестирование моделей ИИ будет осуществляться на кибер-, биологические, ядерные угрозы и "способность к обману". И только после подтверждения эффективности проверяемая система станет обязательной для выхода на рынок США.

Ну и как аргумент необходимости всё передать под контроль правительства США Хассабис предупреждает: текущие киберриски от ИИ — лишь "предупредительные выстрелы". В течение 18 месяцев доступность знаний и технологий сделает биологические и ядерные угрозы вне контроля правительств. При этом главную опасность он видит в будущих проприетарных моделях крупных лабораторий.

И есть деталь, которую стоит добавить: Сатья Наделла (CEO Microsof) и Сундар Пичаи (CEO Alphabet/Google, да и Google DeepMind ему тоже подчиняется) уже публично поддержали план. Короче, американские корпорации не против.

А ещё по оценке Демиса Хассабиса, появление AGI вероятно в течении нескольких ближайших лет (до 2030г. - раньше горизонт был вроде 10 лет).

Выдвигая эти аргументы, Демис надеется запустить новый мировой ИИ-регулятор "до конца года".

Не знаю...

Европа может и согласится. А вот в китайцах я что-то сомневаюсь. Да и Сбер вряд ли позволит своего агента кому-то извне препарировать...

И ещё, судя по очень активной риторике американцев и почти полному молчанию китайцев (а ещё судя по сегодняшнему ужесточению/запрету NVideo продавать свои чипы в Азиатские страны, то бишь Китай) нас ждёт или новый китайский рывок. Или американцы не тянут финансового бремени гонки и ИИ-пузыря. 

Ваше мнение?