Жизнь под пятой искусственного интеллекта?

Пока все сообщество авторов на АТ участвует во флешмобе "Даёшь охоту на ведьм!", "Нет нейросетям!", тьфу, то есть "Даёшь маркировку на книги, написанные с ИИ" в мировой прессе проскочили две маленькие новости. 

Одной строкой...

Первое:

Илон Маск не безосновательно прогнозирует превосходство ИИ над человеческим разумом и захват машинами всей планеты, с дальнейшей перспективой катастрофы уже в 2027 году...

Упс, однако!

Второе. 

Все мы успешно шли к удаленной работе и образованию. А вот пришли - к использованию в образовании искусственного интеллекта.
Теперь предстоит обратный путь: единственный возможный экзамен – устный, когда ИИ ну никак нельзя использовать.
По многим профессиональным позициям все то же самое - никаких, например, дистанционных собеседований...

Всё только лично, всё только хардкор?...

Вот как-то так? А если задуматься о базовом принципе безопасности, сформулированном ещё гениальным Керкгоффсом - насколько эффективно мы выстраиваем безопасную и устойчивую среду в которой уже завтра нам и нашим детям жить и работать? 

Или как с экологией?

PS. Напомню лица:

1. Джеффри Хинтон («Крестный отец ИИ»)

- ученый, чьи работы в области глубокого обучения легли в основу современных нейросетей, лауреат премии Тьюринга 2018 года. Уволился из Google, чтобы иметь возможность открыто говорить об опасностях ИИ. Он предупреждает, что ИИ уже учится манипулировать людьми лучше, чем они сами, и существует реальный риск того, что человечество потеряет контроль над сверхразумными системами. 

2. Илон Маск - сооснователь и один из первых главных инвесторов компании OpenAI. Считает, что суперинтеллект представляет экзистенциальную угрозу для цивилизации, сравнивая его с рисками из фильмов вроде «Терминатора». В 2023 году Маск, вместе с сотнями других экспертов, подписал открытое письмо с призывом приостановить обучение систем мощнее GPT-4 до тех пор, пока не будут созданы общие протоколы безопасности. 

3. Стив Возняк - сооснователь компании Apple и легендарный пионер персональных компьютеров. Подписал открытое письмо с призывом ввести мораторий на создание продвинутых систем. 

4. Йошуа Бенжио - еще один «крестный отец ИИ» и лауреат премии Тьюринга (наряду с Хинтоном). Стал одним из самых ярых сторонников жесткого контроля над индустрией ИИ. 

PPS. Кстати этот блог сформировал тоже ИИ по запросу "Что ждёт человечество в ближайшие годы при взаимодействии со сверх разумным ИИ"...

PPPS. А да, совсем забыл. В 9 главе "Камня раздора" кроме квинтэссенции отношений Левина и Айки думаю раскрыть и ветвь событий связанных с американским ИИ...

Спокойной ночи!