Чего опасается гуру ИИ Джефри Хинтон
Автор: Серж Маршалл
"У тебя осталось всего 9 пальцев на руках, чтобы понять." (Midjourney image)
Один из пионеров нейросетей и технологий искусственного интеллекта Джеффри Хинтон уволился из Google и присоединился к тем, кто видит в подобных достижениях опасность для человечества.
Помимо всплеска безработицы риски повсеместного и бесконтрольного внедрения ИИ, по мнению эксперта, такие:
-️ принципиальная невозможность верификации данных. Ну то есть установить правда-неправда относительно любой информации что "общественно-политической", что вполне себе научной окажется невозможным;
- ️принципиальное отсутствие этической рамки во всей этой ветке развития; технология неизбежно может и будет использоваться во зло и вред как отдельным людям, так и их сообществам и группам;
- ️масштаб этого зла и вреда невозможно оценить и осмыслить, компании-разработчики старательно уходят от обсуждения и осмысления угроз и благодаря своему лоббистскому потенциалу фактически запрещают это делать регуляторам;
-️ "Сам себе хозяин". Хинтон говорит о том, что полбеды в том, что какой-нибудь очень плохой человек будет пользоваться инструментом для цензуры, обмана и так далее. Беда в том, что инструмент уже сегодня сам пишет код, успешно заменяя программистов и с высочайшей долей вероятности придет к тому, что будет сам контролировать себя через создание автономных программ о которых человечество узнает только когда они будут введены в действие.
Хинтон – один из авторов технологии глубокого обучения нейросетей сравнивает историю с гонкой за ядерным оружием во время WWII. Расстраивается от того, что человечество за сто лет не усвоило ни одного урока вообще и отказывается в этом участвовать. При этом отмечает, что компании конкурируют между собой в пространстве, где нет даже отдаленных представлений о регуляции, правилах и "общественном интересе". Исходя из простой логики – раз можем, значит сделаем и продадим. Основной и единственный "страх" это не последствия те самые, а что сосед по рынку что-то там сделает и продаст быстрее тебя.