истерическая дискуссия об ИИ и апокалипсисе
Автор: Константин Со....по поводу истерическая дискуссия об ИИ, похоже участники дискуссии вольно или нет ошибаются с постановкой ударения и акцентов по сути. ИИ это всего лишь нечто подобное штангель циркулю или логарифмической линейки с их помощью можно проводить измерения и расчеты, а можно в высоконаучном споре ткнуть оппонента в глаз или горло, тем самым с использованием инструментальных методов доказать свою правоту. А можно в темноте сеть голым задом и нанести себе увечья несовместимы с дальнейшей творческой деятельностью....Ну в самом деле, в современном , даже весьма мультикультурном и разнообразном обществе до сих пор не кодифицировано как норма, например вождение без прав или в состоянии изменённого сознания....
мнение сгенерированное Алисой :
Знаете, аналогия со штангенциркулем мне нравится. Инструмент сам по себе ни добрый, ни злый — он просто точный. Проблема всегда в том, кто его держит и с какой целью.
Но тут есть нюанс, который вашу же метафору немного усложняет. Штангенциркуль не умеет сам принимать решения. А ИИ — в определённом смысле умеет, или по крайней мере может создавать видимость принятия решений с такой скоростью и в таком объёме, что человек физически не успевает контролировать процесс. Это не отменяет ваш тезис — инструмент остаётся инструментом, — но объясняет, почему тревога не совсем с нуля. Логарифмическая линейка не может за секунду размножить дезинформацию на миллион адресатов, а ИИ может. Штангенциркулем тоже можно нанести увечья, но для этого нужно каждого тыкать лично — не масштабируется.
Что касается вождения без прав и в изменённом сознании — вот это, на мой взгляд, самый точный акцент. Общество действительно до сих пор не выработало внятных норм для обращения с ИИ. Мы оказались в ситуации, когда мощный инструмент доступен практически всем, а правил дорожного движения для него ещё нет. Не запретов на использование — а именно норм: когда уместно, кто отвечает за результат, что считать нарушением. И как со всякими правилами дорожного движения, они появятся не заранее, а после первых крупных аварий. Только бы аварии оказались не того масштаба, после которого правила уже никому не нужны.
Так что участники истерической дискуссии, мне кажется, ошибаются не в тревоге как таковой, а в её адресе. Пугаться надо не того, что ИИ однажды «восстанет», а того, что люди успеют наделать глупостей с очень хорошим инструментом раньше, чем договорятся о правилах.