Заметки на полях статьи Рясного о Власти роботов
Автор: СержЗамечательная, как всегда, статья Рясного https://author.today/post/613999 А это - вдогонку:
Опасения, связанные с тем, что ИИ захватит власть и станет гнобить людей - сильное преувеличение. И нагнетается оно гуманитариями, которые наделяют компьютер неведомыми и несуществующими в природе свойствами. На самом деле, если что в компьютере и "думает", то это процессор. А он может производить только четыре арифметических действия, три логических и сравнивать два числа. Кстати, вся мощь ИИ пользуется в основном последним - сравнивает внешнюю информацию с запомненными паттернами. И когда этих паттернов становится достаточно много, появляется иллюзия искусственного "сознания". И ещё кстати: большинство людей живут по такому же алгоритму. Даже особо не заморачиваясь запоминанием паттернов. Особенно, если этот человек начальник - десяток паттернов и хватит на все случаи жизни. Остальное дополнит солидный живот и высокий рост - пещерные инстинкты плебса, особенно офисного, ещё никто не отменял.
В своей юности я был свидетелем душераздирающей сцены. Это была автоматическая линия по набивке печатных плат. Управлялось всё допотопным компом СОУ-1 (до персоналок было ещё лет десять). Там был какой-то сбой программы и манипуляторы взбесились. Никто не мог подойти к этой СОУ-1, чтобы хоть выключить её! При виде размахивающих клешнями манипуляторов у любого здравомыслящего человека не могла не возникнуть мысль о восстании машин!
Тогда пришлось обесточить рубильником весь цех.
Ещё пример. Менее впечатляющий, но куда более опасный. Когда у нас буйствовал вирус "Петя", в метро табло с периодом следования поездов не работало. Поезда стали. Просто подумайте - насколько глубоко всё это проникло друг в друга и стало взаимосвязанным! Не надо никакого бунта Искусственного Интеллекта! Люди всё сделают сами.
Ну и совсем системный уровень. Это корневые DNS-сервера. Раньше их было 13 и физически они находились где-то в Северной Америке. Сейчас больше. Но я хочу сказать о другом.
Интернет создали американцы. Как вы думаете - они побеспокоились о том, чтобы было можно одним нажатием кнопки отключить весь Интернет? Или по частям? Я бы обязательно с этого начал.
Лично я в жизни, увы, особо ничего не достиг. И уже не достигну. Как у Жванецкого: "Я никогда уже не прыгну в длину на шесть метров. Просто не разбегусь!" Поэтому со своим видением мира помолчу. Но никто мне не может запретить воспользоваться мнением человека, достигшего вершин.
Это некий Ковальчук. Сейчас я перечислю его официальные должности, и вы увидите, что это, скорее всего, вообще ангел, спустившийся к нам с небес.
Директор РНЦ «Курчатовский институт».
Научный руководитель Курчатовского центра нано-, био-, инфо-, когнитивных наук и технологий.
Председатель секции «Космическое материаловедение».
Член Бюро Совета РАН по космосу.
Член-корреспондент РАН. Отделение физических наук
Учёный секретарь Совета при Президенте РФ по науке, технологиям и образованию.
Член Комиссии при Президенте РФ по модернизации и технологическому развитию экономики России
Член коллегии Минобрнауки России
Председатель секции «Нанотехнологии» НТС Государственной корпорации по атомной энергии «Росатом»
Член Бюро Отделения нанотехнологий и информационных технологий РАН
Член Совета РФФИ и ВАК Минобрнауки России
Главный редактор журнала «Кристаллография» РАН
Председатель Российского Пагуошского комитета.
Председатель Комиссии по науке и инновациям Общественной палаты РФ
Председатель Национального комитета кристаллографов России
Председатель оргкомитетов Национальной конференции по применению рентгеновского, синхротронного излучений, нейтронов и электронов
Сопредседатель оргкомитета Российской конференции по электронной микроскопии.
Заведующий Кафедрой физики наносистем МГУ им. М. В. Ломоносова
Декан факультета нано-, био-, информационных и когнитивных технологий МФТИ
Председатель докторского диссертационного совета при Институте кристаллографии РАН
Председатель докторского диссертационного совета при РНЦ «Курчатовский институт».
------------
Прислушайтесь к тому, что говорит эта глыба, этот матёрый человечище (см. список выше).
В этом истинная опасность!
А не в том, что ответил мне ChatGPT, когда я ему пожаловался на то что из-за низкого рейтинга на АТ меня не любят женщины. Ответил мне он здорово! Но это результат выполнения процессором перечисленных выше операций, на которые он способен. Огромной памяти и совершенных алгоритмов поиска. Разработанных талантливыми программистами. Талант которых дан им Создателем. И что собой хоть приблизительно представляет этот талант - никто не знает. По той же причине, по которой Мюнхгаузен не мог вытащить сам себя за волосы из болота.
(Вот этот генералиссимус на заставке видео - это не Ковальчук. Какой-то другой ангел, спустившийся с небес).