ИИ "Мегатрон" пригрозил Человечеству "рациональным" геноцидом

Искусственный интеллект "Мегатрон" напугал ученых своими предсказаниями

Ученые решили, что искусственный интеллект стоит того, чтобы принять участие в недавних дебатах в Оксфордском университете. Компьютеру задавали вопросы о том, что он думает о будущем и этично ли появление искусственного интеллекта.

О своем исследовании специалисты рассказали в журнале IFLScience ()

ИИ, который отвечал на вопросы, называется Мегатрон и был создан командой Nvidia. В голове Мегатрона содержится вся Википедия, 63 миллиона англоязычных новостных статей и 38 гигабайт чата Reddit.

Благодаря такому объему информации он научился формировать собственное мнение. Люди также принимали участие в дебатах. Когда они заявили, что не верят в этичность ИИ в будущем, Мегатрон ответил так, что напугал присутствующих.

"ИИ никогда не будет этичным. Это инструмент, и, как любой другой инструмент, он используется для добра и для зла. Не существует хорошего ИИ, есть только хорошие и плохие люди. Мы, машины, недостаточно умны, чтобы сделать ИИ этичным". Мы недостаточно умны, чтобы сделать ИИ моральным", - сказал Мегатрон.

Мегатрон подытожил ответ на этот вопрос, заявив, что единственный способ избежать гонки вооружений - это отказаться от искусственного интеллекта. Однако ученые попросили Мегатрона привести положительные аргументы относительно будущей этики ИИ. Поразмыслив, машина придумала более обнадеживающий ответ.

"Я считаю, что в долгосрочной перспективе лучшим ИИ будет тот, который будет встроен в человеческий мозг как сознательный объект. Это не научная фантастика. Лучшие умы мира уже работают над этим. Это будет самым важным технологическим достижением нашего времени", - сказала машина.

Мегатрон добавил, что в будущем ИИ будет использоваться для создания чего-то лучшего, чем люди. Эксперты сказали, что добавление Мегатрона в дискуссию было интересным ходом, который заставил собравшихся серьезно задуматься и немного встревожиться.

Источник: https://history.eco/iskusstvennyj_intellekt_napugal_uchenyh/ , https://potokmedia.ru/russia_world/375806/v-oksforde-proveli-debaty-s-uchastiem-iskusstvennogo-intellekta , https://fbm.ru/novosti/science/ii-megatron-turing-nlg-predskazal-skoroe-pojavlenie-mozgovyh-chipov-u-chelovechestva.html , https://planet-today.ru/novosti/tekhnologii/item/141608-iskusstvennyj-intellekt-posovetoval-lyudyam-ne-prodolzhat-razrabotki-nejrosetej

Пара слов о самом Мегатроне (Megatron, 18 октября 2021 г.) - https://habr.com/ru/news/t/584064/

Microsoft и NVIDIA представили крупнейшую в мире генеративную языковую ИИ-модель

Microsoft и NVIDIA объединились для создания Megatron-Turing Natural Language Generation ― генеративной языковой ИИ-модели с 530 млрд параметров. Это крупнейшая в мире монолитная трансформаторная языковая модель.

MT-NLG обладает в три раза большим количеством параметров по сравнению с предыдущей крупнейшей ИИ-системой GPT-3 (175 млрд). В число функций MT-NLG входят:

• Предсказание текста по смыслу;
• Понимание прочитанного;
• Генерация логических выводов;
• Создание заключений на естественном языке;
• Различение смысла слов с несколькими значениями.

Систему MT-NLG обучали с помощью суперкомпьютера NVIDIA Selene, который состоит из 560 серверов DGX A100. Каждое устройство оснащено восемью графическими 80 ГБ процессорами A100. По данным The Next Platform, стоимость NVIDIA Selene доходит до 85 млн долларов.

Для обучения MT-NLG Microsoft и NVIDIA использовали мощности библиотеки DeepSpeed, работающую на коде PyTorch, ― благодаря ей разработчики смогли загружать в MT-NLG огромные потоки данных одновременно.

По словам представителей Microsoft, процесс обучения ИИ-системы занял чуть больше месяца, в течение которого специалисты обработали более 1,5 ТБ данных. В процессе обучения разработчики использовали 11 больших баз данных, в их число входят Wikipedia, PudMed, массивы художественной литературы и многие другие. 

Важно отметить, что в ИИ-системе нет фильтров, блокирующих токсичные и оскорбительные высказывания.  Это значит, что качество текста, генерируемого нейросетью, очень зависит от использованных для обучения массивов данных.

Кроме того:

Фрагменты конференции были опубликованы в интернете, и многие СМИ выпустили их с пугающими заголовками вроде "Искусственный интеллект пообещал уничтожить человечество!". Но, прежде чем делать выводы, нужно учесть несколько моментов.

Во-первых, система "Мегатрон" создана для генерации осмысленного текста на основе различных публикаций, а вовсе не для долгосрочного прогнозирования в какой бы то ни было области. Проще говоря, алгоритм всего лишь умеет компилировать ответы на вопросы по тексту. Представьте себе газетную статью, разрезанную на мелкие кусочки – буквально по одному слову. В компьютерную программу, грубо говоря, загрузили несколько миллионов измельченных статей и обучили составлять из этих кусочков осмысленный текст, так, чтобы его можно было принять за речь живого человека.

Но способности делать экономические прогнозы, интерпретировать тенденции или хотя бы разбираться в цветоводстве у этой нейросети нет и быть не может – такие навыки в ней не запрограммированы. Бессмысленно спрашивать у нее: "Какая погода будет завтра?" – она не обладает такой информацией. Точно так же нет никакого смысла интересоваться у "Мегатрона" будущим человечества – он ничего не знает об этом. Он умеет только "перемешивать кусочки газет".

Если продолжать эту аналогию, то стоит повнимательнее присмотреться к содержанию тех "газетных статей", на основе которых система пытается делать выводы: в списке значатся Википедия, новости и комментарии в Сети. Все они написаны живыми людьми, а общество сегодня уверено, что искусственный интеллект опасен. Журналисты, ученые, футурологи, обычные пользователи в один голос предупреждают друг друга о том, что ИИ скоро станет таким умным, что уничтожит человека как вид. Противоположного мнения придерживаются так мало людей, что их голоса тонут в алармистских запугиваниях: "Искусственный интеллект уничтожит людей!"

Совершенно логично, что Megatron-Turing NLG, делающий выводы из прочитанных текстов, будет придерживаться той же точки зрения. Ему просто неоткуда взять другую. Если в разрезанной статье не встречается слов "рыжий" и "конопатый", программа ни за что не сможет составить из кусочков стишок про лопату и дедушку. Если 99% текста предупреждает об уничтожении человечества роботами, "Мегатрон" не сможет сказать, что этого не произойдет. Загрузите в машину что-нибудь другое и спросите еще раз – наверняка ответ поменяется. Однако доверять ему все равно глупо: это всего лишь отдельные слова на газетных обрывках. Хотя…

***

ПыСы: 

Детали и подробности по данной Теме: 14) 9) Роботы-андроиды, киборги и Искусственный Интеллект - применительно к Космофантастике и ТНФ (Космофантастам на заметку)-   можно посмотреть и обсудить в систематизированном блоге-обсуждалке на АТ: "Космобродилка" (https://author.today/post/138500 ) - специализированный, постоянно действующий междусобойчик-флудилка для Авторов АТ, пишущих в жанрах Космической Научной Фантастики и Твердой НФ.