Исследователи рассказали, что может привести ИИ на сторону зла и как привить машине чувство юмора)

Исследователи рассказали, что может привести ИИ на сторону зла

Профессор Междисциплинарного центра биоэтики Йельского университета США Венделл Валлах выразил мнение, что искусственный интеллект, не будучи опасным сам по себе, может быть использован во зло. Специалист опасается, что подобную технологию можно применять для манипуляции людьми и тотальной слежки.

Опасения в отношении искусственного интеллекта различные люди высказывают нередко – позиции, что исследования в этой области должны строго контролироваться, придерживается, в том числе, Илон Маск. Тем не менее размышляя о причинах, по которым ИИ может представлять угрозу, люди чаще всего либо вспоминают произведения в жанре фантастики о восстании подобных роботов, либо высказывают предположение, что однажды алгоритмы оставят без работы подавляющее большинство людей.

Тем не менее, Венделл Валлах призвал опасаться не искусственного интеллекта самого по себе, а людей, которые могли бы им воспользоваться. В частности, не самым благовидным образом было бы можно применять технологию, способную определить, когда человек чувствует страх. При этом эксперт не согласился с прогнозами некоторых коллег, что искусственный интеллект, подобный человеческому мозгу, с высокой вероятностью появится уже через 20 лет.

Самым похожим на искусственный интеллект реально существующим явлением сегодня можно назвать нейросети, способные самостоятельно «обучаться», получая доступ к большому объему информации и выявляя в нем закономерности. На сегодняшний день подобные нейросети обыгрывают профессионалов в настольные и компьютерные игры, помогают астрономам искать новые планеты у далеких звезд, а криминалистам – предсказывать квартирные кражи, способствуют эффективной работе онлайн-переводчиков, и это далеко не полный список. Довольно успешно искусственный интеллект «пробует себя» и в творчестве – в прошлом году на аукционе была за 432 тысячи долларов продана написанная роботом картина, а двумя годами ранее робот стал финалистом японской литературной премии имени писателя-фантаста Хоси Синъити. Не так давно компания Google создала алгоритм, позволяющий каждому интернет-пользователю создать собственную композицию «в стиле Иоганна Себастьяна Баха» при помощи нейросети. 

А инженер из Китая по имени Хи Хи, представляющая Стэнфордский университет, даже заявила о планах разработать искусственный интеллект, способный шутить.

А именно:

Китайские ученые добавят ИИ чувство юмора

Инженер из Китая по имени Хи Хи, представляющая Стэнфордский университет, заявила, что планирует разработать способный шутить искусственный интеллект. «Освоить» чувство юмора роботу поможет изучение огромного множества уже существующих шуток.

Для создания «робота-шутника» планируется использовать машинное обучение – метод создания алгоритмов, в немалой степени подходящих под определение «искусственного интеллекта» в современном понимании этого слова. Нейросеть «самостоятельно» изучает большой объем информации и выявляет закономерности, после чего оказывается способна действовать в незнакомой ситуации, опираясь на эти данные. В отличие от традиционного программирования, подобный подход позволяет алгоритмы решать принципиально большее количество задач и постоянно совершенствоваться.

В случае с предлагаемым искусственным интеллектом информацией для обучения станет множество существующих шуток и анекдотов — в первую очередь, построенных на игре слов. Как сообщается, Хи Хи и ее коллеги уже проводят первые эксперименты в этом направлении, однако пока что шутить по-настоящему смешно у алгоритма не получилось.

На сегодняшний день подобные нейросети обыгрывают профессионалов в настольные и компьютерные игры, помогают астрономам искать новые планеты у далеких звезд, а криминалистам – предсказывать квартирные кражи, способствуют эффективной работе онлайн-переводчиков, и это далеко не полный список. Довольно успешно искусственный интеллект «пробует себя» и в творчестве – в прошлом году на аукционе была за 432 тысячи долларов продана написанная роботом картина, а двумя годами ранее робот стал финалистом японской литературной премии имени писателя-фантаста Хоси Синъити. А не так давно компания Google создала алгоритм, позволяющий каждому интернет-пользователю создать собственную композицию «в стиле Иоганна Себастьяна Баха» при помощи нейросети.

И ещё раз об искусственном интеллекте

История технологий полна предсказаний, которые сейчас звучат смешно. Один из самых известных примеров приписывается Биллу Гейтсу, который в 1981 году заявил, что «640 килобайт должно хватить любому». Предсказания об искусственном интеллекте в этом плане ничем не отличаются.

Первые исследователи ИИ (искусственного интеллекта) верили, что у нас появится робот, который будет ходить, разговаривать и думать как человек спустя лишь несколько десятилетий.

Конечно, несмотря на некоторые впечатляющие достижения в обучении машин, ИИ еще далеко до такого прорыва. В соответствии с принципом, известным как парадокс Моравека, мы можем научить машины решать сложные задачи, но в то же самое время они не могут справиться с самыми простыми задачами...

Ну-ка, Сири, думай, как малыш

В 1957 году экономист и пионер информатики Герберт Саймон сказал: «Я не ставлю перед собой цель удивить или шокировать вас, но я могу подвести итог, сказав, что в мире сейчас есть машины, которые могут думать, учиться и создавать. Кроме того, их способность выполнять эти действия будет быстро расти до тех пор, пока (в обозримом будущем) круг проблем, с которыми смогут справиться машины, будет сопоставим с тем кругом проблем, где до сих пор был нужен человеческий разум».
Саймон умер в 2001 году, и до его «видимого будущего», в котором машины могут мыслить как люди, еще далеко. Конечно, искусственный интеллект хорошо зарекомендовал себя в плане выполнения конкретных задач, таких как классификация далеких галактик или имитация голосов знаменитостей или создание произведений искусства, но простое мышление — концепция, известная как общий искусственный интеллект — кажется, ставит в тупик самые передовые системы машинного обучения. Подумать только, даже ходьба на двух ногах — сложная задача для машин. Возможно, они смогут победить великого чемпиона по шахматам, но они не смогут опередить малыша и взять нужную игрушку с полки.
Это не новая проблема. В 1980-х годах ученый-компьютерщик Ханс Моравек представил именно эту проблему, которую сейчас называют «парадоксом Моравека», — и объяснил, почему именно этого мы должны ожидать от машин, которые не подвержены воздействиям естественного отбора. «Закодированное в больших, высокоразвитых сенсорных и моторных частях человеческого мозга — это миллиарды лет опыта о природе мира и о том, как выжить в нем», — писал он в своей книге «Дети разума» в 1988 году.
То есть то, что для людей кажется простым, совершенствовалось тысячелетиями в процессе эволюции. То, что людям кажется сложнее всего, сложно только потому, что оно новое для них — мы размышляем о шахматной стратегии немногим более тысячи лет, но мы учимся взаимодействовать с окружающей средой с тех пор, как наши предки были еще одноклеточными организмами. Навыки, которые закреплены в процессе эволюции, не требуют осознанного мышления, а когда вам не нужно думать о чем-то, сложнее понять, как же научить машину делать это.

Познавай машины, познавая себя

Так как же научить машину по-настоящему мыслить? Моравек считает, что машинам не хватает эволюции. Однако, ситуация улучшается день ото дня.
Инженеры обучают искусственный интеллект алгоритмам, например, учат роботов играть в видеоигры. Но прежде чем мы сможем научить машины мыслить как люди, мы сами должны лучше понять, как думают люди, понимание ограниченности машинного обучения может помочь ответить на вопросы о том, как действительно работает наш разум. Также возможно, что парадокс заключается в том, что ИИ никогда не будет по-настоящему независимым и всегда будет полагаться на помощь людей. Но в любом случае мы все должны ценить суперкомпьютеры, работающие внутри наших черепов. Они заставляют самые сложные задачи в мире выглядеть легкими.

Что думаете на счет этих новостей про ИИ, коллеги?!