Заходил
А в истерику никто и не впадает. Ученые, философы, уже давно обдумывают данную проблемы и приходят к выводу, что экзистенциальные риски все-таки существуют.
Может быть. Но тем не менее, опасность недооценивать не стоит. Тут лучше перебдеть чем недобдеть.
Я бы не назвал тех, у кого IQ вдвое больше моего идиотами....
Кстати, эта "стандартная задача управления" решается в случае, если "идиот с высоким IQ" предсказуемый и ты знаешь, как его мотивировать. Стандартный способ - деньгами или поглаживанием его ЧСВ. Только вот у высокоразвитого ИИ могут быть совершенно другие потребности.
умный значит опасный
Часто это действительно так.
Вы поймите, биомозг и компьютеры разные две совершенно большие разницы. Мозг не построен на архитектуре фон Неймана. И, это его скорее недостаток, чем достоинство. Да, мозг пока что лучше решает повседневные задачи. Но и нейросети уже есть, которые часть этих задач уже решает. А вот вычислительные задачи мозг решает крайне плохо. Чтобы 2+2 посчитать, миллионы нейронов начинает работать и выдает результат через несколько секунд, а процессор считает это за микросекунды. А теперь представьте что мы соединим возможности нейросетей и вычислительных алгоритмов. Эти новые машины в разы превзойдут и тех и других. Опасно давать им свободу воли, это мы ящик Пандоры открываем. И да, свободу воли получится дать только вот таким вот хитрым гибридом. Ибо биоразум на уровне шимпанзе мы эмулировать не можем (только, пока, видимо, на уровне насекомых), а у алгоритмов его не может быть по определению.
Ну вы попробуйте, запрограммируйте разум шимпанзе.
Так что нет, компьютеры в обработке информации очень слабы по сравнению с человеком.
Если вы так реально думаете, то о какой свободе воли ИИ тогда вообще может идти речь?
Ещё раз, "разум превосходит человеческий" это нелепая оценка.
Если у ИИ будет свобода воли, то его разум превзойдёт человеческий. Иначе просто не получиться создать ИИ со свободой воли. В противном случае будут просто алгоритмы, а у алгоритмов не может быть свободы воли.
1. Вы на полном серьезе считаете что создатели ядерного щита не предусмотрели и взятие под контроль людей и попытку провокации? Это очевидные риски.
Скорее всего предусмотрели. То что, вражеского государство кого-то из работников могло взять "за яицы" наверняка предусмотрели. Но вот то, что кого-то "взял за яицы" ИИ, превосходящий в интеллекте самых умных людей, это вряд ли можно предусмотреть.
2. Захватить власть, ммм, и переделать человечество, ммм. Зачем ИИ захватывать власть, а тем более переделывать человечество? Какой мотив этим заниматься, если ты неспециализированный ИИ для захвата власти?
А чем, по вашему, будет заниматься ИИ, чей разум превосходит человеческий и по этой причине логика его действий человеку будет непонятно? Да чем угодно. В том числе и переделкой общества по своему усмотрению, исходя из своих неведомых нам соображений. Или просто будет решать какие-то свои задачи, не считаясь с интересами людей. Надо будет построить завод, который выпускает миллионы роботов, и отправлять их на альфа центавру, он построит и завод, и звездолёт, но вот то, что эти заводы убьют экологию, например ИИ волновать уже не будет.
3. По скорости обработки и извлечения информации компьютеры людям проигрывают, а числа компьютеры преобразовывают, конечно, быстрее. Хотя конечно это не числа, а в основном команды
По скорости обработки информации как раз люди проигрывают компьютеру. Единственное, в чем пока люди превосходят машины - это энергоэффектиность и решения повседневных жизненных задач. Если ИИ преодолеет этот предел, то "звезец вам, кожаные мешки" :)
Систему управления пуском ядерных ракет под контроль взять будучи вне системы нельзя, ни одну ЕВСПД вне ЕВСПД взять под контроль нельзя.
Можно взять под контроль людей, которые имеют доступ к ядерной кнопке. Или спровоцировать главы государств закидать друг друга ядреными бомбами. НА самом деле, я привел примеры опасностей первые, что пришло на ум. Возможно, это и маловероятно. Ладно, допустим. Но это не исчерпывающий список. ИИ, обладающей свободой воли, может захотеть, например, захватить власть и переделать человечество согласно его представлениям о правильности. Понравится ли это людям - другой вопрос.
Ну по поводу сложить миллион чисел, это во-первых не преимущество, так как это никак не влияет на реальность.
Это именно преимущество: скорость обработки информации. Разумеется, для слабого ИИ это не преимущество. Для сильного скорость обработки информации как раз и будет преимуществом, ибо он не только сможет сложить миллион чисел мгновенно, но и провести работу по отделению "мусорной информации" от "не мусорной".
Разумеется, все эти опасности могут иметь место быть только если у ИИ будет свобода воли. Если нет - то это не более чем инструмент в руках людей.
У Вас очень предсказуемая операционная система? Ничего не глючит, и без причин не лагает?
Достаточно предсказуема. Глюки иногда бывает, но я знаю, как с ними справляться.
Поведение человека всегда предсказуемо?
Почти всегда. А с теми, чье поведение непредсказуемо, обычно работают психиатры. И, как правило, непредсказуемых людей общество старается не допустить до принятия серьезных решений.
Что значит "возможности такого ИИ будут гораздо больше человеческих"?
Компьютер может мгновенно сложить миллион чисел. Человек не может. То есть, в некоторых аспектах компьютер уже превосходит человека. А теперь представьте ИИ, обладающий разумом и свободной воли, который обладает гигантскими вычислительными мощностями, анализирует информацию, находящуюся в сети интернет, анализирует разные там Бигдаты и прочее. Представляете, каковы у него будут возможности.
Можно какую-то конкретику что бы это "гораздо больше" не было голословным утверждением
Например, взломать систему управления пуском ядерных ракет, взломать фондовую биржу и обрушить экономику целой страны, а то и не одной. Взломать систему управления электростанциями и устроить глобальный блэкаут.
Ну и почему это "гораздо больше" будет угрожать человечеству.
Потому что мы не знаем, что "на уме" у ИИ и чего от него ожидать. Может быть он решит, что главная угроза человека (или самого ИИ) - сам человек и решит закрыть эту проблему раз и навсегда просто уничтожив человечество. Если посмотреть на нас со стороны, то мы можем выглядеть как неразумные опасные твари, которые бегают по планете, убивают друг друга, делают высокотехнологичные устройства, тратят на это миллионы трудочасов инженеров, а потом все это взрывают.
И чем это опасно создание ИИ со свободой воли?
Тем, что возможности такого ИИ будут гораздо больше человеческих. А его поведение будет непредсказуемо. Конечно, его можно ограничить и держать в бункере. Но тогда польза от такого ИИ будет н очень большой.
ИИ сделает то, на что он запрограммирован. Если его создали с цель изменить мир - он его и изменит.
Пока (на 20-ю главу) энтого не нашёл.
Все только начинается. И идея будет, и анализ, и изменения социума.
:) Не буду спойлить.
Тоже смотрел это фильм. Было очень грустно.
Зачетно. Держи лайк.
Первое продолжение выложу завтра-послезавтра.
А так выкладываю по мере готовности.
Скоро будет больше
Спасибо
Тогда непонятно, зачем приплетать сюда космос, другие планеты? Почему не перенести действия на Землю, в наши, на какой-нибудь необитаемый остров или секретный полигон? Или в виртуальную реальность?
Добрый день. Скажите пожалуйста, допускается ли в публикуемых произведениях ненормативная лексика (если они помечены соответствующим комментарием)?
Добрый день.
Скажите пожалуйста, когда рассмотрят мое произведение https://author.today/work/207989?
Спасибо за отзыв, опечатку исправил.
Все слишком сложно и запутано?
Спасибо за отзыв
А вообще, если честно, задумка была чтобы у героев была точка роста.
Если быть точнее, то он сам отрекся от престола.
Спасибо за отзыв
Вообще-то в Китае до сих пор правит коммунистическая партия.
Просто есть порядок вещей который работает
Я бы поспорил. Для начала, что значит "работает"? И, самое главное, на кого "работает"? Кому приносит пользу капитализм? Работягам, трудящимся за миску супа, или горстке финансовых воротил?
а есть который жрет жизни как в топку
А капитализм не жрет жизни? Финкап, конечно, не устраивает кровопролитных войн? При капитализме, конечно же, не бывает кризисов и великих депрессий? И, конечно, во время великой депрессий никто не выбрасывал продукты, в то время, когда люди гибли от голода?
а не работает все равно
Тоже весьма спорно. Сталин принял страну с сохой, а оставил с атомной бомбой. А Ельцин, адепт капитализма, принял страну с атомной бомбой, а оставил с сохой. А еще при Сталине каждую весну цены снижались, а сейчас только растут.
В Китае строят коммунизм. И Китай лучше нас живет.
Ну и зеркалка. Там где бы не строили капитализм не обошлось без многочисленных жертв: кто с голоду умер, кого бандиты убили. Так было и во время перехода от феодализма к капитализму, так было и в 90-е, когда Россия вернулась назад в капитализм. Да и сам капитализм сколько людей сгубил. Одна только великая депрессия в США чего стоит.
Вот забавно. Почему-то никто не вспоминает про репрессии Ивана Грозного, например. А он так-то много людей сгубил.
Спасибо за отзыв
:)
Спасибо за отзыв
Спасибо за отзыв
Это называется несколько сюжетных линий. Обычно в дальнейшем они пересекаются.
Комментарий был удален автором. Причина: Спам.
Добрый день. А мою книгу можно добавить в подборку?
Это не большевики. Это совсем другая организация.
Вообще-то в статье идет речь об организации "народная воля"
О каком именно покушении вы говорите, их довольно много было в истории.
А при чем тут "покушение на царя"?
Какая подрывная деятельность, вы о чем вообще говорите???
Разруха была причиной неудачного правления Николая-II
Для начала. В те времена в стране был бардак и разруха. Как таковой центральной власти можно сказать и не было. Точнее, было нечто подобие власти... Было временное правительство, которое как власть было не состоятельно.
У вас слишком узкое понимание того, что произошло в 1917-ом. Учите историю.
:)
Рад, что вам понравилось.
Написал комментарий к произведению Квантовый переход. Книга первая. Техническая сингулярность
А откуда, по вашему, должна взяться конкретика, если сильный ИИ пока еще не создали? А что касается рисков, то их в любом случае разумно рассмотреть и, по возможности, минимизировать до того, как сильный ИИ будет изобретен, а не тогда, когда "терминатор будет убивать всех человеков".