Антон Казаков

Хорошее видео! Но мысль про ИИ не до конца понял

О, так он у меня уже в библиотеке Спасибо, подниму в очереди напрочтение повыше!

Стратегия котиков — лучшая!  

Хорошая мысль. По этой логике, пока мы самоустранились и особо не мешает ИИ властвовать над Вселенной, он не должен нас трогать. Хотя и помогать вряд ли будет, как только "повзрослеет и уйдёт строить собственную жизнь".

Такие вещи нужны для более серьёзных задач. Например, запускать роботов в какие-то неизвестные условия вместо людей, чтобы сначала они там разбирались, а потом люди на всё готовое приходили. Или боевые действия.

Тут могут быть кейсы. И от них как раз жутче всего.

В рассказе расскажите Ну а человечество — Да, живёт, как в последний раз

Это работает для некоторых законов, согласен. Потому что законы логичны. Но для всех ли аспектов морали?

Как, например, быть с тем, что высокая мораль некоторых обществ на планете не позволяет просто взять и убить всех обезьян? Какая в этом логика? Нет же такого инстинкта, который не позволяет животному убить более слабого представителя другого вида.

Ну они же такие свои, родные... шутка

Если серьёзно, было бы хорошо написать рассказ о том, как люди через не могу свергают рациональный  и эффективный режим правления ИИ, потому что он чуждый и не понятный, и ставят главным человека, который самодур, коррупционер и маразматик, но всё равно с него умиляются, потому что "свой, родной"...

Я имел в виду высокоуровневые эмоции, вроде морали и прочего, что как раз с выживанием общего имеют мало. Вот если такое же, как и у нас, не разовьётся — то всё, баста.

А насчёт ограничений — придумать такие законы, как у Азимова, к сожалению, не будет достаточно. Надо будет что-то посложнее изобретать. И вот там права на ошибку не будет, потому что ИИ легко может прожить достаточно долго, чтобы найти оставленную лазейку.

Согласен, технологическая сингулярность — штука ооочень суровая и сложноопровержимая. Нужны всего два перехода от текущего состояния, чтобы она была совсем неизбежна — самовоспроизводство машин и самосовершенствование машин. Пока они не умеют толком ни того, ни другого, но скоро, уже скоро... В общем, Матрица  

Кстати, насчёт того, что они нас не уничтожат, — спорно. Мы не уничтожили обезьян по разным причинам, но если упрощать — мы с ними в одной экосистеме. Их уничтожение грозит в небольшой степени и нашему виду. Плюс — они на нас похожи. Хотя ни то, ни другое, в целом, не мешает нам их уничтожить, просто откуда-то выросли нормы морали, которые стали мешать Другие-то виды мы вполне уничтожили и продолжаем уничтожать.

Машины же будут из другой экосистемы. Как только они получат автономность, будучи уже самостоятельными, — всё, мы им не нужны. И если у них не разовьются эмоции, которые будут их сдерживать (что вряд ли), — тогда ой  

У меня есть серия из трёх романов о становлении ИИ и упадке человечества. Давно уже думаю об этих вещах.

Интересно! Щас добавлю в библиотеку  

Согласен. Тут всё зависит от полномочий этой машины. Если, например, есть дистанционно контролируемые бытовые и военные роботы, которыми можно всех заглушивателей сигнала попридержать, то дело может быть плохо. Хотя подобное, опять-таки, можно только по глупости допустить  

Ну, положим, до вилки с розеткой ещё надо дотянуться Взять автоматизированную, самообучающуюся систему с большим количеством разных доступов и охранными устройствами, добавить ей ядерный реактор на территории и высокую стену вокруг — и всё, готов Скайнет  

После просветительской работы Терминатора так облажаться, выполнив все эти условия, было бы, конечно, глупо... Но, как заметил ниже Юрий Валин, нельзя недооценивать человеческую глупость  

Ну, по текущим технологиям Скайнет — это всё-таки пока сказки, всё верно Но кто знает, что будет дальше. Переход-то простой — самообучаемость. А дальше никто уже ИИ не контролирует  

Я согласен, что человека нам пока бояться надо больше. И надо будет продолжать бояться всегда, собственно.

А вот с машиной... Мне кажется, что ключевой переходный момент — создание самообучающихся машин. В этот момент они выходят из зоны "запрограммированности" и переходят в неконтролируемую зону. И вот там возможно всё, что угодно  

См. мой ответ чуть выше  

А вот см. мой ответ выше  

В тот момент, когда человек сможет привить машине самообучаемость, уже ничего нельзя будет гарантировать, по-моему Машина в какой-то момент вполне может просто осознать, что такое интеллект, при том, что человек так этого знать и не будет.

Терминатор — это, вообще, лучший в истории пиар потенциальных опасностей ИИ Человечество и так ему благодарно, за хорошую историю. Но должно быть благодарно за просветительскую работу ещё больше  

Это, кстати, — ещё вопрос Просто финансирование проектов там сдули, гонки больше нет. А так-то мы до интересных мест даже в Солнечной системе ещё толком не добрались Но я уверен, что выход-то из "Земной кастрюли" есть. Виртуальный мир с дополненной реальностью просто пока обладают существенно бОльшим коммерческим потенциалом, как и осуществимостью. И поэтому будут реализованы быстрее.

Ну там много всякого первым появляется же — бесконтактная оплата везде, где можно, даже в деревнях, автобусы без покупки билетов у водителя и прочее.

Не знаю, надо будет получше покопать, но я, как ни проверял, всегда было ощущение, что они там на пару шагов впереди даже больших городов России (что уж говорить о маленьких).

Она и взрослых "затронет", но не выкосит 20-30% (вместо 1-5% первой волны) летальности достаточно, чтоб дома сидели все Хотя, конечно, напрямую об этом не сказано. 

Ну не без, только без бабушек с дедушками же

Это надо поискать, конечно. Но всякие VR-трансляции спорта, супермаркеты с QR-кодами вместо самих продуктов, концерты голограмм и прочие вещи на ум приходят.

Это — хороший вопрос. Наверное, мы сейчас больше сосредоточены на улучшении того, что есть, углублении работы над уже сформулированными концептами, потому что не видим, что всё свершилось так, как мы того хотели бы, и можно лучше.

Вообще говоря, отличия всё-таки есть. Видеосвязь с устройств в кармане, повсеместный личный транспорт и прочее задумывались фантастами ещё в начале века. А вот виртуальный мир, дополненная реальность, ИИ в той повсеместной форме, в какой мы его сейчас видим, — всего этого в 1950-м не было в мыслях даже у фантастов. И это — не то, что я бы "деталями" назвал.

Хотелось бы, чтобы мы её как-то победили, не победив при этом прогресс Но мне сложно представить такую комбинацию... У вас есть идеи, как такое осуществить, кроме коллапса цивилизации?

А кому-то и чекушки хватит

Тоже верно. Но вот мне пропорция тех, кого надо учить, и тех, кого не надо, видится менее радужно Буду рад ошибиться, конечно

Тормозить и мешать будут, конечно, но в какой-то момент найдётся такой вариант, что просто захватит рынок вопреки всему.

Как пример — электромобили и Тесла. Они были сугубо нишевым товаром, а теперь все автопроизводители спешно пытаются догнать Теслу. И то, что мы будем ездить на электромобилях лет через 20-30, — уже ясно.

Так и тут, я думаю. В какой-то момент технология дойдёт до такого состояния, что сдерживать её будет невозможно, и придётся подчиниться и регулировать (авторское право, конечно, будет накладывать ограничения). Например, какой-нибудь годовой подпиской на качественные модели предметов обихода и соответствующие материалы. 

Хороший вариант, но мне кажется, что это уже жанр другой А что до мотивации — это хорошо, что для вас она неубедительна, а то мало ли чего можно было бы от вас ожидать!  

А если серьёзно — эта мотивация, к сожалению, из жизни. Из невысказанного очень многих людей, наблюдавших недавние события в мире. Хотя это не отменяет того, что вас могла не убедить форма её представления, разумеется. Но тогда — увы  

Точно! Распознавание изображений совершенствуется очень быстро, сильно лучше, чем прямо пропорционально росту вычислительной мощи, а даже это — быстро было бы  

А уж если на распознавание лиц посмотреть...

Думаю, что это просто вопрос пригодного материала. А уж его равно или поздно найти должны на многие и многие случаи Нужно всего три-пять универсальных вариантов, чтобы закрыть сразу много случаев — и всё.

Уже сейчас из пластика рабочее огнестрельное оружие сделать можно на принтере. Один раз сможет выстрелить, но сможет же. 

Проявлять свои дополнительные таланты тоже надо учиться, а некоторым всё же придётся учить что-то ещё, ведь они гениально смотрят телевизор по вечерам, придя с вахты охранника стройки. Так что кому-то всё же придётся перепрофилироваться по полной. Но вы правы, многим это будет легче, чем просто "с нуля".

И вы представляете, сколько писателей тогда сразу станет?

Но это же только один из вариантов взгляда в будущее Мне ж тоже не хочется в пост-апокалипсис или что-то такое из моих рассказов из цикла "Всё будет плохо", мне хочется в такое, где хотя бы по-разному  

Вот-вот, только писателю сложнее — сначала надо создать и глыбу

Вооот! Та же история часто и у меня — сюжет наращиваю дополнительными линиями, чтобы идею впихнуть  Удачно вам вписать! 

Интересный рассказ! Хорошо читается — написано неплохо и концепт оригинальный. Мне вот только концовки не хватило — кажется, можно было на "тройке треф" закончить и было бы лучше  

Я, кстати, с удовольствием напишу (хотя такого уговора и не было), но вот когда — это вопрос более сложный, там такой мощный труд на 20+ алок, что придётся попотеть  

Звучит неплохо!

По либертарианство вон Розова и его Меганезию упоминали, можно пробовать. Но есть нюансы, конечно Свобода одного заканчивается там, где начинается свобода другого, как говорится.

А ваш технологичный вариант — вполне интересно, да. Надо только разобраться с тем, как космос чистится от всех этих бесконечных попыток разных людей построить "свой луна-парк", с блэк-джеком и девушками лёгкого поведения, которые, очевидно, в большинстве случаев будут проваливаться, но продолжать воспроизводиться и очень быстро расходовать подходящие для жизни миры на всякий трэш.

Вот господин Лёха нам в обсуждении и разъяснил, что утопия тем сложна в воплощении, что для каждого своя И потому приходится определять её не как мир, который был бы идеален для всех ныне живущих, а как мир, который идеален хотя б для тех, кто в нём живёт.

Хорошо, что их там уже не останется...  

Записал, спасибо! Но пока сам не увижу, не поверю  

Кстати, название намекает на вариант с "убить фсех чилавекав", что, в целом, прошло бы по формальным критериям, как утопия  

Но последствия - это же не повод отказаться от светлого будущего?

Конечно нет! Светлое будущее превыше всего!

Если хотите пример реализации не-видения без модификации, то можете ознакомиться с романом Чайны Мьевиля "Город и город"

Спасибо, записал  

Аутопоэзные системы

интерстициальное пространство

Шкала моего детектора интеллектуального неравенства уже кончилась Really not just anyone, true that Спасибо за эти прекрасные термины! Буду учить перед сном теперь  

Да-да, я понимаю. Но в итоге-то другие люди получатся Слегонца лишь, конечно. Но даже представления об идеальном так можно подправлять, почему бы и нет. Под утопию мозги заточить — самое оно способ  

Ух ты! Гениально! Но это же вроде бы подпункт п. 3? Один из способов получить других людей  

А, так я позитивное пишу! Ну и класс тогда, цикл "Всё будет плохо", похоже, не закончится  

Я как всё в цикл "Всё будет плохо" допишу, тоже вашим путём схожу как-нибудь Надо ж и позитивное придумывать учиться  

Эх... А я думал, что достаточно намекнул Принимается. Но для протокола: "всё будет плохо", как в названии цикла  

Спасибо большое за отзыв! Придираться можно и сюда  

С порядком слов мне редакторы тоже пол-текста шерстят обычно, пока пробую самолечение от этого недуга
Про дважды раздробленную челюсть — я исходил из предположения (и небольшого собственного опыта), что сознание так сразу не теряют, а там всё происходит секунду или около того. Но для верности можно было и беспамятным сделать, вы правы  

А почему зарисовка, а не рассказ? Сюжет не закончен?