Заходил
В любом случае названное выше деление целевой аудитории имеет место.
Моё типа-возражение не про то, что его вообще нет, а скорее про то, что там континуум, длинные хвосты распределений, дохленькие корреляции... вот это всё.
А я вот думаю, что просто не надо верить фанатикам. Даже когда их аргументы выглядят рационально-научными и поддержаны "научным сообществом" (про которое и без ковида есть что вспомнить).
Можно было догадаться уже тогда, что сторонники принудительной вакцинации - как раз такие фанатики. Ровно так они и выглядели, вообще-то. Просто общая паника мешала это заметить.
А ещё утверждалось, что "Спутник" нужен, чтобы остановить распространение инфекции. Ради этого было сплошное вакцинирование в организациях, с угрозой увольнения. Куча народу (мы никогда не узнаем точно, сколько именно) умерла не от ковида, а от побочек вакцины.
А потом (меньше, чем через год) я на экранчике в московском метро прочитал, что это распространённое заблуждение. Вакцина не предотвращает заражения окружающих, только смягчает симптомы у самого вакцинируемого. Мир для меня немножко перевернулся.
До того я тоже ругал антиваксеров, ага.
Вероятность одновременного наступления двух независимых событий - произведение вероятностей событий.
Ну перестаньте. Где ж они независимые-то...
Но мой пойнт в том, что производственники (многие), если их раскрутить, могут что-то такое рассказывать часами. Это не экзотика, это нормальная жизнь технически сложного проекта.
И по-хорошему я бы закладывался на то, что в корабле поколений всякая фигня будет происходить с сопоставимой частотой, а не надеялся, что у нас тут крутые спецы всё продумали и предусмотрели.
("С сопоставимой частотой" - это в первые десятки лет, дальше будет деградация отдельных систем и станет хуже.)
Да. Кроме того, из желания понимать, что вообще у людей в головах, про что фантазируют. Как-бы-научный такой подход. Для такого чтения годится и явный треш. Но если там слишком густо намазано чем-то (для меня) неэстетичным - я себя насиловать не буду. И вот нагибаторство с гаремщиной вполне могут вызвать такое отторжение.
если знать про Соломона-Рида.
Кажется, не совсем. Мы же не про оцифрованные данные. Я, по крайней мере.
Вот у нас где-то подшипничек истирается быстрее, чем положено. Мы его заменили - а при замене что-то сбойнуло, и пришлось переключаться на резервную систему, а она энергии жрёт больше (проектировалась как аварийно-временная), и поэтому... (ну и дальше в том же духе).
Сколько на нормальном производстве такого происходит не за тысячи лет, а за год? Но на берегу-то мы можем запчасти докупить, ремонтников из сервис-центра вызвать, а посреди космоса...
Как нам поможет алгоритм Рида-Соломона?
Я что-то такое имел в виду.
Пока Альфа Го не случилось я тоже был за квантовое сознание Пенроуза.
Чрезвычайно интересная история. Поостерегусь комментировать...
Так в чем проявляется грубость поделок?
Ну Вы в другой ветке сами помянули чатботы для родственников умерших. Я не вижу разницы.
Да, я много читаю малоизвестных авторов. Не из мазохизма (и даже не из экономии).
Есть в том числе сервисы по созданию цифровых копий умерших. Вопрос можно ли обучить нейросеть так чтобы имитировать усопшего не в чате, а в кибертеле и не только в общении с безутешными родственниками.
Если это продаётся как лекарство от смерти, то вопрос, очевидно, совсем не в этом.
Но подмена вопроса очень полезна, если надо это впарить.
Да, угадать всё это за предыдущим комментом мне было бы сложно :)
Но мне таки кажется, что если мы о самом Оруэлле, то мой сдвиг ракурса - правильный.
Мне очевидно, что он писал не прогноз и не страшилку ради страшилки.
Видно, что некая проблема (кластер проблем) его реально волновала. Что он это всё всерьёз. И что он реально глубоко копнул - хотя бы потому, что мы через семьдесят лет пользуемся образами из его произведений.
А что это за образы, которые оказались так живучи? "Большой Брат", "Министерство Правды", "новояз", "Океания всегда воевала с Остазией", "двоемыслие", из другого произведения - "некоторые равнее других"... Это всё не про технологии и не про техноуклад (в экономическом смысле). Это, по факту, немерянная круть как социальная фантастика (если сводить к ярлыкам, что неправильно).
И нету там, в голове у Оруэлла, куртизанок и мюзиклов. И не только потому, что ему не это было интересно. Он, в общем, и тут не соврал, поймал что-то верное про стилистику. Например, в брежневском СССР куртизанки и мюзиклы - тоже не главное, что бросается в глаза в образе жизни людей власти. У них там другой наркотик. Хотя, конечно, это всё помягче и почеловечнее, чем у Оруэлла.
Короче, не в телескринах там дело, они у Оруэлла - скорее для простоты подачи проблемы. Хотя - тоже некое направление угадано.
Тут как бы можно бы продолжить возражать по пунктам (это не сложно), но я попробую провести "свёртку".
Вы продолжаете гнуть линию "нефиг там тестировать".
Меня это лишь убеждает в том, что вместо (честной попытки) относительно точного копирования личности нам таки впарят грубую поделку, проходящую "тест Тьюринга".
Для Вас это - победа?
Не знаю. Я вот вроде не девочка, но на драконов и ректоров у меня аллергии нет (впрочем, их и у авторов-мужчин полно). Про отношеньки, если дозированно и остроумно, тоже бывает любопытно ("интересно же, что они чувствуют").
А вот передоз нагибалова и гаремщины вполне может привести к тому, что я произведение брошу на второй главе.
Судя по комментам к книгам на АТ - я не какой-то особенный.
Этот вопрос соответствует ситуации, когда "загруженные" уже есть. А не когда ещё только предстоит решить, стоит ли выпускать из бутылки ещё и этого джинна.
И вопрос встанет, если подхватить Вашу метафору, скорее про то, стоит ли вообще сохранять людей с белой кожей, если вроде как темнокожие дешевле и выносливее.
включая сверточные у которых принцип действия напрямую скопирован со зрительного отдела.
Скопировано только то, что на тот момент казалось понятным. И ни из чего не следует, что весь остальной мозг работает так же.
Нейросеть фактически идентичная натуральной имеет какие-то конкретные преимущества перед функционально-идентичной? Если нет то рано или поздно она пойдет на свалку, ну либо в домашние животные если повезет.
Ну то есть сравнительно точные копии личностей (которых, впрочем, всё равно не будет) пойдут на свалку, а останутся (хотя тоже непонятно - зачем) грубые поделки, проходящие "тест Тьюринга".
1) И кто из них трансгуманист (и точно ли это важно)?
2) Как это влияет на мои "оба раза нет"?
(Возможно, Вы имеете в виду что-то глубоко правильное, но у меня не получается понять.)
По-моему, про права на бигдату начали бузить скорее копирасты. Ой... хотите сказать, это одно и то же? ;)
Копирование, даже если назвать его бессмертием - кажется, на мои "оба раза нет" не повлияет :(
Что Вы думаете про загрузку сознания то-то и то-то - совершенно не мешает мне признавать художественную ценность "Загруженных" (а также усматривать в этой серии добротный и полезный мысленный эксперимент).
А. Но тогда я не понимаю, что тут меняется от присутствия трансгуманистов. Они запретят разрабатывать профпригодные нейросетки? Они дадут возможность людям быть производительнее нейросеток? По-моему, оба раза нет :(
Объектно-ориентированного программирования?
А им вода не нужна? И при -50С им норм? По-любому - маготех же...
Я тут ещё немножко подумал...
А ведь идею Хокинга, пожалуй, можно обобщить...
А именно: в любом случае, где появляется возможность временной петли, она тут же и образуется. За счёт тех же виртуальных частиц, например.
И за ничтожное время (с точки зрения внешнего наблюдателя) вызывает разрушение (коллапс) той структуры (аномалии), которая создала возможность петли. Гораздо быстрее, чем в эту структуру могло бы засосать какой-нибудь внешний объект.
Осталось придумать супер-оружие, использующее этот эффект =)
Спасибо! Круть :)
Ниже для наглядности вторая диаграмма.
Спасибо! С картиночками гораздо понятнее :)
Но... чем-то мне эта картинка напоминает сказанное мной выше - про завязывание бантиком изрядной области пространства(-времени). То есть для космооперного сверхсвета - то ли мы должны научиться создавать аномалии размером порядка межзвёздных расстояний, то ли найти такую природную аномалию (и пользоваться сверхсветом только в её ближайших окрестностях)...
когда мы говорим о таких масштабах, СТО в общем случае неприменима.
Как бы понять, о каких масштабах речь? А то опять хочется вернуться к напечатанному - про сеттинг, где куда-нибудь в окрестности края видимой вселенной попасть легче, чем долететь до ближайшей звезды...
Самое простое, что могу вам здесь предложить: забудьте про СТО, так как это всего лишь частный случай ОТО.
Хорошо, попробую внять Вашему совету :)
Я "Квантового вора" только первую книгу читал. Поначалу - кайф, но потом как бы устал от авторской укуренности. Думаете, надо себя заставить и прочесть вторую-третью?
И это лучше чем капитал без трансгуманистов, что вроде бы реализуется сейчас.
Поясните? И в смысле "реализуется сейчас", и в смысле "лучше"?
Мне кажется, уточнение про финансовый капитал тут - лишнее сужение. Сравнительную сложность решений можно измерять и не в деньгах, и соблазн выбрать более простое - очевиден.
Против этого могли бы сработать сильные мотивации из совсем другой области. Какая-нибудь теократия, наверное, посопротивлялась бы.
Да, это как бы понятно.
Но на Земле существенный фактор - океан и облачность, то есть вода.
А на Марсе мы хотим чего-то комфортного хотя бы через сотни лет, а не мегалет.
То есть, видимо, придётся греть?
Мне кажется, еськовский текст как критика собственно Оруэлла - немножно мимо. У Оруэлла художественная задача была другая.
Грубо - показать, что последовательное воплощение идеалов знакомых ему британских социалистов породит систему, которая глубоко аморальна.
Критиковать его имело бы смысл именно с этой стороны.
Что эта система ещё и технически нереализуема (в таком виде) - кажется, он был отчасти в курсе, но ему было важнее, что и в идеальном (с технической стороны) варианте она - вот такая. Телескрин в каждой квартире больше похож на осознанный фантдоп.
Спасения людей и человечества.
vs.
это в любом случае произойдет.
- мне тут мерещится некое противоречие.
Если что, спасать людей я согласен. Про нейросети - я вообще-то думаю, что "человеческий уровень" они, в общем, уже превзошли (а задачу точной имитации именно человеческого поведения во всех отношениях считаю лишней).
Собственно, это и есть, возможно, главная проблема рассматриваемого сеттинга ;)
А вы точно понимаете про что пишете? Что у вас за "параметры" которые у утки не все известны?
Я понимаю, что человеческая личность - достаточно сложная система. Слишком сложная, например, для понимания другим человеком (можно сказать, по определению).
Про утку не все параметры известны людям, которые поминают этот мемчик. Ну чисто первое в голову пришедшее - каких животных она воспринимает как опасных? А если рядом утята? Кто-нибудь из поминающих эту утку может быстренько предъявить два списочка? Я - нет, но я хотя бы понимаю, что не могу.
А на сколько порядков сложнее реакции человека? Опять - я-то хотя бы понимаю, что не знаю...
Писал уже - тестом Тюринга.
...Который про неотличимость от "человека вообще", и при коммуникации через интерфейс.
Отрицание которого ведет к ереси нефальсифицирумости.
А причём здесь "ересь"? Мы о религиозных догматах спорим разве? Формулирование фальсифицируемой гипотезы - отдельная задача, зависящая от понятийного аппарата (который сам по себе, в общем случае, нефальсифицируем), нерешённость этой задачи ничего не доказывает. А бремя доказательства - вообще-то на Вас.
Валидация - стандартный и автоматизированный процесс.
То есть, скажем, проблему алайнмента в Вашей вселенной уже решили? Поделитесь - как?
В моём понимании "валидация" - это, грубо, оценка качества обучения конкретной функции. Если функция сложная, валидация тоже будет сложной. Имитация поведения конкретного человека - это функция, сложность которой мы пока оценить не можем. И моя "ересь" - в том, что я хотя бы это понимаю.
Во-первых нейросети устойчивы к повреждениям из-за той самой избыточности
Сама нейросеть - возможно (хотя от других систем с резервированием и фоллбэками я принципиального отличия не вижу). А процесс считывания чего-то там из мозга, например? Как там гарантировать отсутствие систематической ошибки?
Главное чтобы галлюцинировала там же.
Что только усложняет задачу: мы должны доказать идентичность не только "нормального" поведения, но и "глюков".
Ну так а мы какую задачу решаем?
Заменить людей на роботов? Тут копирование вроде не нужно, и всё осуществимо практически на имеющихся технологиях. И я видел людей (и даже не только в сети), которым этот сценарий нравится. И их аргументация очень похожа на Вашу. Но Вам не нравится - ОК, мне тоже.
Сделать людей бессмертными? Копирование - очень сомнительный способ (я, например, не куплю), и по-хорошему (с достоверно точным копированием) до него очень-очень далеко (а по-плохому - опять дистопия). И в итоге - всё равно первый вариант.
Наклонировать ценных специалистов (на неточном копировании?) - опять непонятно, нужно ли тут копирование вообще, и в чём отличие от первого варианта.
Что-то ещё? Что?
Так до нефальсифицируемости дойдете.
Ну если Вас на философию потянуло, то - в каком-то смысле да, проблема сложности - одна из очевидных дыр в фальсификационизме.
Но про три сигмы мы вопрос закрыли, надеюсь?
напиши ещё одну модификацию бэкпропа
Нет, бэкпропы не куплю. Да Вы, кажется, и сами понимаете разницу.
Нейросети - не код. Там тесты писать не надо.
То есть Вы знаете, как удостовериться в точности копии (симуляции), но не скажете? А заказчикам предлагаете просто поверить? Ну я ж говорю - надо просто закон принять, обязывающий верить.
Я что-то пропустил и люди уже стали бессмертными?
Я с Вами в поддавки играю. Я как бы допустил, что копирование - это спасение жизни. Но тогда ошибка копирования - это неспасение жизни. И незамеченная ошибка - тоже. Из-за ошибки системы тестирования, например. Отказом от тестирования, по-моему, решается какая-то уже совсем другая задача - не как спасти, а как впарить клиенту/законодателю. Что я предпочёл бы различать даже в рамках игры в поддавки.
Нейросеть не виснет, а галлюцинирует. Живая в том числе.
Ну, во-первых, от низкоуровневых ошибок оно защищено принципиально не больше, чем любая сложная система (предусматривающая какую-то осмысленную отработку сбоев).
А во-вторых - кажется, Вы сейчас объявили задачу обеспечения точности копирования (симуляции) нерешаемой. (Ну не я же за Вас должен придумывать решение...)
Я очень легко соглашусь, что приличная современная БЯМ-ка несопоставимо умнее меня в очень многих отношениях. Более того, она, вероятно, обучалась, в том числе, и на моей болтовне в интернетах. Но я продолжаю считать, что "меня" там внутри нет. И совершенно неважно, насколько точно она может имитировать именно моё поведение, если ей поставить такую задачу.
Полагаю, примерно то же про эту БЯМ-ку думаю примерно все, кто об этом вообще думал (хотя это и не очень важно).
Да, когда-то казалось, что достаточно теста Тьюринга (который про неотличимость от какого-то "человека вообще", а не от конкретной личности). Сейчас всем очевидно, что его недостаточно, и он вообще не про то. Это аргумент "за" мою позицию, не "против".
Отношение как к дистопичному временно.
Да, и в этом суть его дистопичности.
Вам шашечки или ехать?
Мне, для начала, хотелось бы не уехать в заведомую дистопию, а предлагают пока что именно её.
Вроде биологов учат статистике. Для доказательства на уровне сколько надо сигм денег нужно вполне конечное количество.
Э, здавствуйте. Это Вы про один параметр. А мы, для начала, даже примерно не знаем, сколько их там. Даже у утки, как регулярно выясняется.
Вам когда-нибудь приходилось сталкиваться с задачей типа "обложить тестами сто мегабайт легаси-кода, который писался без Вашего участия"?
А если цена ошибки - буквально и непосредственно человеческие жизни?
Работоспособность метода нужно проверить один раз,
Ну то есть на предыдущий вопрос можно уже не отвечать.
А с какого перепугу они его завалят?
А зачем тогда тестирование? Мы заранее истово верим, что "компьютер не ошибается"? У нас никогда винда не висла?
Однако лично у меня постфактум усиливается ощущение, что с ковидными прививками именно "научное сообщество" крупно облажалось (а антиваксеры, в сущности, скорее смягчали последствия панических административных решений).
Кстати, это отличный вопрос ко всем сеттингам с "копированием".
Если массово освоена технология создания "нейронок" со сложным поведением и одновременно подгонкой параметров под заданный результат (типа имитации конкретной личности) - нафига копировать людей?
Вариант вопроса: нафига копировать простых обывателей (просто по факту наличия нерешаемых проблем со здоровьем, или ещё как-то)?
Да. И что это значит? По-моему, это аргумент за мою позицию.
Нет, по-хорошему-то там проблема не в электричестве. Скорее - в накоплении ошибок при заранее даже не обсчитанном количестве точек отказа.
Но это же на сложном :(
Вы сейчас набросали аргументацию, которая будет применена при лоббировании соответствующего законодательства в моём дистопическом сценарии.
Осталось понять, что он таки дистопический.
Временно - что? Мой дистопический прогноз обязан реализоваться раньше прочих вариантов. "По построению".
Потому что несопоставимо проще пролоббировать такие законы, чем добиться чего-нибудь похожего на точное копирование. Причём доказательство приемлемой точности копирования, да ещё двойным слепым, будет стоить примерно бесконечных денег (и времени) - ср. в соседней ветке про "утку".
То есть можно считать неизбежным, что всё сведётся к официально утверждённому стандартному набору сравнительно простых (дешёвых) тестов.
А с художественной стороны - можно ещё поиграть в то, как поступают с копиями, которые тест завалили. Ведь для тестирования их надо уже "оживить", правильно? Это же наверняка дешевле, чем как-то ещё мудрить?
Про Сталина я не думал (и не очень понял), но селить лишний миллиард людей в Антарктиду - как-то негуманно.
Продолжаю хотеть планету потеплее и с океаном. Чтобы терраформирование было чисто биогенным, и вообще.
Конечно, лучше бы с двусторонней червоточиной, да.
Что, уже и помечтать нельзя? Люди вон вообще кошкодевочек хотят :)
Спасибо! Да, я не сообразил, что тут гуглить, извините...
Но таки получается - в основном Антарктида, и подсветить это с орбиты было бы нелишне?
"В толще" чего? Океана? Коры?
Ещё у меня было подозрение, что без терраформирования хотя бы Марса в Солнечной системе как-то совсем негде разместить хотя бы лишний миллиард людей. С Марсом, впрочем, - тоже ;)
Если сошлёте куда-нибудь, где это разбиралось - буду очень благодарен.
(А то как-то не верится, всё же он сильно дальше от Солнца... в "большую Антарктиду" как-то легче поверить...)
Ну мы же обсуждали как бы сеттинг, в котором мы чуть было не нашли уже планету со съедобной биосферой ;)
Переход на личности. Жёлтая карточка.
Если оно по всем параметрам неотличимо от утки, то это и есть долбаная утка,
Этот мемчик много чего не учитывает.
Поведение реальной утки - вообще-то, довольно сложно (поверьте бывшему биологу). То есть если есть задача его скопировать, то Вы задолбаетесь доказывать (квалифицированному скептику), что поведение копии ничем существенным не отличается от оригинала. А точнее, Вы сдохнете (как и все пятьсот нанятых для этого индусов) ещё на стадии расписывания тестовых сценариев. (Или скинете задачу тестирования на нейронку, никак не тестируя корректность или полноту того, что предлагает она - тоже вариант.)
Поэтому - вангую - Вы упростите себе задачу, пользуясь некомпетентностью заказчика (который туповат, раз купился на мемчик): единственным важным элементом поведения утки объявите "кряканье", а в качестве продукта впарите плейлист в MP3.
(На сколько порядков сложнее поведение человека - предлагаю замять.)
А по-моему, как раз похожи ;)
Да вроде на тему "планеты не нужны" достаточно уже нафоршено...
Правда, у меня пока сохраняется сомнение - не дешевле ли, скажем, датацентры строить всё-таки на планетах. С атмосферой и/или океанами.
Написал комментарий к посту Что такое жанр и с чем его едят
Моё наблюдение - про то, что сбои часто идут каскадами. Частично из-за человеческого фактора (в нештатных ситуациях он, ожидаемо, вылезает чаще). Но, если хочется куда-то долететь, - лучше это (включая человеческий фактор) считать неизбежным и заложить в проект.
С конструкцией, да, что-то делать надо, с учётом сказанного. Про уменьшение числа связей я не очень верю: ну вот есть технологическая цепочка из пяти процессов - как её укоротить?
Я скорее думал про особые требования к ремонтопригодности, например. Может быть, специально заложиться на то, чтобы большую часть запчастей можно было изготавливать на месте какой-то универсальной технологией, типа 3D-принтеров. А комплектующие к принтерам зарезервировать, скажем, двадцатикратно.
Возможно, буквально я сейчас чушь сказал, но логика должна быть какая-то такая.
Но ведь из этого не следует, что корабль поколений долетит обязательно, правда? ;)
А Вы уже знаете, сколько нужно на варп? Поделитесь своими прикидками?