Написал комментарий к посту Принципиальная неустойчивость ИИ при управлении по KPI
> В бытовой сети 0,4 кВ глухозаземлённая нейтраль
Посмотрел. Да, всё верно. Почему-то я думал, что если есть нулевой провод - то это какая-то другая нейтраль.
Заходил
> В бытовой сети 0,4 кВ глухозаземлённая нейтраль
Посмотрел. Да, всё верно. Почему-то я думал, что если есть нулевой провод - то это какая-то другая нейтраль.
> Все физические процессы можно представить системой уравнений
Вы сильно заблуждаетесь. Попробуйте представить себе эффект наблюдателя в квантовой механике системой уравнений.
Да и даже если представите, например, в хорошо известной гидродинамике. И что?
Решить вы их не сможете.
> И устойчивый механизм будет иметь "устойчивую" систему уравнений, т.е. все её решения (в ограниченном диапазоне переменных) будут давать удовлетворяющий нас результат
Вы не понимаете, что такое устойчивость. Они могут давать любой результат.
Важно лишь то, как влияет малое отклонение.
В устойчивой системе малое отклонение исходных условий влечёт за собой малое отклонение результата.
В неустойчивой системе малое отклонение исходных условий может влечь за собой бесконечно большие отклонения решений систем уравнений.
> Я считаю, подобную "устойчивую" систему (с заданными ограничениями) можно задать и для ИИ
Вот вы основной идеи не понимаете. Вы не можете описать мир уравнениями. Там, где можете описать и решить их - там, скорее всего, ИИ нормально отработает.
> потому что от неустойчивых мы отказались, либо усилили над ними контроль.
Усилив контроль мы ничего не добиваемся. Мы должны научиться ими управлять. А чтобы это сделать, нам нужно будет рисковать всем человечеством. Не столько нужно, сколько человечество, по дурной привычке, будет это делать.
> Если бы все были раздолбаями, не было у нас цивилизации
В этом и смысл неустойчивости. Устойчивая система не уходит в разнос от одного раздолбая. А вот неустойчивой достаточной одной ошибки. Неустойчивой системе достаточно самого малого отклонения, самой мелкой ошибки - и всё. Мы приехали.
> делаем глухозаземлённую нейтраль для безопасности
Там не глухозаземлённая нейтраль.
> 6-35 кВ делаем изолированную нейтраль, чтобы при обрыве одной фазы не было КЗ и потребитель получал питание по двум оставшимся фазам
А вот теперь вопрос: сколько людей погибло от этого решения?
Ответ: так много, что от этого решения отказались.
Что если такую же ошибку совершат разработчики ИИ?
А ничего. Ничего не останется на планете.
> в работу ведут более ответственные люди, более жесткие требования и этим приходится считаться
Вы опять не понимаете. Мы идём по кругу в пятый раз. Или в шестой.
Дело не в жёсткости требований. Дело в том, что все люди ошибаются. Если для электросетей одна ошибка может стоить кому-то жизни, а может и просто обойтись, то для ИИ любая ошибка будет фатальна. Любой отказ может привести к выходу ИИ на разрушительные режимы.
Какие бы не были строгие требования, какие бы не были серьёзные люди, время от времени они делают ошибки. И в этот момент времени ИИ, от одной этой ошибки, может уничтожить всё, к чему подключён.
> Вишня и Лошадь следствия разгильдяйства и коррупции
Когда будет ИИ, будет такое же разгильдяйство и коррупция. И человечество из-за него погибнет.
В этом и смысл.
Мы ходим по кругу уже, наверное, четвёртый или пятый раз.
> В сетях 110 кВ и выше проверки гораздо строже, чем в 0,4 кВ
В сетях 35 киловольт есть изолированная нейтраль. В XX веке они специально делались так, чтобы быть небезопасными, но более надёжными.
> Зависит от того, как функцию задать
Вот об этом я и говорю: не зависит от того, как функцию задать. Потому что ИИ всегда будет искать в ней проплешины.
> максимализация результата одной, перекроется падением в других
Это тоже функция, просто более сложная (функционал, точнее). Дело не в терминологии
> По мере развития бытовой техники
Вот и ИИ сначала нас уничтожит, перед тем, как мы разовьём нужные методы защиты. Потому что методы защиты отстают.
Ещё раз повторю, мы спорим не о том, уничтожит нас ИИ или нет. Я лишь утверждаю, что ИИ неустойчив и любая, даже малая ошибка, пустит систему под откос.
> но сокращают вероятность ошибок
Не согласен
> Важные ИИ будут не абы кем контролироваться
Ну да, они будут контролироваться самыми неквалифицированными ублюдками. Потому что если зарплата высокая, то нормальных людей туда не пустят.
Нигде ни в одной отрасли нет нормального контроля и безаварийности. А вы выдумываете какие-то чудеса. Они существуют только в области маркетинга.
> Их сбои уничтожат не человечество, а отдельные группы людей
Спорно.
> уже сейчас главный конструктор не знает каждого механизма ракеты, но их запускают.
Потому что ракета, как и электрическая сеть, является устойчивым компонентом. ИИ же будет неустойчив. Одна малейшая ошибка будет развиваться и развиваться в неконтролируемом направлении. Пока не закончится катастрофой или серьёзной аварией.
В этом и смысл того, что я говорю. ИИ обладает другой структурой ошибок. Он не такой, как остальная техника. Если такой ИИ, конечно, когда-либо вообще сделают.
> ИИ проверяющий ошибки имеет прямые указание от разработчика и анализирует какие исходы люди в прошлом признали негативными
Это не гарантирует ничего. В любом случае, я не спорю о том, есть возможность или нет возможности сделать ИИ общего назначения. Я лишь утверждаю о неустойчивости такого ИИ.
> будут согласующие службы, которые будут только и заниматься выборочной проверкой
Сейчас такие службы очень эффективны? Выборочные проверки хорошо работают, например, в области пожарной безопасности?
"Зимняя вишня", "Хромая лошадь" и т.п. Всё это - результаты таких выборочных проверок.
> всё будут делать роботы, а население вымирать без зарплат
Да бросьте. Населению просто будут платить за то, что они вообще живы и голосуют за условного путина.
> ИИ не охотится за людьми, а просто выполняет задачу оптимальным по его расчётам способу
Как вы не поймёте. Об этом я и говорю. ИИ ЦЕЛЕНАПРАВЛЕННО ищет способы, чтобы сделать работу неправильно, т.к. именно такие способы эффективнее повысят целевую функцию.
> тем выше вероятность
Вот именно об этом я и толкую. Речь идёт о том, что ИИ опасен, и мы говорим о вероятности. И эта вероятность - вероятность хотя бы одной ошибки в целеполагающей функции.
> УЗО в 1928 году изобрели, но в СССР не использовали
А электричество когда изобрели?
В моей квартире до сих пор не стоит УЗО.
Понимаете, если что-то изобретено, но хотя бы в одном ИИ не применяется, значит именно этот ИИ и выйдет из-под контроля.
> Вы начали конкретно с КПИ, а теперь горите о контролирующих функциях в общем
Я всегда говорил о контролирующих функциях в общем. Просто назвал из KPI. Абсолютно неважно, как это называть.
> в машинах с автопилотом есть водители, которые должны перехватить управление в аварийной ситуации
Я уже писал выше про то, как эти водители справляются с ситуацией.
> роботов курьеров сопровождает живой курьер
Это не так. Если робота сопровождает живой курьер, то робот уже не нужен.
> то он виноват в аварии
Какая разница, кто виноват в уничтожении человечества?
Я пишу не про то, кто виноват и на ком ответственность, а про то, что людям, контролирующим ИИ совершенно бесполезно доверять. И привожу соответствующие примеры. Чтобы было понятно, что человек не может контролировать ИИ эффективно.
> Естественный отбор
И? Как это поможет человечеству выжить?
Как я уже описал, человек не способен контролировать ИИ. Привёл примеры: аварии на транспорте с автопилотом и пожары, которые идут на предприятиях развлечения, которые контролируют люди.
Заметьте, в пожарах гибли совсем не те люди, которые плохо контролировали пожарную безопасность.
А в аварии с ИИ может, в худшем случае, погибнуть всё человечество целиком.
> то более успешное общество их подминает
Какое общество будет более успешным, если даже одна страна может уничтожить всё человечество целиком?
Вы не мыслите глобально. ИИ будут управлять очень большими вещами, которые люди просто не понимают. И только ИИ сможет управлять этими вещами эффективно. Ему передоверят очень многое.
И умрёт сразу всё человечество. Вот такой вот естественный отбор.
> Выдаст все исходы, сверит с базой данных и отметит негативное
Как он поймёт, какой исход негативный, а какой нет?
> После всё проверит человек
Все 340282366920938463463374607431768211456.... исходов?
> Все решения принимает человек ИИ только инструмент.
Если ИИ будет думать, человек просто будет следовать за ИИ. Может быть слишком поздно, когда люди поймут, что происходит.
> повреди изоляцию растечётся по полу
По полу - нет. По арматуре - да. Но не по полу. Полы везде непроводящие, обычно.
Даже если вы на земле, электричество растечётся по земле - будет заземлено. На достаточном расстоянии вы будете в безопасности. А вот с ИИ ситуация в этой аналогии другая: токи будут специально охотиться за людьми.
> утечку заметит УЗО
УЗО - сравнительно недавнее изобретение. Что, если человечество изобретёт ИИ раньше, чем изобретёт аналог УЗО?
Я никогда не говорил про принципиальую невозможность. Я отмечаю лишь то, что в случае с аналогией с электричеством, управление ИИ с помощью целевых функций повлечёт за собой то, что "электрические провода" будут за нами охотиться, пытаясь поймать за ногу.
> процессе переписки расширяете предмет рассмотрения
Это вы его расширяете, приплетая УЗО и т.п. Я лишь отмечаю то, что ИИ будет неустойчив и постоянно будет стремиться выйти из-под контроля при работе с функциями, дающими оценку результата ИИ.
> но сам ИИ на АЭС не поставят.
Вот тут, как раз, лучше ИИ на АЭС поставить. Здесь он вряд ли что серьёзно взорвёт.
> С помощью ИИ разработают сложный алгоритм по управлению атомным реактором
А кто сказал, что ИИ разработает верный алгоритм? Что оно везде всё понимает. Хотя, повторюсь, что касается управления АЭС, вряд ли там будут проблемы.
> будут более совершенные методы контроля ... Но пока их не придумают ИИ ничего важного не доверят,
Ещё не придумали, как именно противодействовать методам обмана нейронных сетей, распознающих изображение. Например, можно знак парковки превратить в знак ограничения скорости для автопилота Tesla. Для человека знак выглядит точно как обычный.
Однако автопилоту доверяют управление автомашиной. Формально, ответственность несёт человек, фактически, одна из попавших в аварию машин вообще не имела за рулём ни одного водителя.
Боюсь, ваше предположение совершенно противоположно тому, что в реальности делает человечество с техникой в своей истории.
> ИИ для поиска ошибок проверит
Как определить, что является ошибкой, а что - нет? Ведь ИИ, сам по себе, может этого и не знать. Он может не учесть какой-либо негативный исход как ошибку.
> но на деле будут разные специализированные ИИ
Угу, например, военный ИИ. Который будет, чуть что, запускать ракеты :)))
Я говорил именно про то, что ИИ, например, будет править страной. ИИ общего назначения.
> Как люди обезопасили электричество (изоляция, защитное заземление, автоматика), так обезопасят и ИИ
В этом-то и проблема, про которую я пишу. Электрические провода не тянутся к вам и не пытаются вас убить. Достаточно просто не прикасаться к ним, чтобы всё было хорошо. ИИ же будет преднамеренно тянуться, используя любую возможность.
> запишут в него все возможные параметры
Да это одно и то же. Какие бы они ни были, ИИ будет пытаться найти ошибку в этих параметрах. Об этом я и пишу. Если ИИ достаточно мощный, то он найдёт ошибку в любых алгоритмах оценки.
> Промоделируют ситуации виртуально
Виртуально невозможно промоделировать реальный мир.
> более комплексные методы оценки
Это не важно. Даже хуже: их будет сложнее тестировать.
> удоволетворить которые невозможно
В таком случае ИИ будет искать другие параметры, по которым можно схалтурить. Смысл не в том, чтобы всех убить. Смысл в том, что ИИ неустойчивый: одна ошибка в таких функциях оценки - и мы все либо трупы, либо около того. Фильм "Отроки во вселенной" я уже упоминал в своём посте: там все живы, только лишены чувств. И активность у их мозга хорошая, и удовольствие умеют получать, и т.п.
Чем он будет определять качество?
Человек знает, что такое качество. А как ИИ объяснить, что такое качественно, а что такое - нет?
Как объяснить, что ты хочешь, а чего - не хочешь?
Обе обложки чем-то не нравятся. Левая скорее нижней частью, а правая - верхней :)
Просто не обязательно описывать, что он получал удовольствие.
Вообще, соглашусь. Все эти запреты часто мешают. Школьница поцеловала школьника: вдруг зачтут за описание секса с несовершеннолетними?
У нас ведь всё могут.
Вполне могу представить себе такую ситуацию
Например, курение бывает нервозным. Или он закуривает, а потом прикуривает фитиль
К тому же, если он курит и наслаждается, это не обязательно описывать как получение удовольствия.
Я и говорю, что когда начинают что-то запрещать - это признак диктатуры и тоталитаризма. Несмотря на то, что могут запрещать плохие вещи.
А, ну да. Тем более, может быть интересно определённое содержание, всё-таки.
Но, вообще, это означает, что на детей прямо охотятся. Взрослые ничего не получают, а попадают - дети. :(
Да, вы правы. Вы очень внимательны.
Вот странно. Мне, взрослому человеку, особо ничего эротического не выпадает на ютубе. А детям, значит, выпадает?
Не имею отношения к организации сайта, но позвольте её защитить.
"где ГГ курит, нужно так же скрыт"
Ничего подобного. Если ГГ курит - это упоминание (18+, если я верно понял).
А вот если ГГ любуется курением, наслаждается им, то да - это пропаганда.
Одна проблема. Когда не дают читать, зачастую, это признак диктаторского режима, даже если он демократически избран.
Это же не ЛГБТ. Какая разница.
Вот и правильно!
По мне, так и об упоминаниях нужно, хотя бы, предупреждать. Не столько ценз по возрасту, сколько, чтобы человек (в т.ч. ребёнок) не мог случайно читать/смотреть сцены странного содержания. Это очень неприятно и конфузит.
А скачивание можно открыть?
По аннотациям - не понравились обе (или мне уже спать пора). Но вторая лучше
А можно скачивание хотя бы для друзей сделать, как в стелларе было?
Очень сложно написано.
Читать определение возможно, только если ты хочешь реально сравнить его с реальностью. Диагностировать фашизм, наверное, возможно, но вот понять по этому определению, что это такое, очень тяжело.
Обложка очень красивая. Хотя человек на переднем плане не очень получился. Выглядит как вполне профессиональная. Я думал, это она и подоспела.
Очень красиво.
Мне кажется, псевдоним не стоит сменять. Тем более, звучит он как-то не очень.
Напишите через три года, если останетесь живы после опыта в IT
Ищите и обрящете. Смотрите в сторону, где платят проценты от заказов
Похоже, вы не умеете читать
А это и есть информация. Потому что люди интерпретируют данные сообщения как информативные и пытаются на основе них изменить картину восприятия действительности.
Вообще, не знаю, кто вам сказал, что слухи - это информация. Слухи - это вот такие вот сообщения, в том числе пропагандистского и рекламного толка.
А люди на них ориентируются. И то, что они тупые - они в этом не виноваты. Ну, даже если виноваты, это не повод их обманывать.
Вот я про это же. В этом наборе слов нет информации. Но именно его распространяют, как информацию. Да ещё присовокупляя туда обещания платить по 3-4 тысячи долларов в месяц, иногда.
> "Зарплата программиста высокая по общим меркам"
Такую фразу никто не произносит. Произносят просто, что программисты много получают. Без указания на то, что сравнивают с некоей "общей меркой" зарплату, а вот квалификацию меряют по совершенно другой шкале.
Здесь обман и заключается: квалификация высокая требуется, а зарплата меряется по средней квалификации.
> Она правдива независимо от человека
О нет. Она ложна. Именно потому, что те, кто её слышат, с гарантией не понимают, о чём речь и будут введены в заблуждение.
Естественно, я имею в виду тех, кто не в курсе дела.
Обман людей, это когда люди преднамеренно вводятся в заблуждение. Чтобы вам там ни казалось по поводу факта.
Налицо именно обман. Так как важно не то, что говорится, а важно то, что людей преднамеренно вводят в заблуждение.
И если вы не желаете понимать того, что человек, который преднамеренно вводит кого-то в заблуждение - это подлец и лгун, то это, действительно, ваши проблемы.
Соответствующий слух вводит в заблуждение лиц, которые его слышат от слова 100%
Слухи понимает не отдельный человек, а целый ряд людей. И, почему-то, эти слухи вводят людей в заблуждение относительно зарплаты. В том числе, создают ложные ожидания или ложные посылки.
И это не личная проблема одного человека, а конкретная и направленная информационная кампания. Которая ставит своей целью преувеличить востребованность программистов как профессии.
Я тоже спорил именно об этом. Слухи о высоких зарплатах безосновательны. Так как для группы людей, которые способны освоить данную специальность, зарплаты не являются высокими.
Акценты здесь - самое важное.
> "много/мало для работы, требующей высокой квалификации"
В том-то и дело, что начинают рассказывать, что зарплата большая. Но забывают, что и требования к квалификации, даже без опыта работы, очень высоки.
А если трезво посмотреть на реальные требования, то программисты получают раза в два-три ниже, чем специалисты других направлений с той же квалификацией.
Я сравниваю по меркам Москвы. 100+ без опыта работы - это мало. И зачастую, они так и остаются теми же 100+ при любом опыте работы.
Ну вот именно. У банковских служащих зарплата ничуть не меньше, чем у программистов. И у многих других работников - тоже.
А с чего-то вдруг разрекламировали именно программистов. Потому что требований много, уметь надо много, а вот платить нормальные деньги - не хотят. Вот уже и 100 тысяч в месяц превратились в высокую зарплату.
> У меня белая.
У вас белая, а у многих - серая.
Ну жесть просто.
Нужно продолжение. Судьба тигра не раскрыта. Тигр - редкое животное, охота на которого запрещена!
Можно. Но не будем
100+ тысяч в месяц по нынешним ценам - это мало за те требования, которые есть. В том числе, и для новичка. Плюс, не забываем, что часто эта зарплата - чёрная. Зачем мне деньги, которые я никуда не могу потратить.
На всякий случай - я сам бывший программист.
А можно пример информативной рецензии?
Достаточно того, что я вижу собственными глазами.
Не понимаю вашего сарказма. Отзыв идёт на функционал сайта.
В Юнеско тоже дяди на БТР-ах уже приезжали?
Вот здесь
Глобальное инвестирование в новые научно-исследовательские проекты достигло рекордных 1,7 триллионов долларов. 80% этой суммы приходится на десятку развитых стран.
Видео с БТР-ами в Юнеско в студию!!! Я хочу это видеть!!!
Вот здесь исследование стоимость НИОКРов
Как мы видим, Microsoft каждый год тратит на R&D порядка 13 миллиардов. Intel - более 10 миллиардов, как уже я говорил выше.
Никогда не слышал, чтобы в офисы Intel или Lockheed Martin приезжали дяди на БТР-ах
Ну, как вы любите, пруфы в студию. Давайте сюда фото и видео дядь на БТР-ах в офисе Интела.
Не хочется заваливать комментарии гиперссылками.
Для самолётов можно посмотреть в википедии. Просто наберите там "F-35" и "F-22" и вы найдёте похожие цифры по этому поводу. Прямо в статье про эти самолёты есть упоминание стоимости программ их разработки.
Вообще, по F-22 столько было публикаций по стоимости его НИОКРов, что на это даже ссылку давать не надо: это общеизвестный факт. Там стоимость НИОКРов - это примерно половина стоимости всего самолёта.
По Интелу см., например, публикацию здесь
По этой же ссылке, на графике, есть бюджет на инновации Гугла.
По IBM можно посмотреть здесь
Ну, поищите, например, в интернете, сколько стоит разработка F-35. Лично я нашёл, что она стоит 74 миллиарда долларов. И это только разработка самолёта. Это при условии, что часть технологий для него уже есть.
Аналогичные суммы потрачены и на F-22.
Intel тратит на разработки порядка 10 миллиардов долларов ежегодно. Это только Intel.
Google тратит на исследования порядка 20 миллиардов ежегодно.
И т.п.
Исследований куча. Миллиардов тоже куча.
Стоимость исследований Google распределяется между миллиардами пользователей. А вот стоимость исследований у нас распределяется между значительно меньшим количеством людей.
Последний раз этот момент поясняю. Ибо если не хотите понять, то бессмысленно объяснять и 100 раз.
1. Стоимость НИОКРов на любые современные системы очень высока.
2. Допустим, совокупность НИОКРов стоит 100 миллиардов долларов.
На 100 миллионов человек они распределяются по 1 000 долларов на человека.
На 1 миллиард человек они распределяются по 100 долларов на человека. Таким образом, то, что для нас будет стоить 1000 долларов, для других будет стоить всего 100.
Просто за счёт эффекта масштаба.
3. Таким образом, если мы все НИКОРы будем делать сами, то мы заплатим за те же блага в десятки раз больше, чем те, кто делают НИОКРы для всего мира сразу.
Написал комментарий к посту Принципиальная неустойчивость ИИ при управлении по KPI
> но всё равно решили так сделать и до сих пор не отказались
Ну как же не отказались. Сейчас идёт заземление через резистор. То есть нейтраль уже не изолированная. Новые ЛЭП уже с изолированной нейтралью не идут.