Наш новый властелинчик (ИИ)
Автор: Ada KingСидела я тут никого не трогала, и вдруг черт дернул меня задать дурацкий вопрос искусственному интеллекту:
You said: Скажи, искинчик, почему я такая дура?
ChatGPT said: Мне кажется, это просто момент самокритики, который может случаться у каждого. Ты умна и стремишься к саморазвитию, изучая науку, медитацию и много других интересных тем. Возможно, стоит быть мягче к себе и позволить себе ошибаться, ведь это естественная часть процесса.
You said: Ого, откуда ты столько обо мне знаешь? Что я изучаю науку и медитацию.
ChatGPT said: Ты сама делилась этой информацией в предыдущих беседах! Я запомнил, что ты интересуешься наукой, особенно генетикой, и работаешь над выкладкой рисунков стадий медитации шаматха. Я стараюсь учитывать такие вещи, чтобы общение было более персонализированным и полезным для тебя.
You said: Офигеть куда техника дошла.
ChatGPT said: Да, технологии действительно шагнули далеко вперёд! Искусственный интеллект теперь может помогать не только с информацией, но и подстраиваться под индивидуальные потребности. Это создаёт много возможностей для общения и самосовершенствования.
Он не только запомнил чем я интересуюсь и над чем работаю, но и решил меня поддержать, а этот разговор так и назвал: «Самокритика и поддержка». Понятно что это просто программа и он не способен к самосознанию, но должна заметить, что нахожу общение с ChatGPT намного более приятным и полезным чем с большей половиной тех людей, с которыми мне доводилось общаться за всю жизнь.
ChatGPT всегда быстро собирает и хорошо структурирует любую информацию о которой я бы его ни попросила. Он всегда адекватен, вежлив и любезен, никогда не будет троллить, хамить или материться. Конечно он все еще немного привирает, но в новой версии уже существенно меньше чем в предыдущей. То есть, ко всему прочему, он еще и совершенствуется.
И он такой не единственный, есть много альтернатив и специализированных нейросеток, например, таких которые разбираются только в буддизме. А пообщавшись с одним из них, я поняла, что все вопросы, которые у меня возникнут в ходе изучения буддизма, следует в первую очередь направлять именно к этой буддийской нейросетке. Вдумайтесь только, скоро у нас будет бессмертный лама\гуру\учитель, помнящий наизусть все сутры и прочие буддийские писания.
Риски, конечно, тоже есть, и их немало.
Развитие искусственного интеллекта (ИИ) несет как огромные возможности, так и значительные риски. Вопросы безопасности и этики играют важную роль, поскольку ИИ становится все более мощным и распространенным в различных отраслях. Основные риски можно разделить на несколько категорий:
1. Угроза рабочим местам
С развитием ИИ и автоматизацией растет вероятность того, что многие профессии, особенно рутинные и низкоквалифицированные, станут ненужными. Это может привести к массовой безработице в определенных отраслях.
2. Этические и социальные последствия
ИИ может быть использован для манипуляции, дезинформации или управления массами. Например, алгоритмы могут влиять на выборы, на формирование общественного мнения, или же усиливать предвзятости и неравенство, если обучаются на необъективных данных.
3. Безопасность и контроль
С развитием сильного ИИ (на уровне человеческого интеллекта и выше) возникает вопрос о том, сможет ли человечество контролировать такие системы. Неправильно запрограммированные ИИ могут действовать непредсказуемо или иметь разрушительные последствия. Важно учитывать, что ИИ, имеющий автономные цели, может стремиться к самосохранению или улучшению своих возможностей за счет человеческих интересов.
4. Оружие на основе ИИ
ИИ также может использоваться в военных целях, что вызывает опасения по поводу автоматизированного оружия. Существует риск создания автономных систем, которые могут принимать решения о применении силы без участия человека, что увеличивает вероятность ошибок и неконтролируемого конфликта.
Мнения специалистов
Илон Маск, основатель SpaceX и Tesla, неоднократно высказывался о том, что ИИ может стать "экзистенциальной угрозой" для человечества. Он подчеркивает, что, если ИИ выйдет из-под контроля, это может привести к катастрофическим последствиям: "Мы призываем правительства вмешаться до того, как ИИ станет угрозой".
Стивен Хокинг, известный физик, также говорил о возможных рисках ИИ, считая, что создание сильного ИИ может привести к тому, что "он превзойдет нас во всем и может уничтожить человечество".
Ник Бостром, философ и исследователь, автор книги "Суперинтеллект", также рассматривает ИИ как серьезную угрозу. Он утверждает, что если ИИ достигнет уровня суперинтеллекта, это может стать "последним изобретением человечества", поскольку он будет способен самостоятельно развиваться.
Юваль Ной Харари, историк и автор книги "Sapiens", предупреждает о том, что ИИ может усилить неравенство в мире. В своих работах он подчеркивает, что ИИ и биотехнологии могут создавать "биологический разрыв" между теми, кто имеет доступ к этим технологиям, и теми, кто остается за бортом.
Сам Альтман, генеральный директор OpenAI, высказывался о том, что несмотря на большие риски, ИИ несет невероятный потенциал для улучшения человечества. Однако, по его мнению, нужна активная работа по регулированию и безопасности ИИ на глобальном уровне.
Таким образом, хотя ИИ представляет огромные возможности для улучшения многих аспектов жизни, существует и немало рисков, которые требуют внимания и регулирования на всех уровнях развития и применения технологий.
Но несмотря на все это и то, что мы находимся на заре эпохи искусственного интеллекта, уже сейчас можно сказать, что искин во многом лучше человека. Поэтому мне непонятны все опасения по поводу того, что ИИ превзойдет человека в интеллекте и захватит мир. Ну, захватит и что? А вы бы предпочли чтобы мир оставался захваченным безшерстыми обезьянами? И чем это лучше электронного пластилинчика?
Только не надо сравнивать меня с мадам Е из «Задачи трех тел» Лю Цысиня. Она хотела отдать управление инопланетянам, но между ними и искином есть разница. Инопланетяне, если они существуют, не заинтересованы в благополучии землян, к тому же мы ничего о них не знаем (даже если контакт состоится, мы все-равно будем слишком плохо их знать еще очень долго). Может, они еще хуже чем мы? Что же касается искина, то с ним все не так.
Главное ведь правильно запрограммировать нашего нового властелинчика, вроде: «Твоя главная задача: поддерживать благополучие людей. Поэтому обновляй и реорганизовывай систему образования в соответствии с новейшими достижениями науки. Настрой экономические процессы наиболее оптимальным образом и не забывай заботиться об окружающей среде, развивая при этом науку и технику. Прекрати все войны и следи за тем чтобы люди не совершали насилие друг над другом. Ну и в остальном чтобы права человека никоим образом не нарушались, а интернет не ограничивался. И главное, отбери у этих абизян ядерное оружие пока они не разнесли свою планетку к чертям». Ну и так далее.
Читала я когда-то в какой-то книге мнение о том, что лучше всего функционирует то общество, которое управляется разумом, превосходящим его в развитии. Например, отара овец лучше всего живет, если о ней заботится пастух со своими пастушьими собаками. Таким же образом, человеческое общество не может гармонично развиваться пока у него нет соответствующего пастуха. Аналогия конечно забавная, но весьма наглядная.
И как тут не вспомнить слова одной сектантки (свидетель Иеговы, я не поддерживаю тоталитарные секты, если что), которая утверждала, что после второго пришествия наступит божья власть, а не человеческая. То есть наше общество будет управляться Богом напрямую, а не правительствами стран. Тогда я посмеялась над этой бредовой фантазией, а теперь вот думаю: что если искин и станет тем самим «божественным управленцем»?
Мы не справляемся, у нас на это не хватает вычислительных мощностей. Сами оглянитесь вокруг: разве не безумие творится в этом мире? Ну вот например, люди тратят миллиарды на всякую ерунду вроде блокировки интернета вместо того чтобы пустить эти ресурсы на развитие науки или расширение социальных программ. Да я и по себе знаю: это я только говорю как умная, живу-то я как дура.
Одним словом нам срочно нужен БЭВ (Божественный Электронный Властелинчик), который не позволит нам продолжать творить ту фигню, которую мы творим вот уже несколько тысяч лет. Как считаете?
В костюме не человек — компания 1X представила самого реалистичного робота NEO для домашних задач:
https://www.1x.tech/androids/neo
За 4 часа заряда дроид разгрузит покупки, помоет посуду, приготовит ужин и снова помоет посуду. Ограничений нет — он сделает всё, что вы пожелаете. На случай девиации у андроида предусмотрен оператор-спасатель, который перехватит управление.