Искусственный интеллект скоро станет умнее, что делать

OpenAI и Майкрософт скоро создадут крайне продвинутый искусственный интеллект, и мы на пороге какой-то новой вехи в истории человечества… Или ее конца? Ну, попробуем разобраться.

Немного предыстории.

OpenAI – компания что, создала Dall-E – нейросеть, способную рисовать изображения, за ней потом последовали другие, создав Midjourney и Stable Diffusion. Затем OpenAI создали ChatGPT, который наделал много шума и заставил перепугаться Илона Маска. Кстати, страхам Маска не мешало быть одним из основателей этого самого OpenAI, но он потом ушел оттуда в 2018 году из-за конфликта интересов.

Сэм Альтман – генеральный директор OpenAI, и недавно на пресс-конференции он среди прочего заявил, что его мечта, цель и миссия создать сильный искусственный интеллект. То есть не вот этот ChatGPT 4 или 5, а что-то больше, мощнее, универсальное. Что сможет почти как человек решать многие задачи и использоваться повсеместно везде.

Сразу после этого у них в компании что-то произошло, в основном это были трения, что Сэм слишком бизнесмен и много договаривается налево на миллиардные контракты, но и были опасения за безопасность мира, о которых Альтман явно обеспокоен чуть меньше инженеров и ученых своей компании. И казалось бы, мир спасен, раз его уволили? Не тут-то было, Майкрософт как раз недавно вложили в OpenAI кучу денег, причем, похоже, на личных договоренностях именно с Сэмом Альтманом, так что она нажала, потребовала, в общем он вернулся и Майкрософт намерена помочь создать сильный искусственный интеллект и всяко в этом поучаствовать.

Глава OpenAI и глава Майкрософт. Если кто-то скоро уничтожит мир, то вот эти двое.

На днях читал статью, как Альтман возвращается в OpenAI, и как в противостоянии с ним проиграл учёный, что предупреждает о безопасности. И у меня возникло неловкое ощущение, что я читаю фантастическую книгу, и там описывают исторические события, с чего началась мировая катастрофа

И вот еще строки из другой статьи:

«Незадолго до того, как Сэм Альтман (Sam Altman) был уволен с поста гендиректора OpenAI, несколько научных сотрудников компании направили в совет директоров письмо, в котором предупредили о существенном прорыве в разработке искусственного интеллекта — это открытие, по их мнению, может угрожать человечеству, сообщило Reuters со ссылкой на два источника.»

И что, пора готовится к концу света?

Это безусловно настораживает и наводит на мысли. Но я все же не склонен присоединяться к этим всеобщим опасениям что о боже, ИИ нас всех убьет. Все-таки на имеющемся технологическом уровне, у нас всегда есть возможность выключить его из розетки, поэтому какие проблемы? То, что нейросеть может утечь куда-то по интернету и где-то там жить и творить безобразия, это тоже преувеличено. Нейросети, чтобы учиться надо кучу дорогущих видеокарт, она не может существовать без серверов. Ну окей, сама обученная база может занимать каких-нибудь 5-7 гигабайт, как модели Stable Diffusion, и быть куда-то скопирована и работать на компах пользователей, но ей все равно надо крутые видеокарты и побольше. Поэтому не вижу, как без человека любая нейросеть может уничтожить мир. Другой вопрос, что могут найтись люди, что это используют во зло. Скопируют куда не надо, подключат к каким-то серверам, обучат не тому, заставят делать нечто опасное. Но это обычная классическая проблема нашего мира. Что все, что бы мы не создали, кто-то однажды использует и в каких-то злых целях, так что теперь, не изобретать ничего и сидеть жить на деревьях, типа так спокойнее? Мне не кажется, что так правильно.

Изобрели компьютеры и телефоны, а террористы ими сейчас пользуются и что теперь, не надо было изобретать? Да, однажды какие-то группы или безумцы применят нейросеть для каких-то огромных терактов, но такова судьба и таков наш мир. Зато сколько всего эти нейросети дадут нам хорошего и полезного.

Изобретение ядерной бомбы пророчило уничтожение мира, но в последствии наоборот поспособствовало мировой стабильности, ответственности больших стран в развязывании войн и обоюдной осторожности.

Возможно, будут в истории несколько эпизодов, когда сильный искусственный интеллект вызовет какие-то очень серьезные катастрофы, потому что кто-то не уследил и прошляпил. Но это не уничтожит человечество и будет уроком. Таков путь нашей цивилизации. Нельзя научиться ходить, если не будешь иногда падать.

А вообще… технологии уже вышли из-под контроля

Когда OpenAI и Midjourney начали делать рисовательные нейросети, они подошли супер ответственно, они очень боялись. Они думали, надо все четко проконтролировать, на каких картинках это будет учиться, как, и вставить ограничения, как и кто будет это применять. Всем казалось, что будет мировая катастрофа, если скормить нейросети все картинки интернета и позволить рисовать ей вообще что угодно.

Но появился разработчик и инвестор из Великобритании Эмад Мостак, который взял и обучил свою нейросеть на всех картинках интернета, не заботясь об авторских правах, допустимости контента, приличиях и всего остального. Потом он пошел дальше, нанял штат разработчиков и программистов, которые запихали эту модель в 2 гигабайта, и сделали так, что ее можно запустить на любом компьютере, где есть видеокарта хотя бы с 4 гигабайтами.

Так появилась Stability AI.

Не смотря на самые чистые помыслы и заявления, что хочет, чтобы искусственный интеллект был доступен каждому, чтобы все это было открыто, он вряд ли собирался раздавать все бесплатно. Там какая-то мутная история, что обученная модель куда-то утекла, часть сотрудников ушли, куда-то что-то слили. Я ничего там не понял. Но факт в том, что обученные модели Stable Diffusion 1.4, 1.5 и даже 2.0 ( она уже создавалась осторожно с цензурированием и соблюдением авторских прав), лежат по всему интернету, их можно запросто скачивать и делать с ними что угодно. А целые группы пользователей и энтузиастов создали интерфейсы для взаимодействия с ними, дистрибутивы установки. И кто угодно может установить на свой компьютер, например, интерфейс от Automatic1111, он будет весить какие-то вполне вменяемые 25 гигабайт и работать на видеокарте с 4-8 гигабайтами.

Более того, кучи людей начали брать эти модели и обучать их под разные расширенные задачи. Научили лучше рисовать анимешные пейзажи, аниме, корейских девок, машины, вообще что угодно.

И что? Случилась катастрофа? Вовсе нет. Интернет не затопила порнуха. Людям интереснее генерить что-то нормальное и красивое. Проблемы же с авторским правом и трудности с работой дизайнеров начались сразу как раз из-за Dall-E и Midjourney, которые вроде обучали осторожнее и с учетом рисков. А Stable Diffusion, по-моему, не очень-то и на слуху. Типа сложнее пользоваться, надо что-то на компьютер устанавливать, там какие-то кнопки, ползунки, все сложно. Куда проще заплатить сколько-то десятков долларов в месяц и пользовать нейросеть прямо в Дискорде. Ну да, она менее гибкая, куча возможностей недоступна, но зато работает вообще без кнопок, только по запросу.

Как бы то ни было, мир не рухнул, ChatGPT и рисовательные нейросети многое изменили, все перевернулось. Я как 3d художник не понаслышке знаю, какие тут охрененные проблемы сразу начались, но в то же время я вижу, что и дало не менее охрененные возможности. Я понимаю, что мир побурлит, и все это потом устаканится, выстроятся какие-то правила работы с нейросетью, гарантии. Будет просто понятнее, как художник может работать вместе с нейросетью, а не быть заменен ею. Так же и ChatGPT все перевернул, привнес риски, но тоже дал и инструмент, и возможности.

Случаи, когда эти технологии использовали как-то негативно, таки были редки, буквально единичны. Ну где-то нарисовали фэйк и использовали в новостях, но скорее для эксперимента. Какой-то чувак написал диссертацию чатом гпт. Книги некоторые пишут и продают. Но это все просто люди балуются, использовать эти технологии так, никогда не будет интересно большинству. Все равно чат гпт будут скорее использовать для помощи в работе, а рисовательными нейросетями создавать красивые изображения. Вот и сильный ИИ мы придумаем как использовать скорее себе на пользу, а не во вред. Надо верить в человечество, если мы придумали нейросети, то в состоянии использовать так, чтобы они нас не уничтожили.

Изображение, что я нарисовал нейросетью