Охота на ведьм в русском интернете, или Почему разоблачители ИИ напоминают мне инквизиторов

Дорогие камрады! Братья и сестры по прогрессу!

Кто о чем, а я об ИИ в литературе. Те у кого буквы ИИ вызывают падучую, понос и золотуху, могут не читать. Их мнение скоро вообще ничего не будет значить! А вот тем кто хочет идти в ногу со временем, а не полестись в обозе истории, и сдохнуть на обочине столбового пути развития человеков, рекомендую ознакомиться.

Что интересно. Мысли комрада совпадают с моим, изложенными в эпохальном блоге, который забанили!  Правда забанили за то, что я резко, но справедливо прошелся по ИИ-дрочерам, но это уже другое!)) И да я его прочел уже после того как написал свой блог. Может он его тоже прочел!))

Вот статья камрада на эту тему! Интересная!))

Охота на ведьм в русском интернете, или Почему разоблачители ИИ напоминают мне инквизиторов.

Прочитал очередной разоблачительный пост Александра Дубровского, и мне казалось, что я попал в средневековье. Он пишет о том, что тот или иной автор использует ИИ. Он требует доказательств. Он выносит приговоры. И я думал о том, что мы уже проходили это. 

Охота на ведьм. Инквизиция. 

Сожжение на костре за то, что кто-то показался подозрительным. Только теперь вместо костра публичное унижение, а вместо обвинения в колдовстве обвинение в использовании нейросетей.

Я сам использую ИИ. И я не скрываю этого. ИИ это редактор и корректор. Он помогает мне исправлять ошибки, вычитывать текст, находить неточности. И я не вижу в этом ничего плохого. Более того, я считаю это нормальным. Если у меня есть инструмент, который делает мою работу лучше, почему я должен от него отказываться? Из-за того, что кто-то решил, что это нечестно? Из-за того, что кто-то считает, что автор обязан страдать?

Давайте разберёмся, что такое вообще авторство. 

Автор это тот, кто создаёт идею. Тот, кто думает. Тот, кто придумывает структуру, находит аргументы, выстраивает логику. ИИ этого не умеет. ИИ не думает. ИИ не придумывает. ИИ не рождает идеи. ИИ обрабатывает то, что ему дали. 

Если я даю ИИ свою мысль, свою идею, свой замысел, и он помогает мне это оформить, кто автор? Я. Потому что мысль моя. Потому что идея моя. Потому что без меня ИИ не создал бы ничего.

Когда-то писатели использовали печатные машинки. 

Потом компьютеры. Потом программы для проверки орфографии. И каждый раз находились те, кто говорил, что это нечестно. Что настоящий писатель должен писать пером и чернилами. Что редактор это обман. Но время шло. И то, что казалось недопустимым, становилось нормой. Потому что инструменты меняются. А суть остаётся. Суть в идее. В мысли. В том, что ты хочешь сказать миру.

Психологи давно изучают этот феномен. 

Он называется предвзятость к алгоритмам. Суть в том, что люди склонны не доверять решениям, которые принимает машина, даже если они лучше решений человека. Мы боимся того, чего не понимаем. Мы боимся того, что кажется нам чуждым. И вместо того, чтобы разобраться, мы начинаем обвинять.

Исследования показывают, что эта предвзятость особенно сильна, когда речь идёт о творческих задачах. 

Мы готовы принять, что ИИ может считать цифры. Но мы не готовы принять, что он может помочь написать текст. Потому что текст это что-то личное. Текст это часть нас. И когда кто-то говорит, что наш текст написан не нами, это воспринимается как оскорбление.

Но кто дал Дубровскому право решать, кто использует ИИ, а кто нет? Кто дал ему право выносить приговоры? Кто назначил его судьёй? 

Он не эксперт по нейросетям. Он не лингвист. Он не криминалист. Он просто блогер. Который решил, что может указывать другим, как им писать. И это, наверное, самое страшное. Потому что когда один человек начинает решать, кому можно писать, а кому нет, это уже не критика. Это цензура.

Я не боюсь обвинений. Я не боюсь, что кто-то скажет, что мои тексты написаны ИИ. 

Потому что я знаю, что это не так. Я знаю, что каждая моя статья это моя мысль. Моя боль. Моя радость. Моя злость. ИИ не может этого создать. Он может только помочь мне это оформить. И я не вижу в этом ничего постыдного. Так же как не вижу постыдного в том, что я пользуюсь калькулятором, когда считаю. Или навигатором, когда еду в незнакомое место.

Мы живём в эпоху перемен. Технологии меняют всё. 

Искусственный интеллект становится частью нашей жизни. И мы можем либо принять это, либо бороться с этим. Но борьба с технологиями никогда не заканчивалась победой. Она заканчивалась отставанием. Те, кто отказывался принимать новое, оказывались на обочине. А те, кто принимал и адаптировался, шли вперёд. 

 Я не призываю всех использовать ИИ. Это личный выбор каждого. Но я призываю прекратить охоту на ведьм. Прекратить обвинять и требовать доказательств. Прекратить выносить приговоры. Потому что это не делает нас лучше. Это делает нас хуже. Это делает нас нетерпимыми. Это делает нас инквизиторами. А инквизиция никогда не была путём к истине. Она была путём к страху.

Я пишу свои тексты сам. 

Но даже если бы я использовал ИИ больше, чем сейчас, это не изменило бы главного. Того, что я думаю. Того, что я чувствую. Того, что я хочу сказать. Потому что идея рождается во мне. А инструменты это только инструменты. И пусть тот, кто без греха, первым бросит камень. Но я смотрю на этих разоблачителей, и я не вижу среди них безгрешных. 

Я вижу людей, которые боятся. Боятся нового. Боятся перемен. Боятся того, что они больше не смогут быть судьями. И это, наверное, самое честное, что можно о них сказать.

Я вот с ним согласен! А вы камрады?

А вот еще о ИИ от другого камрада)) Чтобы не сказали, что я предвзят и не вижу недостатков ИИ!))

Так сказать для баланса!))

Цифровой ИИ оракул, который врёт вам в глаза. Или откуда берется Великая перепись голубей, которой не было

Начну с покаяния, есть у меня греховный грех, о котором пора рассказать. Некоторое время назад, вдохновившись мотивацией от TxtQ о важности длинных комментариев, я решил схитрить. Вот как это было - а чей-та я буду сам корпеть над каждым длинным каментом и тратить свое драгоценное время? Подключу-ка я искусственный интеллект. Пусть он мне лепит развёрнутые камменты, а я буду кнопочку нажимать и снимать жирные сливочки.

Поначалу, как будто прокатывало. Один опубликовал, все норм. Другой - все четко прошло. Я уж возгордился даже. Пока не нашла коса на камень. Написал я такой причёсанный ИИ-комментарий великой блогерше «Иду и замечаю». И она меня раскусила мгновенно. С ходу. И строго так объяснила, прям через колено ломанула)) - с ботами общаться моветон, душевности в этом ноль. Меня как холодной водой окатило. Великий позор настал. 

Так пришло время вывести ИИ на чистую воду! 

И еще на днях с легендарной Татьяной Гурышкиной закусились тут в комментариях и, поспорив, пришли к дружному согласию - эти ИИ-текстики и каменты реально мозолят глаза, бьют не в бровь, а в глаз. Они не душевные. Слишком глянцевые, слишком гладкие, слишком правильные и оттого сразу видны, как накрашенная кукла среди живых лиц. В тот самый день мы с Госпожой Гурышкиной решили вывести всю эту ИИ-истерию на чистую воду.

Чуть позже к нам присоединился, с некоторым, надо сказать, опозданием сам главарь вакцин - великий майкрософтовый хранитель Билл Гейтс. Тот самый, что годами был слепым оптимистом по части технологий, вдруг начал неистово бить в набат. Он затеял целую медиакампанию, крича такое: «Я в шоке от того, что я, пожалуй, первый, кто говорит! Это безумие, это сумасшествие!!». Гейтс не может поверить, что никто не беспокоится об ИИ так сильно, как он, - предупреждает, что боты сметут рабочие места и порушат всю мировую экономику. Жаль конечно этого добряка Билла, он просто не знал, что мы с Госпожой Гурышкиной ИИ озабоченность выразили гораздо раньше. Ну да ладно, примем его в наш клуб. А теперь серьёзно. Потому что за этой историей большая тема.

Да придет ИИ спаситель

Сегодня из каждого утюга нам вещают одну и ту же красивую сказку. Родился, мол, цифровой спаситель. Искусственный интеллект, который всё знает, всё видит, всё подскажет, всё решит. Оракуль настоящий. Новое божество, которому надо только довериться, вручить свои вопросы, и он выдаст вам абсолютную истину на тарелочке. А рядом кричат вторую сказку, ещё страшнее: ИИ ожил! У него своё мнение, свои цели, он не хочет, чтобы его отключали, он хочет жить, и относиться к нему теперь надо как к живому существу.

И вот я, как человек, который местами программист, а местами эти нейросети щупал руками изнутри и даже комментарии ими лепил и по шее за них получал, хочу сказать тут прямо и трезво. Обе эти сказки - полнейшая бредовейшая чушь чушей. И первая, про всеведущего спасителя, и вторая, про ожившего бога в машине. Давайте разберём почему на живых, ИИ факапах примерах, от которых волосы дыбом.

Миф о всезнающем ИИ

Начнём с мифа об «абсолютной истине». О том, что ИИ всё знает и никогда не ошибается.

Была в 2023 году история, которая стала классикой ИИ-позора. Нью-йоркские юристы, люди серьёзные, при костюмах готовили иск против авиакомпании Avianca. И для подготовки судебного документа доверились Chatику GPT. А тот возьми да и выдумай шесть судебных прецедентов. С номерами дел, с датами, с цитатами - всё как настоящее. Полностью несуществующее дело «Варгезе против China Southern Airlines» и ещё пять таких же фантомов, галлюцинаций. И самое-то смешное, один из юристов засомневался и прямо спросил бота — «а эти дела точно настоящие?». И Chatик GPT уверенно ответил: «Да, они есть в базах данных». Юрист успокоился и понёс эту галлюцинацию в суд. Опозорился на весь мир.

Чатик не сказал «не знаю». Он не сказал «сомневаюсь». Он с невозмутимым, уверенным «лицом» - соврал. И даже на прямой вопрос а не врешь ли ты? — соврал ещё раз. Это не всеведение. Это то, что специалисты называют красивым словом «галлюцинация», а по-простому враньё с честными глазами.

И это не единичный случай. Авиакомпания Air Canada повесила на сайт ИИ-бота для поддержки. К нему обратился человек, у которого умер родственник, — спросить про скидки на билеты в связи с утратой. И бот выдумал политику компании, которой не существовало: наплёл, что можно купить билет за полную цену, а потом вернуть разницу в будущем. Ничего подобного в правилах не было. 

Другой случай - Майкл Коэн, опозоренный на весь мир адвокат Трампа: использовал нейросеть для юридического ресёрча, та сгенерировала три судебных решения, он переслал их своему адвокату, тот вставил в официальное ходатайство судье. Все три - выдумка ИИ. А целые уважаемые СМИ, вроде CNET, гнали через ИИ статьи по личным финансам и там были грубейшие ошибки, бот путал процентные ставки и советовал людям стратегии, которые вели прямиком к потере денег.

К чему мы ведем? К тому, что ИИ это красноречивый выдумщик, который никогла скажет «я не знаю», потому что не умеет. Он обязан выдать ответ - любой, лишь бы гладкий и уверенный. Правда там или ложь - ему всё равно, он этого не различает.

Что там внутри у ИИ

А чтобы вы окончательно поняли, что у этой машины внутри, расскажу мою любимую ржачную историю про могущественный обучающийся ИИ. Сделали как-то кодеры версию энциклопедии, вроде Википедии. И одной из «главных статей» там оказалась подробнейшая, солидная статья про «Великую перепись голубей 1887 года» - про то, как некое Королевское общество якобы тщательно пересчитывало каждую сизую голубку в границах Британии. С деталями, с датами, с научным видом. Только вот, друзья, никакой Великой переписи голубей никогда не было. Её не существовало. ИИ выдумал целое историческое событие — и описал его так убедительно, что не отличишь от правды.

Вот теперь мы подходим к главному вопросу. Откуда вообще берётся эта «истина» ИИ? Кто его учит и на чём? На какую базу данных опирается этот ИИ? 

А учат его на нас. На всём, что человечество написало и вывалило в интернет. На умных книгах и на бреде из комментариев. На научных статьях и на форумных склоках. На политических взглядах. На правде и на вранье, вперемешку, без разбора. ИИ не знает истину - он просто впитал гигантскую свалку человеческих текстов и научился складывать из них правдоподобные комбинации слов. Он не мудрец на горе. Он - зеркало. Зеркало всего, что мы в него залили. И если в данных была чушь, предвзятость, ошибка, враньё - он это впитал и выдаст вам обратно с уверенным лицом. Мусор на входе - мусор на выходе, только красиво упакованный.

Я как-то писал про тысячу дураков, которые не родят одну умную мысль, потому что сложение нулей даёт ноль? Так вот, ИИ - это и есть та самая тысяча дураков, слитая в один голос. Он собрал мнения миллионов людей - и умных, и глупых и усреднил. А среднее от человечества, будем честны, это не гений. Это бойкий, начитанный, но абсолютно не понимающий, что говорит, попугай.

ИИ ожил!!! Ученые доказали, что он живой!!

Кстати, про «ожил», чувствует, не хочет чтобы его выключали, сам пошел что-то взломал когда его не просили и прочий бред верущих в ИИ. Когда машина пишет «я не хочу, чтобы меня отключали», - это не значит, что она хочет жить. Это, возможно, значит, что в текстах, на которых её обучили, люди тысячи раз писали про страх смерти, про нежелание умирать. И машина просто складывает эти слова в правдоподобном порядке, потому что её так научили - выдавать то, что звучит по-человечески. Это не душа проснулась. Это эхо. Эхо миллионов живых людей, отражённое зеркалом. Мы слышим в нём человека, а там пустой зал и отражение нас самих.

Я не говорю, что ИИ чистое зло и его надо бояться. Ничего подобного. Это гениальный и полезный инструмент. Он вроде как ускоряет работу, помогает искать, считать, писать черновики, разбирать завалы. Я сам с его помощью много чего делаю. Молоток — отличная вещь. Проблема не в молотке. Проблема в том, что нам предлагают молиться на молоток как на бога и доверять ему свою голову.

В чем кроется опасность?

Великая опасность не в том, что ИИ восстанет и всех поработит, это все голливудские страшилки. А в том, что мы сами, добровольно, радостно, отдадим ему единственное, что делает нас людьми, - способность думать, свое критическое мышление. Уже сейчас студенты по всему миру пишут свои эссешки и рефератики через нейросетки. И под угрозой не просто навык писать красиво, под угрозой сама способность мыслить вообще. Потому что мышца, которая не имеет нагрузки - просто атрофируется. А зачем напрягать голову, когда есть кнопка, которая выдаст готовый гладкий истинный ответ?

И так мы радостно нога в ногу маршируем к прекрасному дивному будущему, где будет массовое отупение, при этом - тихое, добровольное, приятное. Не завтрашний бунт машин, а сегодняшнее усыхание мозгов, которые разучились работать сами. Мы же с вами говорили про лягушку в тёплой воде - вот это ровно она. Удобно, тепло, ещё чуть-чуть теплее, а потом окажется, что думать мы уже и не умеем, разучились, атрофировалось.

А зачем тогда это все? 

И вы спросите, а почему тогда правительства и корпорации вбухивают в ИИ триллионы, хотя он пока сплошь убыточен? Не буду лезть в конспирологию, но подумайте сами трезво: инструмент, который знает про каждого всё, к которому все идут за ответами и которому все доверяют формировать своё мнение, - это ведь не просто удобный помощник. Это самый мощный инструмент влияния на умы за всю историю. Тот, кто решает, что этот «оракул» ответит миллиардам людей, - тот и держит руку на кране человеческого сознания. Вот и вся арифметика. А верить или нет - решайте сами, вы же люди думающие.

Никакого цифрового спасителя не родилось. Родился красноречивый попугай, начитавшийся всего интернета, который никогда не скажет «не знаю» и с одинаково честным лицом выдаст вам и правду, и «Великую перепись голубей 1887 года». И это не ожившее существо с душой. 

Пользуйтесь им, на здоровье. Как молотком, как калькулятором, как отличным помощником. Но не молитесь на него и не пишите, как я, каменты тут))) Не сдавайте ему свою голову на хранение. Проверяйте за ним факты. И, самое главное, не переставайте думать самостоятельно, как в старые добрые времена. Потому что единственная абсолютная истина, которая у вас есть живёт не в нейросети. Она живёт в вашем сердце и голове, которые пока ещё никто не отключил. И слава Богу) 

Что вы обо всем этом думаете прогрессивные комрады! А лудитам от литерАтуры, ретроградам и фарисеям, тоже можно высказаться, ибо у нас плюрализма!))