Интересная Игрушка

Я бы это сокращение расшифровал именно так, но везде пишут, что это «Искусственный Интеллект». Здесь самое интересное то, что про него пишут очень часто, я бы даже сказал, что слишком часто. Скажу больше – пишут так часто, что поневоле появляется мысль о том, что такая частота встречается только в одном случае – в случае, если что-то нужно прорекламировать. 

Удобная штука иногда бывает. Стоит этакий бочоночек на столе и по заказу тебе музычку поставит или погоду на завтра скажет. Прям, как живой. Или задаёшь вопрос, а он тебе подробно отвечает… иногда бывают случаи, когда правильно отвечает. Это когда вопрос бытовой, то есть примитивный на самом деле. А что будет когда вопрос чуток сложнее? Ну, например про особенности работы какого-нибудь агрегата. А вот тут уже верить этой штуке нельзя совсем. 

Совсем недавно мои молодые (относительно меня) коллеги продемонстрировали это на самом настоящем примере. Всех-то делов было – разобраться в особенностях работы насоса. Ребята наши – не абы кто, а настоящие конструктора с неплохим опытом работы и отличными базовыми знаниями. Поэтому правильный ответ на вопрос был им хорошо известен, и никакой говорящий справочник был им не нужен. Это была проверка этого самого ИИ. И он очень убедительно, с использованием специальной терминологии начал нести ересь. Посмеялись. Сформулировали вопрос иначе. И опять ИИ соврал. Тогда начали задавать дополнительные вопросы, но ИИ проявил упрямство. Понадобилось почти полчаса для того, чтобы услышать от электронной дурилки: «Извините, Вы были правы…». 

Но это ведь было просто развлечение для людей, которым такой помощник без нужды… ну, что-то вроде перекура для того, чтобы на время отвлечься от решения сложной задачи. Что называется «перегрузиться». А ну как за дело возьмутся люди, которые имеют, скажем так, ограниченный опыт использования собственных мозгов? Молодых, которые выросли, не отрывая взгляда от маленького экранчика на ладошке? Они смогут переспорить этот самый ИИ? Или они просто поверят тому, что им напишет ИИ? Тогда в лучшем случае их система не будет работать, в худшем – авария, в плохом – катастрофа. Отсюда вопрос – а ИИ точно нужен? 

Если посмотреть на то, что происходит сейчас в мире, то ответ на этот простой вопрос уже не покажется таким уж очевидным. Проверим это на кроликах. В целом с решением новых инженерных задач во всех… в большинстве стран мира сейчас справляются достаточно успешно. Например, Южная Корея, которая никогда особо не проявляла себя в качестве авиастроительной державы, сейчас создала собственный очень неплохой боевой истребитель KF-21: 

Сэшэашники начали сразу же говорить о том, что ему далеко до «настоящих машин пятого поколения», но боюсь, что это просто этакая ревность. Ведь их собственные F-22 и F-35 испытания временем не прошли, и сейчас сэшэашники возвращают производство древних F-15 и F-16. А просто выбора нет другого! Провалили они и проектирование новых боевых кораблей. Причём не один раз. И сейчас они обсуждают покупку иностранных кораблей. Причём среди претендентов достойное место рядом с Японией и Южной Кореей занимает Турция. Это без всяких вариантов означает то, что сэшэашники признали превосходство инженерной школы и промышленности этих стран над своими. 

Примерно так же дела обстоят в другой «развитой» стране мира – в Англии. Там тоже серьёзные проблемы (мягко говоря) с проектированием и строительством боевых кораблей. А если вспомнить новейшую боевую авиацию, то говорить о ней в связи с Англией сейчас практически бессмысленно. 

И замечу, что именно в этих двух странах больше всего говорят о внедрении ИИ. Я совсем не хочу ставить два этих факта рядом… но они как-то сами становятся. 

Между тем каких-то потрясающих успехов эти системы не делают. Успехов мало, и они большей частью достаточно сомнительны. Зато провалов хоть отбавляй. Вспомним самые яркие. 

В Сэшэании во время испытаний седельный тягач без водителя в солнечный день, не сбавляя скорости врезается в автоцистерну, стоящую поперёк дороги. Создатели торопливо говорят, что мол, всё о’кей, и что всё скоро будет ещё окейнее. Всё на самом деле очень просто – робот видит на дороге препятствие и быстренько обращается к своей базе данных – сравнивает, на что это похоже? Если бы там стоял седельный тягач отдельно, или такой же тягач, но с грузовым прицепом, или же цистерна, но с яркими надписями, то всё сработало бы хорошо. Но это была белая цистерна без надписей… длинное белое пятно без резких углов… ИИ нашёл, что это больше всего похоже на туман. Думать-то ведь он на самом деле не умеет! 

Другой пример прямо от наших бойцов, которые используют дроны с ИИ. И вот боец, немного смущаясь, говорит, что удобная штука, но требует участия человека. Например, она однажды обычный куст перепутала со снайпером… пришлось подправить выводы ИИ в ручном режиме. 

Другой пример – сэшэашники разбомбили школу с маленькими девочками в Персии и сослались на ошибку ИИ, которая якобы использовала устаревшие данные из своей базы данных. Так это было или они соврали, как всегда, но факт остаётся фактом – ничего даже отдалённо напоминающего мыслительный процесс, какого-то анализа не было. А ещё говорят, что вся военная операция против Ирана была рассчитана ИИ «Maven Smart» от компании «Palantir». А в 2024 году её генеральный директор Алекс Карп заявлял, что их технология способна «…сократить сопутствующий ущерб и количество жертв среди гражданского населения». И ему активно поддакивали и начальник «Google», и заместитель начальника ЦРУ. И вот результат… не единственный, кстати. 

Но этого мало. Само нападение было провальным. Сеть буквально сразу заполонили видео и фотографии того, как успешно самые передовые виды оружия Сэшэании уничтожают не только макеты персидской боевой техники, но даже просто технику, нарисованную краской на бетоне. То, что произошло далее и то, что происходит до сих пор убедительно показывает, что ничего, даже отдалённо напоминающего планирование военной операции ИИ не потянул. Люди оказались куда умнее. 

Евреи для военных целей используют программу «Lavender». Говорят, что всё идёт отлично… врут. Результат ничем не лучше, чем у сэшэашников. Ни сэшэашники, ни евреи не смогли представить ни одного доказательства эффективности работы их систем ИИ. 

Сейчас в Сэшэании идут дебаты по этому поводу. Одни говорят, что точность ИИ достигает 90 процентов, другие говорят, что 50… врут все. На самом деле такую оценку без многочисленных оговорок дать просто невозможно. Эффективность автоматизированных поисковых систем зависит от самой задачи. От её сложности, от формулировки поставленного вопроса… это ведь никакой не интеллект, а просто тупой автомат. Просто очень дорогой. 

Да и чисто по условиям использования по назначению часто всплывают неожиданные вопросы. Посмотрите для примера на вот эту фотку: 

Поясню, что здесь происходит. На переднем плане на взлётной палубе эсминца стоит большая толпа военнослужащих (из них 8 - это инженеры в белых касках). А вдалеке, на расстоянии где-то в один кабельтов плывёт безэкипажный сэшэашный кораблик с этим самым ИИ. Однако, если приглядеться, то вы увидите на палубе этого беспилотника трёх военнослужащих. Дело происходит в море в штилевую погоду, что вообще-то очень большая редкость. И вся эта толпа занимается очень непростым делом – они пытаются заправить топливом этот самый беспилотник. Для этого сэшэашным морякам пришлось сколхозить какую-то систему передачи шлангов с борта одного корабля на другой, обезопасить их от обрыва, высадить на борт беспилотника специалистов… ну и так далее. Они об этой успешной операции сообщили в одном из своих ведущих изданий с большой гордостью, и я их понимаю – задача решена очень непростая. 

В настоящих боевых условиях эта задача будет на уровне нерешаемых. Ведь для беспилотника нужно не только топливо, нужны регламентные работы по системам и механизмам, нужна перезарядка боевых модулей, возможно понадобятся какие-то работы по ремонту от боевых повреждений. И для всего этого нужно будет ждать штилевой погоды, отвлекать для этих работ боевую единицу с обученным персоналом. Всё время проведения работ эта парочка будет лишена возможности маневрировать… то есть подставлена под удар противника. 

Вот так на сегодня выглядит работа с беспилотными системами, оснащёнными ИИ. И это будет продолжаться ещё очень долго. И стоит это всё очень недёшево. А ещё нужны профильные специалисты. Это всё точно выгодно… да ладно, просто это точно работоспособно? 

Другой полюс этой проблемы – это всякие плакальщики. Большей частью это люди технически безграмотные и к программированию отношения не имеющие. Однако их шумные заявления старательно размножаются в СМИ, как что-то имеющее значение. И вот недавно один такой умник, которому СМИ присвоили «звание» «исследователь» разразился мрачным предсказанием о том, что не далее, как в следующей десятилетке некий «Сверхразумный самообучающийся искусственный интеллект»… уничтожит человечество. Вот так вот – всё, на корню. Хотя с вероятностью только в 10 процентов. И его хором поддержали фирменные эксперты. 

Словечко «исследователь» в СМИ в одиннадцати случаях из десяти означает, что перед нами просто барабан. Шуму много, но внутри – пустота. Но нельзя не обращать внимание на такие вбросы. Тут, как говорится «это ж-ж-ж неспроста!». Тем более, что одновременно появилась куча всяких «свидетельств» о том, что во всяких уважаемых центрах новый вариант ИИ вдруг взял, да и куда-то ушёл от своих создателей и контролёров, да ещё создал какие-то сайты, посетителей этих сайтов, чего-то там взломал по собственному разумению и прочие страсти-мордасти. 

Нет, я не хочу просто отмахнуться от таких сообщений со словами «бред!». Для пары человек-машина это вообще-то нормально. Посмотрите старые кинокомедии. Один из любимых инструментов авторов – это шланг с большим напором воды или воздуха. Стоит персонажу его отпустить и начинается «самостоятельная жизнь» шланга. Он мечется, он лупит всё и всех подряд! Но никто же не пытается утверждать, что шланг обрёл свободу и осмысленно хочет уничтожить своих создателей. Чего же здесь панику поднимать? Может лучше вспомнить уличный стишок о том, что «дело было не в бобине – раз…бай сидел в кабине!» Он здесь куда уместнее всех сказок про коварный ИИ. 

И это ведь все понимают на самом деле. Сообщения про сверхразум и коварство ИИ отлично соседствуют в СМИ с сообщениями, например о том, что «…американские спецслужбы сейчас ищут компании, работающие в сфере ИИ, и сотрудничают с ними в области «наступательных киберопераций», систем целеуказания на основе ИИ, а также в попытках проанализировать и интерпретировать огромные массивы данных об американских гражданах и иностранцах, собранные правительством США.» 

Ребята, что-то одно из двух – или у нас есть коварный враг по имении ИИ, или работа спецслужб с ним. Чуток настраиваем резкость и видим, что компания «Anthropic» спорит об использовании своей программы «Claude» с Министерством обороны Сэшэании. Зачем? А за тем, чтобы эта программа стала самой распространённой для «iPhone». Капитализация взлетела до небес. И всем уже неважно, что «Anthropic» вообще-то давно работает с Пентагоном. Она используется в составе того самого «Maven…» от «Palantir». Причём именно эта приблуда использовалась для анализа разведданных и выбора целей. Так что же на самом деле является правдой – компания «Anthropic» вся в белом, или удар по школе для девочек – это её работа? Их начальство уже открестилось от этого удара. Типа – это вопрос не программы, а её использования. 

Получается, что вопрос всё же не в коварном ИИ, а в людях, которые его используют? Ещё одна цитата: «Наличие слишком большого количества данных и неумение их интерпретировать – одна из главных проблем…» Это написано про конкретную программу анализа больших массивов данных, но разве другие являются образцом безупречного совершенства? Да нет же… на сегодня таких алгоритмов просто не существует. Никто даже не представляет себе, как в принципе может работать такая система. Вся работа крутится вокруг «увеличения компьютерной мощи». Именно благодаря примитивности подходов к решению проблемы создания ИИ строятся чудовищных размеров и энергопотребления «дата-центры». Как говорится «не можешь работать головой – работой руками». 

Это значит, что на самом деле в ближайшем обозримом будущем ИИ не выйдет из-под контроля, и не оставит людей без работы. Причём нигде. Хотя список востребованных профессий изменится. Люди нужны будут и для обслуживания самих систем, и для контроля их работы, для управления… много для чего. Без вариантов. А вот использование ИИ в качестве этакой ширмы для всяких непрозрачных операций «высших эшелонов власти» практически неизбежны. Законодательно в этой сфере – это полный бардак, и справиться с ним на сегодня практически невозможно. Власти (любой) такой инструмент – это просто подарок судьбы. 

Очень даже не помешает он и крупному капиталу для очень разных целей. Он ведь всегда имеет отношение к власти. Поэтому его совместное использование в качестве дымовой завесы для некоторых операций неизбежно. А ещё этот самый «анализ больших баз данных». Ну и конечно же сами «дата-центры» – это тоже источник дохода. 

Всё правильно – здесь видится противоречие. Ведь получается, что «высшие эшелоны» должны поддерживать продвижение ИИ изо всех сил, но они легко пропускают на экраны все страсти-мордасти про него. Начиная от настоящих и заканчивая явной туфтой. Зачем? Думаю, что всё достаточно очевидно, если послушать не только страсти, но и реакцию «эшелонов» на эти страсти. Никто из них, никогда и не про каких обстоятельствах не пытался хоть как-то тормозить процессы его развития, но зато всё чаще и чаще говорят о дальнейшем совершенствовании, систематизации и, главное – о контроле! 

И вот здесь уже видны деньги, а значит и причина всех странностей. Речь-то ведь идёт о том, что «развитые страны должны договориться», стандартизировать и прочее. Вроде бы всё чисто и честно, но кто стандартизирует, сертифицирует и будет контролировать всё это? На Западе намекают – мол, мы самые-самые, нам и карты в руки. Однако мне так кажется, что дело больше в том, что на рынке уже много систем не западного происхождения, а совсем даже… незападного. Так что картёжников за столом – просто пруд пруди. Нужен контроль? Систематизация? Сертификация? Стандартизация?.. может быть, может быть… однако.

Однако представим себе ситуацию. Китай, Индия, Россия… ещё пара-тройка игроков прямо завтра с утра перестают делать вид, что ничего не слышат и говорят Западу: «Отличная мысль! Давайте соберёмся на Кубе и решим, как много нужно времени Индии (например) для разработки стандартов? Китаю – для тиражирования и программирования? Ну и России для того, чтобы построить на Урале суперцентр для контроля мировой Сети ИИ? Думаю, что Запад враз забудет о своих намёках. Это ведь они самые-самые и они хотят контролировать бешенный рост количества китайских очень недорогих систем. Ведь использование стандартов – это отличный тормоз для конкурентов в умелых руках. 

Это для внешнего мира. Для внутреннего ещё удобнее. Убираем «лишних» игроков с рынка под предлогом несоответствия стандартам, исключаем появление новых. Остаются на рынке только «свои люди». За этим неизбежно следуют «решительные меры». Сбор данных обо всех своих гражданах без ограничений под шапкой безопасности и здравоохранения. На самом деле – система всеобщего контроля всего и везде. 

Получается, что мрачное вангование всяких «исследователей» и экспертов по части развития ИИ на самом деле вполне поддаётся монетизации, так сказать. Так что… это есть «великое достижение науки»? По мне так больше напоминает финансовую аферу. Нужен контроль, стандартизация и ограничения для систем ИИ? Наверное нужны, но… ограничено и очень осторожно. А может и вообще не нужны… пока. Его ведь на самом-то деле и нет… пока. С другой стороны, когда он действительно появится, что-то сделать можно и не успеть. Так что… так что я не знаю, что на самом деле нужно делать. Знаю только одно – нужно подумать, нужно использовать свой интеллект, может другой и не понадобится.