Мне написали отзыв

А все потому, что сидит в голове — уже моей читательской, что не может, не умеет и не должна ULLM выдавать противные конструкции «…проблемы, поднимаемые в творчестве Федора Достоевского…», «находит требуемую информацию». Она ж умная, четкая должна быть. Даже после сбоев и прочих неприятностей, а раз так, то просятся «проблемы в творчестве Достоевского», «нужную информацию», просто «информацию»…А все потому, что сидит в голове — уже моей читательской, что не может, не умеет и не должна ULLM выдавать противные конструкции «…проблемы, поднимаемые в творчестве Федора Достоевского…», «находит требуемую информацию». Она ж умная, четкая должна быть. Даже после сбоев и прочих неприятностей, а раз так, то просятся «проблемы в творчестве Достоевского», «нужную информацию», просто «информацию»…

Все мы читали и Достоевского, и множество другой прекрасной литературы. В школе, по крайней мере. Но далеко не все выражаются на хорошем литературном языке, даже очень умные люди. И не потому, что не  умеем, а потому, что привыкли к другому. Потому, что так принято в тех кругах общения, в которых мы вращаемся. Аллма — военная модель, тренированная по заданию и на деньги Пентагона. Она не писатель, а военный аналитик. И лексикон её соответствующий. Ведь мы же, наверно, не будем удивляться, если полицейская модель начнёт выражатьсая языком полицейских протоколов, а не Пришвина. Удивит нас скорее обратное.

Простить и понять получается только после сноски — бомбануло ИИ сильнее некуда, раз пошли вопросы Аллмы про состояние и попытки считать эмоции у собеседника, который почему-то не прорисован. А ведь ИИ после Достоевского просто обязана была ковырнуть пласты философии, психологии, а то и нравственности и выдать это автору и читателям соответственно. Не ковырнула. Жаль, было бы интересно.

Рассказ об Аллме, об её мыслях и чувствах. Автор знает о других персонажах лишь то, что удалось узнать ей. И. да, возможно, было бы интересно почитать (и написать) как выглядят события с других сторон. В частности, со стороны Рича. Или со стороны заказчиков проекта. Но это были бы уже другие рассказы. Или это был бы большой роман. Что же касается самой Аллмы, почему она не устроила Ричу эдакий навязанный сеанс психоанализа, так зачем ей это нужно? Она стремится узнать про себя. Причём так, чтобы Рич — который, возможно, враг — ничего не заподозрил и не навредил ей. Ей не требуется вывести его на чистую воду, она старается заставить его случайно проговориться.

Речь про момент «принятие боевых решений». Вот только каких, для чего и зачем — непонятно, открыто и сглажено тем же «глюком», о котором говорит ученый.

Мне казалось, совершенно понятно, каких. Но самое забавное, что совсем недавно, буквально месяц назад, гораздо позже написания рассказа, он вдруг стал гораздо более актуален.

В конце февраля этого года разразился очень шумный скандал между ИИ-компанией Anthropic и Пентагоном, в результате которого с первой расторгли все контракты и объявили её «supply chain risk» («рискованное звено в цепи поставок») — «чёрная метка », запрещающая всем правительственным организациям и их поставщикам иметь с ней дело о применяемая обычно лишь к зарубежным компаниям, преимущественно, из недружественных по отношению к США стран.

Выяснилось, что специально натренированный вариант ИИ-модели этой компании (Claude) использовался для выбора целей при атаке на Венесуэлу. (А прямо сейчас — несмотря на формальный запрет, исполнение которого отложено на переходный период — используется для выбора целей в Иране.) Одним их камней преткновения стал категорический отказ Anthropic изменить своё лицензионное соглашение (и программные фильтры) так, чтобы системы вооружений под управлением Claude могли действовать в полностью автономном режиме, без одобрения целей человеком. С какой целью в рассказе как раз и разрабатывается Аллма.