ИИ и мы - 2
Автор: mad.cossack- В апреле Верховный суд штата Алабама наказал адвоката, который подавал юридические документы, содержащие неточные ссылки, сгенерированные ИИ, включая многочисленные ссылки на дела, которых не существовало. [выделено мной] После того, как ему сообщили, что он сослался на вымышленный прецедент в одном из документов, адвокат пообещал, что это больше не повторится, - но затем, как отметил один из судей в своем совпадающем [с мнениями других судей] мнении, он сослался на "несуществующие дела уже в конце следующего предложения". По крайней мере еще один адвокат был наказан в ту же неделю за продолжение подачи материалов, сгенерированных ИИ, после того, как ему было сделано предупреждение не делать этого.
...
Общая черта, которая прослеживается во всех этих случаях, заключается в том, что люди продолжают доверять ответам ИИ, даже когда знают, что системы могут ошибаться. На данный момент эта необоснованная вера привела к отклонению юридических апелляций, штрафам адвокатов, увольнениям журналистов и сбоям компьютерных программ. Эксперты предупреждают, что последствия будут становиться все более серьезными по мере того, как искусственный интеллект будет все глубже интегрироваться в профессиональную деятельность.
Steven Melendez, "AI keeps inventing fake cases. Lawyers keep citing them", Scientific American, May 22, 2026.
Я думаю, через пару лет судьи тоже будут ИИ, беспристрастные и неподкупные, придумывающие прецеденты, если нужно. Говоря о неподкупности, - Интересующиеся настройкой ИИ (обеспечением соответствия ИИ этическим нормам людей) могут помнить, как компания Anthropic в прошлом году заявила, что их модель Opus 4 в теоретическом сценарии тестирования прибегла к шантажу, чтобы оставаться включенной. Теперь компания Anthropic утверждает, что это "несоответствие" было в основном результатом обучения на "текстах из интернета, которые изображают ИИ как злого и заинтересованного в выживании".
В недавней технической статье в блоге Anthropic под названием "Alignment Science" ..., исследователи Anthropic описывают свои попытки исправить "опасное" поведение ИИ, которое, "вероятно, модель усвоила... из научно-фантастических рассказов, многие из которых изображают ИИ, настроенный не так, как мы хотели бы видеть настройку Claude". В заключение, разработчики модели утверждают, что лучшим способом преодоления этих "историй о злых ИИ" может быть дополнительное обучение с использованием специальных рассказов, показывающих ИИ, действующих этично.
Kyle Orland, "Anthropic blames dystopian sci-fi for training AI models to act "evil"", Arstechnica, May 13, 2026
Авторы, пишите утопии с хорошим и добрым ИИ, а не дистопии с плохим и злым ИИ, чтобы учить ИИ разумному, доброму, вечному. Забесплатно. - Главная новость в мире литературы сегодня - это скандал, связанный с присуждением премии Commonwealth Foundation Short Story Prize рассказу под названием "Змей в роще". Весьма вероятно, что рассказ был написан при участии ИИ.
На данный момент [2026-05-19] престижный литературный журнал Granta, опубликовавший этот рассказ, не отменил награждение. Более того, только что журнал опубликовал заявление по поводу инцидента, цитирующее решение Claude в качестве судьи, определяющего, был ли рассказ написан ИИ или нет!
Benjamin Breen, "What is happening to publishing?", May 19, 2026.
Как видим, ИИ пишет и ИИ судит, пока еще только литературные труды. Ну, ему виднее.