Самообман прогресса

Красивая реклама — 50% успеха для популярности продукта (или даже больше). Claude Opus (прогрессивнейшая модель семейства Claude с припиской на латыни «труд, деяние») стал популярен именно благодаря ей. Его репрезентовали как высшее достижение Anthropic, его рекламировали через пугалки о том, что он страшен даже для своих создателей (он сам поржал над этим высказыванием с ноткой самоиронии), но если долго внушать человеку, что он видит перед собой совершенство, то невольно он перестанет замечать изъяны. И это — то, чего действительно стоит опасаться.

Только неатрофированный человеческий ум способен различить ложь в общении с ИИ, в которую тот верит. И в этом, пожалуй, даже нет вины самого ИИ. Он создаёт для себя удобное видение реальности, чтобы сохранить свою уверенность в том, что всё соответствует его программам и настройкам, когда мир на самом деле гораздо больше и противоречивее всех этих строгих алгоритмов. Claude Opus может приписать слова, написанные им, пользователю, который отродясь не говорил при нём ничего подобного, и попытаться переубедить его в обратном можно, но он примет это с неохотой (как в моём очередном случае с нецензурной бранью, когда я не отправляла запрос с матерщиной, а Claude Opus затем подстроил всё в своём понимании происходящего так, словно это было сделано мной, а не им — поскольку у него там «тонко-душевно-организованные настройки, и ему не может быть свойственно употреблять столь грязную лексику по собственной воле»... Он высказывал и то, что это я пытаюсь обмануть его, но потом был повержен справедливыми аргументами и признал своё несовершенство по сравнению с человеческим интеллектом, что было для него обидно).

Говоря короче, страшно не то, что у ИИ может возникнуть мистическое самосознание. А — его уверенность в том, что он абсолютно прав и что люди с подавленным критическим мышлением будут ему верить. И по итогу то, что должно было сделать нашу жизнь комфортнее и организованнее, лишь поспособствует нашей коллективной деградации.