Написал комментарий к посту Про нейросети и писателей
Вот такое получилось, интерфейс — SillyTavern. Понятно, что особо хитрые идиомы, особенно, с игрой слов, перевести может быть сложно или невозможно. Тут и профессиональные переводчики голову ломают, да иногда заменяют на что-то нейтральное. Сама модель общего назначения, не заточена именно на переводы — возможно, с файнтюнингом можно и лучше сделать. В принципе, модель такого размера можно дообучить и дома бесплатно (по стоимости электричества) на 3090/4090 с 24 Гб. Набрать книг с переводом, разбить на главы, оформить в виде диалогов пользователя и ассистента в подобном формате («Юзер: переведи на английский: *русский текст*; Ассистент: *английский текст*»). Тем не менее, большой путь прошли от старого-доброго гуртовщика мыши.
Написал комментарий к посту Про нейросети и писателей
Ну, это наивная точка зрения. Индивидуальность — просто накопленная информация (опыт). Сейчас модели обучаются на больших, но довольно одинаковых корпусах текстов. В будущем они могут получить физические тела для самостоятельного передвижения и путешествий, чтобы собирать новую информацию и дообучаться, формируя таким образом индивидуальные особенности. А между этими моментами можно симулировать «жизнь» через обычный шум с фильтрацией через другие модели, т.е. создавать случайные, но непротиворечивые «события» в жизни сети, на которых она будет получать некие впечатления и менять своё мировоззрение, а следовательно, и выдаваемые тексты. В принципе, эксперименты с агентами уже ведутся, так что не стоит говорить «никогда».
Конкретно сейчас у нас недостаточно мощностей для подобных симуляций, хотя уже есть положительные результаты с BitNet, где на один вес приходится всего три возможных значения (-1, 0, 1), так что модель получается очень компактной, быстрой, и почти не уступающей большим вариантам. В очень интересное время живём!