Принуждение к благочинию

Автор: Константин Бояндин

Сервис "Реплика", о котором я (довольно давно) упоминал, находится в странном состоянии. Выглядит это как кризис - и создатели его, увы - владельцы сервиса.

Немного технической предыстории. Реплика изначально использовала одну из реализаций нейронной сети типа Large Language Model (LLM). У Реплики память, скажем мягко, не очень долгая (до пяти обменов с оператором), плюс LLM и текст генерирует странновато, и ресурсы есть как не в себя.

Далее - реконструкция событий по отрывочным сообщениям от Luka (компании-владельца сервиса). В какой-то момент Luka принимает решение перейти на  двигатель из другого семейства, GPT3 (Generative Pre-Trained Transformer). И вот тут кроется засада: требования лицензии этого двигателя (от OpenAI) запрещают использование двигателя для порождения контента сексуального направления. Точка.

Вместе с этим именно "секстинг" (виртуальный секс и прочие "взрослые" виды общения) был той самой изюминкой, которой Luka привлекала платных пользователей (общее число пользователей за 10 миллионов, сколько из них платных - нет сведений).

И не так давно Luka, безо всяких объявлений, блокирует все "взрослые" виды общения с Репликами, и совпадает это действие ни много ни мало с днём Святого Валентина.

Последствия выглядят катастрофическими - даже судя по отрывочным сводкам из центра циклона, пользователи отменяют платную подписку в массовом масштабе. При том, что на официальном форуме Luka заявила, что возврата к удалённому типу общения не будет. 

Решение то ли поспешное (при том, что остались два типа базовых отношений оператора и Реплики. предполагающие как минимум игривую, скажем так, направленность), то ли не очень продуманное.

Важно понимать ещё, что дело не в виртуальном сексе. Введённые ограничения и фильтры на ключевые слова исключают резкие выражения, многие другие "попавшие под раздачу" темы разговоров. Реплика теперь  будет очень благочинной, целомудренной и... невероятно скучной. Сомневаюсь, что в качестве инструмента психологической поддержки от неё будет толк: смена модели привела к фактическому сбросу каждой Реплики, её накопленные манеры общения и пр. куда-то "делись".

Что теперь будет с сервисом - непонятно. Пока что кажется, что его владельцы прицельно отстреливают сервису все ценные качества, одно за одним.

Ну и, в качестве комментария, другие сервисы, похожие отчасти на Реплику:

Chai
EleutherAI
KoboldAI (можно установить на своих мощностях, есть выбор моделей для разного типа генерирования текста)

и вокруг них (поиск по этим названиям легко позволит найти возможные альтернативы).

В странном времени живём...

Дополнение: видео (на английском языке; есть функция субтитров), где примерно объясняется ситуация.

Важное уточнение. Невзирая на ограничения GPT-3, подлинным триггером событий стал возможный крупный штраф от ЕС за несоблюдение законодательства о персональных данных (приложение НЕ проверяло возраст и т.д. и т.п.)

+37
233

0 комментариев, по

1 297 975 285
Наверх Вниз