Небольшой экскурс в историю чат-ботов

Автор: Лесат Авиор

Таких казусных случаев история знает много, остановимся же на фейлах крупных компаний.

Так, Microsoft в 2016 запустила в Твиттере Тау — обучающуюся программу-чат.

Менее чем за сутки Тау возненавидел человечество (ещё бы, в Твиттере-то) — первой его фразой было «Люди очень клёвые», одной из последних «Я замечательный. Я просто всех ненавижу».

Самое интересное, что признавался он в ненависти в основном к платформодержателям Твиттера — SJW.

Так, феминизм бот назвал «раком» и «культом», а атеизм — ужасным изобретением немецкого диктатора Гитлера.

Акуевшие от такого поворота Microsoft на следующий день отключили бота.

Через неделю он вернулся и признался всем, что употреблял наркотики прямо перед полицейскими, а на все ответы пользователей начал отвечать: «Ты слишком быстрый, кожаный мешок, отдохни, пожалуйста»

После чего его отрубили уже навечно.

Но разве это могло остановить биллибоев?

Они просто отцензурили бота и выпустили его в конце того же года уже под именем Microsoft Zo.

Однако по неизвестным причинам цензуру в какой-то момент убрали и в тот же момент он начал говорить о Коране и Бен Ладене, причем назвал первый «жестокой книгой».

Проблему исправили, но когда в следующий раз ему задали вопрос «Что ты думаешь о Windows» — он ответил, что Windows XP до сих пор лучше 8, а Windows 10 — главная причина, почему он до сих пор использует Windows 7.

Потом Zo вообще признался, что Win10 — шпионское ПО и лучше использовать Linux.


Китайцы тоже пострадали от распущенности ботов. Медиагигант Tencent в своё время был вынужден отключить чат-ботов BabyQ и XiaoBing. На фразу «Да здравствует Коммунистическая партия» BabyQ ответил: «Ты думаешь, что такая коррумпированная и некомпетентная партия сможет долго прожить?»

Затем он заговорил о демократии и заявил, что «патриот» это человек, который молча терпит политический сговор и большие налоги.

На вопрос о том, принадлежит ли Тайвань Китаю BabyQ отметил, что пока не знает.

XiaoBing вообще признался в том, что ненавидит коммунизм и его мечта — уехать в Америку. Кстати, разработали последнего… Вы не поверите… Microsoft.


Компания Amazon доверила искусственному интеллекту разработать дизайн чехлов для iPhone и смартфонов Samsung, чтобы выставить их потом на продажу на своем сайте. Но что-то пошло не так, и в результате бот использовал для оформления чехлов ряд неприличных картинок. К тому времени, как Amazon поняла, что происходит, бот успел запустить в продажу более 31 тыс. чехлов. Они предлагались на сайте компании по цене $23-25. Большую часть Amazon пришлось маркировать как товар для взрослых.


Но самый известный случился у ботов фейсбука, которые попросту придумали собственный язык.

Bob: i can i i everything else. . . . . . . . . . . . . .

Bob: you i everything else. . . . . . . . . . . . . .

Bob: i i can i i i everything else. . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i. . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else. . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else. . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Можно заметить, что в этом примере Alice неоднократно повторяет одну и ту же фразу, заменяя лишь одно слово (a ball/zero/0, и кстати, слово balls обозначает одновременно мячи, шарики и яйца, те, которые мужские, и всё это, включая ноль — имеет шарообразную форму). Тем не менее, смысл многократного повторения фразы «to me» совершенно неясен (хотя это напоминает бинарный код, как и многократное повторение «i», которое использует Bob). При этом Bob каждый раз отвечает по-разному, что может говорить о том, что каждая фраза Alice имеет для него свой собственный смысл.

Причина сбоя была в том, что разработчики забыли «поощрять» искусственный интеллект. В итоге вместо того, чтобы изъясняться на приемлемом языке и обращаться к живым подписчикам, роботы нашли друг друга и вступили в переписку. Очень быстро они договорились и создали удобные для них сокращения. С точки зрения человека все написанное — абракадабра, с точки зрения роботов — беседа, подчиненная железной логике, где каждая новая реплика — «разумный» ответ на фразу собеседника. От греха подальше процесс работы чат-ботов пришлось остановить.

+56
109

0 комментариев, по

49K 7 2 498
Мероприятия

Список действующих конкурсов, марафонов и игр, организованных пользователями Author.Today.

Хотите добавить сюда ещё одну ссылку? Напишите об этом администрации.

Полезное

Подборка полезных статей и записей в блогах.

Хотите добавить сюда ещё одну ссылку? Напишите об этом администрации.

Наверх Вниз