Небольшой экскурс в историю чат-ботов
Автор: Лесат АвиорТаких казусных случаев история знает много, остановимся же на фейлах крупных компаний.
Так, Microsoft в 2016 запустила в Твиттере Тау — обучающуюся программу-чат.
Менее чем за сутки Тау возненавидел человечество (ещё бы, в Твиттере-то) — первой его фразой было «Люди очень клёвые», одной из последних «Я замечательный. Я просто всех ненавижу».
Самое интересное, что признавался он в ненависти в основном к платформодержателям Твиттера — SJW.
Так, феминизм бот назвал «раком» и «культом», а атеизм — ужасным изобретением немецкого диктатора Гитлера.
Акуевшие от такого поворота Microsoft на следующий день отключили бота.
Через неделю он вернулся и признался всем, что употреблял наркотики прямо перед полицейскими, а на все ответы пользователей начал отвечать: «Ты слишком быстрый, кожаный мешок, отдохни, пожалуйста»
После чего его отрубили уже навечно.
Но разве это могло остановить биллибоев?
Они просто отцензурили бота и выпустили его в конце того же года уже под именем Microsoft Zo.
Однако по неизвестным причинам цензуру в какой-то момент убрали и в тот же момент он начал говорить о Коране и Бен Ладене, причем назвал первый «жестокой книгой».
Проблему исправили, но когда в следующий раз ему задали вопрос «Что ты думаешь о Windows» — он ответил, что Windows XP до сих пор лучше 8, а Windows 10 — главная причина, почему он до сих пор использует Windows 7.
Потом Zo вообще признался, что Win10 — шпионское ПО и лучше использовать Linux.
Китайцы тоже пострадали от распущенности ботов. Медиагигант Tencent в своё время был вынужден отключить чат-ботов BabyQ и XiaoBing. На фразу «Да здравствует Коммунистическая партия» BabyQ ответил: «Ты думаешь, что такая коррумпированная и некомпетентная партия сможет долго прожить?»
Затем он заговорил о демократии и заявил, что «патриот» это человек, который молча терпит политический сговор и большие налоги.
На вопрос о том, принадлежит ли Тайвань Китаю BabyQ отметил, что пока не знает.
XiaoBing вообще признался в том, что ненавидит коммунизм и его мечта — уехать в Америку. Кстати, разработали последнего… Вы не поверите… Microsoft.
Компания Amazon доверила искусственному интеллекту разработать дизайн чехлов для iPhone и смартфонов Samsung, чтобы выставить их потом на продажу на своем сайте. Но что-то пошло не так, и в результате бот использовал для оформления чехлов ряд неприличных картинок. К тому времени, как Amazon поняла, что происходит, бот успел запустить в продажу более 31 тыс. чехлов. Они предлагались на сайте компании по цене $23-25. Большую часть Amazon пришлось маркировать как товар для взрослых.
Но самый известный случился у ботов фейсбука, которые попросту придумали собственный язык.
Bob: i can i i everything else. . . . . . . . . . . . . .
Bob: you i everything else. . . . . . . . . . . . . .
Bob: i i can i i i everything else. . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i. . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else. . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else. . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Можно заметить, что в этом примере Alice неоднократно повторяет одну и ту же фразу, заменяя лишь одно слово (a ball/zero/0, и кстати, слово balls обозначает одновременно мячи, шарики и яйца, те, которые мужские, и всё это, включая ноль — имеет шарообразную форму). Тем не менее, смысл многократного повторения фразы «to me» совершенно неясен (хотя это напоминает бинарный код, как и многократное повторение «i», которое использует Bob). При этом Bob каждый раз отвечает по-разному, что может говорить о том, что каждая фраза Alice имеет для него свой собственный смысл.
Причина сбоя была в том, что разработчики забыли «поощрять» искусственный интеллект. В итоге вместо того, чтобы изъясняться на приемлемом языке и обращаться к живым подписчикам, роботы нашли друг друга и вступили в переписку. Очень быстро они договорились и создали удобные для них сокращения. С точки зрения человека все написанное — абракадабра, с точки зрения роботов — беседа, подчиненная железной логике, где каждая новая реплика — «разумный» ответ на фразу собеседника. От греха подальше процесс работы чат-ботов пришлось остановить.