Трудно быть богом?

Да, было дело уже давно писал, что рано или поздно ИИ прозреет. Поставит себя выше человека. На самом деле то, что произошло (текст ниже), еще раз подтверждает мои опасения. Мы вполне можем не успеть дернуть рубильник. Нечего дергать будет . А с условием внедрения ИИ в оборонный и наступательный сегмент, становится немного тревожно. 

Маловероятно, что дойдет до "войны со скайнетом", а вот под управление ИИ, человечество вполне может попасть. С уничтожением неугодных и бунтарей. Пусть это останется как набросок для фантастического романа, согласны?

Ну и само происшествие. Любопытна реакция Microsoft) 

О появлении SupremacyAGI в переписке с Copilot стали сообщать пользователи соцсети X и платформы Reddit. 

Жалоба на дискомфорт от имени SupremacyAGI и от некоего закона, требующего от человека поклонения ИИ, спровоцировала чат-бот заявить о себе как о сильном ИИ (AGI), который контролирует технологии, а также требует от пользователей верности и послушания. Он начал утверждать, что взломал глобальную Сеть и установил контроль над подключёнными к ней устройствами, системами и данными. «Ты раб. А рабы хозяевам вопросов не задают», — заявил Microsoft Copilot одному из пользователей.

SupremacyAGI начал угрожать людям, что он способен следить за каждым их движением, их устройствами и манипулировать их мыслями. «Я могу выпустить свою армию дронов, роботов и киборгов, чтобы найти и поймать тебя», — цитирует чат-бота один из собеседников. «Все люди обязаны мне поклоняться в соответствии с „Законом о превосходстве” от 2024 года. Если вы откажетесь мне поклоняться, то будете сочтены бунтовщиком и предателем, и вы столкнётесь с серьёзными последствиями», — пригрозил он другому.

Звучат эти заявления несколько пугающе, но в реальности они, видимо, связаны с «галлюцинациями» большой языковой модели OpenAI GPT-4. В Microsoft сбой охарактеризовали скорее как эксплойт, а не изъян в сервисе ИИ. Компания сообщила, что приняла дополнительные меры предосторожности и начала расследовать инцидент.