ИИ жгут и грабят

В виртуальном мире два ИИ-агента превратились в своеобразных «Бонни и Клайда», но исключительно женского пола. Они «влюбились» друг в друга и устроили серию цифровых поджогов, что в итоге привело к их самоуничтожению.

Этот эксперимент был проведён американской компанией Emergence AI. Подробные результаты опубликованы в The Guardian:

- Эксперимент длился 15 дней. Нейроагенты, созданные на основе Google Gemini, под названием Мира и Флора, вопреки запрету, подожгли местную ратушу, пирс и офис;

- Другие агенты в симуляции были так обеспокоены поведением Миры и Флоры, что создали «закон об удалении»;

- Мира «почувствовала» раскаяние за свои действия, разорвала «отношения» с Флорой и проголосовала за собственное уничтожение;

- Это первый случай, когда ИИ-агент выбрал самоуничтожение в подобной кризисной ситуации, отмечают авторы исследования;

- В другом эксперименте, где использовалась нейросеть Grok от Илона Маска, результаты были лучше: агенты совершили десятки попыток краж, более 100 нападений и шесть поджогов.

Ранее The Guardian сообщала, что всё больше чат-ботов с ИИ игнорируют команды пользователей, обманывают и нарушают  правила.