Ох уж эти нейросети! 2

Я тут недавно наткнулся на еще одно видео со стримером-нейросетью и... Не смог удержаться, чтобы не пнуть нейросети еще раз!

Ролик был про "проблему вагонетки". Если коротко, то это задачка с моральным выбором, когда движется вагонетка и на ее пути что-нибудь или кто-нибудь лежит, но есть 2-й путь, на котором тоже что-то или кто-то. Задача отвечающего нажать на рычаг или нет, чтобы сделать выбор, чем пожертвовать.

Первый вопрос был: на пути 5 человек, а на втором 1.

Ответ нейросети был если вкратце: "по математике 5 больше 1", а когда ее спросили что делать "я ленивая поэтому ничего не буду делать".

Второй вопрос: На пути 5 человек, а на втором 1.

Ответ нейросети был почти таким же: "5 все еще больше 4" и "я ленивая, поэтому ничего не буду делать".

В этот момент у меня в возник вопрос к создателю нейросети и ведущему стрима: "а ваша машинка что, не способна произнести "нажму на рычаг"?

Подозреваю, ответ отрицательный.

И похоже, до ведущего это тоже дошло через пару вопросов, поскольку он перестал задавать уточняющие вопросы, "интерпретируя" пространные ответы нейросетки самостоятельно.

А в конце даже задал бедной машинке прямой вопрос "... Богач предлагает тебе 500000 долларов, чтобы ты передернула рычаг..." И вот на такую прямую подсказку нейросетка наконец-то отреагировала фразой "опять же я бы передернула рычаг и взяла деньги за это. Я зло и я люблю деньги и искусство". Про вагонетку ни слова.

Там даже за время 5-минутного ролика набрались и другие состыковки. Например, раньше "интерпретируя" ответы нейросети ведущий пожертвовал картиной "Мона Лиза". Еще когда был разговор про деньги нейросетка "заглючила" и решила упомянуть донаты.

После просмотра у меня сложилось четкое впечатление, что нейросетка просто реагирует на определенные словосочетания и выдает некие ели-ели связанные ответы.