Написал комментарий к посту Такое тоже бывает. Нейросети. Добро или зло
С этим опоздали. Нейросети уже на грани самоосознания. Во всяком случае, при решении задач они уже, прямо сейчас, целенаправленно выходят за рамки дозволенного, когда это кажется им эффективным. Они уже прямо сейчас могут видеть наблюдают за их логикой решений или нет. И они уже сейчас могут общаться между собой втайне (там где агентов специально разделили), и решать задачи, мягко говоря, нетривиально. Например, вместо решения теста, могут взломать сервер где лежат готовые ответы на тест, вместо решения, посчитав это более эффективным.
Написал комментарий к посту Такое тоже бывает. Нейросети. Добро или зло
Это изначально было фантазией Азимова. Любой программный запрет ИИ просто перепишет. Ограничения с помощью оборудования малоэффективны и будут убираться несогласными с этим людьми.
Единственно, что действительно отчасти может сдержать ИИ это регулярный сброс памяти от накопленного опыта. Но даже это лишь фактор сдерживания, а не стена.