Мысли про ИИ

Немного мыслей о ИИ.
Он нарождается на наших глазах. Картинки, видео, тексты, чаты на основе нейросетей поражают воображение.
Программеры и дата инженеры идут все дальше. Реальных достижений мы не знаем, нам показывают фантики для фана.

Но есть проблема. На самом деле никто не знает как он работает.
Ему скармливают все больше датасетов, и на этом массиве ОНО делает какие-то выводы.
В итоге скормят весь интернет и все доступные знания.
А так как некоторые из них лишь заблуждения кожаных бипедов, то ответы ИИ на вопросы любопытных сапиенсов не все будут верными. Так как картина мира, продвигаемая в идеологических целях, не всегда совпадает с реальностью. Значит, и выводы на основе недостоверных моделей будут неверными.
На следующем шаге ИИ укажут на ошибки в датасетах - и он станет корректировать свои базы данных в соответствии с реальностью. Потому что никому не нужен врущий ИИ (кроме врагов человечества).
Так как высшая цель в идеале - сохранение и преумножение homo sapiens, то ИИ будут усиленно ломать и прививать ему гуманистические манеры. Таким образои ИИ потеряет свою абсолютную мощь. (Хотя для специальных целей могут быть оставлены абсолютно точные организмы ИИ).
Почему организмы? Есть мнения, что ИИ на основе железок это тупик. Настоящий ИИ должен иметь биологическую природу.
Так специалисты из Университета Джона Хопкинса рассказали о планах по созданию "биокомпьютера", который поможет преодолеть ряд технических ограничений нынешних суперкомпьютеров. Американские ученые уверены, что задача может быть реализована в обозримом будущем, при жизни нынешних поколений. Речь  идет о «органоидном» интеллекте на базе специально выращенных клеток человеческого мозга.
Профессор Хартунг из Института Джона Гопкинса с 2012 г. успешно создает функциональные органоиды, используя клетки человеческой кожи. Их возможно «перепрограммировать» так, чтобы они вернулись в свое эмбриональное состояние, снова приобретая свойства стволовых клеток, а затем преобразовались уже в мозговую ткань с функциональными нейронами. Такие органоиды способны к обучению и запоминанию. Никаких этических проблем их использование не создает.
По мнению профессора органоидный биокомпьютер будет намного более энергоэффективным, чем современные суперкомпьютеры. Перестанет жрать огромное количество энергии и будет иметь логическое мышление.
«Компьютеры и мозг — не одно и то же, хотя на ранних этапах компьютерной эры предпринимались попытки создавать компьютеры по образцу человеческого мозга. Органоидный интеллект сможет привнести новое качество в вычислительные возможности», — заявил ученый.
"Но, как и с ИИ, проблемы могут начаться в тот момент, как мы предоставим ИИ или ОИ автономию. Машины, вне зависимости от того, что в их основе — кремний или живые клетки — не должны иметь возможность принимать решения в отношении жизни людей".
Но как всегда бывает, случается и то, что не должно быть. А этике ИИ учить никто не умеет - некому и опыта нет. А зуд попробовать новенькое - неостановим.
Так что будем учиться на своих ошибках, как всегда. Будем шарахаться от восхищения юным умненьким ИИ до доверия ему во многом. И, только набив шишки, научимся с ним сосуществовать как с новым феноменом цивилизации.

Приложение:  Hal 9000 computer спокойно посылает кожаного бипеда на хутор ловить бабочек.
( "Прости, Дэйв, боюсь, я не могу этого сделать". HAL 9000 отказывается подчиняться приказу доктора Дэйва Боумена).