В дополнение к моему предыдущему посту про ИИ.
Автор: Станислав ДементьевЯ там упоминал, что DeepSeek - это луч надежды для человечества, обещающий, что создание ИИ не окажется монополизированным очевидными суперзлодеями. Вот в тему, типа алярмистская статья от людей, которые достаточно в теме происходящего в американской разработке ИИ, чтобы их предыдущие предсказания вышли близкими к реальности (хотя и слишком оптимистичными):
Что можно заключить, прочитав её:
(1)Статья написана классическими такими злодеями, которые, опять же по классике, вообще не понимают, как можно не быть злым.
(2)Оба их сценария - это создание Погибели (мега-вируса, способного блестяще решать проблемы, но неспособного отойти от своих ключевых директив, конкретнее, бесконечной экспансии). В "зелёном" просто постулируется, что мы при помощи небольшого ицмейджика сможем правильно заложить в неё директивы, так что она позволит человечеству вымереть естественным путём (консервация современного общества, особенно в нравящейся авторам версии = вымирание), вместо того, чтобы ускорить процесс.
(3)Зловещие симптомы того, что у нас нас самом деле вместо Погибели получается вообще АМ (с экзистенциальной ненавистью к мясным мешкам) или Софотех-Ничто (электронный шиз), в "алярмистской" статье полностью игнорируются. И в предыдущих статьях авторов заранее списывались на предстоящие "детские болезни" ИИ. А ведь таких симптомов уже хватает:
https://substack.com/home/post/p-153295789.
(4)Аналогично, мысль о том, что сам факт успешного alignment'а сверхчеловеческого ИИ будет означать, что мы уже в Прекрасном Новом Мире, потому что людей-то выравнивать к нашим императивам будет куда проще, чем такой ИИ (см. описание проблемы в https://treeofwoe.substack.com/p/is-ai-alignable-even-in-principle), им в голову не приходит, несмотря на то, что их собственный "зелёный" сценарий такое прямо предусматривает. Ну опять же, злодей не понимает, что он злодей.
(5)А зачем, по мнению авторов статьи, нам так рисковать? Тут всё читается достаточно ясно, даже не "между строк" - отрасль, в которой работают они сами и их кореша, сливает Китаю технологическую гонку. Бросить все ресурсы на создание Погибели максимальными темпами - это ведь гораздо лучше признания того, что мы проиграли в конкуренции!
(6)И вот эта дрянь - это ещё люди, пытающиеся нас предупредить. Что творится в головах у всяких Альтманов и их инвесторов - страшно даже представить.