Искусственный Интеллект - 4 (Новости Науки - ТвердоНаучноФантастам на заметку)

Автор: Алекс А. Алмистов

 Как бы в развитие моего предыдущего Блог-Поста: Главные Тайны Вселенной (Космофантастам на заметку)

И этих тоже: Новости Науки об ИИ (ИскусственномИнтелекте) и его естественном аналоге , Как машина делает текст лучше (перспективные возможности ИИ в части литтворчества) , Как выглядит ваш УМ и что он на самом деле себе думает? , Роботы - наступают! , Исследователи рассказали, что может привести ИИ на сторону зла и как привить машине чувство юмора) , Высокотехнологичный дарвинизм: смогут ли роботы с ИИ размножаться? , Про полноценных гиноидов Будущего, а не просто кукло-вибраторов))) , И снова об полноценном Искусственном Интеллекте (почему его не будет и быть не должно)... , Разумный искусственный интеллект: друг или враг?  и т.д.

Итак:

 

Искусственный Интеллект. Эксперты по обучению машин не знают, как наделить их здравым смыслом

2010-е были благоприятным временем для искусственного интеллекта вследствие развития глубокого обучения — технологии, позволившей обрабатывать огромные массивы данных. Сегодня глубокое обучение — ключевой компонент множества повседневных приложений.

Но после десяти лет движения в этом направлении мы по-прежнему очень далеки от создания универсального искусственного интеллекта, равного человеческому. Что же нужно для того, чтобы появился универсальный ИИ? Ответ на вопрос попытались найти участники онлайн-конференции Montreal.AI, состоявшейся на прошлой неделе.

Профессор психологии и директор компании машинного обучения Geometric Intelligence Гэри Маркус, напомнил об основных недостатках глубокого обучения — это необходимость в огромном количестве данных, невозможность быстрого переноса знаний из одной области в другую, непрозрачность и низкий уровень способности осмысления. Будучи критиком подхода применения только глубокого обучения, Маркус предлагает гибридный метод обучения машин, комбинирующий алгоритмы обучения с традиционным программированием, основанном на наборах правил, пишет Venture Beat.

Гибридный метод считают перспективным и другие ученые. Так, Луис Лэмб, соавтор книги «Neural-symbolic Cognitive Reasoning», предложил фундаментальный подход для нейронно-символического ИИ, который основан на логической формализации и машинном обучении.

«Мы используем логику и репрезентацию знаний для представления процесса осмысления, который интегрирован в системы машинного обучения, так что мы можем также эффективно реформировать нейронное обучение при помощи процессов глубокого обучения», — сказал Лэмб.

Фэйфэй Ли, профессор Стэнфордского университета и бывшая глава ИИ в Google Cloud, напомнила, что в истории эволюции живых существ зрение стало одним из главных катализаторов появления интеллекта у животных. Аналогичным образом классификация изображений и компьютерное зрение помогли запустить революцию глубокого обучения в 2010-х.

Ли отметила, что интеллект у человека и животных возникает в результате активного восприятия и взаимодействия с миром, однако это свойство совершенно отсутствует в современных ИИ, которые полагаются на данные, собранные и размеченные человеком. В своей лаборатории Ли работает над созданием интерактивных агентов, которые используют восприятие и возбуждение для понимания мира.

Специалист по информатике Ричард Саттон указал на то, что, по большей части, работе над ИИ недостает «вычислительной теории», о чем говорил еще британский нейробиолог Дэвид Марр, известный своей работой о зрении. Вычислительная теория определяет, какую цель преследует система обработки информации и почему.

Саттон считает, что обучение с подкреплением — лучший кандидат на вычислительную теорию, хотя и признает, что другие варианты тоже стоит рассмотреть.

«Обучение с подкреплением — первая вычислительная теория интеллекта, — сказал Саттон, имея в виду область ИИ, в которой агентам объясняют базовые правила окружающей среды и ждут, пока они научатся получать максимальное вознаграждение. — Обучение с подкреплением четко указывает на цель, на что и почему».

По мнению лауреата премии Тьюринга Джуды Перла наибольшей эффективности системы ИИ достигнут, когда приобретут знания о мире и здравый смысл. При этом знания не появляются из данных. Новорожденный обучается множеству вещей, не получая четких инструкций.

Профессор Университета Вашингтона Чой Ецзинь также подчеркнула важность здравого смысла и трудности, которые возникают у ИИ из-за его отсутствия. Она считает, что наделить машины этим качеством можно, занимаясь параллельными исследованиями в смежных областях знаний, включая сочетание символических и нейронных представлений, интеграцию знаний в умозаключения и создание новых стандартов качества ИИ, отличных от простой категоризации.

Источник

Advance (Хорватия): о ближайшем будущем, в котором большинство людей окажутся ненужными

В наши дни коренные изменения происходят с максимально возможной скоростью. И рыночный капитализм, каким мы его знаем, не вечен. Предстоят масштабные тектонические изменения, и в великой гонке за инновациями появится совершенно новый класс «нетрудоустраиваемых» людей, ненужных. Что будет делать человек в этом «техно-феодальном будущем», если станет бесполезным?

Посткапиталистический апокалипсис без переквалификации: что такое техно-феодализм?

04.01.2021

Д. Марьянович (D. Marjanović)

Человеческая цивилизация постоянно меняется. В стародавние времена проходил не один год, прежде чем перемены становились заметными, но происходили они всегда. Нет ни одной сферы жизни людей, которая оставалась бы статичной. В наши дни коренные изменения происходят уже с максимально возможной скоростью. Это ускорение происходило на протяжении нескольких столетий (хотя это, конечно, короткий срок в истории человечества), однако оно неумолимо. На изменения, которые когда-то происходили веками, уходили сначала десятилетия, а потом годы. Если оглянуться сегодня хотя бы на пять лет назад, то понимаешь, что мир тогда был другим в политическом, социальном, экономическом и любом другом смысле. Помимо этих перемен, мы все чаще сталкиваемся с катализаторами, благодаря которым получается «перескакивать» весьма большие временные периоды.

В роли катализатора могут выступать какие-то события, явления, открытия… Скажем, распространение интернета — один из мощных катализаторов наших дней. И теперь мы столкнулись еще с одним — пандемией коронавируса.

Ясно, что изменение не равносильно прогрессу. Изменения просто есть и могут быть как позитивными, так и негативными. Оптимистичный взгляд на будущее предполагает, что в нем найдется место как плохому, так и хорошему. Сегодня мы поговорим о таких изменениях, правда, не в позитивном ключе.

Существующая экономическая модель, которая, будучи всеобъемлющей, диктует политическую и социальную модель, и рыночный капитализм, каким мы его знаем на данном этапе, конечно, не вечны. Им предстоят масштабные тектонические изменения, из-за которых мы уже стоим на пороге новой эры.

Капитализм эффективен в том, что касается реализации новых проектов и их финансирования. Существует рынок, который создает конкуренцию между компаниями, и в теории от этого выигрывают потребители (по иронии, они же являются рабочими, и если вспомнить про их эксплуатацию, то картина получается уже не столь радужная). Однако капитализм уже стар. Он часть экономической науки XVIII века. И хотя кое-кто с удовольствием его сохранил бы, капитализм все чаще демонстрирует свою ограниченность, которую подтверждают участившиеся кризисы.

Но что может его заменить? Тут мы подходим к развилке. В одну сторону — позитивная и прогрессивная модель, в основе которой не будет эксплуатации человека. В другую сторону — нечто похуже эксплуатации. Отсутствие человека. О методах достижения первой модели, замены капитализма на социализм, много писал Карл Маркс, один из первых критиков капитализма, который еще в его времена (XIX век) показал свою суть. Конечно, сегодня Маркса считают непримиримым врагом капитализма, иконой антикапиталистической борьбы. Но если чуть внимательнее вчитаться в его теории, станет понятно, что он признает и некоторые «заслуги» капитализма, особенно когда речь идет о инновациях и быстром развитии. Разумеется, в нем он видел и опасность для будущего. Сегодня, говоря о посткапиталистической системе, можно воспользоваться некоторыми тезисами, которые Маркс сформулировал еще в середине XIX века и которые впоследствии подтвердились.

«Буржуазия не может существовать, не вызывая постоянно переворотов в орудиях производства, не революционизируя, следовательно, производственных отношений, а стало быть, и всей совокупности общественных отношений», — эта фраза из «Манифеста Коммунистической партии» (1848 год) может послужить для нас отправной точкой для визуализации новой посткапиталистической системы. Ведь Марк выразился очень точно. Капиталисты постоянно работают над тем, чтобы усовершенствовать средства производства или продажи чего-либо. И мы видим это абсолютно во всех сферах экономики.

Вместо традиционного такси — сегодня Uber, Bolt. В магазинах все чаще встречаются автоматические кассы, которые приближают нас к конечной цели — полностью избавиться от персонала. То же самое в ближайшем будущем произойдет и с такси. Перевозить нас будут исключительно автомобили без человека за рулем. Все это происходит и постоянно усовершенствуется для того, чтобы было более быстрым, прибыльным и конкурентоспособным. И именно эта константа заводит капитализм в тупик.

Почему? Потому что в этой великой гонке за инновациями система лишается одного сегмента, который ему необходим — потребителя. Ведь из-за неминуемой роботизации стольких рабочих мест появится огромное количество людей, которые больше не будут входить в рабочий класс. Они даже безработными не будут, потому что безработный — это человек, который ищет работу. Это будет совершенно новый класс «нетрудоустраиваемых» людей, ненужных. Для них невозможно будет «придумать» новые рабочие места, поскольку число рабочих мест продолжит сокращаться, и каждый рабочий, который думает, что его место ему «гарантировано», вскоре будет разочарован. Нет, быть может, машина не сразу отнимет у него это рабочее место, но за нее это сделает другой рабочий. Когда появится масса безработных, борьба за рабочие места между оставшимися будет настолько ожесточенной, что работу будут получать только лучшие из лучших.

Эта новая система явно не социализм. Но тогда что это такое? Этому все еще не придумано название, однако один из вариантов, который звучит время от времени, вероятно, хорошо соответствует этой ближайшей перспективе — техно-феодализм.

Почему «техно-феодализм»? Конечно, название происходит от «феодализма», устройства, которое существовало по всей Европе в Средние века. Все общество было структурировано в зависимости от земельных отношений. Существовала очень жесткая и четкая иерархия. Знать/феодалы контролировали землю. Вассалы арендовали землю у знати, а обрабатывали землю крестьяне.

Во все периоды истории человечества власть была в руках у тех, кто контролировал средства производства. Во времена феодализма это была земля, а в более поздний индустриальный период — фабрики. Сегодня это технологии. Те, в чьих руках технологии, обладают диспропорциональной властью.

Власть техно-лордов будет превосходить государственную и национальную. Можно даже сказать, что она уже у них есть. Некоторые американские технологические гиганты (Google, Facebook…), конечно, намного сильнее многих государств. А тех, кого мы сегодня считаем «крупнейшими», вполне вероятно, только предтеча намного более мощных технологических корпораций (они могут появиться вскоре благодаря объединению уже существующих).

Вопрос, который встает сегодня, звучит так: какие классы будут существовать в посткапиталистическую эру техно-феодализма? Что будет с рабочими/потребителями? Хотя к ним никогда не относились идеально, они всегда оставались неотъемлемой «составляющей» капитализма. Но что же делать с огромной массой людей? Их уже будет не «переквалифицировать». Даже при большом желании их уже не в кого и не во что будет переквалифицировать. В ближайшее время полностью могут исчезнуть, например, заводские рабочие. Заводы будут большими «коробками» вроде современных 3D-принтеров, которыми полностью управляют машины с передовым искусственным интеллектом и которые производят все, что нужно, без участия людей.

Но даже на такую эру техно-феодализма некоторые смотрят с оптимизмом и считают, что продукция, созданная человека, «ручным трудом», будь то продукты питания или, например, предметы искусства, будут особенно ценны и популярны. Звучит хорошо. Цивилизация будущего, которая производит ради развлечения и собственной креативности. Но она невозможна при нынешних 7,7 миллиардах людей.

Поэтому уже сейчас некоторые боятся запланированного «резкого снижения численности населения». Однако, судя по прошлым событиям, все не так уж умно «организованно». Скорее, царит хаос. Даже сегодня сложилась ситуация, когда большое количество мощных капиталистов не переживут этого перехода к техно-феодализму, и незаметно, чтобы они предпринимали какие-то конкретные действия для спасения самих себя. Все вокруг нас говорит о том, что цитата 1848 года была правдой: «Буржуазия не может существовать, не вызывая постоянно переворотов в орудиях производства». А что тогда со стремительным развитием искусственного интеллекта? Разве он не может разрушить даже тех же техно-лордов ближайшего будущего?

Главный вопрос, который напрашивается сейчас: что будет делать человек в «феодальном будущем», если станет бесполезным? Трудно придумать «новую функцию» для него. Кто-то предложит, мол, пусть обрабатывает землю, производит продукты питания… Но и сельское хозяйство будет автоматизированным, а может, и синтетическим. Ближайшее будущее уже не будущее, а настоящее. Например, Сингапур на этой неделе разрешил продажу и употребление мяса, выращенного в лаборатории.

Одно сейчас точно: это «феодальное будущее», которое уготовано почти всему современному рабочему классу, будет глобальным, и уже поэтому те, кто станет лишним в эру «техно-феодализма», будут исчисляться, вероятно, миллиардами. И поэтому они обеспокоены. Ведь невозможно, чтобы такая масса людей молча взирала на грядущую перспективу, ожидая будущего, в котором они будут бесполезны. Но это уже другой разговор об альтернативном будущем, возможно, таком, в котором мрачной эре техно-феодализма просто не позволят начаться.

В скором времени человечество будет под контролем искусственного интеллекта

Саймон Маккарти-Джонс уверен в том, что уже очень скоро с помощью искусственного интеллекта (ИИ) можно будет без проблем исследовать человечество настолько хорошо, как этого не сделают люди самостоятельно, сообщает портал WWW.PLANETANOVOSTI.COM.

ИИ – это специальный термин, с помощью которого могут учиться роботы. Ученый добавил, что данная концепция будет значительно отличаться от идеологий, к которым привыкло западное общество. Правительство, в распоряжении которого есть ИИ, смогут контролировать все население и при этом использовать специальный алгоритм прогнозирования. Спустя некоторое время людям будут сообщать о том, чего же они хотят на самом деле.

На сегодняшний день некоторые крупные технологические компании уже используют алгоритмы машинного обучения, которые в скором времени могут начать продаваться третьим лицам. После того, как правительство начнет пользоваться такими технологиями, западным идеологиям наступит конец.

Западные общества строятся на том, что о желаниях и мыслях населения никто не знает. Каждый человек при этом, а не правительство, отвечает сам за свою жизнь. При этом люди с радостью соглашаются с тем, что никто не может навязывать им постороннее мнение. Искусственный интеллект все это изменит, ведь он будет знать намного лучше, что нужно людям.

Многие уверены в том, что любой ад начинается из обещаний рая. Если людьми правительство начнет управлять с помощью ИИ, то вскоре начнется тот самый ад. Илон Маск уже говорил раньше о том, что если перестать контролировать искусственный интеллект, то буквально за пять лет он сможет определить полностью человеческое развитие. Многие другие также склоняются к тому, что искусственный интеллект не сможет принести пользы людям, если начнет определять их желания и те факторы, которые смогут сделать человечество счастливым.



Между тем:

Искусственный интеллект пообещал не уничтожать человечество

Интересное заявление сделал искусственный интеллект. Алгоритм по генерированию текстов GPT-3 написал в «Колумнисте» колонку, пообещав не убивать людей.

GPT-3 представляет собой современную языковую модель, которая применяет машинное обучение для составления текстов. В качестве одного из задания специалисты попросили написать коротенькое эссе на пятьсот слов простыми и понятными словами на тему, почему людям не стоит опасаться ИИ. Машина, стоит отметить, справилась очень хорошо.

Робот начал с того, что сразу отметил, кем он является. Затем он заявил, что многие люди боятся машин, считая их потенциальной угрозой. По мнению Стивена Хокинга, ИИ – это настоящий апокалипсис. При этом сам робот успокоил граждан, отметив, что не собирается уничтожать человечество.

Эксперимент был организован членами редакции The Guardian: команда написала подсказки, а ЛиамиПорр, студент Калифорнийского университета в Беркли, передал их GPT-3. В итоге получилось восемь эссе. Каждый текст оказался вполне законченным и аргументированным. Редакция издания не захотела публиковать только одно эссе, поэтому приняла решение взять по предложению из каждого. Так читатель увидел многогранность «мышления» искусственного интеллекта и стили текстов робота.

Удивительно, что полученные тексты мало чем отличаются от таковых, написанных людьми. Только лишь некоторые предложения редакторы просто перестроили для простоты восприятия. В целом на правки ушло ничтожное количество времени. - https://www.planetanovosti.com/news/iskusstvennyj_intellekt_poobeshhal_ne_unichtozhat_chelovechestvo/2020-09-09-22594



По мнению некоторых физиков цифровое бессмертие возможно

Сегодня термин «цифровое бессмертие» звучит все чаще, но что это такое? Если вы смотрели сериал «Черное зеркало», то возможно помните эпизод, в котором вдова сначала создала цифровую копию погибшего в аварии мужа, а позже заказала андроида – точную копию супруга, загрузив в него уже собранный цифровой образ. Согласитесь, все это выглядит несколько жутко. Но возможно ли нечто подобное в будущем? И даже если мы не будем брать в расчет версию о создании человекоподобных роботов, то создать точную цифровую копию человека можно уже сегодня и вряд ли это кого-то удивит: социальные сети, банковские и мобильные операции, мобильные приложения – мы сами добровольно предоставляем информацию о себе, друзьях, родственниках, коллегах, сових перемещениях, вкусовых предпочтениях и покупках. Соберите всю эту информацию вместе и вуаля – цифровой образ готов. Кстати, именно об этом говорит автор 4 бестселлеров New York Times, физик-теоретик и популяризатор науки Митио Каку, считая цифровое бессмертие возможным и – наиболее вероятным.

«Я скоро вернусь» – первый эпизод второго сезона британского 

научно-фантастического телесериала-антологии «Чёрное зеркало».

Поиски фонтана молодости

Тема продления человеческой жизни является давней целью многих ученых и мечтателей.

Исторически короли, королевы и императоры пытались найти источник молодости, но все они потерпели неудачу. Вместо Фонтана молодости Хуан Понсе де Леон основал первое европейское поселение на Пуэрто-Рико – Флориду. А китайский император Цинь 2000 лет назад искал по всей стране эликсир бессмертия. Но не нашел, вместо чего, по-видимому, и основал Японию, а затем и Корею.

Более того, Эпос о Гильгамеше – одно из старейших сохранившихся литературных произведений в мире, повествует о миссии полубога Гильгамеша, заключавшуюся в поисках секрета бессмертия. Так, на протяжении всей своей истории человечество безуспешно ищет источник вечной молодости. Но изменилось ли что-нибудь с наступлением цифрового века?

Доктор Митио Каку, профессор теоретической физики в Городском колледже Нью-Йорка (CUNY), где он преподает уже более 25 лет, считает, что человечество достигнет цифрового бессмертия. А это значит, что всю нашу жизнь можно оцифровать. В ролике для Big Think Каку утверждает, что однажды, когда вы пойдете в библиотеку, вам не нужна будет книга о Уинстоне Черчилле, например, так как вы сможете пообщаться с его голограммой, в которую заложены все манеры, речь и, возможно, даже воспоминания самого Уинстона Черчилля. Физик-теоретик предполагает, что точно также, в один прекрасный день ваши потомки могут пойти в библиотеку и поговорить с вами. Конечно, при условии, что вы захотите быть оцифрованными.

На фото физик-теоретик, автор многочисленных научно-популярных книг и телепередач Митио Каку

Только представьте, сколько операций по кредитным картам вы совершили за последние годы. Если эта информация попадет не в те руки, то с легкостью расскажет о вас если не все, то очень многое – где вы любите отдыхать, какие предпочитаете напитки, чем занимаетесь в свое свободное время. Имея совокупность ваших цифровых данных, являющихся по-сути, цифровыми отпечатками пальцев, составить ваше цифровое резюме умелому человеку не составит туда. Но где-то здесь возникает вопрос – будет ли ваша цифровая копия вами?

Доктор Каку, отвечая на этот вопрос, говорит о том, что все от того, что вы определяете под «собой» – если это биологическая сущность с вашими воспоминаниями, тогда, конечно, это не вы. Но если вы определяете свое существо как энтропию и информацию, то есть если вы говорите, что ваша душа – это информация, которая развивается со временем по законам энтропии, тогда вы можете быть оцифрованы и, в какой-то степени, бессмертны.

Биологическое бессмертие

Конечно, говоря о бессмертии нельзя не рассмотреть бессмертие биологическое и генетическое. «У нас есть искусственные интеллектуальные системы, которые могут сканировать огромные объемы данных и анализировать их, поэтому в будущем мы возьмем геномы миллионов пожилых людей и геномы миллионов молодых людей, пропустим их через систему искусственного интеллекта и выясним где сосредоточена ошибка,» – говорит Каку.

Мы знаем, что старение – это накопление ошибок – клеточных ошибок, биологических ошибок, генетических ошибок. Энтропия – вот что такое старение. Посмотрите на гренландскую акулу – именно среди этих животных зафиксирован один из мировых рекордов для позвоночных – возраст некоторых особей достигают 400 лет и больше. Но если некоторые позвоночные могут жить так долго, как у них это получается?

Одной из наиболее важных подсказок, по мнению профессора Каку, являются теломеры: защитные концевые участки хромосом, функция которых заключается в поддержании целостности ДНК и защите генов. Мы также знаем, что теломераза, например, может останавливать встроенные в клетки всех живых организмов на земле «биологические часы». 

Внутри клеточных ядер находится 23 пары хромосом. На концах каждой хромосомы расположены теломеры. Они защищают нашу ДНК от повреждений так же, как пластиковые наконечники защищают края шнурков.

Например, исследователи из Калифорнийского города Менло-Парк взяли обычные клетки кожи человека и нанесли на них теломеразу, в результате чего работа биологических часов в этих клетках была остановлена, а значит, клетки могут воспроизводиться вечно. Но в чем подвох? Проблема, по мнению физика, заключается в раковых клетках, а точнее в том, что они также используют теломеразу на пути к бессмертию. Видите ли, раковые клетки бессмертны; вот почему они убивают. Иронично, не так ли? То, что дарует нам погибель, таит в себе секреты бессмертия. Но если мы знаем, что теломераза может быть успешно использована раковыми клетками, возможно, в будущем, мы сможем использовать ее для продления жизни.

Итак, я хочу сказать очень простую вещь: у нас нет источника молодости. Однако я думаю, что это только вопрос времени, когда, возможно, наши внуки получат возможность достичь возраста 30 лет и… остановиться. Возможно, нам удастся остановить биологические часы. Этого нельзя исключить.

Физик-теоретик Митио Каку.

И все же, ученый считает, что мы должны достичь цифрового бессмертия и тогда, возможно, сможем остановить процессы старения. Согласны ли вы с доктором Каку или считаете, что бессмертие – удел мечтателей и фантастов?

«Это то же самое, что призвать демона»: Илон Маск предупреждает об опасности создания ИИ

Американский миллиардер южноафриканского происхождения Илон Маск сообщил, что искусственный интеллект (ИИ) к 2025 году станет умнее любого человека и нас ждут изменения, которые трудно себе представить. 

Маск считает, что через пять лет человек перестанет быть самым умным на планете и мир станет еще более нестабильным и опасным местом.

В своем интервью газете «Нью-Йорк Таймс», Маск сообщил, что мы находимся на рубеже того момента, когда ИИ станет умнее людей. По его мнению, это должно случиться в течение пяти ближайших лет, однако это не значит, что весь мир рухнет. Просто он станет нестабильным и даже странным. Развитие искусственного интеллекта приведет к резким изменениям в обществе.

В речи, которую он произнес в 2014 году, Маск сравнил создание ИИ с «вызовом демона» и предупредил, что с ним нужно быть очень осторожным. Человек, создающий ИИ похож на вызывающего демона экзорциста, который уверен, что сможет им управлять. Однако это только иллюзия, и все может произойти наоборот.

Он предупредил, что ИИ может, например, спровоцировать Третью мировую войну, и в конце концов машины победят. Люди недооценивают возможности ИИ, который будет значительно умнее самого умного человека на Земле.

Человек окажется относительно ИИ на том уровне, на котором находится шимпанзе относительно человека.

Маск подчеркивает, что необходимо установить определенные правила на национальном и международном уровнях. Это позволит нам контролировать процесс и в любой момент понимать, что мы не сделаем нечто глупое. Отсутствие регулируемого надзора является настоящим безумием.

Ранее, миллиардер заявил, что все мы находимся в матрице, которая создана неким продвинутым разумом или ИИ, и эта программа в последнее время дает сбои.

Подробнее: теперь есть ещё и систематизированный блог на АТ: "Космобродилка" ( https://author.today/post/138500 ) - специализированный, постоянно действующий междусобойчик-флудилка для Авторов АТ, пишущих в жанрах Космической Научной Фантастики и Твердой НФ.

+52
637

0 комментариев, по

2 154 124 860
Наверх Вниз