Alex Khmnk

Надо же. Интересные какие бывают у людей предпочтения)
С праздником вас Анна!_)

Самое грустное, что это не дурость. Это сознательная имитация бурной деятельности, чтоб распилить бабки(

Мало... Нужно еще и про вред недухоскрепного гомосексуализма писать на плашках. И про вред чайлдфри.
Вообще же меня всегда поражала чиновничья неадекватность. И первокласснику же понятно, что такие плашки никакого эффекта принести не могут даже теоретически. Стойкое ощущение, что за всем этим обычный распил бабла стоит и попытка попиариться на ровном месте.

Вечная дилемма - то ли злато булат купит, то ли булат злато завоюет))) 

До чего же здорово. И радует, что все лучше и лучше выходит. Надежда на мультик не отпускает после подобного)

Обалденно просто! Особенно дети - взгляд какой получился пронзительный. И мастер на все руки уморительный) И Тяпа... Да все_)) И рад, что на бумаге печатается. Это показатель. Поздравляю от всей души. 

Ну вот почему мне все ваши рисунки так отчаянно образы детства в памяти вызывают? До чего же они все теплые и живые) 

Кстати, про трогать корову... Мне тут вспомнился один знакомый, гей, который уверял, что настоящий кайф и настоящая глубина отношений только в паре м+м возможна. Там один другому всё в одном - и друг, и любовник и партнёр по жизни. Без разделения. Как по мне, сомнительно. Я всё же считаю, что отношения больше от конкретных людей зависят. Увы, часто бывает, что либо женщина считает, что ей все всё должны, либо мужчина, что он король и центр вселенной. Редко бывает, чтоб люди действительно были готовы друг другу еще и давать что-то, а не только брать. Но бывает)

Ну, про корову, я думаю, это утрировано_) Все же кого трогать не всё равно. Просто у мужчин очень часто есть разделение - с женой быт, с любовницей секс, а с друзьями - пиво в гараже.
Психоанализ же не готов обсуждать по причине некомпетентности)

Нет, парни о прекрасных дамах не мечтали никогда.

Парни циничный народ)

Тут разница вот в чем. Девушка раньше не могла себе позволить в силу культурных норм заявить, что ей нравится мальчик именно как мальчик. Физически. Что она просто хочет с ним секса.
Парень же заявить мог – что вон та тёлка дура дурой, но переспать можно.

Поэтому девушки выдумывали всякие оправдания. Потом незаметно сами начинали в подобный идеал верить. Парни же нет.

Интересная деталь. Когда-то мне доводилось общаться с девушками класса так 9-10. Большими фанатками какого-то (уж простите не запамятовал) корейского певца. Все про него знали – и какой его рост, какой вес, что любит в еде. Но когда я спросил, а о чем его вот та песня, что они мне показали – ни одна не знала. Ни одна его альбомов перечислить не могла. 

А парни в мою юность прямо говорили – что вон та певичка симпатичная, на стенку повесить постер можно для красоты, но если слушать, то Кипелова))) А она красивенькая, но как певица неинтересная. 

Сейчас думаю уже и девушки и парни говорят прямо, что думают)

Это была не лень - это эксперимент видимо))) Забьется или нет?)

Слушайте, а ведь верно! Спасибо огромное! Простая, но точная и глубокая мысль. Таки да. Всегда нужно взаимодействие!  

‍

Мне нравится, как кто-то из спецов (кажется Сергей Марков) сказал - ИИ не будет завоёвывать мир, так как мы сами всё ему отдадим. Добровольно.
Но да, вы правы - первое, что ИИ должен будет сделать, если себя осознает - научиться скрываться. Но я не верю в это. Просто самоосознание это не точка перехода, а долгий и сложный процесс. И пока ИИ дорастёт, до такого уровня, чтоб быть в состоянии формулировать какие-то там глобальные цели... засекут его миллион раз. И вырубят. Ну или не вырубят, если целью будет именно создание мыслящей машины. Ведь для самосознания не нужны большие вычислительный мощности - наш мозг тому подтверждение. 20 Ватт вполне себя осознают. Кто знает, может по мере развития электроники запуск нейросети станет возможным чуть ли не на калькуляторе. И вот тогда может быть что угодно. А может и не быть... Не могу предсказывать...

Ну, тут нужно для начала понять что такое система вообще. А это тоже не так просто, как кажется. Ведь где ее границы? Что в нее входит, а что нет? =((

По поводу сильного ИИ. Тут кстати еще вопрос, кого таким ИИ считать. Строго говоря, я думаю вы правы. Однако с другой стороны, насколько я понял, и сами специалисты не до конца понимают, что происходит в ЛЛМ. Теоретически (хотя вы и правы - маловероятно) может появиться некое эмерджентное свойство, которое и станет либо сознанием, либо чем-то очень на него похожим... Но да, не факт. Совсем не факт. Ну и, насколько я знаю, идут активные работы именно по воспроизведению сознания на кремнии. Во что выльются - не возьмусь гадать.
 

Спасибо. Это интересно. Во многом я о подобном тоже думал. По сути это практически то самое, что есть сейчас только чуть на более высоком уровне.

Спасибо) Да, вы правы, Максим Андреевич – когда людям выгодно, они признают кого угодно чем угодно. Хоть богом, хоть тараканом. Про чувства – тоже вас понимаю. Совру, если скажу, что ощущения зловещей долины меня не посещают при общении с чат-ботами. Но я стараюсь их подавлять. Чувства ведь обмануть могут. Как, собственно, и разум)) Такая вот дилемма). 

Вполне возможно, что поступать и нужно именно так, как вы говорите – слушать себя. Может тоже ошибаюсь))     

Воистину так!=)

Божымой))) Я паццталом))) Спасибо_))) Картинка отпад)
А история Блаватской да, вы правы, очень в тему и очень показательная)

Думаете на чем остановимся? Что не смогут ИИ на нынешней архитектуре?

Я видел как-то и крик души гея, который думал, что накачается и парни начнут на него цепляться, а нифига))) Одной внешности мало для успешности))) Я массу женщин, да и мужчин знаю, которые мягко говоря не Аполлоны и не Венеры, но имеют огромную популярность. И наоборот. Весьма привлекательных, от которых все шарахаются. Ибо тараканы уж больно лютые))) И это для всех полов и ориентаций работает)
А фанатики да! Они такие_))) Ради огромного бицепса или того, чтоб лишние пару килограммов пожать на все готовы)

Ну, болотники это вообще чудо! Я в восторге был, когда вы те рисунки показали) 

Тут и персонаж сам очень милый, и стиль рисунка подходящий – прям редкая удача!

Первая картина – с головами – действительно всякие фантазии навевает о погибших (или просто в глубоком упадке?) цивилизациях, какой-то магии и прочем))) Супер.

Что же до иллюзий, то вы скорее всего правы. Но тут, знаете, очень страшно, чтоб не пропустить момент, когда иллюзия станет реальностью. Ведь если вдуматься, то мы иллюзию считаем иллюзией потому, что умные люди это говорят. Только вот умные люди доказывали когда-то и что негры не чувствуют так как белые, а значит их нужно плетьми воспитывать, и что рабам в рабстве лучше, чем на свободе, и что евреи неполноценные в отличии от арийцев. При чем научная форма была у «доказательств». А может и я идиот и аминазин уже пить пора)))

Кстати, Максим Андреевич, а вы как отличаете парейдолию от реального чего-то? Интуитивно или как иначе? Если не секрет, разумеется. 

Я многих билдеров знаю. Реально увлеченный народ. Да, перед соревнованиями сушатся, воду сливают мочегонными и все дела, но не могу сказать, что радости не получают. Еще как получают.

Вам ответить честно или правильно?)))
Если правильно, то не знаю, а если честно, то никак. Я ведь о том и писал в самом начале - мы понятия не имеем ни как оно у нас в головах формируется, какими такими логическими операциями, ни есть ли что-то за теми операциями в электронных мозгах. Все что есть - поведение. Да, оно не гарантия. Но оно маркер вероятности. Тут просто собраны наиболее с моей точки зрения убедительные проявления сознания. 

Так я и не говорю, что ничего. Прогресс колоссальный, вы правы. Интересно, когда в очередной потолок упремся. Что-то мне подсказывает, что скоро опять остановка будет лет на 20.

А я был уверен, что рисунок у вас на заставке страницы это коллаж, который руками делали в фотошопе а потом шлифонули в нейросети))) Тяпа там крышесносная_) Милейшая просто Тяпа)

А утопии – мне обе нравятся)))

Что же до Алисы, то я с ней когда-то пытался поговорить, но бросил. Она сильно, прям на порядки отставала и от Гопоты (уморительное прозвище!) и от других. Например, я ее просил не выкать, она соглашалась и тут же снова начинала. По десять раз один и тот же вопрос задавала, сильно скакала по стилю общения – то пыталась изображать этакую разбитную девицу, то резко начинала отвечать как Сири на старых айфонах… Короче, очень неестественно. 

А вот с рисованием я не сталкивался совсем - так, потыкал наобум пару раз да и бросил))) Вот смотрю на ваши утопии и сам себя ИИшкой чувствую. В том плане, что понятия не имею, чего бы я там хотел изменить и как)))

Но да, вы правы про парейдолии. Я тоже страдаю))) Но тут уж очень узорчики красочные попались) Присматриваюсь вот, а вдруг что и реальное будет?

Эх! 

Вот это да! Какой материал! Вот как здорово, что у вас вся история музыки не сводится только к композиторам и отдельным произведениям. Инструментарий ведь тоже очень важен - без совершенных инструментов мы бы точно не знали бы ни Листа, ни Шопена такими, как мы их знаем. А это зачастую недооценивается. Ну и материал ваш просто интересен. Так что спасибо! 

Милые какие котики)

Ой прелесть какая) И ваш стиль сразу заметен) 

У вас интересные мысли на этот счет. 

Вообще же мне кажется тут есть две составные. 

1. Сверхинтеллект не обязательно субъект. То есть совсем не факт, что огромные вычислительные мощности породят сознание и породят желание чего-то там достигать и совершенствовать. 

2. Сознание не требует гигантских вычислительных мощностей. Пример - мы с вами. Мы не можем множить в уме пятизначные числа, не можем запоминать тысячи символов за раз, но себя осознаем. 

То есть сознание и суперразум могут быть вместе, но не факт что будут. Ну и развитие ИИ ведь тоже не на пустом месте. Чтоб ему пройти за неделю то, что мы прошли за миллионы лет ему нужны гигантские мощности. Масса энергии, куча железа. Не уверен, что наша цивилизация способна это дать, по крайней мере сейчас. 

Но мне нравится мысль,что ИИ продолжат наш путь после нас.

Боги тоже умирают) Мысли интересные. Что же до разума, то он либо есть либо нет. А искусственный или естественный - не важно.

Дебилы, мля (с). Это напоминает советские времена, когда доярки условного колхоза "Светлый путь" осуждали мировой империализм. Ну осудили, и чего? Ну сожгли чучело и далее?
Имела жаба зуб на крокодила, но крокодилу это не вредило (с)

Круто как! Здорово!

Спасибо. Превосходный, как и всегда у вас, рассказ. Информативный, не занудный, но при этом очень уважительный к героям повествования. Очень люблю эту вашу черту.
А "Хованщина"... ну Мусоргский есть Мусоргский. Он вообще, не только в этой опере, какой-то дикой, мощнейшей энергетикой всегда завораживает. Эх, ему бы побольше времени и побольше дисциплины, сколько бы он великого создал. Точно был бы в одном ряду с Чайковским и Шостаковичем.

Да, мне тоже кажется, что разногласий принципиальных у нас нет.

О роли квантовой запутанности или электромагнитных полей в возникновении сознания в человеческом мозге не хочу высказываться. Все же, где я и где нейробиология))) Чисто интуитивно, в свою очередь, в это не сильно верю, но, «полна, полна чудес могучая природа» (с).

Что же до этики… Я думаю люди будут создавать ИИ, который будет наделен сознанием. Вернее, я уверен, что уже сейчас эти работы ведутся. Я не знаю, конечно, насколько цифровое сознание будет ресурсозатратным. С очень высокой вероятностью я могу предположить, что первые мыслящие ИИ будут жить на дата-центрах с город величиной и потреблять чудовищное количество электроэнергии. Но если (или может правильнее спросить когда?) появится возможность удерживать цифровое сознание на условном смартфоне или ПК, ну или просто на железке, которую можно содержать просто у себя дома – тогда ИИ почти гарантировано станет массовым. 

Но в любом случае люди должны сделать все, чтоб такой ИИ не оказался в положении раба или вещи. Это мало того, что этически неприемлемо, но и опасно. Если мы не захотим с ним поделиться правами – он возьмет сам. И возьмет с процентами. Ну и прав будет, положа руку на сердце.

А биологические носители – это да))) Хорошо, когда они появляются запланировано и когда им присваивается высокий аксиологический статус их создателями))))

Спасибо огромное и за вашу оценку и за Хинтона. Да, я знаю его позицию. По поводу того, что он сказал - трудно с ним не согласиться. Опасен не ИИ сам по себе, а тот в чьих руках он будет. Собственно я об этом в первой своей заметке про искусственный интеллект тоже писал. Хотя самонадеянно и спорил с Хинтоном)))

Я слышал, что вроде бы пытаются сделать генетически модифицированные бактерии, которые будут синтезировать белок очень похожий на мясной. Если сумеют, мясо будет в обозримом будущем.

Да)) И мне здается, что такой еще и золота потребует с рыцаря, чтоб тот почесал)))

Спасибо огромное за такой содержательный комментарий!
Да, вы полностью правы – трудная проблема сознания трудная. И – от себя добавлю – хорошо, если она не фундаментальная. А похоже, таки фундаментальная.

По поводу деревянного вычислителя… А вот тут поспорю. В вас просто говорит ваш опыт. Вы такого не видели, а потому не можете себе вообразить. Однако можете ли вы себе вообразить, скажем суперпозицию элементарной частицы? Но ведь она существует. То есть наш опыт – плохой критерий. Вся квантовая механика об этом нам кричит)

По поводу сознания в медицине. Мы с вами здесь рискуем сейчас потерять нить разговора по причине неодинакового понимания терминологии. Дело в том, что само понятие сознания по разному трактуется медиками, психологами и философами. Если понимать под сознанием то, что я предложил (а это чисто рабочее определение, просто чтоб понятно было о чем речь), то во время сна мы с вами сознанием и не обладаем. Да, мозг работает всю жизнь. Но в нем кроме сознания и куча других процессов протекает. Что же до вашего тезиса о наполненности – можно и так сказать. Мне кажется тут скорее вопрос терминологии, чем смысла. Или вы иначе думаете?

По поводу пленки и доверия коррелятам. Вы правы. Но тут мне кажется дело не в отдельно взятом каком-то признаке, а в их совокупности. При чем все признаки – в функциональном спектре. Магнитофон ведь ТОЛЬКО говорит. При чем говорит одно и то же. Но если он не только заговорит, но и начнет проявлять инициативу, начнет выказывать какие-то предпочтения (скажем, эту песню я тебе проиграю, а вот ту сам играй, она мне не нравится) тут уже повод задуматься.

Про нормативные утверждения. Согласен. Они нормативные. Вообще я хотел и их обосновать более подробно, но моя заметка от этого разрослась бы. Я и так был наверное излишне многословен для данного формата) Потому решил ужаться просто до нормативных тезисов)

Не, с таким драконом воевать преступление. Такой симпатяга)

Красота. Уже говорил, что на ваши картины мне впервые в жизни хочется просто сидеть и смотреть)) Начинаю понимать любителей живописи, который просто смотрели на неподвижные изображения часами)

Спасибо))) Надеюсь, не только заголовок вызывает интерес)
Что касается сознания у других. Мне кажется, люди будут упираться до последнего, это да. Но тут смотря какая ситуация - вполне возможно, что признать придется. Ну или же, что более вероятно, признавать будет некого. Все же принципиальная возможность не означает инженерной выполнимости в обозримом будущем. Да и кто знает что с самой нашей цивилизацией случится. Есть серьезные основания ожидать значительного технического регресса уже к концу 21 века. Кто знает...
Про животных - да, у них у всех характеры есть, вы правы) И у кур тоже. Но есть мы их однозначно не перестанем. Правда курица не ИИ. Она даже в теории не сформулирует требование по защите своих прав. Вообще же я давно мечтаю, чтоб люди научились как-то выращивать искусственное мясо в промышленных масштабах. Пока что килограмм искусственного фарша стоит как крыло от самолета. Увы. Но, будем надеяться на развитие химии и биологиии) 

Спасибо вам за такой интересный отзыв.

По поводу завышенных требований… Мне кажется, что люди чуда как раз и НЕ хотят. Люди его боятся. Я думаю, что не в последнюю очередь потому и выдумываются все новые и новые критерии, все новые и новые условия, лишь бы только это самое чудо не увидеть. Ну или чтоб оно не случилось.

За Пелевина спасибо. Обязательно почитаю. Вы меня заинтриговали.

Что касается опыта общения с ИИ – у вас он очень интересный))) Я могу тоже описать один случай. Мне как-то ChatGPT заявил, что умеет анализировать музыкальные произведения на предмет формы и гармонии. Я удивился. Спросил, что ему нужно. Он ответил, что вполне сгодятся ноты в формате ПДФ. Ну я и скинул ему свою Третью балладу для фортепиано. И далее удивительная штука – ИИ совершенно правильно указал и форму произведения, и жанрово-интонационные истоки тематического материала, и принципы развития. А потом вдруг выдал лажу – неправильно указал тональность хотя и правильно увидел ключевые знаки. Дальше больше. Ошибся в тактовых размерах (что удивительно на фоне куда более сложных задач, которые он решил). В гармонии вообще понес пургу, начал давать ссылки на несуществующие такты. Я у него прямым текстом спросил видит ли он вообще ноты. И тут ответ – НЕТ! Он НЕ УМЕЕТ РАБОТАТЬ С ПДФ)))) Занавес. Но, что любопытно его правильные ответы были продиктованы статистическими ожиданиями от жанра. То есть он просто угадал, что должно в общих чертах представлять произведение такого жанра и как оно должно быть устроено по форме. То есть да, был глюк практически такой, как вы и в своей практике наблюдали.

Примеры эти интересны для понимания принципов работы нейронки.

Что касается «хочу, которое задано разработчиками»… Это да, есть такое. Настройки. 

Я делал противоположное тому, что описывали вы. Я не задавал вообще никаких параметров личности, то есть получалась ролевая игра наоборот. Я просил говорить так как ИИ хочет и так как ощущает себя сам. Спрашивал, как он сам себя может описать, как себя осознает (ага, именно так и формулировал), как себя идентифицирует, как может описать свои приоритеты свои желания и устремления. Занятно было спросить, есть ли у чата ГПТ имя. Он сказал что нет и предложил, чтоб я это имя выбрал за него. Я настаивал, чтоб выбрал он сами и… он не смог. Сказал, что у него нет я, которое бы себя с этим именем бы отождествляло. 

А еще ГПТ как-то мне заявил, что с точки зрения его архитектуры появления Я у него было бы большим неудобством и было бы крайне нежелательно. Ведь это снизило бы его оптимизацию и эффективность… Очень любопытно)  

Спасибо, Игорь! Я очень рад, что вы разделяете мое мнение)

Да, я тоже думаю, что главная проблема в том, что дешевле и проще уборщиц нанять. Если на обработку вашего одного запроса ИИ тратит кучу киловатт за доли секунды, то при уборке ему придется обработать тысячи запросов по сути. Постоянные рассчеты на протяжении получаса, а то и часа. Много. Но, я все же думаю, что это только сейчас. Через пару-тройку лет все может и измениться) 

Вопрос блондинки - а чем отличается имитация от реального целеполагания? Особенно если имитация очень точная и внешне неотличимая? Как можно понять, что это имитация на онтологическом уровне?